AI Notebooks - Tutoriel - Fine-tuner LLaMA 2

Le 18 juillet 2023, Meta a publié LLaMA 2, la dernière version de son Large Language Model (LLM) open source.

Entraîné entre janvier 2023 et juillet 2023 sur 2 000 milliards de tokens, LLaMA 2 surpasse d'autres LLM sur de nombreux benchmarks, y compris des tests de raisonnement, de codage, de compétence et de connaissances. Cette version se décline en plusieurs variantes, avec des tailles de paramètres de 7B, 13B, et un impressionnant 70B. Les modèles sont destinés à un usage gratuit, à la fois commercial et pour la recherche, en anglais.

Objectif

L'objectif de ce tutoriel est de vous montrer comment il est possible de fine-tuner des modèles LLaMA 2 en utilisant OVHcloud AI Notebooks et un seul GPU. Cela vous permet de réentraîner le modèle selon vos besoins, en utilisant votre propre dataset. Nous utiliserons QLoRA, une technique de fine-tuning de LLM très efficace.

Prérequis

• Un projet AI Notebooks créé au sein d'un projet Public Cloud dans votre compte OVHcloud
• Un utilisateur pour AI Notebooks

Pour accéder aux modèles LLaMA 2, vous devrez également suivre les prérequis indiqués dans le notebook.

Accès à l'espace client OVHcloud

• Lien direct : Tous mes projets Public Cloud
• Pour accéder à vos services : Public Cloud > Sélectionnez votre projet

En pratique

Vous pouvez lancer le notebook depuis l'espace client OVHcloud ou via la CLI ovhai.

Lancer un notebook Jupyter avec « Conda » via l'interface (espace client)

Pour lancer votre notebook depuis l'espace client OVHcloud, suivez les étapes ci-dessous.

Éditeur de code

Choisissez l'éditeur de code Jupyterlab.

Framework

Dans ce tutoriel, le framework conda est utilisé.

Ressources

L'utilisation d'au moins un GPU est obligatoire, car le fine-tuning de LLM est une tâche intensive.

Lancer un notebook Jupyter avec « conda » via la CLI

Si vous n'utilisez pas encore notre CLI, suivez ce guide pour l'installer.

Si vous souhaitez lancer votre notebook avec l'OVHcloud AI CLI, choisissez l'éditeur jupyterlab et le framework conda.

Pour accéder aux différentes versions de conda disponibles, exécutez la commande suivante :

ovhai capabilities framework get conda -o yaml

Vous devrez également choisir le nombre de GPU à utiliser dans votre notebook à l'aide de <nb-gpus>.

Pour lancer votre notebook, exécutez la commande suivante :

ovhai notebook run conda jupyterlab \
		--name <notebook-name> \
		--framework-version <conda-version> \
  	    --gpu <nb-gpus>

Vous pourrez ensuite accéder à l'URL de votre notebook une fois celui-ci en cours d'exécution.

Accéder aux notebooks

Une fois notre dépôt d'exemples AI cloné dans votre environnement, retrouvez le tutoriel de fine-tuning en suivant ce chemin : ai-training-examples > notebooks > natural-language-processing > llm > miniconda > llama2-fine-tuning > llama_2_finetuning.ipynb.

Le lien direct vers le notebook se trouve ici.

Aller plus loin

N'oubliez pas de garder un œil sur nos prochains tutoriels, où nous déploierons notre modèle LLaMA fine-tuné sur AI Deploy pour l'inférence !

En attendant, nous vous invitons à consulter nos autres tutoriels NLP :

• Analyser les sentiments sur des tweets

• Créer un classificateur de spam

• Découvrir les capacités de la reconnaissance vocale (speech to text) et les utiliser pour générer des sous-titres de vidéos, des scripts de réunions et des résumés

Pour une formation ou une assistance technique sur la mise en œuvre de nos solutions, contactez votre commercial ou consultez la page Professional Services pour obtenir un devis et faire analyser votre projet par nos experts.

Votre avis nous intéresse !

N’hésitez pas à nous faire part de vos questions, retours et suggestions pour améliorer le service :

• Sur le serveur Discord OVHcloud