AI Notebooks - Caractéristiques, capacités et limites
Découvrez les principales caractéristiques, capacités et limites des AI Notebooks
AI Notebooks est couvert par les Conditions particulières OVHcloud Public Cloud.
Objectif
Cette page présente les caractéristiques techniques, les capacités et les limites de l'offre Public Cloud AI Notebooks.
Fonctionnalités
Fonctionnalités disponibles
Les AI Notebooks sont des notebooks Jupyter ou VS Code managés, associés à des ressources de calcul (CPUs, GPUs) et à du stockage. Vous pouvez les comparer aux notebooks Google Colab ou Amazon Sagemaker.
Interface en ligne de commande (CLI)
AI Notebooks est compatible avec la CLI OVHcloud AI. Découvrez comment installer la CLI OVHcloud AI.
Outils de supervision
Pour consulter les informations de votre notebook, vous pouvez utiliser la CLI ovhai avec la commande ci-dessus :
Vous pouvez ensuite accéder à vos métriques via le champ Monitoring Url.
Vous pouvez également le vérifier depuis l'espace client OVHcloud, dans les informations générales de votre notebook, en cliquant sur le bouton Go to Graph Dashboard.
Fonctionnalités prévues
Nous améliorons continuellement nos offres. Vous pouvez suivre, voter et soumettre des idées à ajouter à notre roadmap sur https://github.com/ovh/public-cloud-roadmap/projects/4.
Capacités et limites
Régions prises en charge pour les notebooks
AI Notebooks peut être utilisé depuis n'importe quel pays du monde, à condition de disposer d'un compte OVHcloud. Physiquement, deux datacenters sont disponibles :
BHS(Beauharnois, Canada, Amérique)GRA(Gravelines, France, Europe)
Ressources attachées
Ressources de calcul
Vous pouvez choisir soit le nombre de GPUs, soit le nombre de CPUs pour un notebook, mais pas les deux.
Par défaut, un notebook utilise un GPU.
La ressource mémoire n'est pas personnalisable.
Si vous choisissez GPU :
- Les ressources CPU, mémoire et stockage local ne sont pas personnalisables mais évoluent linéairement avec chaque GPU supplémentaire.
Si vous choisissez CPU :
- Les ressources mémoire et stockage local ne sont pas personnalisables mais évoluent linéairement avec chaque CPU supplémentaire.
Le nombre maximal de CPU/GPU, la mémoire par CPU/GPU et le stockage local sont disponibles sur le site OVHcloud, l'espace client et la CLI ovhai.
À titre indicatif, les limites actuelles sont :
- CPU : 12 par notebook.
- GPU : 4 par notebook pour V100S, A10, L4, L40s et H100 ; 2 pour A100 ; le H200 n'est disponible que par lots de 4 GPU NVLinked (le nombre de
--gpudoit être un multiple de 4 pour ce flavor).
Matériel disponible pour AI Notebooks
La disponibilité du matériel dépend de la région du datacenter :
- GRA (Gravelines) : NVIDIA H200, NVIDIA H100, NVIDIA Ampere A100, NVIDIA Ampere A10, NVIDIA Tesla V100S, NVIDIA L4, NVIDIA L40s, Intel CPU vCores
- BHS (Beauharnois) : NVIDIA Tesla V100S, Intel CPU vCores
Exécutez ovhai capabilities flavor list après vous être connecté à la région que vous souhaitez utiliser (ovhai config set <region>) pour obtenir la liste exacte et à jour.
Les tarifs sont disponibles sur la page des tarifs Public Cloud.
Stockage disponible
Stockage local
Chaque AI Notebooks est fourni avec un espace de stockage local, qui est éphémère. Lorsque vous supprimez votre notebook, cet espace de stockage est également supprimé. Cet espace de stockage dépend des instances sélectionnées lors de la création du notebook. Veuillez vous référer à la section sur les ressources de calcul pour plus d'informations.
Le stockage local est limité et n'est pas la méthode recommandée pour gérer vos données, consultez la documentation OVHcloud sur les données pour plus d'informations.
Stockage attaché
Lors de l'attachement de volumes de données à vos AI Notebooks, vous pouvez utiliser du stockage depuis Public Cloud Object Storage. Cela vous permet de travailler avec de larges jeux de données, tout en garantissant la persistance même si vous supprimez vos notebooks.
Pour de meilleures performances, nous recommandons de conserver le conteneur Object Storage dans la même région que votre AI Notebook. Monter un conteneur situé dans une autre région fonctionne également, mais ajoute de la latence réseau inter-régions. Si vous utilisez un datastore S31 externe enregistré via le CLI ovhai avec --store-credentials-locally, gardez à l'esprit que ce datastore n'est enregistré que pour le contexte régional du CLI (ovhai config set <region>) sous lequel il a été créé : enregistrez-le à nouveau dans chaque région où vous souhaitez l'utiliser.
Votre projet Public Cloud peut stocker un volume illimité de données dans des conteneurs Object Storage. Cependant, lorsque vous montez un conteneur Object Storage en tant que volume, il existe une limite d'utilisation de 10 To par projet Public Cloud. Cette limite s'applique au stockage total consommé par l'ensemble des volumes attachés simultanément sur vos AI Notebooks, jobs AI Training et apps AI Deploy.
Lorsque le même volume est utilisé sur plusieurs ressources, l'activation du cache permet un accès partagé aux données du volume, évitant que plusieurs copies ne consomment un quota de stockage supplémentaire. Sans cache, chaque instance conservera une copie distincte des données du volume, augmentant linéairement l'utilisation totale du stockage.
Durée d'exécution maximale
Il n'existe aucune limitation de durée pour l'exécution des AI Notebooks.
Cependant, par défaut, votre AI Notebook s'arrête automatiquement après 7 jours consécutifs passés à l'état RUNNING. Tous vos paramètres et données sont conservés et vous pouvez le redémarrer à tout moment. Vous pouvez également activer le redémarrage automatique pour qu'il redémarre tous les 7 jours, ou contacter notre support pour prolonger cette période à 28 jours.
Éditeurs de code en direct
Vous pouvez choisir entre deux éditeurs de code en direct pour lancer et modifier votre notebook :
- Jupyterlab
- VS Code
Vous ne pouvez pas installer votre propre éditeur de code sur AI Notebooks.
Avec VS Code, vous bénéficiez de la possibilité d'utiliser des connexions à distance (depuis un ordinateur local).
Environnements AI préinstallés
OVHcloud AI Notebooks est fourni avec des environnements AI préinstallés.
Liste des environnements AI disponibles :
- HuggingFace Transformers
- Miniconda (Python générique)
- Miniconda avec compatibilité Colab
- MLR3 (collection de packages R)
- PyTorch
- Scikit-Learn
- TensorFlow
Personnalisation de l'environnement
Chaque environnement peut être personnalisé directement avec PIP ou CONDA (nous prenons en charge presque tous les paquets et bibliothèques).
Limites :
-
Vous n'êtes pas administrateur (root). Vous ne pouvez pas installer de paquets linux (comme apt-get).
-
AI Notebooks ne permet pas l'utilisation d'images Docker personnalisées. Si vous avez besoin d'un paquet ou d'un framework très spécifique, vous pouvez apporter vos propres images Docker avec OVHcloud AI Training.
AI Training vous permet de bénéficier de la même technologie et de la même tarification, mais vous pouvez créer des notebooks directement avec vos propres images Docker. Si vous souhaitez créer et utiliser une image Docker personnalisée, vous pouvez le faire avec AI Training en suivant ce tutoriel.
Réseau
-
Le réseau public peut être utilisé pour tous les AI Tools.
-
Le réseau privé (OVHcloud vRack) n'est pas pris en charge.
Ports disponibles vers le réseau public
Chaque notebook expose une URL publique dont le port par défaut est 8080. Ce port par défaut ne peut pas être modifié.
Cette URL publique commence par l'ID du notebook (rempli avec des 0 ici) et ressemble à ce qui suit :
Cependant, vous pouvez accéder à d'autres ports que le port 8080 par défaut en ajoutant son numéro à l'URL de votre notebook. Par exemple, si vous souhaitez accéder au port 8501 de votre notebook, vous devrez ajouter -8501 à l'URL de votre notebook. L'URL de votre notebook pour accéder au port 8501 sera alors https://00000000-0000-0000-0000-000000000000-8501.job.gra.ai.cloud.ovh.net/
Seule la couche HTTP est accessible.
Quotas par projet Public Cloud
Chaque projet Public Cloud accorde par défaut à un client un maximum de 4 GPU utilisés simultanément. Contactez notre support si vous avez besoin d'augmenter cette limite.
Aller plus loin
Parcourez la documentation AI Notebooks complète pour mieux comprendre les concepts principaux et démarrer.
Pour une formation ou une assistance technique sur la mise en œuvre de nos solutions, contactez votre commercial ou consultez la page Professional Services pour obtenir un devis et faire analyser votre projet par nos experts.
Votre avis nous intéresse !
Nous serions ravis de répondre à vos questions et apprécions tout retour que vous pourriez nous faire.
Vous êtes sur Discord ? Connectez-vous à notre canal et échangez directement avec l'équipe qui développe nos services AI !
1 : S3 est une marque déposée appartenant à Amazon Technologies, Inc. Les services de OVHcloud ne sont pas sponsorisés, approuvés, ou affiliés de quelque manière que ce soit.