AI Partners Ecosystem - Voxist - Fonctionnalités des modèles, capacités et facturation

Objectif

OVHcloud propose différents services d'Intelligence Artificielle grâce à son AI Partners Ecosystem. Vous bénéficierez d'un catalogue d'applications prêtes à l'emploi fournies par nos partenaires, que vous pourrez facilement déployer selon vos besoins grâce à AI Deploy.

Voxist est un partenaire OVHcloud qui propose des services d'IA dédiés à la reconnaissance vocale (ASR). Ce guide vous présentera les fonctionnalités de la solution Voxist, son fonctionnement ainsi que la facturation associée.

Introduction

Voxist est une start-up spécialisée dans la reconnaissance vocale. La plateforme permet à toutes les organisations, des start-ups aux grands groupes, d'effectuer de la reconnaissance vocale automatique (ASR).

La reconnaissance vocale est prise en charge par deux API :

• API REST pour la reconnaissance vocale asynchrone, avec prise en charge de la diarisation
• API WebSocket pour la reconnaissance vocale synchrone, sans prise en charge de la diarisation

Fonctionnalités des modèles Voxist

La solution Voxist ASR, disponible chez OVHcloud, propose plusieurs fonctionnalités clés :

• ponctuation
• diarisation
• transcription en temps réel

Pour profiter de ces différentes fonctionnalités, vous avez le choix entre deux types d'API : REST et WebSocket.

REST

Voxist vous permet de transcrire de l'audio en texte. Le principe consiste à envoyer un fichier audio avec la configuration souhaitée. Par exemple, l'API REST Voxist vous permettra de bénéficier des fonctionnalités de diarisation et de ponctuation.

• Configuration en entrée :

config='{"lang": "en", "sample_rate": 16000, "punctuation": true, "wait":true}'

• Résultat en sortie :

[
  {
    "Lexical":"Ai Deploy service makes easy the deployment of machine learning models and applications in production hosted on our infrastructures.",
    "Confidence":1,
    "Start_time":0.0,
    "Speaker":1,
    "Duration":7.62
  }
]

WebSocket

Voxist vous permet d'obtenir une transcription en temps réel. En effet, l'API WebSocket vous permet de bénéficier de la reconnaissance en streaming.

• Configuration en entrée :

{ "config" : { "sample_rate" : %d, "lang" : "en"} }

• Résultat en sortie :

{"Sentence_id": 0, "Text": "Ai Deploy service makes easy the deployment of machine learning models and applications in production hosted on our infrastructures.", "Confidence": 1, "Words": null}

Démarrage rapide avec Voxist

Pour pouvoir interroger le service Voxist, vous devez d'abord déployer l'une des images Voxist avec AI Deploy.

Dans cet exemple, nous utiliserons l'image Docker de l'API REST.

Lancer une app Voxist

Pour lancer une app AI Deploy, plusieurs possibilités s'offrent à vous. Vous pouvez le faire depuis l'espace client OVHcloud ou via la CLI ovhai.

Lancer une app depuis l'OVHcloud Control Panel

Pour lancer votre app Voxist depuis l'interface, vous devez renseigner certaines informations :

• Emplacement
• Application à déployer - dans cet exemple, nous choisissons l'image "asr-rest" compatible GPU

• Ressources - nous vous conseillons d'utiliser au moins 1 GPU
• Configurer votre app - ajoutez un label si vous avez choisi un accès restreint

Lancer une app avec la CLI ovhai

Vous pouvez également démarrer cette app avec la CLI ovhai en exécutant la commande suivante :

ovhai app run \
    --gpu 1 \
    --label <name=value> \
    --partner voxist \
    asr-rest:v1.0.9-gpu

Accéder à votre app Voxist

Une fois l'app lancée et au statut RUNNING, vous pouvez copier l'URL et accéder à votre app. Pour accéder à la documentation de l'API, ajoutez l'endpoint /docs à la fin de l'URL de l'app.

Obtenir une transcription depuis Voxist Speech Recognition

Vous pouvez désormais utiliser le service Voxist pour transcrire des fichiers audio.

Générer une requête cURL

Maintenant que votre app Voxist est lancée avec AI Deploy, vous êtes prêt à interroger les modèles d'IA.

Vous pouvez utiliser l'exemple et les paramètres suivants :

• url de l'app - remplacez <app_url> par la vôtre
• token d'accès (puisque nous sommes en accès restreint) - remplacez <your_token_bearer> par le vôtre
• format des données
• audio à traiter - remplacez <path_wav_file> par le chemin local de votre fichier audio nommé tts_definition.wav
• configuration de la transcription - définissez la configuration requise ; pour plus d'informations sur les fonctionnalités, suivez cette documentation

• Audio :

Dans la requête cURL suivante, nous utiliserons le fichier audio suivant : audio-sample-en.wav.

• Requête cURL :

curl --request POST \
     --url <app_url>/transcribe \
     -H "Authorization: Bearer <your_token_bearer>" \
     -H "Content-Type: multipart/form-data" \
     -F "file_channel1=@audio-sample-en.wav;type=audio/x-wav" \
     -F config='{"lang": "en", "sample_rate": 16000, "punctuation": true, "wait":true}'

• Résultat :

[
  {
    "Lexical":"Notre rapporteur politique, Jack Fink, a organisé une discussion live sur l'Obamacare. Il a demandé au panel s'ils s'agissaient avec le président, qui dit de laisser l'obamacare imploser.",
    "Confidence":1,
    "Start_time":0.06,
    "Speaker":1,
    "Duration":9.719999999999999
  },
  {
    "Lexical":"Quand est-ce qu'on s'arrête d'être menacés par les compagnies d'insurance ? C'est la question. C'est la vraie question. Quand est-ce qu'on s'arrête d'être menacés par eux ? Quand nous nous réunissons d'un système pour-profit à un système non-for-profit dans notre livret de soins de santé. Être un vétéran, l'unique exemple de single-payer de l'Union-Est de l'Amérique est le hôpital VA ?",
    "Confidence":1,
    "Start_time":10.14,
    "Speaker":1,
    "Duration":20.13
  },
  {
    "Lexical":"Ce n'est pas une bonne réponse.",
    "Confidence":1,
    "Start_time":30.27,
    "Speaker":1,
    "Duration":1.8000000000000007
  },
  {
    "Lexical":"C'était une excellente discussion. Si vous l'avez oubliée, vous pouvez encore la regarder. C'est sur notre page Facebook de CBS DFW.",
    "Confidence":1,
    "Start_time":32.07,
    "Speaker":1,
    "Duration":6.18
  }
]

Concept de facturation Voxist

La tarification de Voxist diffère légèrement de l'offre AI Deploy habituelle. Pour mieux comprendre votre facture, retrouvez plus de détails ci-dessous sur le calcul du prix.

Gardez à l'esprit que les modèles Voxist sont facturés au paiement à l'usage. Nous ne proposons pas encore de facturation au paiement à l'appel.

Estimer le coût d'une app Voxist

Comment calculer le coût total d'une app Voxist ?

Le prix total se compose de deux parties distinctes :

• Prix des ressources
• Prix de la licence du modèle Voxist

Prix des ressources

La première étape consiste à calculer le prix d'une app AI Deploy en fonction des ressources de calcul choisies.

Gardez à l'esprit que la facturation se fait à la seconde, bien que le prix soit affiché à l'heure HT pour plus de lisibilité.

Prix des ressources = (nb app) x (nb ressources gpu) x (nb réplicas) x [ (prix unitaire par heure HT) x (nb heures) ]

Pour en savoir plus sur le coût de base d'une app lancée avec AI Deploy, reportez-vous à cette documentation.

Prix de la licence du modèle Voxist

La seconde étape consiste à calculer le coût du service partenaire Voxist en fonction du nombre de minutes.

Retrouvez le tableau des prix Voxist ci-dessous :

Prix total

Pour obtenir le coût total d'une app Voxist lancée avec AI Deploy, additionnez les deux montants obtenus lors des calculs précédents :

Prix total = Prix des ressources + Prix de la licence du modèle Voxist

Exemples

Exemple 1 : app 1 GPU pendant 5 heures

Nous déployons une app Voxist avec AI Deploy, avec 1 GPU, et nous la laissons tourner pendant 5 heures avant de la supprimer.

Vous recevez des milliers d'appels : c'est inclus (pas de facturation au paiement à l'appel, vous payez le calcul en cours d'exécution).

• ressources de calcul par réplica : 1 x GPU NVIDIA V100s (1,93€ /heure /gpu)
• scaling : fixe
• réplicas : 1
• nombre d'appels : illimité
• durée : 5 heures puis suppression
• service voxist : 1 x service Voxist pendant 5 heures (5 heures x 60 minutes = 300 minutes) => (0,88€ /heure /gpu)

Calcul du prix pour le calcul : 1,93€ (prix /heure /gpu) x 1 (gpu) x 1 (réplica) x 5 (heures) = 9,65€ Calcul du prix pour le service Voxist : 0,88€ (prix /heure /gpu) x 5 (heures) = 4,40€

Calcul du prix total : 9,65€ + 4,40€ = 14,05€

Exemple 2 : 2 GPU pendant 250 000 minutes

Nous déployons une app Voxist avec 2 CPU, et nous la laissons tourner pendant 250 000 minutes.

Vous recevez des milliers d'appels : c'est inclus (pas de facturation au paiement à l'appel, vous payez le calcul en cours d'exécution).

• ressources de calcul par réplica : 2 x GPU NVIDIA V100s (1,93€ /heure /gpu)
• scaling : fixe
• nombre d'appels : illimité
• durée : 250 000 minutes puis arrêt et suppression
• service voxist : 2 x services Voxist pendant 250 000 minutes (250 000 minutes) => (0,67€ /heure /gpu)

Calcul du prix pour le calcul : 1,93€ (prix /heure /gpu) x 2 (gpu) x 1 (réplica) x (250 000 minutes /60) (heures) = 16 083,33€ Calcul du prix pour le service Voxist : 0,88€ (prix /heure /gpu) x (100 000 minutes /60) (heures) + 0,67€ (prix /heure /gpu) x (150 000 minutes /60) (heures) = 3 141,66€

Calcul du prix total : 16 083,33€ + 3 141,66€ = 19 224,99€

Votre avis nous intéresse !

N’hésitez pas à nous faire part de vos questions, retours et suggestions pour améliorer le service :

• Sur le serveur Discord OVHcloud