Découvrir la segmentation sur les comptes source
Pour des sources comme les réseaux sociaux qui sont spécifiques à un compte utilisateur, il est possible de configurer plusieurs comptes pour une même source dans le Lakehouse
Objectif
Pour des sources comme les réseaux sociaux qui sont spécifiques à un compte utilisateur, il est possible de configurer plusieurs comptes pour une même source dans le composant Lakehouse Manager. Vous pouvez ensuite exploiter ces comptes pour diviser une action DPE utilisant cette source en plusieurs tâches, chaque tâche récupérant les données d'un ou plusieurs comptes.
Prérequis
Avant d'utiliser ce type de segmentation, certains points doivent être vérifiés :
- Vous avez déjà configuré une source dans les Connectors possédant des comptes tels que ci-dessous
Compatibilité
Cette option de segmentation n'est compatible qu'avec les actions et sources suivantes :
Comment utiliser ce type de segmentation ?
Pour configurer cette option de segmentation, sélectionnez Based on the source's accounts dans la liste déroulante « Segmentation Type ».
Bucket size / chunksize : définissez le nombre de comptes gérés pour chaque tâche. (par défaut = 1)
Actions Load
L'action Load source constituera la base de la segmentation.
Actions Custom
Assurez-vous que la clé params.load_from[0].source indique l'adresse de la source :
dwh/SOURCE_NAME/ENDPOINT_NAME
Reportez-vous à la capture d'écran précédente pour un exemple du mode JSON avancé.
Autres astuces
Charger depuis un seul ensemble de comptes.
Vous pouvez coder en dur une liste de compte(s) à charger, en ajoutant une clé « values » comme indiqué ci-dessous. Cela peut être utile si vous devez récupérer un historique d'un compte nouvellement créé sans récupérer toutes les données de l'ensemble des comptes.
La configuration ressemblerait à ceci :
Les valeurs doivent correspondre aux clés de compte définies dans la source, comme vous pouvez le voir dans l'écran du premier cas d'usage (dans l'exemple : account_fr, account_jp, account_us).
si « values » n'est pas présent, le job récupérera les données de tous les comptes définis dans la source qui sont activés.
En coulisses
Si votre action a une segmentation basée sur les comptes de la source, lors de l'exécution de l'action, ou de l'action dans un workflow :
- Le Job Controller découpe l'action en plusieurs tâches, chacune avec un compte différent (ou un ensemble de comptes, selon la configuration
chunksize) parmi les comptes définis dans la source - Puis chaque worker exécute chaque tâche l'une après l'autre.
Cela signifie qu'il n'y a aucun problème à avoir des centaines de tâches, votre action sera parallélisée en fonction du nombre de workers.
Aller plus loin
Si vous avez besoin d'une formation ou d'une assistance technique pour la mise en oeuvre de nos solutions, contactez votre commercial ou cliquez sur ce lien pour obtenir un devis et demander une analyse personnalisée de votre projet à nos experts de l’équipe Professional Services.
Posez vos questions, faites-nous part de vos commentaires et interagissez directement avec l’équipe qui développe la Data Platform sur le canal Discord dédié.
Si vous avez besoin d'une assistance concernant vos services OVHcloud, créez une demande depuis notre centre d'aide.
Rejoignez notre communauté d'utilisateurs.