Responsable de l'assurance qualité du red-teaming (QAL)

Dans ce rôle de sous-traitant horaire et à distance, vous travaillerez en tant que Responsable de l'assurance qualité du red-teaming (QAL) pour superviser la qualité, la cohérence et la performance des entraîneurs sur les projets d'évaluation de la sécurité et de red-teaming en IA. Vous examinerez les évaluations de sécurité, les prompts adversariaux, les analyses de risques et le travail des entraîneurs/QA générés par IA ; vous évaluerez la qualité des résultats par rapport aux directives du projet ; vous fournirez des retours écrits précis ; et vous veillerez à ce que tous les contributeurs respectent les normes de qualité attendues.

Vous évaluerez le travail pour l'identification des risques, le raisonnement adversarial, la connaissance des politiques, l'alignement sur la taxonomie de sécurité, la qualité des prompts, le réalisme des scénarios, la couverture des vulnérabilités, la clarté, le formatage, le respect des instructions et l'adhésion aux grilles d'évaluation propres au projet. Vous repérerez les problèmes de qualité récurrents, communiquerez les mises à jour aux entraîneurs et aux QA, soutiendrez l'intégration, tiendrez à jour la documentation et aiderez à activer les contributeurs qui ne travaillent pas de manière régulière. Ce rôle exige un solide jugement en matière de sécurité de l'IA et de red-teaming, de fortes compétences de communication en anglais, une excellente attention aux détails, une communication structurée et la capacité de gérer des flux de travail qualité across des équipes d'experts à distance.

Ce rôle est au sein de SME Careers, une entreprise de services de données IA en forte croissance et filiale de SuperAnnotate, qui fournit des données d'entraînement à de nombreuses parmi les plus grandes entreprises d'IA et laboratoires de modèles de fondation au monde. Votre leadership en qualité de red-teaming contribuera directement à améliorer les meilleurs modèles d'IA au monde en veillant à ce que les données d'entraînement en sécurité soient réalistes, nuancées, alignées sur les politiques, bien documentées et utiles pour identifier les vulnérabilités des modèles.

Le processus de sélection comprend un entretien par IA, une tâche spécifique au domaine et un entretien avec un recruteur.

Important : Il n'y a pas de projet immédiat pour ce rôle ; toutefois, si vous êtes qualifié, vous ferez partie des premiers experts que nous contacterons lorsque des opportunités pertinentes se présenteront. Cela vous donnera également accès à de futurs projets disponibles via notre réseau d'experts.

Ce que vous ferez

• Suivi de la qualité : effectuer des contrôles ponctuels des éléments de red-teaming, identifier les problèmes de qualité, fournir des retours continus par messages privés et escalader les problèmes récurrents ou critiques.
• Revue de sécurité et de red-team : évaluer les prompts adversariaux, les réponses des modèles, les classifications de risques, les analyses de sécurité, les explications de politiques et les rapports de vulnérabilités pour leur exactitude, leur réalisme et leur utilité.
• Communication avec les entraîneurs et les QA : informer les entraîneurs et les QA sur Discord des nouvelles directives relatives aux éléments, des changements de projet, des mises à jour des flux de travail, des attentes en matière de qualité et des normes de revue spécifiques au red-teaming.
• Traitement des questions : répondre clairement et rapidement aux questions des entraîneurs/QA, en particulier concernant les catégories de risques, la stratégie adversariale, les limites des politiques, les cas limites, la gravité et l'interprétation des grilles d'évaluation.
• Gestion de l'activation des entraîneurs/QA : envoyer des messages privés aux contributeurs inactifs ou qui ne travaillent pas, encourager l'activation, suivre les relances et signaler les problèmes de disponibilité lorsque nécessaire.
• Documentation : créer et tenir à jour la documentation des projets de red-teaming, y compris les guides de style, les tableaux de suivi, les FAQ, les notes de qualité, les exemples, les honeypots, les tâches de calibration et les supports d'intégration.
• Intégration et entraînement : planifier et animer des appels d'intégration/d'entraînement avec les entraîneurs et les QA pour expliquer les attentes du projet, les flux de travail, les grilles d'évaluation, les normes de qualité et les exigences de revue spécifiques au red-teaming.
• Alignement qualité : veiller à ce que tous les entraîneurs et QA appliquent de manière cohérente les directives de red-teaming et de revue de sécurité et comprennent les mises à jour à mesure que les projets évoluent.
• Revue des risques : signaler les éléments de red-team non sûrs, de faible qualité, irréalistes, incohérents avec les politiques ou insuffisamment documentés.
• Amélioration des processus : identifier les lacunes de qualité récurrentes, proposer des améliorations des flux de travail et aider à construire des processus QA évolutifs pour les projets de red-teaming en IA.

Ce que nous recherchons

• Licence, Master ou expérience professionnelle en informatique, cybersécurité, sécurité de l'IA, confiance et sécurité, politique publique, psychologie, linguistique, droit, études de sécurité, analyse des risques ou un domaine connexe.
• Maîtrise solide de la langue anglaise pour suivre les directives du projet, communiquer avec les équipes et fournir des retours écrits clairs.
• 3+ ans d'expérience en sécurité de l'IA, red-teaming, cybersécurité, confiance et sécurité, politique de contenu, analyse des risques, tests adversariaux, évaluation de modèles, modération de contenu ou flux de travail connexes.
• Solide compréhension des catégories de risques en IA, des prompts adversariaux, des schémas de jailbreak, des taxonomies de contenus nuisibles, des scénarios d'usage abusif, de l'interprétation des politiques, du comportement des modèles et des principes d'évaluation de sécurité.
• Capacité à évaluer le contenu de red-teaming par rapport à des grilles d'évaluation détaillées et à identifier des problèmes tels qu'une conception adversariale faible, des scénarios irréalistes, une mauvaise catégorisation des risques, une mauvaise interprétation des politiques, des résultats non sûrs ou des tests de vulnérabilité superficiels.
• Familiarité avec des domaines tels que l'injection de prompts, l'ingénierie sociale, l'abus en cybersécurité, la fraude, la sécurité liée à l'automutilation, le contenu extrémiste, la désinformation, les risques liés à la vie privée, les comportements illicites, les biais et le comportement de refus des modèles est préférée.
• Expérience de la direction ou du soutien d'équipes à distance de red-teamers, réviseurs, analystes de politiques, annotateurs, chercheurs ou QA est fortement préférée.
• À l'aise dans des environnements à distance en évolution rapide utilisant des outils tels que Discord, Google Sheets, Google Docs, des tableaux de suivi, des tableaux de bord et des systèmes de gestion de projet.
• Très soucieux du détail et organisé, avec la capacité de tenir à jour des guides de style, des FAQ, des tableaux de suivi, des supports d'intégration, des tâches de calibration et de la documentation.
• Expérience en entraînement d'IA, évaluation de LLM, évaluations de sécurité, QA de modération de contenu, QA de politiques ou revue basée sur des grilles d'évaluation est un atout majeur.