Expert en sécurité des jailbreaks d’IA et des injections de prompt

Intitulé du poste : Expert en sécurité des jailbreaks d’IA et des injections de prompt

Type de contrat : Prestataire indépendant

Lieu : À distance

micro1 recrute des experts en sécurité des jailbreaks d’IA et des injections de prompt pour contribuer à une initiative de pointe d’un client axée sur la sûreté et la robustesse de l’IA. Dans ce rôle, vous mettrez votre expertise au service de l’entraînement des systèmes d’IA de nouvelle génération. Votre travail façonnera la manière dont les modèles apprennent, raisonnent et performent grâce à des contributions concrètes et de haute qualité. Aucune expérience préalable en IA n’est requise — ce sont vos connaissances du domaine qui comptent.

Périmètre des missions

• Concevoir et mettre en œuvre des méthodologies avancées d’évaluation de la sûreté des systèmes d’IA, en se concentrant sur les jailbreaks éthiques, le red teaming de LLM, l’injection de prompt et les scénarios d’abus dans l’utilisation d’outils.
• Élaborer des stratégies d’élicitation transversales et complètes afin de mettre au jour des schémas de contournement adverses complexes et multi-tours dans les modèles d’IA.
• Développer, maintenir et mettre à jour des suites de tests de régression qui testent systématiquement la sensibilité aux jailbreaks et les vulnérabilités d’injection de prompt.
• Construire des cadres d’évaluation robustes qui soumettent les modèles d’IA à des tests de résistance face à des menaces adverses réelles, dans le but de renforcer la robustesse globale du système.
• Collaborer avec les parties prenantes techniques pour traduire les constats de sécurité en améliorations concrètes de la sûreté des modèles et de l’atténuation des risques.
• Documenter les méthodologies, les constats et les bonnes pratiques dans des rapports écrits et des présentations clairs et bien structurés, destinés à des publics techniques comme non techniques.

Qualifications souhaitées

• 2 ans ou plus d’expertise en apprentissage automatique adverse, en red teaming de LLM, en évaluation de la sûreté de l’IA ou dans un domaine de sécurité très proche
• Expérience avérée de la recherche, du test ou de la découverte de vulnérabilités liées aux jailbreaks éthiques, à l’injection de prompt, à l’abus dans l’utilisation d’outils ou aux attaques adverses contre l’IA.
• Diplôme avancé (doctorat, master) en informatique, cybersécurité, apprentissage automatique ou dans une discipline pertinente, ou parcours opérationnel/professionnel équivalent.
• Forte crédibilité et reconnaissance au sein de la communauté de la sécurité de l’IA ou de l’apprentissage automatique adverse — par exemple des travaux de recherche publiés, des outils open source ou des interventions en conférence.
• Exceptionnelles aptitudes de communication écrite et orale, avec une forte attention portée à une documentation claire et à la résolution collaborative de problèmes.
• Une participation préalable à des projets pluridisciplinaires ou à des initiatives transverses de sûreté de l’IA est un atout.
• Une bonne connaissance des architectures actuelles de LLM, des techniques de prompt engineering et des outils d’évaluation de la sécurité est très souhaitable.