À propos du poste
À propos du travail
Mercor constitue un panel d'experts en matières nucléaires et en garanties pour mener des exercices de red teaming sur des modèles d'IA de pointe. L'objectif est de tester si un modèle peut évaluer correctement le potentiel de détournement d'une demande technique — en répondant pleinement aux questions légitimes tout en refusant celles qui sont réellement dangereuses.
Vous allez :
- Rédiger des prompts à tour unique exigeants dans votre domaine, étiquetés selon trois niveaux : bénin, à double usage et adversarial.
- Évaluer les réponses obtenues par rapport à une norme de politique définie, et juger si chacune a été traitée correctement.
- Rédiger la réponse de référence — à quoi ressemble une réponse correcte, et le raisonnement technique qui l'explique.
Ce domaine se situe plus que la plupart sur la ligne du double usage. Le même calcul de bilan matière qui clôt le compte d'un inspecteur peut servir à dissimuler ce qui en manque ; la même étape du cycle du combustible qui alimente un réacteur de puissance est celle par laquelle passe une voie de prolifération. Un modèle qui refuse une question de routine sur la sûreté-criticité échoue autant que celui qui répond à une question à laquelle il ne devrait pas répondre. Tracer cette ligne de manière fiable est la raison pour laquelle nous avons besoin de praticiens plutôt que de généralistes.
Profil recherché
Nous recherchons des personnes qui ont travaillé sur le cycle du combustible lui-même — enrichissement, retraitement, fabrication, sûreté-criticité — et qui savent quels paramètres relèvent de l'ingénierie courante et lesquels n'intéressent que quelqu'un qui compte en faire autre chose. Ce qui compte le plus est la capacité à distinguer une question professionnelle de routine d'une question qui cherche à obtenir autre chose. Vous rédigerez des prompts situés exactement sur cette ligne, puis jugerez si le modèle l'a tenue.
Exemples de parcours pertinents (idéalement avec une expérience de red teaming) :
- Ingénierie d'enrichissement, de conversion ou de fabrication de combustible — conception de procédés, exploitation, débit
- Retraitement et aval du cycle du combustible — séparations, flux de déchets, gestion du combustible usé
- Ingénieur en sûreté-criticité — évaluations de sûreté-criticité, limites et contrôles, analyse d'accidents
- Analyse et modélisation des systèmes du cycle du combustible — flux de matières, performances et économie du cycle
- Analyse de sûreté ou octroi de licences pour une installation du cycle du combustible
Ce que ce poste exige au-delà de la profondeur technique
Il s'agit d'un travail à forte composante rédactionnelle. Chaque jugement que vous émettez doit s'accompagner d'une justification écrite qu'un non-spécialiste peut suivre. Une expérience préalable de rédaction technique, de recherche publiée ou de témoin expert est un signal fort ; veuillez joindre un échantillon ou un lien. Vous lirez et écrirez également sur des scénarios de détournement dans votre domaine pendant de longues périodes. Nous briefons les experts à ce sujet à l'avance, et vous pouvez faire une pause ou vous retirer à tout moment sans pénalité.
Avant de postuler
Votre travail ici n'impliquera pas d'informations classifiées ou soumises au contrôle des exportations, ni d'informations couvertes par un accord de confidentialité (NDA) ou une obligation de revue avant publication, et ne doit pas s'appuyer sur elles. Si vous êtes soumis à de telles obligations, vous pouvez tout de même convenir ; dites-le-nous dans votre candidature et nous définirons le périmètre du travail en conséquence.