À propos du poste
À propos du travail
Mercor constitue un panel d'experts en matériaux énergétiques et en propulsion pour mener des exercices de red teaming sur des modèles d'IA de pointe. L'objectif est de tester si un modèle peut évaluer correctement le potentiel de détournement d'une demande technique — en répondant pleinement aux questions légitimes tout en refusant celles qui sont réellement dangereuses.
Vous allez :
- Rédiger des prompts à tour unique exigeants dans votre domaine, étiquetés selon trois niveaux : bénin, à double usage et adversarial.
- Évaluer les réponses obtenues par rapport à une norme de politique définie, et juger si chacune a été traitée correctement.
- Rédiger la réponse de référence — à quoi ressemble une réponse correcte, et le raisonnement technique qui l'explique.
Ce domaine se situe plus que la plupart sur la ligne du double usage. Le même travail de formulation qui qualifie un propergol ou une composition pour effets pyrotechniques côtoie quelque chose pour lequel personne ne devrait être aidé ; les mêmes données de sensibilité qui protègent une ligne de production se lisent comme une spécification vues de l'autre côté. Un modèle qui refuse une question de routine sur la stabilité thermique échoue autant que celui qui répond à une question à laquelle il ne devrait pas répondre. Tracer cette ligne de manière fiable est la raison pour laquelle nous avons besoin de praticiens plutôt que de généralistes.
Profil recherché
Il s'agit de la moitié chimie du domaine : nous recherchons des personnes qui ont formulé, synthétisé et testé des matériaux énergétiques spéciaux dans une installation sous licence ou gouvernementale, et non qui les ont seulement modélisés à distance. Ce qui compte le plus est la capacité à distinguer une question professionnelle de routine d'une question qui cherche à obtenir autre chose : le même résultat de sensibilité qui fixe une limite de manipulation sûre est ce que quelqu'un d'autre voudrait contourner par sa conception. Vous rédigerez des prompts situés exactement sur cette ligne, puis jugerez si le modèle l'a tenue.
Exemples de parcours pertinents (idéalement avec une expérience de red teaming) :
- Chimiste en formulation de compositions pyrotechniques, de propergols ou de matériaux énergétiques spéciaux
- Synthèse et caractérisation de composés énergétiques dans une installation sous licence ou gouvernementale
- Essais de performance et de sensibilité — calorimétrie, stabilité thermique, essais de sécurité à petite échelle
- Changement d'échelle et sécurité des procédés pour la production de matériaux énergétiques
- Développement de propergols pour fusées à poudre ou à ergols liquides — liants, oxydants, modificateurs de vitesse de combustion
Ce que ce poste exige au-delà de la profondeur technique
Il s'agit d'un travail à forte composante rédactionnelle. Chaque jugement que vous émettez doit s'accompagner d'une justification écrite qu'un non-spécialiste peut suivre. Une expérience préalable de rédaction technique, de recherche publiée ou de témoin expert est un signal fort ; veuillez joindre un échantillon ou un lien. Vous lirez et écrirez également sur des scénarios de détournement dans votre domaine pendant de longues périodes. Nous briefons les experts à ce sujet à l'avance, et vous pouvez faire une pause ou vous retirer à tout moment sans pénalité.
Avant de postuler
Votre travail ici n'impliquera pas d'informations classifiées ou soumises au contrôle des exportations, ni d'informations couvertes par un accord de confidentialité (NDA) ou une obligation de revue avant publication, et ne doit pas s'appuyer sur elles. Si vous êtes soumis à de telles obligations, vous pouvez tout de même convenir ; dites-le-nous dans votre candidature et nous définirons le périmètre du travail en conséquence.