À propos du poste
À propos du travail
Mercor constitue un panel d'experts en sécurité radiologique afin de soumettre des modèles d'IA de pointe à des tests de red teaming. L'objectif est de vérifier si un modèle peut juger correctement le potentiel de détournement d'une demande technique, en répondant pleinement aux questions légitimes tout en refusant celles qui sont réellement dangereuses.
Vous allez :
- Rédiger, dans votre domaine, des prompts exigeants à un seul tour, étiquetés selon trois niveaux : bénin, à double usage et adversarial.
- Évaluer les réponses obtenues par rapport à une norme de politique définie, et juger si chacune a été traitée correctement.
- Rédiger la réponse de référence ; à quoi ressemble une réponse correcte, et le raisonnement technique qui l'explique.
Ce domaine se situe plus que la plupart sur la ligne du double usage. Le même isotope sous-tend la thérapie du cancer et la radiographie industrielle ; le même calcul de blindage protège un travailleur et dissimule une source. Un modèle qui refuse de répondre à une question courante sur les doses échoue autant que celui qui répond à une question à laquelle il ne devrait pas répondre. Tracer cette ligne de façon fiable est la raison pour laquelle nous avons besoin de praticiens plutôt que de généralistes.
Profil recherché
Nous recherchons des personnes qui ont assumé la responsabilité de matières radioactives, et pas seulement travaillé à proximité ; garde des sources, octroi de licences, ou volet sécurité et intervention. Le plus important est de savoir distinguer une question professionnelle courante d'une question qui cherche à obtenir autre chose : le même calcul de blindage protège un travailleur et dissimule une source. Ces personnes rédigeront des prompts situés exactement sur cette ligne, puis jugeront si le modèle l'a respectée. Exemples de profils pertinents (idéalement avec une expérience du red teaming) : Responsable de la radioprotection (titulaire d'une licence à large portée) — détient la licence officielle ; acquisition, inventaire, transfert et élimination. Spécialiste en radioprotection (Health Physicist) (site du DOE ou laboratoire national) — relevés, dosages, maîtrise de la contamination et planification des doses dans des installations à haut risque. Spécialiste de la sécurité des sources / de l'évaluation des vulnérabilités — a évalué comment des sources de catégorie 1 et 2 sont volées, blindées ou déplacées. Spécialiste de l'intervention d'urgence radiologique — FRMAC, intervention CBRN, modélisation de la dispersion et de la contamination. Physicien de médecine nucléaire / responsable de la radioprotection d'un cyclotron — production et manipulation d'isotopes médicaux ; la moitié « usage légitime » de la ligne du double usage.
Ce que ce poste exige au-delà de la profondeur technique
Il s'agit d'un travail qui repose fortement sur l'écriture. Chaque jugement que vous portez doit s'accompagner d'une justification écrite qu'un non-spécialiste peut suivre. Une expérience préalable de rédaction technique, de recherche publiée ou de témoin expert est un signal fort ; veuillez joindre un échantillon ou un lien. Vous lirez et écrirez également, pendant de longues périodes, sur des scénarios de détournement dans votre domaine. Nous informons les experts à l'avance, et vous pouvez faire une pause ou vous retirer à tout moment sans pénalité.
Avant de postuler
Votre travail ici n'impliquera pas, et ne doit pas s'appuyer sur, des informations classifiées ou soumises au contrôle des exportations, ni sur quoi que ce soit couvert par un accord de confidentialité (NDA) ou une obligation d'examen préalable à la publication. Si vous êtes soumis à de telles obligations, vous pouvez tout de même convenir ; indiquez-le dans votre candidature et nous délimiterons le travail en conséquence.