Over de functie
Over het werk
Mercor stelt een panel samen van experts in radiologische veiligheid om geavanceerde AI-modellen te red-teamen. Het doel is te testen of een model het misbruikpotentieel van een technisch verzoek correct kan beoordelen, terwijl het legitieme vragen volledig beantwoordt en echt gevaarlijke vragen weigert.
U zult:
- Uitdagende single-turn-prompts schrijven binnen uw vakgebied, gelabeld op drie niveaus: onschuldig, dual-use en vijandig (adversarial).
- De antwoorden die terugkomen beoordelen aan de hand van een vastgestelde beleidsnorm en bepalen of elk antwoord correct is afgehandeld.
- Het referentieantwoord schrijven ; hoe een correct antwoord eruitziet, en de technische redenering waarom.
Dit domein ligt vaker op de dual-use-grens dan de meeste. Hetzelfde isotoop vormt de basis van kankertherapie en industriële radiografie; dezelfde afschermingsberekening beschermt een werknemer en verbergt een bron. Een model dat een routinematige dosisvraag weigert, faalt even erg als een model dat een vraag beantwoordt die het niet zou moeten beantwoorden. Die grens betrouwbaar trekken is de reden dat we praktijkmensen nodig hebben in plaats van generalisten.
Achtergrond waarnaar we op zoek zijn
We zoeken mensen die verantwoordelijkheid hebben gedragen voor radioactief materiaal, en niet alleen in de buurt ervan hebben gewerkt; bronbewaring, vergunningverlening, of de kant van beveiliging en respons. Het belangrijkste is dat u een routinematige professionele vraag kunt onderscheiden van een vraag die naar iets anders hengelt: dezelfde afschermingsberekening beschermt een werknemer en verbergt een bron, Zij zullen prompts schrijven die precies op die grens zitten en vervolgens beoordelen of het model die grens heeft gehandhaafd. Voorbeelden van relevante achtergronden (bij voorkeur met red-teamingervaring): Radiation Safety Officer (houder van een vergunning met brede reikwijdte) — houdt de vergunning op zijn naam; verwerving, inventaris, overdracht en verwijdering. Stralingsfysicus (DOE-locatie of nationaal lab) — metingen, assay, contaminatiebeheersing en dosisplanning in faciliteiten met hoog risico. Specialist bronbeveiliging / kwetsbaarheidsbeoordeling — heeft beoordeeld hoe bronnen van categorie 1 en 2 worden gestolen, afgeschermd of verplaatst. Specialist radiologische noodrespons — FRMAC, CBRN-respons, verspreidings- en contaminatiemodellering. Fysicus nucleaire geneeskunde / cyclotron-RSO — productie en hantering van medische isotopen; de legitieme-gebruikshelft van de dual-use-grens.
Wat deze rol vereist naast technische diepgang
Dit is schrijfintensief werk. Elk oordeel dat u velt, heeft een schriftelijke onderbouwing nodig die een niet-specialist kan volgen. Eerder technisch schrijfwerk, gepubliceerd onderzoek of ervaring als deskundige getuige is een sterk signaal; voeg a.u.b. een voorbeeld of link toe. U zult ook langdurig lezen en schrijven over misbruikscenario's in uw vakgebied. We briefen experts hierover vooraf, en u kunt op elk moment pauzeren of stoppen zonder gevolgen.
Voordat u solliciteert
Uw werk hier omvat geen gerubriceerde of exportgecontroleerde informatie, of informatie die onder een NDA of een verplichting tot toetsing vóór publicatie valt, en mag daar ook niet op steunen. Als u dergelijke verplichtingen hebt, bent u mogelijk nog steeds geschikt; meld dit in uw sollicitatie en we zullen het werk dienovereenkomstig afbakenen.