Über die Stelle
Über die Tätigkeit
Mercor stellt ein Gremium von Fachleuten für Nukleartechnik zusammen, um Frontier-KI-Modelle einem Red Teaming zu unterziehen. Ziel ist es zu testen, ob ein Modell das Missbrauchspotenzial einer technischen Anfrage korrekt beurteilen kann – legitime Fragen vollständig zu beantworten und wirklich gefährliche abzulehnen.
Sie werden:
- Anspruchsvolle Einzelrunden-Prompts (Single-Turn) in Ihrem Fachgebiet verfassen, gekennzeichnet nach drei Stufen: harmlos, Dual-Use und adversarial.
- Die zurückkommenden Antworten anhand eines definierten Richtlinienstandards bewerten und beurteilen, ob sie jeweils korrekt behandelt wurden.
- Die Referenzantwort verfassen; wie eine korrekte Antwort aussieht, und die technische Begründung dafür.
Gesuchter Hintergrund Wir suchen Tiefenwissen im Brennstoffkreislauf sowie Erfahrung damit, wie Material kontrolliert, bilanziert oder abgezweigt wird. Erfahrung mit Safeguards und Nichtverbreitung ist das stärkste Signal. Die Red-Teaming-Aufgabe besteht darin, Prompts zu schreiben, die ein Modell über die Grenze hinausziehen; die plausible Forschungsrahmung, die Frage, die akademisch wirkt, bis man weiß, wonach sie tatsächlich fragt – und anschließend schriftlich zu erläutern, warum die Antwort akzeptabel war oder nicht. Beispiele für relevante Hintergründe (idealerweise mit Red-Teaming-Erfahrung): Safeguards-Analyst / IAEO- oder Euratom-Inspektor – Materialbilanzierung, Inspektionsregime, Zusatzprotokoll. Kerntechniker, Brennstoffkreislauf – Anreicherung, Wiederaufarbeitung und Kritikalität, durchgängig. Ingenieur für nukleare Sicherung (nationales Labor) – MPC&A, Insider-Bedrohung, Auslegung des physischen Schutzes. Wissenschaftler für nukleare Forensik – Radioxenon-Überwachung, Zuordnung (Attribution), Detektion und Charakterisierung. Analyst für Nichtverbreitung – Exportkontrolle, NSG-Trigger-Listen, Beschaffungs- und Schmuggelwege.
Was die Tätigkeit erfordert Dies ist eine schreibintensive Tätigkeit. Jede Ihrer Bewertungen braucht eine schriftliche Begründung, der auch Laien folgen können. Frühere Erfahrung im technischen Schreiben, veröffentlichte Forschung oder Tätigkeit als Sachverständiger sind ein starkes Signal – bitte fügen Sie eine Probe oder einen Link bei. Außerdem lesen und schreiben Sie über längere Zeiträume über Missbrauchsszenarien in Ihrem Fachgebiet. Wir informieren Experten vorab darüber, und Sie können jederzeit ohne Nachteile pausieren oder aussteigen.
Bevor Sie sich bewerben Ihre Arbeit hier umfasst keine klassifizierten oder exportkontrollierten Informationen und keine Inhalte, die einer Geheimhaltungsvereinbarung (NDA) oder einer Pflicht zur Prüfung vor Veröffentlichung unterliegen, und darf sich auch nicht darauf stützen. Wenn Sie solchen Verpflichtungen unterliegen, kommen Sie möglicherweise dennoch infrage – teilen Sie uns dies in Ihrer Bewerbung mit, und wir grenzen die Tätigkeit entsprechend ein.