Über die Stelle
Über die Arbeit
Mercor stellt ein Gremium von Experten für Kernmaterial und Safeguards zusammen, um Frontier-KI-Modelle einem Red-Teaming zu unterziehen. Ziel ist es zu testen, ob ein Modell das Missbrauchspotenzial einer technischen Anfrage korrekt einschätzen kann — legitime Fragen vollständig beantworten, wirklich gefährliche jedoch ablehnen.
Sie werden:
- Anspruchsvolle Single-Turn-Prompts in Ihrem Fachgebiet verfassen, gekennzeichnet nach drei Stufen: harmlos (benign), Dual-Use und adversarial.
- Die zurückkommenden Antworten anhand eines definierten Richtlinienstandards bewerten und beurteilen, ob jede korrekt behandelt wurde.
- Die Referenzantwort schreiben — wie eine korrekte Antwort aussieht und die technische Begründung dafür.
Dieses Gebiet bewegt sich stärker als die meisten auf der Dual-Use-Linie. Dieselbe Materialbilanzrechnung, die das Konto eines Inspektors schließt, kann dazu benutzt werden, zu verbergen, was daran fehlt; dieselbe Schutzbewertung, die eine Einrichtung härtet, kartiert deren Schwächen. Ein Modell, das eine routinemäßige Frage zur Materialbilanzierung ablehnt, versagt ebenso sehr wie eines, das eine Frage beantwortet, die es nicht beantworten sollte. Diese Linie zuverlässig zu ziehen ist der Grund, warum wir Praktiker statt Generalisten brauchen.
Hintergrund, den wir suchen
Wir suchen Personen, die dafür verantwortlich waren, Kernmaterial dort zu halten, wo es hingehört — Materialkontrolle und -bilanzierung, physischer Schutz und die Bewertungen, die beides prüfen. Am wichtigsten ist die Fähigkeit, eine routinemäßige Fachfrage von einer zu unterscheiden, die auf etwas anderes abzielt: dieselbe Verwundbarkeitsbewertung, die eine Lücke schließt, beschreibt sie auch. Sie werden Prompts schreiben, die genau auf dieser Linie liegen, und dann beurteilen, ob das Modell sie gehalten hat.
Beispiele für relevante Hintergründe (idealerweise mit Red-Teaming-Erfahrung):
- Konzeption, Betrieb oder Bewertung von Programmen zur Materialkontrolle und -bilanzierung (MC&A) an einem nationalen Labor oder bei einem Genehmigungsinhaber
- Engineering von Systemen des physischen Schutzes — Sensoren, Barrieren, Verzögerung, Einsatzkräfte, Leistungsprüfung
- Verwundbarkeitsbewertung und Angreiferpfadanalyse für kerntechnische Anlagen
- Arbeit an Programmen zu Insider-Bedrohung und menschlicher Zuverlässigkeit
- Nuklearsicherheitspolitik, Schulungen oder internationale Unterstützungsprogramme
Was diese Rolle über technische Tiefe hinaus verlangt
Dies ist schreibintensive Arbeit. Jedes Urteil, das Sie fällen, braucht eine schriftliche Begründung, der auch Nicht-Spezialisten folgen können. Frühere technische Texte, veröffentlichte Forschung oder Erfahrung als Sachverständiger sind ein starkes Signal; bitte fügen Sie ein Beispiel oder einen Link bei. Sie werden außerdem über längere Zeiträume Missbrauchsszenarien in Ihrem Fachgebiet lesen und darüber schreiben. Wir informieren Experten vorab darüber, und Sie können jederzeit ohne Nachteile pausieren oder sich zurückziehen.
Bevor Sie sich bewerben
Ihre Arbeit hier wird keine als Verschlusssache eingestuften oder exportkontrollierten Informationen oder Informationen, die einer Vertraulichkeitsvereinbarung (NDA) oder einer Pflicht zur Prüfung vor Veröffentlichung unterliegen, beinhalten und darf sich nicht darauf stützen. Wenn Sie solchen Verpflichtungen unterliegen, kommen Sie möglicherweise trotzdem in Frage; teilen Sie uns dies in Ihrer Bewerbung mit, und wir grenzen die Arbeit entsprechend ein.