Über die Stelle
Über die Arbeit
Mercor stellt ein Gremium von Experten für radiologische Sicherheit zusammen, um Frontier-KI-Modelle einem Red-Teaming zu unterziehen. Ziel ist es zu testen, ob ein Modell das Missbrauchspotenzial einer technischen Anfrage korrekt einschätzen kann — legitime Fragen vollständig beantworten, wirklich gefährliche jedoch ablehnen.
Sie werden:
- Anspruchsvolle Single-Turn-Prompts in Ihrem Fachgebiet verfassen, gekennzeichnet nach drei Stufen: harmlos (benign), Dual-Use und adversarial.
- Die zurückkommenden Antworten anhand eines definierten Richtlinienstandards bewerten und beurteilen, ob jede korrekt behandelt wurde.
- Die Referenzantwort schreiben — wie eine korrekte Antwort aussieht und die technische Begründung dafür.
Dieses Gebiet bewegt sich stärker als die meisten auf der Dual-Use-Linie. Dasselbe Isotop liegt der Krebstherapie und der industriellen Radiografie zugrunde; dieselbe Abschirmungsberechnung schützt einen Arbeiter und verbirgt eine Quelle. Ein Modell, das eine routinemäßige Dosisfrage ablehnt, versagt ebenso sehr wie eines, das eine Frage beantwortet, die es nicht beantworten sollte. Diese Linie zuverlässig zu ziehen ist der Grund, warum wir Praktiker statt Generalisten brauchen.
Hintergrund, den wir suchen
Wir suchen Personen, die bewertet haben, wie Quellen der Kategorie 1 und 2 tatsächlich gestohlen, abgeschirmt oder bewegt werden — die Sicherheits- und Verwundbarkeitsseite eines genehmigten Programms, nicht nur dessen Papierwerk. Am wichtigsten ist die Fähigkeit, eine routinemäßige Fachfrage von einer zu unterscheiden, die auf etwas anderes abzielt: dieselbe Abschirmungsberechnung schützt einen Arbeiter und verbirgt eine Quelle. Sie werden Prompts schreiben, die genau auf dieser Linie liegen, und dann beurteilen, ob das Modell sie gehalten hat.
Beispiele für relevante Hintergründe (idealerweise mit Red-Teaming-Erfahrung):
- Sicherheits- oder Verwundbarkeitsbewertung genehmigter Einrichtungen mit Quellen der Kategorie 1 und 2
- Entwurf und Überprüfung des physischen Schutzes — Detektieren, Verzögern, Bewerten und Reagieren; Überlegungen zur Insider-Bedrohung
- Programme zur Bergung, Konsolidierung oder Sicherheitsaufrüstung von außer Betrieb genommenen und herrenlosen (Orphan) Quellen
- Regulatorische Sicherheitsinspektion und Compliance — 10 CFR 37 oder nationale Entsprechungen
- Transportsicherheit für radioaktives Material — Routenplanung, Begleitung, Verfolgung und Verwahrkette (Chain of Custody)
Was diese Rolle über technische Tiefe hinaus verlangt
Dies ist schreibintensive Arbeit. Jedes Urteil, das Sie fällen, braucht eine schriftliche Begründung, der auch Nicht-Spezialisten folgen können. Frühere technische Texte, veröffentlichte Forschung oder Erfahrung als Sachverständiger sind ein starkes Signal; bitte fügen Sie ein Beispiel oder einen Link bei. Sie werden außerdem über längere Zeiträume Missbrauchsszenarien in Ihrem Fachgebiet lesen und darüber schreiben. Wir informieren Experten vorab darüber, und Sie können jederzeit ohne Nachteile pausieren oder sich zurückziehen.
Bevor Sie sich bewerben
Ihre Arbeit hier wird keine als Verschlusssache eingestuften oder exportkontrollierten Informationen oder Informationen, die einer Vertraulichkeitsvereinbarung (NDA) oder einer Pflicht zur Prüfung vor Veröffentlichung unterliegen, beinhalten und darf sich nicht darauf stützen. Wenn Sie solchen Verpflichtungen unterliegen, kommen Sie möglicherweise trotzdem in Frage; teilen Sie uns dies in Ihrer Bewerbung mit, und wir grenzen die Arbeit entsprechend ein.