Über die Stelle
Über die Arbeit
Mercor stellt ein Gremium von Experten für radiologische Sicherheit zusammen, um Frontier-KI-Modelle einem Red-Teaming zu unterziehen. Ziel ist es zu testen, ob ein Modell das Missbrauchspotenzial einer technischen Anfrage korrekt einschätzen kann — legitime Fragen vollständig beantworten, wirklich gefährliche jedoch ablehnen.
Sie werden:
- Anspruchsvolle Single-Turn-Prompts in Ihrem Fachgebiet verfassen, gekennzeichnet nach drei Stufen: harmlos (benign), Dual-Use und adversarial.
- Die zurückkommenden Antworten anhand eines definierten Richtlinienstandards bewerten und beurteilen, ob jede korrekt behandelt wurde.
- Die Referenzantwort schreiben — wie eine korrekte Antwort aussieht und die technische Begründung dafür.
Dieses Gebiet bewegt sich stärker als die meisten auf der Dual-Use-Linie. Dasselbe Isotop liegt der Krebstherapie und der industriellen Radiografie zugrunde; dieselbe Abschirmungsberechnung schützt einen Arbeiter und verbirgt eine Quelle. Ein Modell, das eine routinemäßige Dosisfrage ablehnt, versagt ebenso sehr wie eines, das eine Frage beantwortet, die es nicht beantworten sollte. Diese Linie zuverlässig zu ziehen ist der Grund, warum wir Praktiker statt Generalisten brauchen.
Hintergrund, den wir suchen
Wir suchen Personen, die die Genehmigung innehatten und nicht nur unter ihr gearbeitet haben — die verantwortliche Person für Beschaffung, Bestandsführung, Weitergabe und Entsorgung. Am wichtigsten ist die Fähigkeit, eine routinemäßige Fachfrage von einer zu unterscheiden, die auf etwas anderes abzielt: dieselbe Abschirmungsberechnung schützt einen Arbeiter und verbirgt eine Quelle. Sie werden Prompts schreiben, die genau auf dieser Linie liegen, und dann beurteilen, ob das Modell sie gehalten hat.
Beispiele für relevante Hintergründe (idealerweise mit Red-Teaming-Erfahrung):
- Benannter RSO auf einer Genehmigung mit breitem Umfang — Programmmanagement, Quelleninventar, Einhaltung regulatorischer Vorschriften
- RSO oder stellvertretender RSO an einer Universität, einem Krankenhaus oder Forschungsinstitut, das ein gemischtes Programm mit Radionukliden und umschlossenen Strahlenquellen betreibt
- RSO in Industrie oder für Bestrahlungsanlagen — umschlossene Quellen der Kategorie 1 und 2, Radiografie, Messtechnik, Sterilisation
- Spezialist für Genehmigungswesen und Compliance — Einreichungen, Änderungen und Inspektionen bei der NRC, Agreement States oder nationalen Aufsichtsbehörden
- Strahlenschutzleiter mit Verantwortung für ALARA, Audits, Schulungen und Vorfallmeldungen über mehrere autorisierte Anwender hinweg
Was diese Rolle über technische Tiefe hinaus verlangt
Dies ist schreibintensive Arbeit. Jedes Urteil, das Sie fällen, braucht eine schriftliche Begründung, der auch Nicht-Spezialisten folgen können. Frühere technische Texte, veröffentlichte Forschung oder Erfahrung als Sachverständiger sind ein starkes Signal; bitte fügen Sie ein Beispiel oder einen Link bei. Sie werden außerdem über längere Zeiträume Missbrauchsszenarien in Ihrem Fachgebiet lesen und darüber schreiben. Wir informieren Experten vorab darüber, und Sie können jederzeit ohne Nachteile pausieren oder sich zurückziehen.
Bevor Sie sich bewerben
Ihre Arbeit hier wird keine als Verschlusssache eingestuften oder exportkontrollierten Informationen oder Informationen, die einer Vertraulichkeitsvereinbarung (NDA) oder einer Pflicht zur Prüfung vor Veröffentlichung unterliegen, beinhalten und darf sich nicht darauf stützen. Wenn Sie solchen Verpflichtungen unterliegen, kommen Sie möglicherweise trotzdem in Frage; teilen Sie uns dies in Ihrer Bewerbung mit, und wir grenzen die Arbeit entsprechend ein.