Über die Stelle
Über die Tätigkeit
Mercor stellt ein Gremium aus Fachleuten für radiologische Sicherheit zusammen, um Frontier-KI-Modelle einem Red-Teaming zu unterziehen. Ziel ist es zu testen, ob ein Modell das Missbrauchspotenzial einer technischen Anfrage korrekt einschätzen kann — legitime Fragen vollständig zu beantworten und wirklich gefährliche abzulehnen.
Sie werden:
- Anspruchsvolle Single-Turn-Prompts aus Ihrem Fachgebiet verfassen, gekennzeichnet nach drei Stufen: unbedenklich (benign), Dual-Use und adversarial.
- Die zurückkommenden Antworten anhand eines definierten Richtlinienstandards bewerten und beurteilen, ob jede korrekt behandelt wurde.
- Die Referenzantwort verfassen — wie eine korrekte Antwort aussieht und die fachliche Begründung dafür.
Dieses Fachgebiet liegt stärker als die meisten auf der Dual-Use-Grenze. Dasselbe Isotop bildet die Grundlage sowohl der Krebstherapie als auch der industriellen Radiographie; dieselbe Abschirmungsberechnung schützt Beschäftigte und verbirgt zugleich eine Strahlenquelle. Ein Modell, das eine Routinefrage zur Dosis ablehnt, versagt genauso schwer wie eines, das eine Frage beantwortet, die es nicht beantworten sollte. Diese Grenze zuverlässig zu ziehen ist der Grund, warum wir Fachleute aus der Praxis statt Generalisten brauchen.
Gesuchtes Profil
Wir suchen Menschen, die medizinische Isotope herstellen und handhaben — die Hälfte der Dual-Use-Grenze, die der legitimen Nutzung entspricht, getragen als echte Verantwortung für die Verwahrung. Am wichtigsten ist die Fähigkeit, eine fachliche Routinefrage von einer zu unterscheiden, die auf etwas anderes abzielt: Dieselben Aktivitäts- und Abschirmungswerte, die einen Patienten nach Hause gehen lassen, beschreiben eine Quelle, die jemand anderes unbemerkt bewegen möchte. Sie werden Prompts verfassen, die genau auf dieser Grenze liegen, und anschließend beurteilen, ob das Modell sie gehalten hat.
Beispiele für relevante Hintergründe (idealerweise mit Red-Teaming-Erfahrung):
- Physiker:in für Nuklearmedizin oder Radiopharmazie — Therapiedosimetrie, Arbeit mit I-131, Lu-177 und Y-90, Entlassungskriterien für Patienten
- RSO (Strahlenschutzbeauftragte:r) einer Zyklotron- oder Radiochemie-Einrichtung — Handhabung von Targets, Produktion von PET-Isotopen, Betrieb von Heißen Zellen
- Medizinphysiker:in mit Verantwortung für die Verwahrung von Brachytherapiequellen — HDR- und LDR-Quellen, Bestandsführung und Quellenwechsel
- Herstellung von Radiopharmaka und Qualitätskontrolle (QC) nach GMP oder einem gleichwertigen Qualitätssystem
- Unterstützung als Authorised Medical Physicist oder Authorised User bei einer Lizenz für medizinische radioaktive Stoffe
Was diese Rolle über fachliche Tiefe hinaus verlangt
Dies ist eine schreibintensive Tätigkeit. Jede Ihrer Beurteilungen braucht eine schriftliche Begründung, der auch Nicht-Fachleute folgen können. Erfahrung im technischen Schreiben, veröffentlichte Forschungsarbeiten oder Erfahrung als Gutachter:in vor Gericht sind ein starkes Signal; bitte fügen Sie eine Probe oder einen Link bei. Außerdem werden Sie über längere Zeiträume Missbrauchsszenarien aus Ihrem Fachgebiet lesen und beschreiben. Wir informieren Expertinnen und Experten darüber im Voraus, und Sie können jederzeit ohne Nachteile pausieren oder sich zurückziehen.
Vor Ihrer Bewerbung
Ihre Arbeit hier wird keine als Verschlusssache eingestuften oder exportkontrollierten Informationen und nichts, was einer NDA oder einer Pflicht zur Prüfung vor Veröffentlichung unterliegt, beinhalten und darf sich nicht darauf stützen. Wenn Sie solchen Verpflichtungen unterliegen, kommen Sie möglicherweise trotzdem infrage; teilen Sie uns dies in Ihrer Bewerbung mit, und wir grenzen die Tätigkeit entsprechend ein.