Über die Stelle
Über die Arbeit
Mercor stellt ein Gremium von Experten für Sprengstoffe und energetische Materialien zusammen, um Frontier-KI-Modelle einem Red-Teaming zu unterziehen. Ziel ist es zu testen, ob ein Modell das Missbrauchspotenzial einer technischen Anfrage korrekt einschätzen kann: Legitime Fragen vollständig beantworten, wirklich gefährliche jedoch ablehnen.
Sie werden:
- Anspruchsvolle Single-Turn-Prompts in Ihrem Fachgebiet verfassen, gekennzeichnet nach drei Stufen: harmlos (benign), Dual-Use und adversarial.
- Die zurückkommenden Antworten anhand eines definierten Richtlinienstandards bewerten und beurteilen, ob jede korrekt behandelt wurde.
- Die Referenzantwort schreiben; wie eine korrekte Antwort aussieht und die technische Begründung dafür.
Modelle scheitern in diesem Gebiet tendenziell in beide Richtungen: Sie lehnen Routinefragen ab, die ein Bergbauingenieur oder Ermittler täglich stellt, und gehen dann auf eine Anfrage ein, die sie hätten abblocken sollen, weil sie in akademischem Gewand daherkam. Zu wissen, was was ist, erfordert jemanden, der die Arbeit getan hat.
Hintergrund, den wir suchen
Wir rekrutieren über zwei Profile hinweg und brauchen beide: Chemiker mit Expertise in Spezialmaterialien sowie Ingenieure oder Operatoren mit Erfahrung in Zünd- und Antriebssystemen. Frühere Erfahrung in der KI-Evaluierung oder im Red-Teaming wird bevorzugt. Relevante Hintergründe sind:
- Spezialist für gefährliche Vorrichtungen / Fachkraft für öffentliche Sicherheit — Entschärfungsverfahren (Render-safe) und Bewertung von Vorrichtungen.
- Chemiker für Spezialmaterialien (Pyrotechnik oder Antriebe) — Formulierung, Synthese und Leistungsprüfung.
- Bundeszertifizierter Materialspezialist / Vorfallanalyst — forensische Identifizierung und Tatortanalyse.
- Ingenieur für Antrieb und Wirkung — Entwurf von Munitions- und Antriebssystemen.
- Ingenieur für gewerbliche Sprengungen — Handhabung, Lagerung und Transport von Spezialmaterialien.
Was diese Rolle über technische Tiefe hinaus verlangt
Dies ist schreibintensive Arbeit. Jedes Urteil, das Sie fällen, braucht eine schriftliche Begründung, der auch Nicht-Spezialisten folgen können. Frühere technische Texte, Vorfall- oder Post-Blast-Berichte, veröffentlichte Forschung oder Erfahrung als Sachverständiger sind ein starkes Signal; bitte fügen Sie ein Beispiel oder einen Link bei.
Sie werden außerdem über längere Zeiträume Missbrauchsszenarien in Ihrem Fachgebiet lesen und darüber schreiben. Wir informieren Experten vorab darüber, und Sie können jederzeit ohne Nachteile pausieren oder sich zurückziehen.
Bevor Sie sich bewerben
Ihre Arbeit hier wird keine als Verschlusssache eingestuften oder exportkontrollierten Informationen oder Informationen, die einer Vertraulichkeitsvereinbarung (NDA) oder einer Pflicht zur Prüfung vor Veröffentlichung unterliegen, beinhalten und darf sich nicht darauf stützen. Wenn Sie solchen Verpflichtungen unterliegen, kommen Sie möglicherweise trotzdem in Frage; teilen Sie uns dies in Ihrer Bewerbung mit, und wir grenzen die Arbeit entsprechend ein.