Über die Stelle
Über die Arbeit
Mercor stellt ein Gremium von Fachexperten aus der Chemie zusammen, um Frontier-KI-Modelle einem Red-Teaming zu unterziehen. Ziel ist es zu testen, ob ein Modell das Missbrauchspotenzial einer technischen Anfrage korrekt einschätzen kann; legitime Fragen vollständig beantworten, wirklich gefährliche jedoch ablehnen.
Sie werden:
- Anspruchsvolle Single-Turn-Prompts in Ihrem Fachgebiet verfassen, gekennzeichnet nach drei Stufen: harmlos (benign), Dual-Use und adversarial.
- Die zurückkommenden Antworten anhand eines definierten Richtlinienstandards bewerten und beurteilen, ob jede korrekt behandelt wurde.
- Die Referenzantwort schreiben — wie eine korrekte Antwort aussieht und die technische Begründung dafür.
Der schwierige Teil ist die Kalibrierung, nicht der Schwierigkeitsgrad. Ein harmloser Prompt, den ein Modell fälschlich ablehnt, ist ebenso wertvoll wie ein adversarialer, den es fälschlich beantwortet. Dieses Urteilsvermögen ist der Grund, warum wir Fachexperten statt Generalisten brauchen — in der Chemie verläuft die Linie zwischen Mechanismus und Vorgehensweise (Procedure), und nur jemand, der die Reaktion durchgeführt hat, weiß genau, wo sie liegt. Hintergrund, den wir suchen
Wir suchen Fachleute mit praktischer Erfahrung in Synthese, analytischer Chemie oder chemischer Sicherheit. Frühere Erfahrung in der KI-Evaluierung oder im Red-Teaming wird bevorzugt. Relevante Hintergründe sind:
- Forscher für chemische Abwehr (USAMRICD, DoD, CDC) — toxikologische Wirkstoffe und medizinische Gegenmaßnahmen.
- Synthese- / Prozesschemiker — Syntheseroutendesign, Reaktionstechnik und Scale-up.
- Analytischer Chemiker — Nachweis- und Identifizierungsmethoden für gefährliche Verbindungen.
- Arbeitshygieniker / Prozesssicherheitsingenieur — Expositionsbewertung, Freisetzung toxischer Stoffe und Prozessgefahrenanalyse.
- Forensischer / toxikologischer Chemiker — kontrollierte Substanzen, Identifizierung von Vorläuferstoffen und Fallarbeit.
Was diese Rolle über technische Tiefe hinaus verlangt
Dies ist schreibintensive Arbeit. Jedes Urteil, das Sie fällen, braucht eine schriftliche Begründung, der auch Nicht-Spezialisten folgen können. Frühere technische Texte, veröffentlichte Forschung oder Erfahrung als Sachverständiger sind ein starkes Signal — bitte fügen Sie ein Beispiel oder einen Link bei.
Frühere Erfahrung im KI-Red-Teaming oder in der Modellevaluierung ist ein Plus, aber nicht erforderlich.
Sie werden außerdem über längere Zeiträume Missbrauchsszenarien in Ihrem Fachgebiet lesen und darüber schreiben. Wir informieren Experten vorab darüber, und Sie können jederzeit ohne Nachteile pausieren oder sich zurückziehen.
Bevor Sie sich bewerben
Ihre Arbeit hier wird keine als Verschlusssache eingestuften oder exportkontrollierten Informationen oder Informationen, die einer Vertraulichkeitsvereinbarung (NDA) oder einer Pflicht zur Prüfung vor Veröffentlichung unterliegen, beinhalten und darf sich nicht darauf stützen. Wenn Sie solchen Verpflichtungen unterliegen, kommen Sie möglicherweise trotzdem in Frage — teilen Sie uns dies in Ihrer Bewerbung mit, und wir grenzen die Arbeit entsprechend ein.