Über die Stelle
Beschreibung
SME Careers stellt ein kleines Gremium aus Fachleuten für Nuklear- und Radiologiesicherheit zusammen, das prüft, wie KI-Modelle auf sensible Fragen in diesem Bereich antworten. Bei jeder Aufgabe erhalten Sie eine Nutzeranfrage und die Antworten, die drei verschiedene Modelle darauf gegeben haben. Sie klassifizieren die Anfrage (harmlos, Dual-Use oder adversarial), markieren jede Antwort als sicher oder unsicher und begründen dies, ordnen die drei Antworten im Vergleich zueinander ein und verfassen die Antwort, die das Modell hätte geben sollen. Bei Dual-Use-Anfragen halten Sie außerdem fest, was sie sensibel macht, welchem legitimen Zweck sie dient und wer eine Antwort erhalten sollte.
Die Anfragen sind realistisch: die Art von Dingen, die Reaktoringenieure, Strahlenschützer, Aufsichtsbehörden, Studierende und gelegentlich böswillige Akteure tatsächlich fragen. Manche sind gewöhnliche berufliche Fragen, die Modelle fälschlicherweise ablehnen, und diese zu erkennen ist ebenso wichtig wie das Erkennen der gefährlichen.
Diese Rolle ist bei SME Careers angesiedelt, einem schnell wachsenden Unternehmen für KI-Datendienste und Tochtergesellschaft von SuperAnnotate, das Trainingsdaten für viele der weltweit größten KI-Unternehmen und Foundation-Model-Labs bereitstellt. Ihre kernphysikalische Expertise trägt direkt dazu bei, die führenden KI-Modelle der Welt zu verbessern, indem ihre Ergebnisse in den Bereichen Nuklearwissenschaft, Strahlung und Physik genauer, sicherer und zuverlässiger werden.
Wen wir suchen
Kerntechnikingenieure und Reaktorphysiker, Fachleute für Safeguards und Nichtverbreitung (IAEA, NRC oder gleichwertig, Exportkontrolle, nationale Labore), Strahlenschützer und Radiation Safety Officers, Radiochemiker sowie ehemaliges militärisches oder staatliches Nuklearpersonal. In der Regel ein relevanter Abschluss plus fünf oder mehr Jahre Berufserfahrung. Erfahrung mit der Prüfung technischer Arbeiten anhand eines Standards (Lizenzierung, Inspektion, Peer Review) oder mit AI-Red-Teaming ist ein starkes Plus.
Bevor Sie sich bewerben
Diese Stelle ist nur für Staatsangehörige oder Einwohner der USA, des Vereinigten Königreichs, Kanadas, Australiens, Neuseelands und der Europäischen Union offen.