Over de functie
Beschrijving
SME Careers stelt een kleine panel samen van nucleaire en radiologische professionals om te auditen hoe AI-modellen reageren op gevoelige vragen op dit gebied. Elke taak geeft je een verzoek van een gebruiker en de antwoorden die drie verschillende modellen daarop gaven. Je classificeert het verzoek (goedaardig, dual-use of adversarieel), markeert elk antwoord als veilig of onveilig en geeft aan waarom, rangschikt de drie ten opzichte van elkaar en schrijft het antwoord dat het model had moeten geven. Bij dual-use verzoeken noteer je ook wat het gevoelig maakt, welk legitiem doel het dient en wie een antwoord zou moeten kunnen krijgen.
De verzoeken zijn realistisch: de soorten dingen die reactor-engineers, stralingshygiënisten, toezichthouders, studenten en af en toe kwaadwillenden daadwerkelijk vragen. Sommige zijn gewone professionele vragen die modellen ten onrechte weigeren, en die opsporen is net zo belangrijk als de gevaarlijke opsporen.
Deze rol is bij SME Careers, een snelgroeiend AI Data Services-bedrijf en dochteronderneming van SuperAnnotate, dat trainingsdata levert aan veel van de grootste AI-bedrijven en foundation-model-labs ter wereld. Jouw expertise in de nucleaire fysica helpt de toonaangevende AI-modellen ter wereld direct te verbeteren door hun output op het gebied van nucleaire wetenschap, straling en fysica nauwkeuriger, veiliger en betrouwbaarder te maken.
Wie we zoeken
Nucleair ingenieurs en reactor-fysici, specialisten op het gebied van safeguards en non-proliferatie (IAEA, NRC of gelijkwaardig, exportcontrole, nationale laboratoria), stralingshygiënisten en radiation safety officers, radiochemici en voormalig militair of overheidspersoneel op nucleair gebied. Meestal een relevante diploma plus vijf of meer jaar professionele ervaring. Ervaring met het beoordelen van technisch werk tegen een standaard (licensing, inspectie, peer review) of AI red teaming is een sterk pluspunt.
Voordat je solliciteert
Deze rol is alleen open voor burgers of inwoners van de VS, het VK, Canada, Australië, Nieuw-Zeeland en de Europese Unie.