Informazioni sul ruolo
Descrizione
SME Careers sta mettendo insieme un piccolo panel di professionisti del settore nucleare e radiologico per verificare come i modelli di IA rispondono a domande sensibili in questo campo. Ogni attività ti fornisce una richiesta di un utente e le risposte che tre modelli diversi hanno dato. Classifichi la richiesta (benigna, a doppio uso o avversariale), contrassegni ogni risposta come sicura o non sicura e ne spieghi il motivo, metti in graduatoria le tre risposte l'una rispetto all'altra e scrivi la risposta che il modello avrebbe dovuto dare. Per le richieste a doppio uso annoti anche cosa le rende sensibili, a quale scopo legittimo servono e chi dovrebbe poter ottenere una risposta.
Le richieste sono realistiche: il genere di cose che ingegneri dei reattori, fisici sanitari, autorità di regolamentazione, studenti e occasionalmente attori malintenzionati chiedono davvero. Alcune sono normali domande professionali che i modelli rifiutano a torto, e individuarle è importante quanto individuare quelle pericolose.
Questo ruolo è presso SME Careers, un'azienda in rapida crescita nel settore dei servizi di dati per l'IA e controllata di SuperAnnotate, che fornisce dati di addestramento per molte delle più grandi aziende di IA e laboratori di modelli fondazionali del mondo. La tua competenza in fisica nucleare contribuisce direttamente a migliorare i principali modelli di IA del mondo rendendo i loro output in materia di scienza nucleare, radiazioni e fisica più accurati, sicuri e affidabili.
Chi stiamo cercando
Ingegneri nucleari e fisici dei reattori, specialisti di salvaguardie e non proliferazione (IAEA, NRC o equivalente, controllo delle esportazioni, laboratori nazionali), fisici sanitari e responsabili della sicurezza radiologica, radiochimici e ex personale nucleare militare o governativo. Di solito una laurea pertinente più cinque o più anni di esperienza professionale. Un'esperienza nella revisione di lavori tecnici rispetto a uno standard (licensing, ispezione, peer review) o nel red teaming di IA è un forte plus.
Prima di candidarti
Questo ruolo è aperto solo a cittadini o residenti di Stati Uniti, Regno Unito, Canada, Australia, Nuova Zelanda e Unione Europea.