Informazioni sul ruolo
Siamo alla ricerca di persone altamente esperte con background nell'intelligence, nella difesa, nelle operazioni informatiche, nel controspionaggio, nell'antiterrorismo e in campi correlati, per unirsi alla nostra comunità di ricerca sull'IA.
Il tuo ruolo sarà simulare e valutare come attori malintenzionati potrebbero sfruttare i modelli linguistici di grandi dimensioni (LLM) per pianificare e potenziare atti di violenza, terrorismo, assassinii mirati, operazioni speciali o attacchi a livello tattico. I fellow parteciperanno a esercizi di red teaming, valutando e interpretando gli output generati dagli LLM a seguito di tentativi di jailbreaking, e determinando se tali output costituiscano minacce credibili e materiali in scenari del mondo reale.
Questa è una posizione ad alto impatto, ideale per professionisti che desiderano applicare il proprio background governativo o militare per anticipare i rischi per la sicurezza nazionale nell'era dell'IA.