Informazioni sul ruolo
Titolo del ruolo: Esperto di sicurezza su jailbreak e prompt injection dell'IA
Tipo di incarico: Contractor
Sede: Da remoto
micro1 sta ingaggiando Esperti di sicurezza su jailbreak e prompt injection dell'IA per contribuire a un'iniziativa all'avanguardia di un cliente, incentrata sulla sicurezza e sulla robustezza dell'IA. In questo ruolo, Lei applicherà la Sua competenza per contribuire all'addestramento dei sistemi di IA di prossima generazione. Il Suo lavoro influenzerà il modo in cui i modelli apprendono, ragionano e operano, grazie a contributi concreti e di alta qualità. Non è richiesta alcuna esperienza pregressa nell'IA: ciò che conta è la Sua competenza nel settore.
Ambito di lavoro
- Progettare e implementare metodologie avanzate per valutare la sicurezza dei sistemi di IA, concentrandosi su jailbreak etici, red teaming degli LLM, prompt injection e scenari di abuso nell'uso di strumenti.
- Creare strategie di elicitazione complete e trasversali ai vari ambiti per individuare pattern complessi e multi-turno di elusione avversariale nei modelli di IA.
- Sviluppare, mantenere e aggiornare suite di test di regressione che verifichino sistematicamente la suscettibilità ai jailbreak e le vulnerabilità di prompt injection.
- Costruire framework di valutazione robusti che sottopongano a stress test i modelli di IA contro minacce avversariali del mondo reale, con l'obiettivo di migliorare la robustezza complessiva del sistema.
- Collaborare con gli stakeholder tecnici per tradurre i risultati in materia di sicurezza in miglioramenti concreti per la sicurezza dei modelli e la mitigazione del rischio.
- Documentare metodologie, risultati e migliori pratiche in report e presentazioni scritti in modo chiaro e ben strutturato, destinati sia a un pubblico tecnico sia a un pubblico non tecnico.
Qualifiche preferenziali
- 2 o più anni di competenza in machine learning avversariale, red teaming degli LLM, valutazione della sicurezza dell'IA o in un ambito di sicurezza strettamente affine
- Esperienza comprovata nella ricerca, nel test o nell'individuazione di vulnerabilità legate a jailbreak etici, prompt injection, abuso nell'uso di strumenti o attacchi avversariali all'IA.
- Titolo di studio avanzato (dottorato, laurea magistrale) in informatica, cybersicurezza, machine learning o in una disciplina pertinente, oppure un background operativo/professionale equivalente.
- Elevata credibilità e riconoscimento all'interno della comunità della sicurezza dell'IA o del ML avversariale — ad esempio ricerche pubblicate, strumenti open source o interventi a conferenze.
- Eccellenti capacità di comunicazione scritta e orale, con particolare attenzione a una documentazione chiara e alla risoluzione collaborativa dei problemi.
- La partecipazione pregressa a progetti multidisciplinari o a iniziative interfunzionali sulla sicurezza dell'IA costituisce un vantaggio.
- È molto gradita la familiarità con le attuali architetture degli LLM, le tecniche di prompt engineering e gli strumenti di valutazione della sicurezza.