Esperto di sicurezza su jailbreak e prompt injection dell'IA

Titolo del ruolo: Esperto di sicurezza su jailbreak e prompt injection dell'IA

Tipo di incarico: Contractor

Sede: Da remoto

micro1 sta ingaggiando Esperti di sicurezza su jailbreak e prompt injection dell'IA per contribuire a un'iniziativa all'avanguardia di un cliente, incentrata sulla sicurezza e sulla robustezza dell'IA. In questo ruolo, Lei applicherà la Sua competenza per contribuire all'addestramento dei sistemi di IA di prossima generazione. Il Suo lavoro influenzerà il modo in cui i modelli apprendono, ragionano e operano, grazie a contributi concreti e di alta qualità. Non è richiesta alcuna esperienza pregressa nell'IA: ciò che conta è la Sua competenza nel settore.

Ambito di lavoro

• Progettare e implementare metodologie avanzate per valutare la sicurezza dei sistemi di IA, concentrandosi su jailbreak etici, red teaming degli LLM, prompt injection e scenari di abuso nell'uso di strumenti.
• Creare strategie di elicitazione complete e trasversali ai vari ambiti per individuare pattern complessi e multi-turno di elusione avversariale nei modelli di IA.
• Sviluppare, mantenere e aggiornare suite di test di regressione che verifichino sistematicamente la suscettibilità ai jailbreak e le vulnerabilità di prompt injection.
• Costruire framework di valutazione robusti che sottopongano a stress test i modelli di IA contro minacce avversariali del mondo reale, con l'obiettivo di migliorare la robustezza complessiva del sistema.
• Collaborare con gli stakeholder tecnici per tradurre i risultati in materia di sicurezza in miglioramenti concreti per la sicurezza dei modelli e la mitigazione del rischio.
• Documentare metodologie, risultati e migliori pratiche in report e presentazioni scritti in modo chiaro e ben strutturato, destinati sia a un pubblico tecnico sia a un pubblico non tecnico.

Qualifiche preferenziali

• 2 o più anni di competenza in machine learning avversariale, red teaming degli LLM, valutazione della sicurezza dell'IA o in un ambito di sicurezza strettamente affine
• Esperienza comprovata nella ricerca, nel test o nell'individuazione di vulnerabilità legate a jailbreak etici, prompt injection, abuso nell'uso di strumenti o attacchi avversariali all'IA.
• Titolo di studio avanzato (dottorato, laurea magistrale) in informatica, cybersicurezza, machine learning o in una disciplina pertinente, oppure un background operativo/professionale equivalente.
• Elevata credibilità e riconoscimento all'interno della comunità della sicurezza dell'IA o del ML avversariale — ad esempio ricerche pubblicate, strumenti open source o interventi a conferenze.
• Eccellenti capacità di comunicazione scritta e orale, con particolare attenzione a una documentazione chiara e alla risoluzione collaborativa dei problemi.
• La partecipazione pregressa a progetti multidisciplinari o a iniziative interfunzionali sulla sicurezza dell'IA costituisce un vantaggio.
• È molto gradita la familiarità con le attuali architetture degli LLM, le tecniche di prompt engineering e gli strumenti di valutazione della sicurezza.