Responsabile della garanzia di qualità del red-teaming (QAL)

In questo ruolo di collaboratore remoto retribuito a ore, lavorerai come Responsabile della garanzia di qualità del red-teaming (QAL) per supervisionare qualità, coerenza e prestazioni dei trainer su progetti di red-teaming e valutazione della sicurezza dell'IA. Esaminerai valutazioni di sicurezza generate dall'IA, prompt avversariali, analisi dei rischi e il lavoro di trainer/QA; valuterai la qualità degli output rispetto alle linee guida del progetto; fornirai feedback scritti precisi; e ti assicurerai che tutti i contributori rispettino gli standard di qualità attesi.

Valuterai il lavoro per identificazione dei rischi, ragionamento avversariale, consapevolezza delle policy, allineamento alle tassonomie di sicurezza, qualità dei prompt, realismo degli scenari, copertura delle vulnerabilità, chiarezza, formattazione, aderenza alle istruzioni e rispetto delle rubriche specifiche del progetto. Individuerai problemi di qualità ricorrenti, comunicherai aggiornamenti a trainer e QA, supporterai l'onboarding, manterrai la documentazione e aiuterai ad attivare i contributori che non lavorano con costanza. Questo ruolo richiede una solida capacità di giudizio in materia di sicurezza dell'IA/red-teaming, forti competenze comunicative in inglese, eccellente attenzione ai dettagli, comunicazione strutturata e la capacità di gestire flussi di lavoro di qualità su team di esperti remoti.

Questo ruolo è presso SME Careers, un'azienda in rapida crescita nel settore dei servizi di dati per l'IA e controllata di SuperAnnotate, che fornisce dati di addestramento per molte delle più grandi aziende di IA e laboratori di modelli fondazionali del mondo. La tua leadership nella qualità del red-teaming contribuirà direttamente a migliorare i principali modelli di IA del mondo assicurando che i dati di addestramento sulla sicurezza siano realistici, sfumati, allineati alle policy, ben documentati e utili per identificare le vulnerabilità dei modelli.

Il processo di selezione prevede un colloquio con l'IA, un compito specifico del dominio e un colloquio con un recruiter.

Importante: Non c'è un progetto immediato per questo ruolo; tuttavia, se qualificato, sarai tra i primi esperti che contatteremo quando si presenteranno opportunità pertinenti. Questo ti darà anche accesso a futuri progetti disponibili attraverso la nostra rete di esperti.

Cosa farai

• Monitoraggio della qualità: verificare a campione gli elementi di red-teaming, identificare problemi di qualità, fornire feedback continuo tramite DM e segnalare i problemi ricorrenti o critici.
• Revisione di sicurezza e red-team: valutare prompt avversariali, risposte dei modelli, classificazioni dei rischi, analisi di sicurezza, spiegazioni delle policy e rapporti sulle vulnerabilità per accuratezza, realismo e utilità.
• Comunicazione con trainer e QA: aggiornare trainer e QA su Discord riguardo a nuove linee guida sugli elementi, modifiche al progetto, aggiornamenti dei flussi di lavoro, aspettative di qualità e standard di revisione specifici del red-teaming.
• Gestione delle domande: rispondere in modo chiaro e tempestivo alle domande di trainer/QA, in particolare su categorie di rischio, strategia avversariale, confini delle policy, casi limite, gravità e interpretazione delle rubriche.
• Gestione dell'attivazione di trainer/QA: inviare DM ai contributori inattivi o che non lavorano, incoraggiare l'attivazione, monitorare i follow-up e segnalare problemi di disponibilità quando necessario.
• Documentazione: creare e mantenere la documentazione dei progetti di red-teaming, incluse guide di stile, tracker, FAQ, note sulla qualità, esempi, honeypot, compiti di calibrazione e materiali di onboarding.
• Onboarding e addestramento: programmare e condurre chiamate di onboarding/addestramento con trainer e QA per spiegare le aspettative del progetto, i flussi di lavoro, le rubriche, gli standard di qualità e i requisiti di revisione specifici del red-teaming.
• Allineamento sulla qualità: assicurare che tutti i trainer e i QA applichino in modo coerente le linee guida di red-teaming e revisione della sicurezza e comprendano gli aggiornamenti man mano che i progetti evolvono.
• Revisione dei rischi: segnalare elementi di red-team non sicuri, di bassa qualità, irrealistici, incoerenti con le policy o insufficientemente documentati.
• Miglioramento dei processi: identificare lacune di qualità ricorrenti, proporre miglioramenti dei flussi di lavoro e contribuire a costruire processi di QA scalabili per progetti di red-teaming dell'IA.

Cosa cerchiamo

• Laurea triennale, magistrale o esperienza professionale in Informatica, Cybersicurezza, Sicurezza dell'IA, Trust & Safety, Politiche pubbliche, Psicologia, Linguistica, Giurisprudenza, Studi sulla sicurezza, Analisi dei rischi o un campo correlato.
• Forte padronanza della lingua inglese per seguire le linee guida del progetto, comunicare con i team e fornire feedback scritti chiari.
• 3+ anni di esperienza in sicurezza dell'IA, red-teaming, cybersicurezza, trust and safety, policy sui contenuti, analisi dei rischi, test avversariali, valutazione dei modelli, moderazione dei contenuti o flussi di lavoro correlati.
• Forte comprensione delle categorie di rischio dell'IA, prompting avversariale, pattern di jailbreak, tassonomie di contenuti dannosi, scenari di uso improprio, interpretazione delle policy, comportamento dei modelli e principi di valutazione della sicurezza.
• Capacità di valutare contenuti di red-teaming rispetto a rubriche dettagliate e identificare problemi quali progettazione avversariale debole, scenari irrealistici, scarsa categorizzazione dei rischi, interpretazione errata delle policy, output non sicuri o test delle vulnerabilità superficiali.
• Familiarità con ambiti quali prompt injection, ingegneria sociale, abuso informatico, frode, sicurezza relativa all'autolesionismo, contenuti estremisti, disinformazione, rischio per la privacy, comportamenti illeciti, bias e comportamento di rifiuto dei modelli è preferibile.
• Esperienza nella guida o nel supporto di team remoti di red-teamer, revisori, analisti di policy, annotatori, ricercatori o QA è fortemente preferibile.
• A proprio agio nel lavorare in ambienti remoti dinamici utilizzando strumenti come Discord, Google Sheets, Google Docs, tracker, dashboard e sistemi di gestione dei progetti.
• Altamente orientato ai dettagli e organizzato, con la capacità di mantenere guide di stile, FAQ, tracker, materiali di onboarding, compiti di calibrazione e documentazione.
• Esperienza con addestramento di IA, valutazione di LLM, valutazioni di sicurezza, QA della moderazione dei contenuti, QA delle policy o revisione basata su rubriche è un forte plus.