Experto en seguridad de jailbreaks de IA e inyección de prompts

Título del puesto: Experto en seguridad de jailbreaks de IA e inyección de prompts

Tipo de puesto: Contratista

Ubicación: Remoto

micro1 contrata a Expertos en seguridad de jailbreaks de IA e inyección de prompts para contribuir a una iniciativa de vanguardia de un cliente centrada en la seguridad y la robustez de la IA. En este puesto, aplicará su experiencia para ayudar a entrenar la próxima generación de sistemas de IA. Su trabajo influirá en cómo los modelos aprenden, razonan y se desempeñan mediante aportaciones reales y de alta calidad. No se requiere experiencia previa en IA; lo que importa es su conocimiento del área.

Alcance del trabajo

• Diseñar e implementar metodologías avanzadas para evaluar la seguridad de los sistemas de IA, con especial atención a los jailbreaks éticos, el red teaming de LLM, la inyección de prompts y los escenarios de abuso del uso de herramientas.
• Crear estrategias integrales de elicitación entre dominios para descubrir patrones complejos y de varios turnos de elusión adversarial en los modelos de IA.
• Desarrollar, mantener y actualizar conjuntos de pruebas de regresión que evalúen de forma sistemática la susceptibilidad a los jailbreaks y las vulnerabilidades de inyección de prompts.
• Construir marcos de evaluación sólidos que sometan a pruebas de estrés a los modelos de IA frente a amenazas adversariales del mundo real, con el objetivo de mejorar la robustez general del sistema.
• Colaborar con las partes interesadas técnicas para traducir los hallazgos de seguridad en mejoras aplicables para la seguridad de los modelos y la mitigación de riesgos.
• Documentar metodologías, hallazgos y mejores prácticas en informes y presentaciones escritos, claros y bien estructurados, dirigidos tanto a públicos técnicos como no técnicos.

Cualificaciones preferidas

• 2 o más años de experiencia en aprendizaje automático adversarial, red teaming de LLM, evaluación de la seguridad de la IA o un ámbito de seguridad estrechamente relacionado
• Experiencia comprobada en la investigación, prueba o descubrimiento de vulnerabilidades relacionadas con jailbreaks éticos, inyección de prompts, abuso del uso de herramientas o ataques adversariales a la IA.
• Título avanzado (doctorado, maestría) en informática, ciberseguridad, aprendizaje automático o una disciplina relevante, o una trayectoria operativa/profesional equivalente.
• Alta credibilidad y reconocimiento dentro de la comunidad de seguridad de la IA o de aprendizaje automático adversarial, por ejemplo mediante investigaciones publicadas, herramientas de código abierto o ponencias en conferencias.
• Excepcionales habilidades de comunicación escrita y verbal, con gran énfasis en la documentación clara y la resolución colaborativa de problemas.
• Se valora la participación previa en proyectos multidisciplinarios o en iniciativas interfuncionales de seguridad de la IA.
• Es muy deseable la familiaridad con las arquitecturas actuales de LLM, las técnicas de ingeniería de prompts y las herramientas de evaluación de seguridad.