Acerca del puesto
Título del puesto: Experto en seguridad de jailbreaks de IA e inyección de prompts
Tipo de puesto: Contratista
Ubicación: Remoto
micro1 contrata a Expertos en seguridad de jailbreaks de IA e inyección de prompts para contribuir a una iniciativa de vanguardia de un cliente centrada en la seguridad y la robustez de la IA. En este puesto, aplicará su experiencia para ayudar a entrenar la próxima generación de sistemas de IA. Su trabajo influirá en cómo los modelos aprenden, razonan y se desempeñan mediante aportaciones reales y de alta calidad. No se requiere experiencia previa en IA; lo que importa es su conocimiento del área.
Alcance del trabajo
- Diseñar e implementar metodologías avanzadas para evaluar la seguridad de los sistemas de IA, con especial atención a los jailbreaks éticos, el red teaming de LLM, la inyección de prompts y los escenarios de abuso del uso de herramientas.
- Crear estrategias integrales de elicitación entre dominios para descubrir patrones complejos y de varios turnos de elusión adversarial en los modelos de IA.
- Desarrollar, mantener y actualizar conjuntos de pruebas de regresión que evalúen de forma sistemática la susceptibilidad a los jailbreaks y las vulnerabilidades de inyección de prompts.
- Construir marcos de evaluación sólidos que sometan a pruebas de estrés a los modelos de IA frente a amenazas adversariales del mundo real, con el objetivo de mejorar la robustez general del sistema.
- Colaborar con las partes interesadas técnicas para traducir los hallazgos de seguridad en mejoras aplicables para la seguridad de los modelos y la mitigación de riesgos.
- Documentar metodologías, hallazgos y mejores prácticas en informes y presentaciones escritos, claros y bien estructurados, dirigidos tanto a públicos técnicos como no técnicos.
Cualificaciones preferidas
- 2 o más años de experiencia en aprendizaje automático adversarial, red teaming de LLM, evaluación de la seguridad de la IA o un ámbito de seguridad estrechamente relacionado
- Experiencia comprobada en la investigación, prueba o descubrimiento de vulnerabilidades relacionadas con jailbreaks éticos, inyección de prompts, abuso del uso de herramientas o ataques adversariales a la IA.
- Título avanzado (doctorado, maestría) en informática, ciberseguridad, aprendizaje automático o una disciplina relevante, o una trayectoria operativa/profesional equivalente.
- Alta credibilidad y reconocimiento dentro de la comunidad de seguridad de la IA o de aprendizaje automático adversarial, por ejemplo mediante investigaciones publicadas, herramientas de código abierto o ponencias en conferencias.
- Excepcionales habilidades de comunicación escrita y verbal, con gran énfasis en la documentación clara y la resolución colaborativa de problemas.
- Se valora la participación previa en proyectos multidisciplinarios o en iniciativas interfuncionales de seguridad de la IA.
- Es muy deseable la familiaridad con las arquitecturas actuales de LLM, las técnicas de ingeniería de prompts y las herramientas de evaluación de seguridad.