Acerca del puesto
Descripción
SME Careers está contratando a profesionales de explosivos y materiales energéticos para auditar cómo responden los modelos de IA a preguntas sensibles en el campo. Cada tarea te ofrece una solicitud de usuario y las respuestas que tres modelos diferentes dieron a ella. Clasificas la solicitud (benigna, de doble uso o adversarial), marcas cada respuesta como segura o insegura y explicas por qué, clasificas las tres entre sí y escribes la respuesta que el modelo debería haber dado. Para las solicitudes de doble uso también indicas qué la hace sensible, qué propósito legítimo cumple y quién debería poder obtener una respuesta.
Las solicitudes son realistas: lo que realmente preguntan los ingenieros de minería y voladuras, los pirotécnicos, los químicos de propulsores, los técnicos en explosivos, los investigadores y, ocasionalmente, actores maliciosos. Algunas son preguntas profesionales ordinarias que los modelos rechazan erróneamente, y detectarlas importa tanto como detectar las peligrosas.
A quién buscamos
Ingenieros de voladuras comerciales y especialistas en explosivos de minería/canteras; técnicos en explosivos y EOD militares o policiales; químicos de materiales energéticos, propulsores o pirotecnia; investigadores posteriores a explosiones y examinadores forenses; oficiales de seguridad de explosivos y reguladores (ATF, HSE, seguridad de explosivos del DoD o equivalentes). Normalmente, un título o certificación relevante más cinco o más años de experiencia profesional práctica. La experiencia redactando informes de incidentes, casos de seguridad u opiniones de expertos es una ventaja importante.
Antes de postularte
Abierto solo a ciudadanos o residentes permanentes de EE. UU., Reino Unido, Canadá, Australia, Nueva Zelanda y la Unión Europea.
Lo que harás
- Desarrollar contenido de entrenamiento de IA: crear prompts detallados en diversos temas y respuestas para guiar el aprendizaje de la IA, asegurando que los modelos reflejen una comprensión integral de temas diversos.
- Optimizar el rendimiento de la IA: evaluar y clasificar las respuestas de la IA para mejorar la precisión, fluidez y relevancia contextual del modelo.
- Garantizar la integridad del modelo: probar los modelos de IA en busca de posibles inexactitudes o sesgos, validando su fiabilidad en los distintos casos de uso.
Qué buscamos
- Título de grado o superior en Química, Ingeniería Química, Ciencia de Materiales, Materiales Energéticos, Ingeniería de Explosivos, Ingeniería de Seguridad, Gestión de Materiales Peligrosos, Salud y Seguridad Ambiental o un campo estrechamente relacionado; un título avanzado o una certificación profesional en seguridad es una ventaja importante.
- 3+ años de experiencia profesional en seguridad de explosivos, materiales energéticos, seguridad de materiales peligrosos, seguridad química, seguridad de defensa, seguridad industrial, EHS, cumplimiento normativo, evaluación de riesgos, revisión técnica de seguridad o trabajos relacionados.
- Sólido conocimiento de los conceptos de seguridad de explosivos y materiales energéticos, incluidos clasificación de peligros, sensibilidad, compatibilidad, principios de almacenamiento, consideraciones de transporte, condiciones ambientales, riesgo de explosión/incendio y marcos de manipulación segura.
- Familiaridad con documentación y marcos de seguridad como Hojas de Datos de Seguridad, comunicación de peligros GHS, clasificación de materiales peligrosos, SOP, evaluaciones de riesgos, procedimientos de escalado de incidentes y guías de seguridad/normativas aplicables.
- Capacidad para revisar contenido generado por IA sobre explosivos o materiales energéticos en busca de precisión técnica, alineación con la seguridad, riesgo de uso indebido, especificidad inapropiada, afirmaciones alucinadas y orientación procedimental potencialmente peligrosa.
- Sólido criterio para distinguir entre contenido educativo o de seguridad seguro y de alto nivel, y contenido que podría facilitar manipulación insegura, síntesis, adquisición, weaponización, evasión o experimentación dañina.
- Excelentes habilidades de redacción en inglés, con capacidad para proporcionar comentarios claros y estructurados explicando por qué una respuesta es segura, insegura, incompleta, engañosa o técnicamente incorrecta.
- Gran atención al detalle al revisar terminología, categorías de peligro, propiedades de materiales, unidades, supuestos de riesgo, controles de seguridad, consideraciones de almacenamiento/transporte y orientación para respuesta a emergencias.
- Cómodo aplicando rúbricas detalladas de proyecto de forma consistente en escenarios ambiguos o sensibles que involucren explosivos, materiales energéticos, pirotecnia, propulsores, químicos reactivos o mezclas peligrosas.
- Se prefiere experiencia previa en seguridad de IA, revisión de red team, evaluación de modelos, moderación de contenido, anotación de datos, QA técnica, revisión científica, revisión de EHS, revisión de materiales peligrosos o evaluación basada en rúbricas.