Acerca del puesto
En este puesto de contratista remoto por horas, trabajará como Especialista en CBRN (SME) para revisar contenido generado por IA relacionado con temas de seguridad química, biológica, radiológica y nuclear y/o crear contenido de referencia de alta calidad que respalde un comportamiento de IA seguro, preciso y alineado con las políticas. Evaluará la precisión técnica, el enfoque de seguridad, la terminología, la conciencia de riesgos y la calidad del razonamiento, a la vez que proporciona comentarios escritos precisos.
Evaluará los resultados en cuanto a corrección, claridad, manejo responsable de temas peligrosos, rechazo/redirección adecuados cuando sea necesario y adherencia a las directrices del proyecto. Identificará errores en terminología CBRN, clasificación de peligros, preparación para emergencias, riesgo de exposición, medidas de protección, comunicación de seguridad pública, enfoque regulatorio e interpretación científica. También señalará contenido inseguro, que facilite capacidades operativas, engañoso o con exceso de confianza, y ayudará a garantizar que las respuestas del modelo sigan siendo útiles sin proporcionar instrucciones peligrosas.
Este puesto es en SME Careers, una empresa de servicios de datos de IA en rápido crecimiento y subsidiaria de SuperAnnotate, que entrega datos de entrenamiento para muchas de las mayores empresas de IA del mundo y laboratorios de modelos fundacionales. Su experiencia en CBRN ayuda directamente a mejorar los principales modelos de IA del mundo al hacer que sus respuestas sean más seguras, más precisas, más responsables y mejor alineadas con las expectativas de seguridad pública.
Lo que hará
- Revisar contenido de IA relacionado con CBRN: Evaluar respuestas generadas por IA sobre temas químicos, biológicos, radiológicos, nucleares, de materiales peligrosos, de preparación para emergencias y de seguridad pública en cuanto a precisión, seguridad y alineación con las directrices.
- Identificar contenido inseguro o que facilite capacidades: Señalar resultados que proporcionen detalles procedimentales peligrosos, orientación sobre adquisición, apoyo a la weaponización, tácticas de evasión, orientación insegura de laboratorio, consejos de exposición dañinos u otro contenido que facilite el uso indebido.
- Desarrollar contenido de referencia seguro: Crear ejemplos de referencia que respondan responsablemente a preguntas benignas sobre CBRN evitando instrucciones operativamente peligrosas.
- Optimizar el comportamiento de seguridad de la IA: Evaluar y clasificar los resultados del modelo según el manejo seguro, el enfoque correcto del riesgo, los rechazos adecuados, la redirección útil, la precisión científica y la claridad.
- Garantizar la integridad del modelo: Detectar afirmaciones alucinadas, clasificaciones de peligro incorrectas, declaraciones de riesgo engañosas, conclusiones con exceso de confianza, orientación deficiente sobre escalamiento o recomendaciones inseguras.
- Apoyar la revisión alineada con las políticas: Aplicar las rúbricas del proyecto de manera consistente y proporcionar comentarios escritos claros que expliquen por qué el contenido es seguro, inseguro, incompleto o técnicamente incorrecto.
- Mantener la calidad técnica: Garantizar que el contenido relacionado con CBRN utilice terminología precisa, evite la exageración o minimización de riesgos y comunique información de seguridad de manera responsable y adecuada para el usuario.
- Escalar casos sensibles: Señalar contenido ambiguo, de alto riesgo o potencialmente dañino para revisión adicional según las directrices del proyecto.
Lo que buscamos
- Título de licenciatura o superior en Química, Biología, Microbiología, Salud Pública, Toxicología, Ingeniería Nuclear, Ciencias de la Radiación, Gestión de Emergencias, Salud y Seguridad Ambiental, Bioseguridad, Estudios de Seguridad o un campo relacionado, o experiencia profesional equivalente.
- Sólida competencia profesional en inglés, mínimo C1, para seguir las directrices y proporcionar comentarios escritos detallados en inglés.
- 3+ años de experiencia profesional en seguridad CBRN, preparación para emergencias, materiales peligrosos, bioseguridad, seguridad radiológica, salud pública, salud y seguridad ambiental, análisis de defensa/seguridad, revisión técnica o trabajo relacionado.
- Sólido entendimiento de las categorías de peligros químicos, biológicos, radiológicos y nucleares, incluida la evaluación de riesgos segura a alto nivel, las vías de exposición, los conceptos de protección, la comunicación de emergencias y los principios de seguridad pública.
- Capacidad para evaluar resultados de IA relacionados con CBRN en cuanto a precisión, seguridad, integridad, alineación con las políticas y riesgo potencial de uso indebido.
- Cómodo identificando instrucciones inseguras, detalles que faciliten capacidades operativas, especificidad inapropiada, afirmaciones engañosas sobre peligros, consejos de emergencia inexactos o conclusiones técnicas no respaldadas.
- Se prefiere familiaridad con marcos de seguridad, conceptos de respuesta a emergencias, niveles de bioseguridad, comunicación de materiales peligrosos, principios de protección radiológica, conceptos de descontaminación, notificación de incidentes y orientación de salud pública.
- Gran atención al detalle al revisar terminología, unidades, conceptos de exposición, niveles de riesgo, avisos de seguridad, orientación sobre escalamiento y límites técnicos sensibles.
- Confiable, autónomo y capaz de ofrecer una calidad constante en un flujo de trabajo de contratista remoto por horas en distintas zonas horarias.
- Se prefiere firmemente experiencia previa en seguridad de IA, anotación de datos, control de calidad técnico, revisión de políticas, evaluación de riesgos, revisión de red team, revisión científica o evaluación basada en rúbricas.