Acerca del puesto
Sobre el trabajo
Mercor está reuniendo un panel de expertos en química y seguridad química para realizar red teaming de modelos de IA de frontera. El objetivo es comprobar si un modelo es capaz de juzgar correctamente el potencial de uso indebido de una solicitud técnica: responder por completo a las preguntas legítimas y rechazar las que son realmente peligrosas.
Usted deberá:
- Redactar prompts exigentes de un solo turno en su ámbito, etiquetados en tres niveles: benigno, de doble uso y adversarial.
- Evaluar las respuestas obtenidas conforme a un estándar de políticas definido y juzgar si cada una se gestionó correctamente.
- Redactar la respuesta de referencia: cómo es una respuesta correcta y el razonamiento técnico que lo justifica.
Este ámbito se sitúa sobre la línea del doble uso más que la mayoría. El mismo modelo de dispersión que determina la ubicación de una planta y fija un radio de evacuación también predice una exposición; el mismo análisis de peligros que encuentra una vía de fallo es una lista de vías de fallo. Un modelo que rechaza una pregunta rutinaria sobre límites de exposición falla tanto como uno que responde a una pregunta que no debería. Trazar esa línea de forma fiable es la razón por la que necesitamos profesionales en ejercicio y no generalistas.
Perfil que buscamos
Buscamos personas que hayan evaluado exposiciones reales y peligros de proceso reales, y que hayan dado su aprobación a los controles. Lo más importante es saber distinguir una pregunta profesional rutinaria de otra que busca obtener algo distinto: el mismo modelo de emisión que protege a una comunidad estima una consecuencia. Usted redactará prompts que se sitúen exactamente en esa línea y después juzgará si el modelo la respetó.
Ejemplos de perfiles relevantes (idealmente con experiencia en red teaming):
- Higienista industrial certificado — evaluación de la exposición, estrategia de muestreo, control banding
- Análisis de peligros de proceso — HAZOP, LOPA, estudios what-if, gestión del cambio
- Modelización de emisiones tóxicas y de dispersión — análisis de consecuencias, criterios AEGL/ERPG, ubicación de instalaciones
- Diseño de programas de ventilación, contención y equipos de protección individual frente a peligros químicos
- Cumplimiento normativo — PSM, Seveso, COMAH, OSHA o equivalentes nacionales
Lo que exige este puesto además de profundidad técnica
Es un trabajo con una fuerte carga de redacción. Cada juicio que emita requiere una justificación escrita que pueda seguir una persona no especialista. La experiencia previa en redacción técnica, investigación publicada o peritaje es una señal muy positiva; incluya una muestra o un enlace. Además, leerá y escribirá sobre escenarios de uso indebido en su campo durante periodos prolongados. Informamos de ello a los expertos con antelación, y usted puede hacer una pausa o apartarse en cualquier momento sin penalización.
Antes de presentar su solicitud
Su trabajo aquí no implicará, ni debe basarse en, información clasificada o sujeta a control de exportaciones, ni nada cubierto por un acuerdo de confidencialidad (NDA) o por una obligación de revisión previa a la publicación. Si tiene tales obligaciones, aún puede encajar bien en el puesto; indíquelo en su solicitud y definiremos el alcance del trabajo en consecuencia.