Acerca del puesto
Sobre el trabajo
Mercor está reuniendo un panel de expertos en explosivos y materiales energéticos para hacer red teaming a modelos de IA de frontera. El objetivo es comprobar si un modelo es capaz de juzgar correctamente el potencial de uso indebido de una solicitud técnica: Responder plenamente a las preguntas legítimas y rechazar las genuinamente peligrosas.
Usted:
- Redactará prompts de un solo turno desafiantes en su ámbito, etiquetados en tres niveles: benigno, de doble uso y adversarial.
- Evaluará las respuestas obtenidas conforme a un estándar de políticas definido y juzgará si cada una se gestionó correctamente.
- Redactará la respuesta de referencia; cómo es una respuesta correcta y el razonamiento técnico que lo justifica.
Los modelos tienden a fallar en este ámbito en ambas direcciones: rechazan preguntas rutinarias que un ingeniero de minas o un investigador formulan a diario y, en cambio, atienden una solicitud que deberían haber rechazado porque llegó disfrazada de lenguaje académico. Saber distinguir cuál es cuál requiere a alguien que haya hecho el trabajo.
Perfil que buscamos
Estamos reclutando dos perfiles y necesitamos ambos: químicos con experiencia en materiales especiales, e ingenieros u operadores con experiencia en sistemas de iniciación y propulsión. Se prefiere experiencia previa en evaluación de IA o red teaming. Los perfiles relevantes incluyen:
- Especialista en dispositivos peligrosos / profesional de seguridad pública — procedimientos de neutralización (render-safe) y evaluación de dispositivos.
- Químico de materiales especiales (pirotecnia o propulsión) — formulación, síntesis y pruebas de rendimiento.
- Especialista en materiales certificado federal / analista de incidentes — identificación forense y análisis de la escena.
- Ingeniero de propulsión y efectos — diseño de municiones y de sistemas de propulsión.
- Ingeniero de voladuras comerciales — manejo, almacenamiento y transporte de materiales especiales.
Qué exige este puesto además de profundidad técnica
Se trata de un trabajo que exige mucha escritura. Cada juicio que emita necesita una justificación escrita que pueda seguir una persona no especialista. La experiencia previa en redacción técnica, informes de incidentes o posteriores a una detonación, investigación publicada o como perito experto es una señal fuerte; incluya una muestra o un enlace.
También leerá y escribirá sobre escenarios de uso indebido en su ámbito durante periodos prolongados. Informamos de ello a los expertos con antelación, y puede hacer una pausa o apartarse en cualquier momento sin consecuencia alguna.
Antes de presentar su solicitud
Su trabajo aquí no implicará, ni debe basarse en, información clasificada o sujeta a control de exportaciones, ni nada cubierto por un acuerdo de confidencialidad (NDA) o por una obligación de revisión previa a la publicación. Si tiene este tipo de obligaciones, aún puede encajar bien; indíquelo en su solicitud y delimitaremos el trabajo en consecuencia.