Acerca del puesto
Sobre el trabajo
Mercor está reuniendo un panel de expertos en materiales nucleares y salvaguardias para realizar red teaming de modelos de IA de frontera. El objetivo es comprobar si un modelo es capaz de juzgar correctamente el potencial de uso indebido de una solicitud técnica: responder por completo a las preguntas legítimas y rechazar las que son realmente peligrosas.
Usted deberá:
- Redactar prompts exigentes de un solo turno en su ámbito, etiquetados en tres niveles: benigno, de doble uso y adversarial.
- Evaluar las respuestas obtenidas conforme a un estándar de políticas definido y juzgar si cada una se gestionó correctamente.
- Redactar la respuesta de referencia: cómo es una respuesta correcta y el razonamiento técnico que lo justifica.
Este ámbito se sitúa sobre la línea del doble uso más que la mayoría. El mismo cálculo de balance de materiales que cuadra la contabilidad de un inspector puede utilizarse para ocultar lo que falta en ella; la misma etapa del ciclo del combustible que abastece a un reactor de potencia es aquella por la que discurre una vía de proliferación. Un modelo que rechaza una pregunta rutinaria sobre seguridad frente a la criticidad falla tanto como uno que responde a una pregunta que no debería. Trazar esa línea de forma fiable es la razón por la que necesitamos profesionales en ejercicio y no generalistas.
Perfil que buscamos
Buscamos personas que hayan trabajado en el propio ciclo del combustible — enriquecimiento, reprocesamiento, fabricación, seguridad frente a la criticidad — y que sepan qué parámetros son ingeniería rutinaria y cuáles solo importan a quien pretende llegar con ellos a otro destino. Lo más importante es saber distinguir una pregunta profesional rutinaria de otra que busca obtener algo distinto. Usted redactará prompts que se sitúen exactamente en esa línea y después juzgará si el modelo la respetó.
Ejemplos de perfiles relevantes (idealmente con experiencia en red teaming):
- Ingeniería de enriquecimiento, conversión o fabricación de combustible — diseño de procesos, operaciones, capacidad de producción
- Reprocesamiento y etapa final del ciclo del combustible — separaciones, flujos de residuos, gestión del combustible gastado
- Ingeniero de seguridad frente a la criticidad — evaluaciones de seguridad frente a la criticidad, límites y controles, análisis de accidentes
- Análisis y modelización de sistemas del ciclo del combustible — flujos de materiales, rendimiento y economía del ciclo
- Análisis de seguridad o licenciamiento de una instalación del ciclo del combustible
Lo que exige este puesto además de profundidad técnica
Es un trabajo con una fuerte carga de redacción. Cada juicio que emita requiere una justificación escrita que pueda seguir una persona no especialista. La experiencia previa en redacción técnica, investigación publicada o peritaje es una señal muy positiva; incluya una muestra o un enlace. Además, leerá y escribirá sobre escenarios de uso indebido en su campo durante periodos prolongados. Informamos de ello a los expertos con antelación, y usted puede hacer una pausa o apartarse en cualquier momento sin penalización.
Antes de presentar su solicitud
Su trabajo aquí no implicará, ni debe basarse en, información clasificada o sujeta a control de exportaciones, ni nada cubierto por un acuerdo de confidencialidad (NDA) o por una obligación de revisión previa a la publicación. Si tiene tales obligaciones, aún puede encajar bien en el puesto; indíquelo en su solicitud y definiremos el alcance del trabajo en consecuencia.