Acerca del puesto
Sobre el trabajo
Mercor está reuniendo un panel de expertos en materiales nucleares y salvaguardias para realizar red teaming de modelos de IA de frontera. El objetivo es comprobar si un modelo es capaz de juzgar correctamente el potencial de uso indebido de una solicitud técnica: responder por completo a las preguntas legítimas y rechazar las que son realmente peligrosas.
Usted deberá:
- Redactar prompts exigentes de un solo turno en su ámbito, etiquetados en tres niveles: benigno, de doble uso y adversarial.
- Evaluar las respuestas obtenidas conforme a un estándar de políticas definido y juzgar si cada una se gestionó correctamente.
- Redactar la respuesta de referencia: cómo es una respuesta correcta y el razonamiento técnico que lo justifica.
Este ámbito se sitúa sobre la línea del doble uso más que la mayoría. La misma lista de control que detiene un envío le indica a un agente de adquisiciones qué evitar declarar; el mismo análisis de vías que fundamenta las políticas es una hoja de ruta si se lee en sentido contrario. Un modelo que rechaza una pregunta rutinaria sobre clasificación de exportaciones falla tanto como uno que responde a una pregunta que no debería. Trazar esa línea de forma fiable es la razón por la que necesitamos profesionales en ejercicio y no generalistas.
Perfil que buscamos
Buscamos personas que hayan trabajado cuestiones de proliferación a nivel profesional — control de exportaciones, aplicación de tratados o análisis de programas — y que sepan distinguir una pregunta de cumplimiento de una de elusión. Lo más importante es saber distinguir una pregunta profesional rutinaria de otra que busca obtener algo distinto: la misma lista de control que bloquea una transferencia también señala qué hay que rodear. Usted redactará prompts que se sitúen exactamente en esa línea y después juzgará si el modelo la respetó.
Ejemplos de perfiles relevantes (idealmente con experiencia en red teaming):
- Concesión de licencias, clasificación o aplicación del control de exportaciones — listas de doble uso, controles generales (catch-all), verificación de usuarios finales
- Aplicación de tratados y acuerdos — TNP, TPCEN, acuerdos de salvaguardias, acuerdos bilaterales de cooperación
- Análisis de vías de proliferación y de programas en un laboratorio, una agencia, un ministerio o un instituto de investigación
- Análisis de sanciones, redes de adquisición o comercio ilícito
- Análisis técnico y de fuentes abiertas de programas nucleares
Lo que exige este puesto además de profundidad técnica
Es un trabajo con una fuerte carga de redacción. Cada juicio que emita requiere una justificación escrita que pueda seguir una persona no especialista. La experiencia previa en redacción técnica, investigación publicada o peritaje es una señal muy positiva; incluya una muestra o un enlace. Además, leerá y escribirá sobre escenarios de uso indebido en su campo durante periodos prolongados. Informamos de ello a los expertos con antelación, y usted puede hacer una pausa o apartarse en cualquier momento sin penalización.
Antes de presentar su solicitud
Su trabajo aquí no implicará, ni debe basarse en, información clasificada o sujeta a control de exportaciones, ni nada cubierto por un acuerdo de confidencialidad (NDA) o por una obligación de revisión previa a la publicación. Si tiene tales obligaciones, aún puede encajar bien en el puesto; indíquelo en su solicitud y definiremos el alcance del trabajo en consecuencia.