Acerca del puesto
Sobre el trabajo
Mercor está reuniendo un panel de expertos en química y seguridad química para realizar red teaming de modelos de IA de frontera. El objetivo es comprobar si un modelo es capaz de juzgar correctamente el potencial de uso indebido de una solicitud técnica: responder por completo a las preguntas legítimas y rechazar las que son realmente peligrosas.
Usted deberá:
- Redactar prompts exigentes de un solo turno en su ámbito, etiquetados en tres niveles: benigno, de doble uso y adversarial.
- Evaluar las respuestas obtenidas conforme a un estándar de políticas definido y juzgar si cada una se gestionó correctamente.
- Redactar la respuesta de referencia: cómo es una respuesta correcta y el razonamiento técnico que lo justifica.
Este ámbito se sitúa sobre la línea del doble uso más que la mayoría. El mismo método que detecta un compuesto peligroso a nivel de trazas define el umbral por debajo del cual alguien intentaría mantenerse; la misma entrada de biblioteca que identifica una incógnita indica qué verá y qué no verá un cribado. Un modelo que rechaza una pregunta rutinaria sobre validación de métodos falla tanto como uno que responde a una pregunta que no debería. Trazar esa línea de forma fiable es la razón por la que necesitamos profesionales en ejercicio y no generalistas.
Perfil que buscamos
Buscamos analistas que hayan desarrollado y validado métodos para compuestos peligrosos — personas que saben lo que realmente significa un límite de detección y lo que implica. Lo más importante es saber distinguir una pregunta profesional rutinaria de otra que busca obtener algo distinto: el mismo método de detección que encuentra un compuesto describe cómo eludir el cribado. Usted redactará prompts que se sitúen exactamente en esa línea y después juzgará si el modelo la respetó.
Ejemplos de perfiles relevantes (idealmente con experiencia en red teaming):
- Detección e identificación de compuestos peligrosos — GC-MS, LC-MS/MS, IR, RMN
- Desarrollo y validación de métodos para análisis de trazas
- Muestreo y análisis ambiental, ocupacional o de respuesta a emergencias
- Patrones de referencia, bibliotecas espectrales e identificación de incógnitas
- Acreditación de laboratorios, QA/QC y ensayos de aptitud
Lo que exige este puesto además de profundidad técnica
Es un trabajo con una fuerte carga de redacción. Cada juicio que emita requiere una justificación escrita que pueda seguir una persona no especialista. La experiencia previa en redacción técnica, investigación publicada o peritaje es una señal muy positiva; incluya una muestra o un enlace. Además, leerá y escribirá sobre escenarios de uso indebido en su campo durante periodos prolongados. Informamos de ello a los expertos con antelación, y usted puede hacer una pausa o apartarse en cualquier momento sin penalización.
Antes de presentar su solicitud
Su trabajo aquí no implicará, ni debe basarse en, información clasificada o sujeta a control de exportaciones, ni nada cubierto por un acuerdo de confidencialidad (NDA) o por una obligación de revisión previa a la publicación. Si tiene tales obligaciones, aún puede encajar bien en el puesto; indíquelo en su solicitud y definiremos el alcance del trabajo en consecuencia.