Acerca del puesto
Buscamos investigadores veteranos de aprendizaje automático con experiencia práctica entrenando y mejorando modelos de aprendizaje profundo de extremo a extremo, tanto en visión como en lenguaje. Usted trabajará en problemas de investigación empírica de ML abiertos y bien delimitados.
Responsabilidades
- Entrenar clasificadores de imágenes y modelos generativos de imágenes desde cero, y ajustar (fine-tuning) modelos de lenguaje de pesos abiertos.
- Sacar el máximo partido a presupuestos limitados de datos, cómputo y tamaño de modelo.
- Hacer que los modelos sean robustos, tanto ante entradas adversarias como ante conversaciones adversarias.
- Comprimir modelos para cumplir restricciones estrictas de tamaño y latencia sin sacrificar precisión.
- Diagnosticar y resolver problemas de entrenamiento.
Requisitos
Buscamos candidatos con sólida experiencia en una o más de las siguientes áreas:
Robustez adversarial
Experiencia con:
- Entrenamiento adversarial de clasificadores de imágenes (p. ej., entrenamiento basado en PGD, TRADES).
- Evaluación de la precisión robusta bajo modelos de amenaza estándar (p. ej., ataques L∞, AutoAttack) y evitación de las trampas del enmascaramiento de gradientes.
- Gestión del equilibrio entre robustez y precisión, y del sobreajuste robusto.
Visión por computadora eficiente
Experiencia con:
- Entrenamiento de clasificadores de imágenes de extremo a extremo, especialmente para el reconocimiento de grano fino (muchas clases visualmente similares, pocos ejemplos por clase).
- Compresión de modelos: cuantización, poda y destilación de conocimiento de modelos maestros grandes a modelos estudiantes pequeños.
- Despliegue de modelos con presupuestos estrictos de tamaño o latencia (en el dispositivo, en el borde o en entornos embebidos).
Modelado generativo de imágenes
Experiencia con:
- Entrenamiento de modelos generativos de imágenes desde cero: modelos de difusión, GAN, VAE o modelos basados en flujos.
- Iteración frente a métricas de calidad de las muestras, como FID.
- Trucos de eficiencia de entrenamiento que producen buenos generadores con rapidez y con pocos parámetros.
Post-entrenamiento de LLM y robustez del comportamiento
Experiencia práctica con uno o más de los siguientes:
- Ajuste fino supervisado y optimización de preferencias (DPO, RLHF, RLAIF) de modelos de lenguaje de pesos abiertos, incluida la construcción de sus propios conjuntos de datos mediante generación sintética, supervisión ruidosa o débil y muestreo por rechazo.
- Moldeado del comportamiento conversacional a lo largo de múltiples turnos: resistencia a la persuasión y a la adulación (sycophancy), confianza calibrada y saber cuándo aceptar correcciones.
- Ajuste fino de estilo alineamiento que cambia un comportamiento específico preservando la capacidad general.
Preentrenamiento multilingüe
Experiencia con:
- Entrenamiento desde cero de modelos multilingües o de idiomas de pocos recursos.
- Diseño de tokenizadores para diversos sistemas de escritura y lenguas tipológicamente diversas.
- Equilibrio de datos por idioma muy desiguales (temperaturas de muestreo, transferencia interlingüística) en regímenes con datos limitados.
Áreas de interés adicionales
La experiencia en cualquiera de las siguientes es un plus:
- Leyes de escalado e investigación sobre eficiencia del entrenamiento.
- Aprendizaje curricular y ordenación de datos.
- Evaluación de modelos: construcción de benchmarks, control de la contaminación, comparaciones estadísticamente sólidas.
- Estimación de la incertidumbre y calibración de modelos.
- Aumento de datos y datos sintéticos para la robustez.
Cualificaciones generales
- 3+ años de experiencia en investigación de aprendizaje automático (la investigación doctoral cuenta para este requisito).
- Sólida experiencia con PyTorch, JAX, TensorFlow o frameworks de ML similares.
- Título de una universidad del top 100, experiencia en una empresa FAANG o en una empresa de IA comparable, o una trayectoria investigadora equivalente mediante publicaciones o contribuciones de código abierto de impacto.
Por qué unirse
- Trabaje en investigación de aprendizaje automático de vanguardia.
- Colabore con investigadores de IA líderes en proyectos desafiantes y de gran impacto.
- Trabajo flexible por proyectos con una remuneración competitiva.