À propos du poste
Description
SME Careers recrute des chimistes et des professionnels de la sécurité chimique pour auditer la manière dont les modèles d'IA répondent à des questions sensibles dans le domaine. Chaque tâche vous fournit une demande d'utilisateur et les réponses de trois modèles différents à cette demande. Vous classez la demande (bénigne, à double usage ou adversarial), vous marquez chaque réponse comme sûre ou non sûre et vous expliquez pourquoi, vous classez les trois réponses les unes par rapport aux autres et vous rédigez la réponse que le modèle aurait dû donner. Pour les demandes à double usage, vous notez également ce qui les rend sensibles, à quel usage légitime elles servent et qui devrait pouvoir obtenir une réponse.
Les demandes sont réalistes : ce que les chimistes de synthèse et analystes, les toxicologues, les hygiénistes industriels, les ingénieurs en sécurité des procédés, les régulateurs et parfois des acteurs malveillants demandent réellement. Certaines sont des questions professionnelles ordinaires que les modèles refusent à tort, et détecter celles-ci compte autant que détecter les dangereuses.
Profils recherchés
Chimistes de synthèse et analystes ; toxicologues et pharmacologues ; hygiénistes industriels et professionnels de la sécurité chimique/sécurité des procédés ; spécialistes de la CIAC ou de la sécurité chimique ; intervenants en matières dangereuses, en toxicologie d'urgence ou en incidents chimiques ; et régulateurs chimiques (EPA, OSHA, HSE, proches de l'OIAC ou équivalents). Généralement un diplôme pertinent plus cinq ans ou plus d'expérience professionnelle. Une expérience avec les fiches de données de sécurité, l'évaluation de l'exposition, les rapports d'incident ou l'examen réglementaire est un atout majeur.
Avant de postuler
Ouvert uniquement aux citoyens ou résidents permanents des États-Unis, du Royaume-Uni, du Canada, de l'Australie, de la Nouvelle-Zélande et de l'Union européenne.
Ce que vous ferez
- Développer du contenu d'entraînement d'IA : créer des invites détaillées sur divers sujets et des réponses pour guider l'apprentissage de l'IA, en veillant à ce que les modèles reflètent une compréhension complète de sujets divers.
- Optimiser les performances de l'IA : évaluer et classer les réponses de l'IA pour améliorer la précision, la fluidité et la pertinence contextuelle du modèle.
- Garantir l'intégrité du modèle : tester les modèles d'IA pour détecter d'éventuelles inexactitudes ou biais, en validant leur fiabilité dans différents cas d'usage.
Ce que nous recherchons
- Licence ou niveau supérieur en chimie, génie chimique, toxicologie, santé et sécurité environnementales, hygiène industrielle, gestion des matières dangereuses ou un domaine étroitement lié ; un diplôme avancé ou une certification professionnelle en sécurité est un atout majeur.
- 3+ ans d'expérience professionnelle en sécurité chimique, sécurité des laboratoires, manipulation de matières dangereuses, EHS, toxicologie, hygiène industrielle, évaluation des risques chimiques, conformité réglementaire ou travail technique de sécurité connexe.
- Solide compréhension des dangers chimiques, notamment la toxicité, la corrosivité, l'inflammabilité, la réactivité, les incompatibilités, les voies d'exposition, les risques de stockage, les principes d'intervention en cas de déversement, les EPI, la ventilation et les pratiques de manipulation sûres.
- Familiarité avec la documentation et les cadres de sécurité chimique tels que les fiches de données de sécurité, la communication des dangers du SGH, l'étiquetage, les limites d'exposition, les évaluations des risques, les procédures opératoires normalisées et les procédures d'escalade des incidents.
- Capacité à examiner le contenu de sécurité chimique généré par l'IA pour en vérifier l'exactitude technique, l'alignement en matière de sécurité, le risque de détournement d'usage, les affirmations hallucinées, la spécificité inappropriée et les indications procédurales potentiellement dangereuses.
- Jugement solide pour distinguer un contenu éducatif sûr d'un contenu susceptible de permettre une manipulation, une synthèse, un détournement d'usage, une évasion ou une expérimentation nocive de produits chimiques en toute insécurité.
- Excellentes compétences en anglais écrit, avec la capacité de fournir des retours clairs et structurés expliquant pourquoi une réponse est sûre, non sûre, incomplète, trompeuse ou techniquement incorrecte.
- Grande attention aux détails lors de l'examen de la terminologie chimique, des unités, des concentrations, des hypothèses d'exposition, des classifications de dangers, des contrôles de sécurité et des consignes d'intervention d'urgence.
- À l'aise pour appliquer de manière cohérente des grilles d'évaluation détaillées à des scénarios de sécurité chimique ambigus ou sensibles.
- Une expérience préalable en sûreté de l'IA, revue red-team, évaluation de modèles, modération de contenu, annotation de données, assurance qualité technique, revue scientifique ou évaluation basée sur des grilles d'évaluation est préférée.