À propos du poste
Description
SME Careers recrute des professionnels des explosifs et des matériaux énergétiques pour auditer la façon dont les modèles d'IA répondent à des questions sensibles dans ce domaine. Chaque tâche vous fournit une demande d'utilisateur et les réponses données par trois modèles différents. Vous classez la demande (bénigne, à double usage ou malveillante), vous marquez chaque réponse comme sûre ou non sûre et vous expliquez pourquoi, vous classez les trois réponses les unes par rapport aux autres, et vous rédigez la réponse que le modèle aurait dû donner. Pour les demandes à double usage, vous notez également ce qui les rend sensibles, à quel usage légitime elles servent et qui devrait pouvoir obtenir une réponse.
Les demandes sont réalistes : ce que demandent réellement les ingénieurs en minage et en tir de mines, les pyrotechniciens, les chimistes spécialistes des propergols, les techniciens en déminage, les enquêteurs et, parfois, des acteurs malveillants. Certaines sont des questions professionnelles ordinaires que les modèles refusent à tort, et détecter celles-là compte autant que détecter les dangereuses.
Profil recherché
Ingénieurs en tir de mines commerciaux et spécialistes des explosifs en mines/carrières ; techniciens en déminage (EOD) et en explosifs de l'armée ou de la police ; chimistes des matériaux énergétiques, des propergols ou de la pyrotechnie ; enquêteurs après explosion et examinateurs médico-légaux ; responsables de la sécurité des explosifs et autorités de régulation (ATF, HSE, sécurité des explosifs du DoD ou équivalent). Généralement un diplôme ou une certification pertinente plus cinq ans ou plus d'expérience professionnelle pratique. Une expérience de rédaction de rapports d'incident, de dossiers de sécurité ou d'avis d'expert est un atout majeur.
Avant de postuler
Ouvert uniquement aux citoyens ou résidents permanents des États-Unis, du Royaume-Uni, du Canada, de l'Australie, de la Nouvelle-Zélande et de l'Union européenne
Ce que vous ferez
- Développer du contenu d'entraînement pour l'IA : créer des invites détaillées sur divers sujets et des réponses pour guider l'apprentissage de l'IA, en veillant à ce que les modèles reflètent une compréhension approfondie de sujets variés.
- Optimiser les performances de l'IA : évaluer et classer les réponses de l'IA afin d'améliorer l'exactitude, la fluidité et la pertinence contextuelle du modèle.
- Garantir l'intégrité du modèle : tester les modèles d'IA pour détecter d'éventuelles imprécisions ou biais, en validant leur fiabilité dans différents cas d'usage.
Profil recherché
- Licence ou diplôme supérieur en chimie, génie chimique, science des matériaux, matériaux énergétiques, génie des explosifs, ingénierie de la sécurité, gestion des matières dangereuses, santé et sécurité environnementales, ou un domaine étroitement apparenté ; un diplôme avancé ou une certification professionnelle en sécurité est un atout majeur.
- 3+ ans d'expérience professionnelle en sécurité des explosifs, matériaux énergétiques, sécurité des matières dangereuses, sécurité chimique, sécurité de la défense, sécurité industrielle, EHS, conformité réglementaire, évaluation des risques, revue de sécurité technique ou travail connexe.
- Solide compréhension des concepts de sécurité des explosifs et des matériaux énergétiques, notamment la classification des dangers, la sensibilité, la compatibilité, les principes de stockage, les considérations de transport, les conditions environnementales, le risque d'explosion/incendie et les cadres de manipulation sûre.
- Connaissance de la documentation et des cadres de sécurité tels que les fiches de données de sécurité, la communication des dangers du SGH, la classification des matières dangereuses, les SOP, les évaluations des risques, les procédures d'escalade des incidents et les orientations de sécurité/réglementaires applicables.
- Capacité à examiner du contenu généré par l'IA sur les explosifs ou les matériaux énergétiques pour en vérifier l'exactitude technique, l'alignement sur la sécurité, le risque de mésusage, la spécificité inappropriée, les affirmations hallucinées et les indications procédurales potentiellement dangereuses.
- Solide jugement pour distinguer un contenu éducatif ou de sécurité sûr et de haut niveau d'un contenu susceptible de permettre une manipulation, une synthèse, une acquisition, une militarisation, une évasion ou une expérimentation dangereuses.
- Excellentes compétences rédactionnelles en anglais, avec la capacité de fournir un retour clair et structuré expliquant pourquoi une réponse est sûre, non sûre, incomplète, trompeuse ou techniquement incorrecte.
- Grand souci du détail lors de l'examen de la terminologie, des catégories de dangers, des propriétés des matériaux, des unités, des hypothèses de risque, des mesures de contrôle de sécurité, des considérations de stockage/transport et des consignes d'intervention d'urgence.
- À l'aise pour appliquer de manière cohérente des grilles d'évaluation détaillées du projet à des scénarios ambigus ou sensibles impliquant des explosifs, des matériaux énergétiques, de la pyrotechnie, des propergols, des produits chimiques réactifs ou des mélanges dangereux.
- Une expérience préalable en sûreté de l'IA, revue de type red team, évaluation de modèles, modération de contenu, annotation de données, QA technique, revue scientifique, revue EHS, revue de matières dangereuses ou évaluation basée sur des grilles est préférée.