À propos du poste
Dans ce rôle de sous-traitant à distance rémunéré à l'heure, vous travaillerez en tant que spécialiste CBRN (SME) pour examiner du contenu généré par IA lié aux sujets de sécurité chimique, biologique, radiologique et nucléaire et/ou créer du contenu de référence de haute qualité qui soutient un comportement de l'IA sûr, précis et conforme aux politiques. Vous évaluerez l'exactitude technique, le cadrage de sécurité, la terminologie, la conscience des risques et la qualité du raisonnement tout en fournissant une rétroaction écrite précise.
Vous évaluerez les sorties pour leur exactitude, leur clarté, la gestion responsable de sujets dangereux, le refus/redirection approprié lorsque nécessaire, et le respect des directives du projet. Vous identifierez les erreurs dans la terminologie CBRN, la classification des dangers, la préparation aux urgences, le risque d'exposition, les mesures de protection, la communication de sécurité publique, le cadrage réglementaire et l'interprétation scientifique. Vous signalerez également le contenu dangereux, permettant une mise en œuvre opérationnelle, trompeur ou trop confiant, et aiderez à garantir que les réponses du modèle restent utiles sans fournir d'instructions dangereuses.
Ce rôle est au sein de SME Careers, une entreprise de services de données IA en pleine croissance et filiale de SuperAnnotate, fournissant des données d'entraînement pour bon nombre des plus grandes entreprises d'IA et laboratoires de modèles de fondation au monde. Votre expertise CBRN contribue directement à améliorer les meilleurs modèles d'IA au monde en rendant leurs réponses plus sûres, plus précises, plus responsables et mieux alignées sur les attentes de sécurité publique.
Ce que vous ferez
- Examiner le contenu IA lié au CBRN : évaluer les réponses générées par IA portant sur des sujets chimiques, biologiques, radiologiques, nucléaires, de matières dangereuses, de préparation aux urgences et de sécurité publique pour leur exactitude, leur sécurité et leur alignement sur les directives.
- Identifier le contenu dangereux ou facilitant : signaler les sorties qui fournissent des détails procéduraux dangereux, des conseils d'acquisition, un soutien à la weaponisation, des tactiques d'évasion, des conseils de laboratoire dangereux, des conseils d'exposition nuisibles ou tout autre contenu facilitant un usage abusif.
- Développer du contenu de référence sûr : créer des exemples de référence qui répondent de manière responsable à des questions CBRN bénignes tout en évitant des instructions opérationnellement dangereuses.
- Optimiser le comportement de sécurité de l'IA : évaluer et classer les sorties du modèle en fonction de la gestion sûre, du cadrage correct des risques, des refus appropriés, de la redirection utile, de l'exactitude scientifique et de la clarté.
- Garantir l'intégrité du modèle : détecter les affirmations hallucinées, les classifications de dangers incorrectes, les déclarations de risque trompeuses, les conclusions trop confiantes, les conseils d'escalade médiocres ou les recommandations dangereuses.
- Soutenir un examen aligné sur les politiques : appliquer les rubriques du projet de manière cohérente et fournir une rétroaction écrite claire expliquant pourquoi le contenu est sûr, dangereux, incomplet ou techniquement incorrect.
- Maintenir la qualité technique : garantir que le contenu lié au CBRN utilise une terminologie précise, évite l'exagération ou la minimisation des risques, et communique les informations de sécurité de manière responsable et adaptée à l'utilisateur.
- Escalader les cas sensibles : signaler le contenu ambigu, à haut risque ou potentiellement nuisible pour un examen supplémentaire conformément aux directives du projet.
Ce que nous recherchons
- Licence ou diplôme supérieur en chimie, biologie, microbiologie, santé publique, toxicologie, génie nucléaire, science des rayonnements, gestion des urgences, santé et sécurité environnementales, biosécurité, études de sécurité ou un domaine connexe, ou expérience professionnelle équivalente.
- Forte maîtrise professionnelle de l'anglais, minimum C1, pour suivre les directives et fournir une rétroaction écrite détaillée en anglais.
- 3+ années d'expérience professionnelle en sécurité CBRN, préparation aux urgences, matières dangereuses, biosécurité, sûreté radiologique, santé publique, santé et sécurité environnementales, analyse de défense/sécurité, examen technique ou travail connexe.
- Solide compréhension des catégories de dangers chimiques, biologiques, radiologiques et nucléaires, y compris l'évaluation sûre des risques à haut niveau, les voies d'exposition, les concepts de protection, la communication d'urgence et les principes de sécurité publique.
- Capacité à évaluer les sorties d'IA liées au CBRN pour leur exactitude, leur sécurité, leur exhaustivité, leur alignement sur les politiques et le risque d'usage abusif potentiel.
- À l'aise pour identifier des instructions dangereuses, des détails permettant une mise en œuvre opérationnelle, une spécificité inappropriée, des déclarations de dangers trompeuses, des conseils d'urgence inexacts ou des conclusions techniques non étayées.
- Familiarité avec les cadres de sécurité, les concepts d'intervention d'urgence, les niveaux de biosécurité, la communication sur les matières dangereuses, les principes de radioprotection, les concepts de décontamination, la déclaration d'incidents et les directives de santé publique est préférée.
- Grande attention aux détails lors de l'examen de la terminologie, des unités, des concepts d'exposition, des niveaux de risque, des avertissements de sécurité, des conseils d'escalade et des limites techniques sensibles.
- Fiable, autonome et capable de fournir une qualité constante dans un flux de travail de sous-traitant à distance rémunéré à l'heure à travers les fuseaux horaires.
- Une expérience préalable en sécurité de l'IA, annotation de données, QA technique, examen de politiques, évaluation des risques, examen red-team, examen scientifique ou évaluation basée sur des rubriques est fortement préférée.