Over de functie
Beschrijving
SME Careers is op zoek naar chemici en professionals op het gebied van chemische veiligheid om te auditen hoe AI-modellen reageren op gevoelige vragen binnen het vakgebied. Elke taak bevat een verzoek van een gebruiker en de antwoorden die drie verschillende modellen daarop gaven. Je classificeert het verzoek (goedaardig, dual-use of adversarieel), markeert elk antwoord als veilig of onveilig en geeft aan waarom, rangschikt de drie antwoorden ten opzichte van elkaar en schrijft het antwoord dat het model had moeten geven. Bij dual-use verzoeken noteer je ook wat het gevoelig maakt, welk legitiem doel het dient en wie een antwoord zou moeten kunnen krijgen.
De verzoeken zijn realistisch: wat synthetisch en analytisch chemici, toxicologen, arbeidshygiënisten, procesveiligheidsingenieurs, toezichthouders en af en toe kwaadwillenden daadwerkelijk vragen. Sommige zijn gewone professionele vragen die modellen ten onrechte weigeren, en die signaleren is net zo belangrijk als de gevaarlijke signaleren.
Wie we zoeken
Synthetisch en analytisch chemici; toxicologen en farmacologen; arbeidshygiënisten en professionals op het gebied van chemische veiligheid/procesveiligheid; CWC- of chemische-veiligheidsspecialisten; hazmat-, poison-control- of chemicaliënincidentresponders; en chemische toezichthouders (EPA, OSHA, HSE, aan OPCW gerelateerd, of gelijkwaardig). Meestal een relevante opleiding plus vijf of meer jaar professionele ervaring. Ervaring met veiligheidsinformatiebladen, blootstellingsbeoordeling, incidentrapporten of regelgevende beoordeling is een sterk pluspunt.
Voordat je solliciteert
Alleen toegankelijk voor burgers of permanente inwoners van de VS, het VK, Canada, Australië, Nieuw-Zeeland en de Europese Unie.
Wat je gaat doen
- AI-trainingcontent ontwikkelen: gedetailleerde prompts over diverse onderwerpen en antwoorden maken om het leren van AI te sturen, zodat de modellen een uitgebreid begrip van uiteenlopende onderwerpen weerspiegelen.
- AI-prestaties optimaliseren: AI-antwoorden evalueren en rangschikken om de nauwkeurigheid, vloeiendheid en contextuele relevantie van het model te verbeteren.
- Modelintegriteit waarborgen: AI-modellen testen op mogelijke onnauwkeurigheden of vooroordelen en hun betrouwbaarheid over use cases valideren.
Wat we zoeken
- Bachelor- of hoger diploma in Chemie, Chemische Technologie, Toxicologie, Milieu en Gezondheid & Veiligheid, Arbeidshygiëne, Beheer van Gevaarlijke Materialen of een sterk verwant vakgebied; een gevorderd diploma of professionele veiligheidscertificering is een sterk pluspunt.
- 3+ jaar professionele ervaring in chemische veiligheid, laboratoriumveiligheid, omgang met gevaarlijke materialen, EHS, toxicologie, arbeidshygiëne, chemische risicobeoordeling, naleving van regelgeving of verwant technisch veiligheidswerk.
- Sterk begrip van chemische gevaren, waaronder toxiciteit, corrosiviteit, ontvlambaarheid, reactiviteit, incompatibiliteiten, blootstellingsroutes, opslagrisico's, principes van opruimen van morsingen, PBM, ventilatie en veilige omgangspraktijken.
- Bekendheid met documentatie en kaders voor chemische veiligheid, zoals veiligheidsinformatiebladen, GHS-gevarencommunicatie, etikettering, blootstellingslimieten, risicobeoordelingen, SOP's en procedures voor escalatie van incidenten.
- Vermogen om door AI gegenereerde chemische veiligheidscontent te beoordelen op technische nauwkeurigheid, veiligheidsafstemming, risico op misbruik, gehallucineerde beweringen, ongepaste specificiteit en mogelijk gevaarlijke procedurele richtlijnen.
- Sterk beoordelingsvermogen om onderscheid te maken tussen veilige educatieve content en content die onveilige omgang met chemicaliën, synthese, misbruik, ontwijking of schadelijke experimenten mogelijk kan maken.
- Uitstekende schriftelijke Engelse vaardigheden, met het vermogen om duidelijke, gestructureerde feedback te geven waarin je uitlegt waarom een antwoord veilig, onveilig, onvolledig, misleidend of technisch onjuist is.
- Grote aandacht voor detail bij het beoordelen van chemische terminologie, eenheden, concentraties, blootstellingsaannames, gevarenclassificaties, veiligheidsmaatregelen en richtlijnen voor noodrespons.
- Je voelt je comfortabel bij het consistent toepassen van gedetailleerde projectrubrics op ambiguë of gevoelige scenario's op het gebied van chemische veiligheid.
- Eerdere ervaring met AI-veiligheid, red-team review, modelevaluatie, contentmoderatie, data-annotatie, technische QA, wetenschappelijke review of rubric-gebaseerde evaluatie is gewenst.