Over de functie
Functietitel: Beveiligingsexpert AI-jailbreaks en promptinjectie
Type functie: Contractor
Locatie: Op afstand
micro1 zoekt beveiligingsexperts op het gebied van AI-jailbreaks en promptinjectie om bij te dragen aan een geavanceerd klantinitiatief gericht op AI-veiligheid en robuustheid. In deze rol past u uw expertise toe om de volgende generatie AI-systemen te helpen trainen. Uw werk bepaalt hoe modellen leren, redeneren en presteren, dankzij hoogwaardige input uit de praktijk. Voorafgaande ervaring met AI is niet vereist — uw vakkennis is wat telt.
Werkzaamheden
- Ontwerp en implementeer geavanceerde methodologieën voor het evalueren van de veiligheid van AI-systemen, met de focus op ethische jailbreaks, LLM-red teaming, promptinjectie en scenario's van misbruik van toolgebruik.
- Ontwikkel uitgebreide domeinoverstijgende elicitatiestrategieën om multi-turn en complexe adversariële omzeilingspatronen in AI-modellen bloot te leggen.
- Ontwikkel, onderhoud en actualiseer regressietestsuites die systematisch testen op gevoeligheid voor jailbreaks en kwetsbaarheden voor promptinjectie.
- Bouw robuuste evaluatiekaders die AI-modellen stresstesten tegen adversariële dreigingen uit de praktijk, met als doel de algehele robuustheid van het systeem te vergroten.
- Werk samen met technische belanghebbenden om beveiligingsbevindingen te vertalen naar uitvoerbare verbeteringen voor modelveiligheid en risicobeperking.
- Documenteer methodologieën, bevindingen en best practices in duidelijke, goed gestructureerde schriftelijke rapporten en presentaties voor zowel technische als niet-technische doelgroepen.
Gewenste kwalificaties
- Minimaal 2 jaar expertise in adversarial machine learning, LLM-red teaming, evaluatie van AI-veiligheid of een nauw verwant beveiligingsdomein
- Aantoonbare ervaring met het onderzoeken, testen of opsporen van kwetsbaarheden die verband houden met ethische jailbreaks, promptinjectie, misbruik van toolgebruik of adversariële AI-aanvallen.
- Hogere opleiding (PhD, MS) in computerwetenschappen, cybersecurity, machine learning of een relevante discipline, of een gelijkwaardige operationele/professionele achtergrond.
- Grote geloofwaardigheid en erkenning binnen de AI-beveiligings- of adversarial-ML-gemeenschap — zoals gepubliceerd onderzoek, open-sourcetools of conferentiepresentaties.
- Uitzonderlijke schriftelijke en mondelinge communicatieve vaardigheden, met een sterke focus op duidelijke documentatie en gezamenlijke probleemoplossing.
- Eerdere deelname aan multidisciplinaire projecten of cross-functionele AI-veiligheidsinitiatieven is een pluspunt.
- Vertrouwdheid met actuele LLM-architecturen, prompt-engineeringtechnieken en beveiligingsbeoordelingstools is zeer wenselijk.