Über die Stelle
Stellenbezeichnung: Sicherheitsexperte für KI-Jailbreaks und Prompt-Injection
Vertragsart: Auftragnehmer
Standort: Remote
micro1 sucht Sicherheitsexperten für KI-Jailbreaks und Prompt-Injection, die zu einer innovativen Kundeninitiative mit Fokus auf KI-Sicherheit und Robustheit beitragen. In dieser Rolle setzen Sie Ihre Expertise ein, um die nächste Generation von KI-Systemen zu trainieren. Ihre Arbeit prägt, wie Modelle lernen, schlussfolgern und agieren – durch hochwertigen, praxisnahen Input. Vorherige KI-Erfahrung ist nicht erforderlich – entscheidend ist Ihr Fachwissen.
Aufgabenbereich
- Entwerfen und implementieren Sie fortgeschrittene Methoden zur Bewertung der Sicherheit von KI-Systemen mit Schwerpunkt auf ethischen Jailbreaks, LLM-Red-Teaming, Prompt-Injection und Szenarien des Missbrauchs der Tool-Nutzung.
- Entwickeln Sie umfassende domänenübergreifende Elicitation-Strategien, um mehrstufige (Multi-Turn) und komplexe adversariale Umgehungsmuster in KI-Modellen aufzudecken.
- Entwickeln, pflegen und aktualisieren Sie Regressionstest-Suiten, die systematisch auf Anfälligkeit für Jailbreaks und Prompt-Injection-Schwachstellen prüfen.
- Konstruieren Sie robuste Evaluierungs-Frameworks, die KI-Modelle gegen reale adversariale Bedrohungen einem Stresstest unterziehen, um die Gesamtrobustheit des Systems zu erhöhen.
- Arbeiten Sie mit technischen Stakeholdern zusammen, um Sicherheitserkenntnisse in umsetzbare Verbesserungen für Modellsicherheit und Risikominderung zu überführen.
- Dokumentieren Sie Methoden, Erkenntnisse und bewährte Verfahren in klaren, gut strukturierten schriftlichen Berichten und Präsentationen für technische wie nicht-technische Zielgruppen.
Bevorzugte Qualifikationen
- 2+ Jahre Expertise in Adversarial Machine Learning, LLM-Red-Teaming, KI-Sicherheitsevaluierung oder einem eng verwandten Sicherheitsbereich
- Nachgewiesene Erfahrung in der Erforschung, Prüfung oder Aufdeckung von Schwachstellen im Zusammenhang mit ethischen Jailbreaks, Prompt-Injection, Missbrauch der Tool-Nutzung oder adversarialen KI-Angriffen.
- Weiterführender Abschluss (PhD, MS) in Informatik, Cybersicherheit, maschinellem Lernen oder einer einschlägigen Disziplin oder ein gleichwertiger operativer/beruflicher Hintergrund.
- Hohe Glaubwürdigkeit und Anerkennung in der KI-Sicherheits- oder Adversarial-ML-Community – etwa durch veröffentlichte Forschung, Open-Source-Tools oder Konferenzvorträge.
- Außergewöhnliche schriftliche und mündliche Kommunikationsfähigkeiten mit starkem Fokus auf klare Dokumentation und gemeinsame Problemlösung.
- Frühere Mitarbeit in multidisziplinären Projekten oder funktionsübergreifenden KI-Sicherheitsinitiativen ist von Vorteil.
- Vertrautheit mit aktuellen LLM-Architekturen, Prompt-Engineering-Techniken und Tools zur Sicherheitsbewertung ist sehr wünschenswert.