Über die Stelle
Über die Rolle
Wenn Sie gern Schwachstellen in Systemen finden, bevor es die Angreifer tun, ist diese Rolle wie für Sie gemacht. Wir suchen sicherheitsbewusste Fachleute, die dabei helfen, einige der fortschrittlichsten KI-Modelle der Welt Belastungstests zu unterziehen und zu härten. Sie suchen gezielt nach Schwachstellen, erstellen adversariale Prompts und liefern fachkundiges Feedback, das die Sicherheit und Zuverlässigkeit von KI-Systemen, die von Millionen genutzt werden, direkt mitgestaltet.
- Organisation: Alignerr
- Typ: Stundenvertrag
- Standort: Remote
- Arbeitsumfang: 10–40 Stunden/Woche
---
Was Sie tun werden
- Führen Sie Red-Teaming-Übungen durch, um Sicherheitsschwächen und ausnutzbare Verhaltensweisen in KI-Systemen zu identifizieren
- Entwerfen und führen Sie adversariale Prompts und Edge-Case-Szenarien aus, um die Guardrails der Modelle einem Belastungstest zu unterziehen
- Bewerten Sie KI-Ausgaben auf Sicherheitsfehler, Bias und Richtlinienverstöße
- Dokumentieren Sie Schwachstellen, Exploits und unerwartete Verhaltensweisen in klaren, strukturierten Berichten
- Arbeiten Sie mit Engineering-Teams zusammen, um praktische Gegenmaßnahmen und Verbesserungen zu empfehlen
- Bleiben Sie über neue KI-Sicherheitsbedrohungen, Jailbreak-Techniken und sich weiterentwickelnde Best Practices auf dem Laufenden
- Helfen Sie dabei, Bewertungsrubriken und Testprotokolle für die Sicherheit zu definieren und zu verfeinern
---
Wer Sie sind
- Sie haben ein solides Verständnis von Cybersicherheitskonzepten – Threat Modeling, Penetration Testing oder Ethical Hacking
- Sie haben in irgendeiner Form mit KI/ML-Systemen, LLMs oder Prompt Engineering gearbeitet
- Sie sind ein kreativer, analytischer Denker, der gern Dinge zerlegt, um sie besser zu machen
- Sie kommunizieren schriftlich klar und können komplexe Ergebnisse für technische Zielgruppen dokumentieren
- Sie sind eigeninitiativ und arbeiten gern selbstständig an asynchronen, aufgabenbasierten Aufträgen
- Vertrautheit mit Open-Source-KI-Plattformen ist von Vorteil
- Ein Hintergrund in Informationssicherheit, Ethical Hacking oder KI-Sicherheitsforschung ist von Vorteil – aber nicht erforderlich
---
Warum diese Rolle heraussticht
- Arbeiten Sie an vorderster Front – leisten Sie einen Beitrag zur KI-Sicherheitsforschung an der Seite führender Labore und Engineering-Teams
- Echte Wirkung – Ihre Ergebnisse beeinflussen direkt, wie KI-Systeme im großen Maßstab entwickelt und eingesetzt werden
- Volle Autonomie – legen Sie Ihre eigenen Arbeitszeiten fest, arbeiten Sie von überall aus und bestimmen Sie Ihren Zeitplan selbst
- Schnell wachsen – bauen Sie fundierte Expertise in einem der angesagtesten und folgenreichsten Bereiche der Tech-Branche auf
- Bleiben Sie engagiert – hochwertige Mitwirkende werden für fortlaufende Arbeit und erweiterten Aufgabenbereich berücksichtigt
- Keine Zugangsbarrieren – Sicherheitsfachleute mit jedem Hintergrund werden ausdrücklich ermutigt, sich zu bewerben