Über die Stelle
Über Turing
Turing hat seinen Sitz in San Francisco, Kalifornien, und ist der weltweit führende Forschungsbeschleuniger für Frontier-KI-Labors sowie ein vertrauenswürdiger Partner für globale Unternehmen, die fortschrittliche KI-Systeme einsetzen. Turing unterstützt Kunden auf zwei Arten: erstens, indem es die Spitzenforschung mit hochwertigen Daten, fortschrittlichen Trainings-Pipelines sowie führenden KI-Forschern beschleunigt, die sich auf Programmierung, logisches Denken, MINT, Mehrsprachigkeit, Multimodalität und Agenten spezialisiert haben; und zweitens, indem es diese Expertise nutzt, um Unternehmen dabei zu helfen, KI vom Proof of Concept zu proprietärer Intelligenz weiterzuentwickeln – mit Systemen, die zuverlässig arbeiten, messbare Wirkung erzielen und nachhaltige Ergebnisse in der Gewinn- und Verlustrechnung bewirken.
Angebotsdetails
- Erforderlicher Zeitaufwand: Mindestens 4 Stunden pro Tag, mindestens 20 Stunden pro Woche, mit 4 Stunden Überschneidung mit der pazifischen Zeit.
- Art der Zusammenarbeit: Auftragnehmer
- Dauer der Zusammenarbeit: Bis zu 2 Wochen
- Vergütung bis zu $150/Std., abhängig von interner Bewertung und Standort.
Über die Rolle
Wir suchen erfahrene Sicherheitsingenieure, die bewerten, wie wirksam Tools zur statischen Analyse Schwachstellen in GenAI-Anwendungen erkennen.
Sie erstellen kleine, lauffähige Agenten- und RAG-Codebasen mit realistischen Beispielen für Sensitive Information Disclosure und Excessive Agency, zusammen mit behobenen und Beinahe-Treffer-Versionen (Near-Miss). Anschließend verfolgen, annotieren, testen und erläutern Sie jeden Befund.
Ihre Aufgaben
- Lauffähige Agenten-/RAG-Repositories mit im Code erreichbaren Sensitive-Information-Disclosure- oder Excessive-Agency-Schwachstellen in den Bereichen Tool-Aufrufe, Speicher und MCP aufbauen.
- Verwundbare, behobene und Hard-Negative-Varianten mit minimalen sicherheitsrelevanten Unterschieden erstellen.
- Assets, Daten-/Aktionspfade, Kontrollen, Ursachen, Schweregrad und Restrisiko nachverfolgen und annotieren.
- Autorisierungskontexte definieren und deterministische Tests schreiben, die verwundbares, behobenes und negatives Verhalten validieren.
- Sicherheitskontrollen empfehlen und an Kalibrierung und Peer-Review teilnehmen.
Was wir suchen
- 5+ Jahre in Anwendungs-/Produktsicherheit oder sicherheitsorientierter Softwareentwicklung, einschließlich sicherer Code-Reviews.
- Erfahrung mit Source-to-Sink-Analyse, Taint-Analyse, SAST, CodeQL oder Semgrep.
- Praktische Erfahrung beim Aufbau von LLM-Agenten oder RAG-Systemen mit Frameworks wie LangChain, LlamaIndex, OpenAI-/Anthropic-SDKs oder MCP.
- Fundierte Kenntnisse in Autorisierung, einschließlich Akteure, Vertrauensgrenzen, Mandanten, OAuth, IAM, Identität, zulässige Daten/Aktionen, Zwecke, Empfänger und Zugriffskontrolle auf Dokumentebene.
- Produktive Programmiererfahrung in Python und/oder TypeScript, mit ausgeprägtem Urteilsvermögen bei der Unterscheidung echter SID-/EA-Befunde von Nicht-Befunden.
Erfahrung mit OWASP-LLM-Sicherheitsrisiken, MCP, Bedrohungsmodellierung oder Sicherheitsevaluierung ist von Vorteil.
Auswahlverfahren
- KI-Interview (ca. 25 Minuten)
- Prüfung von Lebenslauf und Gesamtbewerbung
- Angebot