Über die Stelle
Wir suchen hoch erfahrene Personen mit Hintergrund in den Bereichen Geheimdienst, Verteidigung, Cyber-Operationen, Spionageabwehr, Terrorismusbekämpfung und verwandten Feldern, die Teil unserer KI-Forschungsgemeinschaft werden möchten.
Ihre Aufgabe wird darin bestehen, zu simulieren und zu bewerten, wie bösartige Akteure große Sprachmodelle (LLMs) nutzen könnten, um Gewalttaten, Terrorismus, gezielte Attentate, Spezialoperationen oder Angriffe auf taktischer Ebene zu planen und zu verbessern. Die Fellows werden an Red-Teaming-Übungen teilnehmen, die von LLMs generierten Ausgaben aus Jailbreaking-Versuchen bewerten und interpretieren und feststellen, ob diese Ausgaben in realen Szenarien glaubwürdige, materielle Bedrohungen darstellen.
Dies ist eine Position mit hoher Wirkung, ideal für Fachkräfte, die ihren Regierungs- oder Militärhintergrund nutzen möchten, um nationale Sicherheitsrisiken im Zeitalter der KI vorherzusehen.