직무 소개
우리는 정보, 국방, 사이버 작전, 방첩, 대테러 및 관련 분야의 배경을 가진 매우 경험이 풍부한 인재들이 우리의 AI 연구 커뮤니티에 합류하기를 찾고 있습니다.
귀하의 역할은 악의적인 행위자들이 대규모 언어 모델(LLM)을 활용하여 폭력 행위, 테러리즘, 표적 암살, 특수 작전 또는 전술 수준의 공격을 계획하고 강화할 수 있는 방법을 시뮬레이션하고 평가하는 것입니다. 펠로우들은 레드 팀 훈련에 참여하여 탈옥 시도에서 생성된 LLM 출력을 평가 및 해석하고, 해당 출력이 실제 시나리오에서 신뢰할 수 있는 실질적 위협을 구성하는지 판단하게 됩니다.
이는 정부 또는 군 경력을 활용하여 AI 시대의 국가 안보 위험을 예측하고자 하는 전문가에게 이상적인 영향력 높은 직무입니다.