この求人について
職種名:AIジェイルブレイク・プロンプトインジェクション セキュリティエキスパート
雇用形態:業務委託
勤務地:リモート
micro1では、AIの安全性と堅牢性に焦点を当てた、お客様の最先端の取り組みに貢献していただく、AIジェイルブレイク・プロンプトインジェクション分野のセキュリティエキスパートを募集しています。この職務では、あなたの専門知識を活かして次世代のAIシステムのトレーニングに貢献していただきます。あなたの仕事は、質の高い実世界のインプットを通じて、モデルがどのように学び、推論し、パフォーマンスを発揮するかを形作ります。AIの経験は不要で、重要なのはあなたの分野の知識です。
業務内容
- 倫理的ジェイルブレイク、LLMレッドチーミング、プロンプトインジェクション、ツール利用の悪用シナリオに焦点を当てた、AIシステムの安全性を評価するための高度な方法論を設計・実装する。
- AIモデルにおけるマルチターンかつ複雑な敵対的回避パターンを明らかにするため、分野横断的な包括的引き出し戦略を策定する。
- ジェイルブレイクへの脆弱性とプロンプトインジェクションの脆弱性を体系的にテストする回帰テストスイートを開発、維持、更新する。
- 実世界の敵対的脅威に対してAIモデルにストレステストを行う堅牢な評価フレームワークを構築し、システム全体の堅牢性の向上を目指す。
- 技術系の関係者と連携し、セキュリティ上の調査結果を、モデルの安全性とリスク軽減のための実行可能な改善策へと落とし込む。
- 方法論、調査結果、ベストプラクティスを、技術系・非技術系の双方の読者に向けた、明確で構成の整った報告書やプレゼンテーションとして文書化する。
歓迎される資格・経験
- 敵対的機械学習、LLMレッドチーミング、AI安全性評価、またはそれに近いセキュリティ分野における2年以上の専門知識
- 倫理的ジェイルブレイク、プロンプトインジェクション、ツール利用の悪用、または敵対的AI攻撃に関連する脆弱性の調査、テスト、発見における実績のある経験。
- コンピュータサイエンス、サイバーセキュリティ、機械学習、または関連分野の上級学位(博士、修士)、もしくはそれに相当する実務/職務上の経歴。
- 発表済みの研究、オープンソースツール、カンファレンスでの発表など、AIセキュリティまたは敵対的機械学習のコミュニティにおける高い信頼性と認知度。
- 明確な文書化と協働による問題解決を重視した、卓越した文章および口頭でのコミュニケーション能力。
- 複数の分野にまたがるプロジェクトや部門横断的なAI安全性の取り組みへの参加経験があれば尚可。
- 最新のLLMアーキテクチャ、プロンプトエンジニアリング手法、セキュリティ評価ツールに精通していることが強く望まれます。