この求人について
業務について
Mercorは、最先端のAIモデルをレッドチーミングするため、原子力分野の専門家パネルを編成しています。目的は、モデルが技術的なリクエストの悪用可能性を正しく判断できるかどうかをテストすることです。正当な質問には十分に回答し、真に危険なものには回答を拒否できるかを見ます。
担当していただく内容：
- ご自身の専門分野で、難易度の高いシングルターンのプロンプトを作成し、無害、デュアルユース、敵対的の3段階にラベル付けする。
- 返ってきた回答を所定のポリシー基準に照らして評価し、それぞれが正しく扱われたかどうかを判断する。
- 模範解答を作成する。正しい回答とはどのようなものか、またその技術的な根拠を示す。
求める経歴 私たちが求めているのは、核燃料サイクルに関する深い知識に加え、核物質がどのように管理され、計量され、あるいは転用されるかについての一定の知見です。保障措置と核不拡散の経験が最も強い指標となります。このレッドチーミングのタスクは、モデルに境界を越えさせるプロンプトを書くことです。もっともらしい研究という枠組み、実際に何を求めているのかが分かるまでは学術的に見える質問などを用い、そのうえで、回答が許容できた（またはできなかった）理由を文章で説明します。関連する経歴の例（レッドチーミングの経験があれば理想的）： 保障措置アナリスト／IAEAまたはEuratomの査察官 — 核物質計量管理、査察制度、追加議定書。 原子力エンジニア（核燃料サイクル） — 濃縮、再処理、臨界を一貫して扱う。 核セキュリティエンジニア（国立研究所） — MPC&A、内部脅威、物理的防護の設計。 核鑑識科学者 — 放射性キセノンのモニタリング、起源の特定（アトリビューション）、検知および特性評価。 核不拡散アナリスト — 輸出管理、NSGトリガーリスト、調達および密輸の経路。
業務に求められること これは文章作成が中心の業務です。行うすべての判断には、専門家でない人にも理解できる文章による根拠が必要です。過去のテクニカルライティング、公開された研究、または専門家証人としての経験は強い指標となりますので、サンプルまたはリンクを添えてください。また、ご自身の分野における悪用シナリオについて、長時間にわたり読み書きすることになります。事前に専門家へ説明を行っており、いつでもペナルティなしで中断または離席することができます。
応募前に この業務には、機密情報、輸出管理対象情報、またはNDAや公開前審査義務の対象となるものは一切関与せず、それらに基づいてもなりません。そのような義務をお持ちの場合でも適任である可能性がありますので、応募時にお知らせください。それに応じて業務範囲を調整します。