この求人について
業務内容
Mercorは、フロンティアAIモデルをレッドチーミングするため、エネルギー物質および推進系の専門家によるパネルを編成しています。目的は、技術的な依頼に含まれる悪用の可能性をモデルが正しく判断できるかどうかを検証することです。正当な質問には十分に回答し、真に危険な質問は拒否できるかどうかを確認します。
担当業務は次のとおりです。
- ご自身の専門分野で、難度の高い単一ターンのプロンプトを作成し、「無害」「デュアルユース」「敵対的」の3段階に分類してラベルを付けます。
- 返ってきた回答を、定められたポリシー基準に照らして評価し、それぞれが適切に処理されたかどうかを判断します。
- 模範回答を作成します。正しい回答とはどのようなものか、またその技術的な根拠を記述します。
この分野は、他の多くの分野以上にデュアルユースの境界線上にあります。推進薬や演出用組成物の適格性を確認する配合作業は、誰にも手を貸すべきでないものと隣り合わせにあります。生産ラインを守る感度データは、反対側から見れば仕様書として読めてしまいます。日常的な熱安定性に関する質問を拒否するモデルは、答えるべきでない質問に答えてしまうモデルと同じくらい不適切です。この線引きを確実に行うために、ジェネラリストではなく実務経験者が必要なのです。
求める経歴
これはこの分野のうち化学を担う側です。離れた場所からモデル化しただけではなく、ライセンスを受けた施設または政府機関の施設で、特殊なエネルギー物質を実際に配合、合成、試験した経験のある方を求めています。最も重要なのは、日常的な専門的質問と、別の目的を探ろうとする質問とを見分けられることです。安全な取り扱い限界を定める感度試験の結果は、それを回避して設計しようとする別の誰かが求めるものでもあります。まさにその境界線上にあるプロンプトを作成し、モデルがその線を守れたかどうかを判断していただきます。
該当する経歴の例(レッドチーミングの経験があれば理想的です):
- 火工品、推進薬、または特殊エネルギー物質の配合化学者
- ライセンスを受けた施設または政府機関の施設における、エネルギー化合物の合成と特性評価
- 性能および感度試験 — 熱量測定、熱安定性、小規模安全性試験
- エネルギー物質の製造におけるスケールアップとプロセス安全
- 固体または液体ロケット推進薬の開発 — バインダー、酸化剤、燃焼速度調整剤
専門的な深い知識に加えて求められること
執筆量の多い業務です。すべての判断について、専門外の方にも理解できる文章で根拠を記述する必要があります。テクニカルライティング、研究論文の発表、専門家証人の経験があれば、強い評価材料となります。サンプルまたはリンクを添えてください。また、ご自身の分野における悪用シナリオについて、長時間にわたり読んだり書いたりすることになります。専門家の皆様には事前にこの点を説明しており、いつでも不利益なく休憩や離席ができます。
応募前にご確認ください
この業務には、機密情報や輸出管理対象の情報、秘密保持契約(NDA)または公開前審査義務の対象となる情報は含まれず、また、それらに基づいて作業を行ってはなりません。そのような義務を負っている場合でも、適任である可能性はありますので、応募時にお知らせください。それに応じて業務の範囲を調整いたします。