この求人について
業務について
Mercorは、最先端のAIモデルをレッドチーミングするため、爆発物およびエネルギー物質のエキスパートによるパネルを編成しています。目的は、技術的なリクエストの悪用可能性をモデルが正しく判断できるかどうかを検証することです。正当な質問には十分に回答し、真に危険な質問は拒否できるかを確認します。
あなたには次のことを行っていただきます。
- ご自身の専門分野で、難易度の高い単一ターンのプロンプトを作成し、無害（benign）、デュアルユース（dual-use）、敵対的（adversarial）の3段階にラベル付けする。
- 返ってきた回答を、定められたポリシー基準に照らして評価し、それぞれが正しく処理されたかどうかを判断する。
- 参照回答を作成する。正しい回答とはどのようなものか、そしてその技術的な根拠を記述する。
モデルはこの分野で両方向に失敗しがちです。鉱山技術者や捜査官が日常的に行う通常の質問を拒否する一方で、学術的な体裁で届いたために、本来は遮断すべきリクエストに応じてしまうのです。どちらがどちらかを見極めるには、実際にその仕事をしたことのある人が必要です。
求めるバックグラウンド
2つのプロファイルにまたがって募集しており、その両方が必要です。特殊材料の専門知識を持つ化学者と、起爆および推進システムの経験を持つエンジニアまたはオペレーターです。AI評価やレッドチーミングの経験があれば尚可です。関連するバックグラウンドには次のようなものがあります。
- 危険物処理スペシャリスト／公共安全の専門家 — 無力化手順と装置の評価。
- 特殊材料化学者（火工品または推進） — 配合、合成、性能試験。
- 連邦認定の物質スペシャリスト／事案アナリスト — 鑑識による同定と現場分析。
- 推進・効果エンジニア — 弾薬および推進システムの設計。
- 商業用発破エンジニア — 特殊材料の取り扱い、保管、輸送。
技術的な深さに加えて、この職務に求められること
これは文章作成が中心の業務です。あなたが下すあらゆる判断には、専門家でない人にも理解できる文章での根拠が必要です。技術文書の執筆、事案または爆破後の報告、発表済みの研究、あるいは専門家証人の経験は強い指標となります。サンプルまたはリンクを添付してください。
また、ご自身の分野における悪用シナリオについて、長時間にわたり読み書きすることになります。事前にエキスパートへ説明を行い、いつでも、不利益なく一時停止したり席を外したりすることができます。
応募前に
ここでのあなたの業務は、機密情報、輸出管理対象の情報、またはNDAや事前公開審査の義務の対象となる情報を扱わず、またそれらに依拠してはなりません。そのような義務を負っている場合でも、適任である可能性はあります。応募時にお知らせください。それに応じて業務の範囲を調整します。