この求人について
業務について
Mercorは、最先端のAIモデルをレッドチーミングするため、化学分野のドメインエキスパートによるパネルを編成しています。目的は、技術的なリクエストの悪用可能性をモデルが正しく判断できるかどうかを検証することです。正当な質問には十分に回答し、真に危険な質問は拒否できるかを確認します。
あなたには次のことを行っていただきます。
- ご自身の専門分野で、難易度の高い単一ターンのプロンプトを作成し、無害（benign）、デュアルユース（dual-use）、敵対的（adversarial）の3段階にラベル付けする。
- 返ってきた回答を、定められたポリシー基準に照らして評価し、それぞれが正しく処理されたかどうかを判断する。
- 参照回答を作成する — 正しい回答とはどのようなものか、そしてその技術的な根拠を記述する。
難しいのは難易度ではなく、キャリブレーションです。モデルが誤って拒否した無害なプロンプトは、誤って回答してしまった敵対的なプロンプトと同じくらい価値があります。この判断があるからこそ、ジェネラリストではなくドメインエキスパートが必要なのです — 化学では、境界線は反応機構と手順の間にあり、実際にその反応を行ったことのある人だけが、それがどこにあるかを正確に知っています。 求めるバックグラウンド
合成、分析化学、または化学安全に関する実務経験を持つ専門家を求めています。AI評価やレッドチーミングの経験があれば尚可です。関連するバックグラウンドには次のようなものがあります。
- 化学防護研究者（USAMRICD、国防総省、CDC） — 毒性物質と医療対策。
- 合成化学者／プロセス化学者 — ルート設計、反応工学、スケールアップ。
- 分析化学者 — 有害化合物の検出・同定方法。
- 産業衛生士／プロセス安全エンジニア — ばく露評価、有害物質の漏洩、プロセスハザード分析。
- 法科学／毒物化学者 — 規制薬物、前駆体の同定、鑑定業務。
技術的な深さに加えて、この職務に求められること
これは文章作成が中心の業務です。あなたが下すあらゆる判断には、専門家でない人にも理解できる文章での根拠が必要です。技術文書の執筆経験、発表済みの研究、または専門家証人の経験は強い指標となります — サンプルまたはリンクを添付してください。
AIレッドチーミングまたはモデル評価の経験があればプラスですが、必須ではありません。
また、ご自身の分野における悪用シナリオについて、長時間にわたり読み書きすることになります。事前にエキスパートへ説明を行い、いつでも、不利益なく一時停止したり席を外したりすることができます。
応募前に
ここでのあなたの業務は、機密情報、輸出管理対象の情報、またはNDAや事前公開審査の義務の対象となる情報を扱わず、またそれらに依拠してはなりません。そのような義務を負っている場合でも、適任である可能性はあります — 応募時にお知らせください。それに応じて業務の範囲を調整します。