この求人について
当社は、テンプレートをLLM自動評価者へ移行するためのエンドツーエンドの技術的移行ワークフローを担当するプロンプトエンジニアを募集しています。この役割では、クライアントの内部ツールを使用し、プロンプトエンジニアリング手法を活用してモデルのパフォーマンスを最大化することが求められます。
職務内容：
-
Automatic Prompt Generation（APG）ツールを活用し、複雑な親子テンプレートクラスタのベースラインプロンプトを作成する。
-
Automated Prompt Optimization（APO）ツールを実行および監督し、出力をレビューし、APOがデッドロックやプラトーに達した場合にフラグを立てる。
-
複雑なテンプレートアーキテクチャに対処し、アンチパターンを克服し、ツールが不足しているまたは故障しているエッジケースを処理するために、プロンプトを手動で作成、テスト、改善する。手動プロンプトを設計および改善することでエッジケースのシナリオを解決する。
-
shadowbotの実行を監視し、十分な不一致（人間とLLMの評価間）が登録、生成、追跡されることを確保する。
-
確立されたゴールドデータに対してプロンプトバージョンを実行し、人間のクラウドベースラインに対する自動評価者の品質を継続的に測定し、F1スコア、精度、再現率などの精度指標を計算する。
-
最終的な技術的ローンチ準備の正当性（Launch Certification Documentation）を作成する。
要件：
-
言語スキル：イタリア語のネイティブ流暢さ、および英語の流暢さ。
-
勤務地：イタリアに拠点を置く必要がある。
-
学歴：コンピュータサイエンス、データサイエンス、計算言語学、ヒューマンコンピュータインタラクション（HCI）、認知科学、または関連する分析分野の学士号、修士号、または博士号。
-
プロンプトエンジニアリングとAIの専門知識：プロンプトエンジニアとして少なくとも4年の経験。厳格で構造化された出力、複雑な分類タスクのために大規模言語モデル（LLM）を調整した実績があり、chain-of-thoughtおよびfew-shot learningに精通していること。
-
データ分析：エラーパターンの特定、モデルパフォーマンスの分析、SQLまたはその他のデータ分析ツールの使用に強い熟練度。
-
技術的機敏性：最小限の監督で独自ツールを迅速に学習および習得する能力。
-
コミュニケーション：優れた口頭および書面によるコミュニケーションスキル。
オプション／優先スキル：
-
Goose APIのようなエンタープライズグレードのLLMインターフェースに精通していること。
-
AIモデル評価、データサイエンス、計算言語学、またはソフトウェアエンジニアリングの経験。
-
Automated Prompt Optimization（APO）システムまたはチューニングワークフローの実務経験。
-
セマンティクスとロジックの理解を含む言語学の専門知識。