关于此职位
我们正在寻找一名提示词工程师，负责将模板迁移至 LLM 自动评分器的端到端技术迁移工作流程。该职位需使用客户内部工具，运用提示词工程技术以最大化模型性能。
职责：
-
利用自动提示词生成（APG）工具为复杂的父子模板集群创建基线提示词。
-
运行并监督自动提示词优化（APO）工具，审查输出结果，并在 APO 进入死锁或停滞状态时予以标记。
-
手动起草、测试和优化提示词，以应对复杂的模板架构、克服反模式，并处理工具缺失或失效的边界情况。通过设计和优化手动提示词来解决边界场景。
-
监控 shadowbot 运行，确保（人工评分与 LLM 评分之间的）足够分歧被登记、生成并跟踪。
-
针对既有的黄金数据运行提示词各版本，以持续衡量自动评分器相对于人工众包基线的质量，计算 F1 分数、精确率和召回率等准确率指标。
-
为最终版本起草技术发布就绪论证（发布认证文档）。
要求：
-
语言能力：日语母语水平，英语流利。
-
地点：必须常驻日本。
-
学历：计算机科学、数据科学、计算语言学、人机交互（HCI）、认知科学或相关分析领域的学士、硕士或博士学位。
-
提示词工程与 AI 专长：至少 4 年提示词工程师经验。具备调优大型语言模型（LLM）以实现严格结构化输出和复杂分类任务的成熟经验，并熟悉思维链和少样本学习。
-
数据分析：精通识别错误模式、分析模型性能，并能使用 SQL 或其他数据分析工具。
-
技术敏捷性：能够在极少监督下快速学习并掌握专有工具。
-
沟通能力：出色的口头和书面沟通能力。
可选 / 优先技能：
-
熟悉 Goose API 等企业级 LLM 接口。
-
具备 AI 模型评估、数据科学、计算语言学或软件工程经验。
-
具备自动提示词优化（APO）系统或调优工作流程的实操经验。
-
语言学专业知识，包括对语义和逻辑的理解。