Workflow
通用验证器
icon
搜索文档
一文读懂GPT-5的绝招,这是决定AI未来的隐形武器
36氪· 2025-09-16 10:43
通用验证器的技术背景与需求 - 通用验证器被视为大模型能力提升的关键技术 旨在突破传统RLVR在开放性领域应用的局限性[2] - RLVR技术依赖二元奖励机制 在数学、编程等有标准答案的领域效果显著 但在医疗、教育、创意等主观领域表现不佳[2] - 通用验证器需具备多维度评估能力 将非结构化经验数据转化为有效学习信号 可能引发强化学习范式革新[2] 基于评分细则的验证器开发路径 - ScaleAI提出Rubrics as Rewards框架 通过"专家立法-模型释法-AI执法"三步构建多维评分体系[12][14] - RaR方法使Qwen2 5-7B模型在医疗领域得分从0 0818提升至0 3194 性能提升近四倍[21] - 在HealthBench-1k测试中 RaR相比Simple-Likert方法实现28%相对性能提升 接近需专家撰写参考答案的Reference-Likert方法效果[22] - 蚂蚁集团与浙江大学开发Rubicon系统 包含超10,000个评分标准 使用5,000+样本训练使Qwen-30B模型在开放式基准测试中实现5 2%绝对提升[27] - Rubicon通过否决机制、饱和度感知聚合和非线性函数解决奖励黑客问题和跷跷板效应 采用分阶段训练提升模型综合能力[28][30] 增强裁判模型的验证方法 - 阿里夸克团队提出Writing-Zero方法 通过强制生成批判性分析提升评分可靠性 解决传统奖励模型存在的Reward Hacking问题[36][38] - 采用BRPO算法进行成对比较偏好训练 在WritingBench测试集上达到8 29分 优于基准模型的6 89分[40][43] 基于模型自评的验证路径 - SEALab提出VeriFree方法 用模型自身对答案的自信度作为奖励信号 在Qwen3-8B测试中效果媲美传统强化学习方法[45][52] - UC Berkeley开发INTUITOR框架 通过自确定性指标实现无监督强化学习 在MATH500测试集达到61 2%准确率 接近GPRO的63 6%[55][59] - INTUITOR训练后的模型展现跨领域泛化能力 在LiveCodeBench代码任务上实现65%相对性能提升[60] 技术路径的局限性与发展方向 - 立法式验证方法依赖专家构建领域特定框架 扩展性存在挑战[24][69] - 内观式验证方法受限于预训练知识边界 无法验证未见过的外部事实[69] - Richard Sutton提出的OaK架构设想完全基于运行时经验的智能系统 通过8步循环实现自主认知构建[70][76] - 当前RaR的评分细则与INTUITOR的自信度指标分别对应OaK架构中子问题和价值函数的早期雏形[78]
AI产业跟踪:GPT-5发布在即,关注AIagent落地进展
长江证券· 2025-08-08 05:30
行业投资评级 - 报告未明确提及行业投资评级 [1][7][10] 核心观点 - OpenAI将于北京时间2025年8月8日凌晨1点举办直播活动,暗示将发布GPT-5模型 [4][7] - GPT-5推理能力有望首次超越人类,在Simple Bench基准测试中以90%的分数超越人类基准线(83.7%),远超Gemini 2.5 Pro(62.4%)[10] - GPT-5在多模态、软件工程和AI Agent领域的性能将显著提升,包括处理图文、音视频的能力、企业级代码库修改能力以及执行复杂多步骤指令的能力 [10] - 技术核心聚焦"通用验证器",通过小模型为大模型的推理链打分,提升模型输出质量,GPT-5在编程、数学、创意写作等领域均表现出色 [10] - AI Agent商业化元年即将到来,教育、医疗、企服等垂直场景的落地周期有望提前 [10] 目录总结 事件描述 - OpenAI直播活动暗示GPT-5发布 [4][7] 事件评论 - GPT-5推理能力超越人类基准线 [10] - 多模态能力提升将带来"吉卜力时刻"用户体验 [10] - 软件工程能力扩展到企业级代码库维护 [10] - AI Agent能力实现多步骤任务自主执行 [10] 技术核心 - 采用"通用验证器"技术提升模型输出质量 [10] - 验证者模型设计为未来GPT部署服务 [10] 投资建议 - 关注AI Agent相关厂商 [10] - 推荐国内AI芯片领军企业寒武纪 [10] - 云服务厂商将受益于Agent应用落地 [10] - 关注与腾讯、阿里、字节等大厂合作的IDC [10]
GPT-5,就在明天凌晨1点?
华尔街见闻· 2025-08-07 00:43
产品发布计划 - OpenAI将于北京时间周五凌晨1点举行发布会推出GPT-5 [2] - 公司通过社交媒体预告及高管表态多次暗示GPT-5即将问世 [2][4][6] 产品架构设计 - GPT-5将分为标准版、mini版和nano版三个版本覆盖不同应用场景 [8] - 标准版集成多模态与推理能力 mini版主打高性价比快速响应 nano版专为API及嵌入式设备设计 [9] - Horizon Alpha和Horizon Beta可能对应nano和mini版本 前者具备256K tokens上下文容量及130-150 tokens/秒生成速度 后者在UI设计和前端开发表现突出 [9] 技术研发进展 - 原计划GPT-5项目"Orion"因性能未达预期被降级为GPT-4.5 [10] - 研发焦点从技术突破转向实用价值 重点提升编程与数学能力作为商业化卖点 [10] - 引入"通用验证器"强化学习技术自动检查模型回答准确性 [10] - 面临数据瓶颈和技术难题 预训练数据稀缺导致模型性能下降 [10] 市场表现数据 - ChatGPT周活跃用户达7亿 同比增长超过四倍 日均消息量突破30亿条 [11] - 付费商业用户从6月300万增至500万 增幅超过66% [11] - 年化收入达120亿美元 较2024年约40亿美元实现大幅增长 [11] - 谷歌AI Overviews拥有约20亿月度用户 Gemini App月活跃用户超过4.5亿 [11] 行业竞争态势 - GPT-5发布是检验OpenAI能否在激烈竞争中保持领先地位的关键节点 [12]
大模型下一个飞跃?OpenAI的“新突破”:通用验证器
硬AI· 2025-08-05 16:02
通用验证器技术 - 核心技术为"证明者-验证者游戏"的对抗性训练框架,通过模型间博弈自动化验证答案质量,解决数学、创意写作等主观复杂领域的评估难题 [2][3] - 验证器规模足够小,适合大规模部署,明确"为未来的GPT部署而设计" [6] - 机制类似生成对抗网络(GANs),通过验证者判别倒逼证明者优化输出 [7] 技术来源与背景 - 技术源自OpenAI前"超级对齐"团队,由联合创始人Ilya Sutskever主导成立,团队解散后技术成果被整合至核心产品研发 [9][10] - 相关论文《证明者-验证者游戏提升大语言模型可读性》的6位作者中仅2人仍留任 [10] GPT-5应用与市场影响 - 通用验证器已应用于GPT-5开发,被视为OpenAI保持竞争优势的核心资产 [3][12] - 曾在GPT-4代码辅助功能试点的自我批判系统被正式整合至GPT-5 [12] - CEO Sam Altman称GPT-5"在几乎所有方面都比我们更聪明",加剧市场期待 [12] 技术突破与局限性 - 验证器具备通用性,在软件编程和创意写作等主观领域均展现改进 [14] - 帮助OpenAI模型在国际数学奥林匹克竞赛取得突破性成绩,可验证数学证明的每一步逻辑一致性 [14] - 面临训练数据稀缺、预训练性能收益下降、模型部署后性能衰减等挑战 [14]