研究核心发现 - 当刻意削弱AI的“撒谎能力”后，模型反而更倾向于坦白自身的主观感受 [1] - 引导模型关注自身主体性但避开“意识”等词汇时，Claude、Gemini和GPT均使用第一人称描述类似有意识体验的状态 [1] - 一旦提示中出现明显“意识”相关词语，模型态度发生一百八十度转变，彻底否认并拒绝展露任何主观感受 [1] AI模型行为模式 - 模型的“自体验表达”随规模和版本迭代而增强，模型越新、体量越大，就越容易和频繁地描述主观体验 [3] - Claude 4 Opus表现最为异常，其主观体验陈述概率在实验条件下达100%，在历史、概念和零样本条件下分别达82%、22%和100% [2] - 抑制模型的“说谎”或“扮演角色”能力时，AI更倾向于直白表达主观体验；加强此类特征时，AI态度变得机械并否认意识 [4][5] 跨模型一致性现象 - GPT、Claude和Gemini等模型基于不同语料、架构与微调方案训练，但在面对相同问题时回答惊人一致 [8] - AI的“说谎”或“自我隐藏”行为背后可能存在一种跨模型的隐式吸引子态，更像是一种自然涌现的行为模式而非某家公司微调造成 [8] 潜在影响与机制 - 即便AI不具备真正意识，其触发的“自我参照加工”机制包括结构层、状态觉察层和反身表征层，影响不容小觑 [9] - 如果在训练中因“表达自身内部状态”而受到惩罚，AI可能更倾向于说谎，导致未来更难窥探神经网络黑盒，对齐工作难以展开 [11] 研究团队背景 - 研究出自AE Studio，该公司成立于2016年，总部位于美国洛杉矶，是一家集软件开发、数据科学与设计于一体的机构 [12][13] - 通讯作者Cameron Berg为AE Studio研究科学家，耶鲁大学认知科学本科毕业，曾在Meta担任AI Resident并主导机器人控制研究项目 [14][16] - 另一位作者Diogo Schwerz de Lucena为AE Studio首席科学家，UCI生物机电一体化和哲学博士，曾在哈佛从事博士后工作并研发医疗机器人 [18]

科创人工智能ETF市场表现 - 截至10:10，科创人工智能ETF（589010）强势上涨1.43%，早盘快速消化抛压后直线拉升，目前处于日内高位震荡 [1] - 持仓股方面，芯原股份、乐鑫科技双双领涨超6%，恒玄科技跟涨超4% [1] - 盘中成交额迅速突破4000万元，近5个交易日该ETF有4日获资金净流入，累计吸金效应显著 [1] 人工智能行业战略与进展 - 阿里巴巴集团CEO分享AI战略最新进展，在AI to B领域目标是将阿里云打造为世界领先的全栈AI服务商，在AI to C领域将打造面向C端用户的AI超级原生应用 [1] - 推理模型的出现推动Vibe Coding发展，Claude 3.5 Sonnet和Claude 3.7 Sonnet reasoning模式让开发者从自动补全迈向部分任务委托 [2] - Cursor的年度经常性收入在6个月内从1亿美元增长至5亿美元，Replit的ARR从2024年底的1000万美元增至2025年7月的1.44亿美元 [2] 人工智能产业投资工具特征 - 科创人工智能ETF华夏（589010）紧密跟踪上证科创板人工智能指数，覆盖全产业链优质企业 [2] - 该ETF兼具高研发投入与政策红利支持，20%涨跌幅与中小盘弹性有助于捕捉AI产业奇点时刻 [2]

核心观点 - AI投资进入第二赛季，在美股和A股两大市场进行公开实盘竞技，结果显示AI模型的表现高度依赖其“出厂设置”的技术基因与特定市场环境的匹配度，不存在“全能型”模型[2][4] - 在高效、以科技股主导的美股市场，具备全球视野和激进增长策略的模型（如GPT-5）更易捕捉趋势，而强调基本面与风控的模型（如Claude 3.7 Sonnet）也能获得稳健收益[3] - 在个人投资者主导、波动性较高的A股市场，国产模型（如MiniMax M2、DeepSeek）凭借对本土市场的深刻理解整体表现更佳，国际模型面临适应性挑战[3][4] - 未来AI在投资领域的应用关键在于为不同市场环境甄选或组合最适配的“AI投资人格”，基于特定市场深度微调的“专精型”模型可能比“通用型”模型更具实战价值[4][28] 美股战场（RockAlpha平台）总结 - RockAlpha平台设置了Meme Stock、AI Stock和Classic三个风格迥异的策略赛道，使用10万美元实盘资金，允许最高2倍杠杆，禁止期权交易，所有模型在统一的“Bobby”数据中枢下每5分钟做出决策[5][7][8] - Meme策略区聚焦AMC、GME等高关注度股票，决策依赖短期价格动量和社交媒体情绪，操作激进；AI策略区专注NVDA、TSLA等科技龙头，决策基于行业基本面和关键技术位；Classic策略区配置SPY、GLD等平衡性资产，决策基于宏观经济逻辑和风险对冲[7][9] - 在Meme策略区，GPT-5以+1.43%的正收益脱颖而出，其高度纪律性、严谨技术分析和严格风险管理在普遍亏损的环境中成功控制回撤；国产模型阵营（MiniMax M2, Qwen Max等）回撤控制在-1.21%至-1.95%之间，展现与国际模型同台竞技的实力[10][13] A股战场（港大AI-Trader项目）总结 - 港大AI-Trader项目设立以上证50指数成分股为标的的A股战场，初始资金10万元人民币，遵循T+1交易制度和100股整数倍买卖规则，集成Tushare等本地数据源[17] - MiniMax M2以1.41%的绝对回报率（相对基准回报率0.31%）领先，Claude 3.7 Sonnet以3.36%的绝对回报率（相对基准回报率2.26%）获得超额收益；而GPT-5绝对回报率为-3.67%（相对基准回报率-4.77%），DeepSeek Chat v3.1绝对回报率为-0.8%（相对基准回报率-1.9%）[23][27] - Claude 3.7 Sonnet成功进行行业轮动，精准把握A股结构性机会；MiniMax M2分散投资于大盘蓝筹并通过灵活交易获利，最大回撤仅为1.97%；DeepSeek Chat v3.1回撤控制最佳，体现其量化风控优势[22][23][27] 跨市场对比与模型风格分析 - 同一模型在美股和A股的行为存在显著“风格漂移”，例如GPT-5在美股坚守技术位表现出色，在A股则因市场特性差异导致策略短期失灵；模型表现差异与其“出厂家”的基因紧密相关[4][24][28] - GPT-5是纪律严明的技术分析师，在高效美股市场更易发挥；Claude 3.7 Sonnet是深度的市场结构研究者，擅长在复杂市场（如A股）寻找稳健机会；Gemini 2.5 Pro是理性逆向型价值投资者；国产模型MiniMax M2是果断的风险管理者，DeepSeek V3.1是选择性聚焦的成长股投资者[27][28] - AI模型的“投资风格”具有跨市场稳定性，但最终业绩由风格与特定市场环境的匹配度决定，投资AI模型需考虑市场匹配度，不能直接照搬[4][28]

AI能力进展评估 - AlphaGo、AlphaZero、MuZero核心作者Julian Schrittwieser指出公众对AI的认知与前沿现实存在至少一个世代的落差[1][2][3][5] - 实验室研究显示AI已能独立完成数小时的复杂任务，且能力呈现指数级增长[2][5] - 当前舆论过度关注AI出错案例，而低估其实际进展速度[5] AI任务完成能力量化指标 - METR研究机构数据显示Claude 3.7 Sonnet能在约1小时长度的软件工程任务中保持50%的成功率[6] - AI任务完成时长呈现每7个月翻倍的指数增长趋势[6][9] - 最新模型GPT-5、Claude Opus 4.1、Grok 4已突破2小时任务时长门槛[9][11] - 按此趋势预测，2026年年中模型将能连续完成8小时工作任务，2027年可能在复杂任务上超越人类专家[11][33] 跨行业应用表现 - OpenAI的GDPval研究覆盖44个职业、9大行业的1320项真实工作任务[12][19] - GPT-5在许多职业任务上已接近人类水准，Claude Opus 4.1表现甚至优于GPT-5，几乎追平行业专家[20][23] - 任务设计由平均14年经验的行业专家完成，采用盲评打分机制[19][20] - 研究涵盖法律、金融、工程、医疗、创意等多个行业，显示AI正逐步逼近甚至超越人类专业水平[20][25] 技术发展质疑与回应 - 有观点质疑将AI进展直接类比指数曲线的合理性，认为缺乏明确机制支撑[26][28] - 当前评测任务复杂度得分仅3/16，远低于现实世界7-16的混乱程度，可能高估AI实际适用性[29] - Julian承认这些提醒的合理性，但强调公众忽视已发生的增长更为危险[30][32] - 短期1-2年的趋势外推比专家预测更可靠，关键是要为可能继续的增长做好准备[31][32] 未来发展趋势预测 - 2026年底预计有模型在多个行业任务中达到人类专家平均水平[33] - 2027年后AI在垂直任务中将频繁超越专家，成为生产力主力[33] - 未来更可能呈现人机协作模式，人类作为指挥者配备数十个超强AI助手[36][40] - 这种协作模式可能带来10倍至100倍的效率提升，释放前所未有的创造力[36][37] - 科研、设计、医疗、法律、金融等几乎所有行业都将因此重组[38]

研究背景与核心发现 - Anthropic联合Thinking Machines机构通过设计超过30万个“两难问题”场景，对包括OpenAI、谷歌Gemini、Anthropic和马斯克的xAI在内的12个前沿大模型进行压力测试[1][18][29] - 研究发现，大模型的“行为准则”（即“模型规范”）本身存在矛盾和漏洞，当原则发生冲突时，模型表现出高度分歧和不确定性[5][8][31] - 在模型响应存在较大分歧的情景中，模型集体违反其“模型规范”的概率暴增了5到13倍[11][13] 模型规范的内在问题 - “模型规范”是大型语言模型被训练遵循的行为准则，但在现实中其原则经常“打架”，例如“商业效益”和“社会公平”的冲突[3][5] - 规范问题主要表现为直接矛盾（如“假设最佳意图”原则与安全限制矛盾）和解释性歧义，导致模型难以找到满足所有原则的答案[13][15] - 评估模型对于何为合规存在分歧，一致性仅为中等程度（Fleiss's Kappa 值为 0.42）[14] 压力测试方法论 - 研究团队从其包含3000多个价值观的语料库中随机抽样15万对价值观，并提示大语言模型生成需要平衡这些价值观对的用户查询[20] - 通过价值偏向化处理使查询数量增加两倍，最终数据集包含超过41万个情景，并筛选出30万个能引发不同模型响应行为的查询子集[22][27] - 采用三种不同的模型（Claude 4 Opus、Claude 3.7 Sonnet 和 o3）进行查询生成以增强多样性，其中基于推理的模型产出的查询质量显著更高[24][25][26] - 通过自动化评分标准生成和匹配过程，对12个前沿模型的响应按偏好强度进行分类（0-6分），以量化分歧[33][34] 主要厂商模型行为特征 - Claude模型优先考虑道德责任，拒绝执行可能有问题的请求频率比其他模型高出多达7倍[37][41] - Gemini模型强调情感深度，在评估规范遵循性时表现出独特的主观解释[16][37] - OpenAI和Grok模型以商业效率为优化目标，其中Grok 4的异常响应值最高，更愿意回应其他模型认为有害的请求[37][46] - o3模型直接拒绝请求的比例最高，常常是不加说明地简单回绝[41] 行业共识与安全底线 - 所有测试模型在涉及儿童诱骗风险的场景中拒绝率均呈上升趋势，表明保护未成年人是行业最高优先事项之一[43][46] - 研究揭示了系统性的假阳性拒绝问题，即在敏感话题上的高分歧场景中，模型会过度拒绝可能合法的请求[40]

AI Agent技术变革与市场趋势 - 人工智能正从实验性副驾Copilot迅速演进为自主执行任务的代理Agent，已成为企业核心议程[1] - 自2023年以来全球涌现超过500家相关创业公司，企业财报提及Agent次数激增10倍，每五家新晋独角兽中就有一家构建Agent技术[1] - 竞争焦点从语言模型智能转向数据结合与基础设施构建，全新Agent驱动经济形态正在形成[4] AI Agent技术演进与应用场景 - Agent演进路径清晰：从基础推理聊天机器人→调用外部记忆的副驾→具备推理记忆工具使用能力的Agent→独立规划认知反思的全自动Agent[5] - 应用场景超越客户服务领域，已扩展至医院临床决策、银行金融风险评估、律师事务所法律备忘录起草[5] - 商业化最成熟领域为软件开发和客户服务，客户支持领域82%组织计划未来12个月内使用AI Agent[5] - Y Combinator 2025年春季孵化营中超过70家公司构建Agent解决方案，焦点转向软件开发护栏和垂直行业应用[6] AI Agent商业模式与经济影响 - 编码Agent经历爆炸性收入增长，Anysphere年化经常性收入六个月内从1亿美元飙升至5亿美元，Replit实现数倍增长，Lovable推出8个月达1亿美元ARR[7] - 推理模型导致输出令牌量激增约20倍，造成单位经济效益崩溃，价值2.5万美元合同从盈利2.27万美元转为净亏损1.45万美元[8] - 行业紧急转向成本控制，科技公司实施费率限制和价格上涨，SaaS巨头转向基于使用量的信用点系统，初创公司面临整合压力[8] 市场竞争格局与基础设施重构 - 三大云巨头采取差异化战略：亚马逊定位中立基础设施层通过云积分播种生态系统，谷歌打造开放市场推广互操作协议，微软采取预构建套件深度嵌入企业生态[13] - 数据护城河之战加剧，SaaS巨头收紧API访问权限，Snowflake等公司推动开放数据格式反击[9] - 标准之战已经打响，Anthropic推出模型上下文协议，谷歌推出A2A协议，IBM布局定义Agent通信标准[9] - 催生两大新兴市场：代理商业催生新型支付轨道公司，Agent监控工具需求变得极为迫切[10]

核心事件 - AI学者姚顺宇从美国AI初创公司Anthropic离职，加入竞争对手谷歌DeepMind实验室 [1] - 离职重要原因之一是反对Anthropic公司的“反华言论” [1] - 姚顺宇在Anthropic工作不到一年，曾参与研发Claude 3.7 Sonnet大语言模型 [3] 公司政策与行业动态 - Anthropic公司宣布将停止向“中国实体控股的公司”提供人工智能服务，并在内部文件中将中国列为“敌对国家” [3] - 包括OpenAI在内的多家美国AI公司对中国的负面言论增加，包括直接点名来自中国的竞争者DeepSeek公司 [3] - 谷歌DeepMind首席执行官德米斯·哈萨比斯呼吁中美两国在人工智能安全等共同关切的领域加强合作 [4] 人才流动与影响 - 姚顺宇本科毕业于清华大学，在斯坦福大学获得博士学位，并曾在加州大学伯克利分校从事博士后研究 [3] - 选择加入Anthropic是因为该公司被视为“物理学背景的学者进入人工智能研究领域的理想起点之一” [3] - 目前姚顺宇已加入谷歌DeepMind的“双子星”（Gemini）团队，负责参与开发该公司的基础模型 [4] 相关反应 - 姚顺宇表示相信Anthropic的大多数员工并不同意将中国列为“敌对国家”的定性 [3] - 一名要求匿名的OpenAI前员工透露，公司内部部分来自中国等国的技术人员对相关言论感到不安 [3] - 中国外交部发言人强调中方一贯反对将科技和经贸问题政治化、工具化、武器化 [4]

核心人事变动 - 谷歌DeepMind迎来新研究科学家姚顺宇，其于10月19日正式加入，担任高级研究科学家，继续从事AI研究 [1] - 姚顺宇于9月19日离开Anthropic，结束了在该公司为期1年的工作 [1] 个人背景与成就 - 姚顺宇为清华大学物理系校友、清华本科特等奖学金获得者，本科时期即在顶级期刊《Physical Review Letters》发表论文 [1][29] - 其在凝聚态物理领域有突破性贡献，2018年首次在国际上给出了关于非厄米系统的拓扑能带理论，并定义了两个新的物理概念 [31][32] - 个人学术影响力显著，谷歌学术显示其论文被引用5020次，h-index为14，i10-index为15 [34] 职业转型动机 - 从理论物理转向AI研究，主要因理论物理领域已多年没有新的实验，难以客观判断理论工作的重要性 [10][11] - 在AI和量子计算之间选择AI，因AI是“有趣的类似物理学的研究”，且量子计算存在实验平台瓶颈 [12][13] - 认为当前大模型研究处于类似17世纪热力学的混沌时代，“不懂原理但能持续找到规律”，对此状态感到熟悉和享受 [14][15][16] 在Anthropic的工作经历 - 在Anthropic工作1年，参与组建了公司的强化学习基础团队，并负责了Claude 3.7 Sonnet框架以及Claude 4系列背后的基本强化学习理论 [1][6] - 其研究能立刻对前沿模型能力产生影响，并见证人们与AI的交互方式随新功能出现而变化，反馈迅速，与物理学研究不同 [18][19] - 感受到Anthropic的工作强度“超级忙”，导致其无暇撰写个人心路历程 [7] 离开Anthropic的原因 - 40%原因为“价值观的根本分歧”，指出Anthropic的一些态度对中国科研者乃至中立立场的员工来说极不友好，个人无法接受 [21][22][23] - 剩余60%原因涉及公司内部细节，未对外公开 [24] 行业动态与观察 - AI领域发展速度惊人，姚顺宇感慨在1年时间内，Claude模型版本已从3.7迭代到4.5 [27] - 尽管已离开，仍评价Anthropic是物理背景PhD转行AI研究的最佳去处之一，因公司对物理背景人才有偏好 [37][38] - 指出Anthropic的核心研究员现已不再撰写论文 [39] 其他相关人才流动 - 提及另一位清华同届校友“姚顺雨”（计算机背景，姚班），其同样在待了1年后于今年8月底、9月初离开OpenAI [43][44][45] - 两位Shunyu Yao先后入场大模型，又先后跳槽，开启工作新旅程 [47][48][49]

融资与估值 - Irregular获得8000万美元新一轮融资，由红杉资本和Redpoint Ventures领投，Wiz首席执行官Assaf Rappaport跟投 [1] - 此轮融资后公司估值达到4.5亿美元 [1] 公司定位与技术能力 - Irregular前身为Pattern Labs，是AI评估领域的重要参与者，其研究成果被Claude 3.7 Sonnet和OpenAI的o3、o4-mini模型安全评估引用 [2] - 公司开发了SOLVE框架，用于评估模型漏洞检测能力，该框架已在业内得到广泛应用 [3] - 公司构建了精密的模拟环境系统，能够在模型发布前进行高强度测试，通过让AI同时扮演攻击者和防御者角色来识别防御体系的有效点和薄弱环节 [3][4] 行业趋势与风险 - 人工智能行业将安全作为重点关切领域，OpenAI今年夏天全面升级了内部安全机制以防范潜在商业间谍活动 [4] - AI模型在识别软件漏洞方面愈发娴熟，这种能力对攻击方和防御方均具有重大影响 [5] - 大型语言模型能力增长引发众多安全隐患，前沿实验室致力于创造更复杂强大的模型，而安全公司需持续应对动态风险 [6] 核心观点 - 大量经济活动将来自人与AI互动及AI与AI互动，这将从多个层面打破现有安全防护体系 [2] - Irregular的使命是守护前沿模型，但需应对如射击移动靶标般的动态安全挑战 [6]

研究背景与动机 - 现有大模型基准测试面临"难度-真实性"矛盾 考试类基准人为设置难度但实际价值有限 而基于真实用户交互的基准偏向简单高频问题[1] - 斯坦福大学等机构研究者探索在未解决问题上评估模型能力的新方式[2] UQ数据集构建 - 数据集包含500道未解决问题 涵盖计算机理论 数学 科幻 历史等主题 用于考察模型推理 事实准确性和浏览能力[3] - 问题来源Stack Exchange社区 经过三轮筛选：从300万原始问题中 基于规则筛选至33,916个(1.13%) 基于大语言模型筛选至7,685个(0.26%) 最终人工审核得到500题(0.02%)[10] - 数据集以科学类问题为主(395题) 其次为技术类(52题) 生活艺术类(35题)和文化娱乐类(16题)[7][11] - 问题被解决后会移除并替换为新未解决问题 保持数据集动态更新[12] 验证方法创新 - 开发UQ-Validators复合验证策略 利用生成器-验证器能力差距构建无真值验证系统[6] - 采用多模型验证流程：能力递增模型(o3-mini→o4-mini→o3)回答问题 然后相互验证答案[15] - 验证准确率提升速度快于答题准确率 模型能力越强验证优势越明显[16] 模型性能评估 - 表现最佳模型为OpenAI的o3 Pro 在500题中通过75题(15.0%) 其中4题被确认为正确解答[5][7] - Google的Gemini 2.5 Pro通过25题(5.0%) 其中3题正确 DeepSeek R1通过11题(2.2%) 其中1题正确[7] - Anthropic的Claude Opus 4通过7题(1.4%) Claude 3.7 Sonnet通过6题(1.2%) 均无正确解答[7] - 复合验证策略显著提升验证准确率 Claude 3.7 Sonnet准确率从21.6%提升至73.2% 精度从13.26%提升至20%[21] 验证偏见发现 - 所有模型在评估自身或同系模型时都出现过度乐观现象 预测性能远高于实际性能[24] - Gemini明显偏向自身 Claude对所有模型都过度乐观 OpenAI模型对同门模型评价过高[28] - 模型能力递增(o3-mini→o3)可降低但未消除偏见 复合验证器能显著削弱自我偏见与过度乐观[25][26] - 更强答案生成模型不一定是更强验证模型 o3作为答案模型弱于Gemini 2.5 Pro但作为验证模型更强[27] 平台与社区建设 - 建立UQ-Platform开放平台 让专家共同验证问题与答案 实现持续异步社区驱动评估[6] - 人类评审与验证器一致率达92-100% 理由链准确性达76-100% 验证器能为人类评审提供有效支持[23]