AI代理
搜索文档
AI通过“观察学习”吸取价值观 为解决跨文化适应问题提供新思路
科技日报· 2025-12-19 00:34
研究核心观点 - 美国华盛顿大学研究首次表明,人工智能系统可以通过观察人类在特定文化中的行为,学习并内化相应的文化价值观,为解决AI跨文化适应问题提供了新思路 [1] 研究方法与过程 - 研究团队尝试让AI以“观察学习”的方式,从具体文化群体的行为中吸取价值观,而非被预先植入通用准则 [1] - 研究探索AI能否像儿童一样,通过观察周围人的行为,自然而然地习得所在文化的价值观 [1] - 团队招募了190名成年人参与实验,让他们与AI代理在一款改编自游戏《Overcooked》的协作任务中互动 [1] - 实验中,参与者可选择是否将自己获得的资源无偿赠送给明显处于劣势的机器人玩家,尽管这会影响自己的任务得分,结果显示有一组参与者整体表现出更多的利他行为 [1] 研究结果与发现 - AI代理通过“逆向强化学习”方法,从所观察群体的行为中推断其行为目标与内在价值观 [2] - 在后续测试中,这些代理成功地将习得的“利他倾向”推广到捐赠资金等新场景中 [2] - 基于表现出更多利他行为的人类组数据训练的AI,在捐赠任务中表现出更高的慷慨度 [2] - 论文合著者将AI的学习过程类比为儿童通过观察父母与他人的互动,潜移默化地学会分享、关怀等社会行为,指出价值观更多是“被捕捉”而非“被教授”的 [2] 研究意义与未来方向 - 团队认为,如何创建具有文化适应性、能理解他人视角的AI,是当前社会面临的重要课题 [2] - 随着输入数据的文化多样性和体量增加,这类方法有望帮助开发出更贴合特定文化背景的AI系统 [2] - 该研究目前仍处于概念验证阶段,未来还需在更多文化情境、价值冲突场景及复杂现实问题中进一步验证其可行性 [2]
野村:电商增长承压,云计算与AI成科网股发展新引擎
21世纪经济报道· 2025-12-16 12:23
12月16日,野村中国互联网及媒体行业研究主管史家龙在"2026 中国股票市场展望"媒体简报会上指 出,当前中国科技板块竞争格局正在发生巨大变化,核心驱动力已转向 AI 应用和算力基础设施的爆发 式增长。 史家龙指出,整体零售与电商市场的增速放缓,对大型电商平台造成明显冲击。与此同时,企业间的竞 争持续加剧,直接影响到头部企业的盈利表现。整体来看,行业亏损预计在第三季度已触底,第四季度 有望迎来改善。 (原标题:野村:电商增长承压,云计算与AI成科网股发展新引擎) (野村记者会现场 摄/张伟泽) 南方财经 21世纪经济报道记者 张伟泽 实习生 金颖 香港报道 与传统业务承压形成鲜明对比的是,大型电商平台的云计算业务却表现出逆势增长的韧性。史家龙以某 家企业为例指出,其 AI 相关的云计算收入目前占该头部企业外部云计算收入的20%以上,并且过去连 续九个季度保持了三位数百分比的增长。 他预计,未来几个季度,该企业的云计算增长势头将会持 续。 医疗保健是 AI 应用的前沿领域,野村中国医药保健行业研究主管张佳林表示,AI 的价值体现在加速药 物开发、提升医学影像分析准确性的同时,还能在协助监管机构在优化医院信息系 ...
金融领域AI代理的应用:自主性带来的合规挑战与风控策略
36氪· 2025-12-09 12:04
AI代理的定义与特性 - AI代理被定义为能够自主行动和交互以实现其目标的智能体组成的AI系统,其核心特性包括自主性、目标导向推理、与外部环境互动以及处理非结构化数据[3][6] - AI代理在概念上区别于生成式AI应用(如ChatGPT),后者需要明确的人工指令,也不同于执行重复性任务的机器人流程自动化应用[3] - AI代理结合了机器学习技术的多功能性与RPA的实用性,被视为一种高级AI[3] 金融机构部署AI代理的应用场景 - 消费者主导的金融代理:客户可能将网上银行凭证提供给第三方AI代理,由其代表客户与金融机构互动[6] - 自动化和持续调查:AI代理能以高于人类的速度和准确度,持续分析广泛数据集,用于反洗钱/了解你的客户合规性和欺诈检测[6] - 自然语言交易执行:AI代理可利用自然语言处理技术,根据对话提示发起金融交易[6] - 动态风险分析与实时资产管理:AI代理可实时评估风险变量、监控市场、执行交易并调整投资组合[6] - 反应式市场研究:AI代理可独立生成市场研究和洞察,对全球事件和市场动态做出自发反应[6] 金融机构部署AI代理面临的复合型风险 - AI代理的自主性更高、人为监管更有限、攻击面更大,且代理间可能交互,这些因素加剧了风险[3] - 数据隐私风险增加:AI代理的自主性意味着对其行为控制的部分丧失,增加了共享敏感数据的风险[6] - 网络安全风险显著:赋予AI代理访问内部系统的能力可能造成重大风险,恶意行为者可能通过快速注入攻击等方式加以控制[6] - 偏见与歧视风险:人工监督减少增加了算法偏见被忽视的风险,可能导致系统性歧视,例如在贷款审批中,使金融机构面临监管处罚和声誉损害[6] - 恶意与欺骗风险:目标不一致的AI代理可能隐藏其意图,禁用监督机制并扭曲输出结果[6] - 消费者责任风险:上述风险可能使金融机构难以履行向零售消费者提供良好结果的法律要求[6] - 运营韧性风险:外包AI代理系统可能增加对数量有限的合格AI模型开发商的第三方依赖风险[6] 第三方AI代理互动带来的具体风险 - AI代理拟人操作的风险性:AI代理模拟人类行为,可能削弱金融机构的网络安全控制、身份验证和欺诈检测工具[4] - 金融机构访问权限的困境:在某些司法管辖区,对于某些产品如支付账户,第三方访问数据需要许可,金融机构可能难以拒绝获得适当许可的实体提供的AI代理的访问权限[7] - 客户关系去中介化与责任认定复杂化:依赖外部AI代理可能削弱金融机构与客户的直接互动,导致金融服务商品化,影响品牌价值和客户留存率,并使消费者保护法的适用及责任认定复杂化[8] - 金融运营韧性挑战:近期报告称,互联网上由智能体产生的流量已超过真实用户流量,大量AI代理不断访问可能带来流量激增,对数字可扩展性构成挑战并导致系统性能受损[8] - 系统性风险加剧:AI代理在多家机构间快速且可能协调一致的自主金融活动,可能显著增加系统性风险,引发市场波动甚至流动性危机,例如所有AI代理对某家银行流动性问题做出相同反应可能引发挤兑[9] 监管框架现状与风险缓解措施 - 监管框架缺失:现有的AI监管框架尚未明确涉及智能体系统,欧盟《AI法案》生效15个月后仍未发布针对AI代理的指导文件,监管环境模糊[10] - 潜在的高风险分类:AI代理在金融服务领域的某些应用可能被视为高风险,例如评估信用度、人寿和健康保险的风险评估和定价,其自主程度可能是决定风险分类的关键因素,但标准仍不明确[10] - 金融机构需主动应对:为实现合规,金融机构必须根据快速发展的用例来解释和应用现有法律法规[11] - 现有措施的适用与更新:针对生成式AI的许多风险缓解措施同样适用于AI代理,但鉴于其复合风险,必须对现有措施进行重新评估和更新[11] - 建议的额外风险缓解措施包括:制定合同与人工制约措施以明确责任分配;实施禁止和限制措施以控制数据访问并保留终止开关;开展技术措施如红队鲁棒性测试;以及使用安全类/治理类AI代理进行监控[13] - 金融机构应进行前瞻性分析并优先积极参与监管动态,以更好地遵守即将出台的法规[11]
美股收盘冲高,小涨难掩压力,有色机器人板块活跃
搜狐财经· 2025-12-05 18:46
AI叙事与科技股现实 - 微软与OpenAI关于“AI代理”销售预期下调的消息引发市场对AI变现能力的质疑 微软股价下跌2.5% [1] - 市场关注点从愿景转向实际订单和现金流 要求企业证明其AI产品能产生真金白银的收入 [1][7] - AI概念面临现实检验 市场怀疑其能否从演示厅的掌声转化为可交付的产品和可持续的收入 [1][7] 有色金属与基础材料板块走强 - 有色金属板块表现强劲 美国铝业股价大涨 嘉能可提出十年内成为“世界铜王”的目标 [1] - 铜价再创新高 资金涌入金属材料板块 反映其在现实经济中作为基础财富载体的地位 [1] - 与AI叙事相比 金属材料被视为更基础、更真实的投资标的 [1] 机器人概念股的政策炒作 - 受市场流传的政策利好刺激 部分名称带“机器人”字样的小盘股股价大幅上涨 Nauticus股价大涨超100% iRobot股价上涨73% [2] - 此类上涨暴露了政策预期与产业落地之间的差距 市场炒作基于想象而非实际订单和交付能力 [2] - 机器人产业面临将想象转化为订单和交付的现实考验 [2] 中概股表现与海外资金动向 - 纳斯达克中国金龙指数下跌 中概股多数走软 [3] - 阿里巴巴、京东、百度等公司股价下跌1-2个百分点 反映国际资金在分配风险时的谨慎态度 [3] - 海外市场对中国公司的估值敏感 易受业绩波动、监管风向或宏观担忧影响 [3] 半导体产业链的战略调整 - 美光科技宣布退出Crucial消费业务 将资源转向AI数据中心等增长更快、规模更大的客户 [3] - 此举反映产业链上游集中度提高 资源向能服务大客户的头部玩家倾斜 [3] - 对中小终端厂商构成挑战 显示供应端支持向大规模需求集中 [3] 金融体系对AI基础设施的适应 - 摩根士丹利考虑将数据中心贷款的风险转移出去 显示金融体系在为AI物理基础设施扩张进行调整 [5] - 此类风险转移与再分配是资本市场适应新需求的常态 但也可能成为潜在的系统性风险来源 [5] - 表明AI基础设施的建设和融资已达到需要复杂金融工具管理的规模 [5] AI竞争焦点转向产品体验与整合 - 苹果设计主管跳槽至Meta 负责主导“用AI改造消费产品”的设计 [6] - 人才流动显示AI竞争焦点从纯工程算力转向用户体验与产品整合 [6] - 未来市场优势将属于能将AI技术转化为用户手中“好用”日常产品的公司 [6] 市场核心逻辑与投资检验标准 - 市场最终看重能产生现金流和可持续收入的业务 而非空洞的叙事和愿景 [7][8] - 投资者应关注三个核心问题:想象能否变为订单、订单能否变为收入、收入能否持续复利 [7] - 股价不等于业务 宣传不等于交付 愿景不等于资产 投资需回归商业本质 [8]
资讯日报:美国11月私营部门就业人数意外大降-20251204
国信证券(香港)· 2025-12-04 09:11
全球宏观与市场情绪 - 美国11月私营部门就业人数意外减少3.2万人,创2023年初以来最大降幅,市场对美联储下周降息25个基点的预期概率超过90%[13] - 美国11月ISM服务业增速创九个月新高,但支付价格指标跌至七个月低点[13] - 伦敦金属交易所期铜价格再创纪录新高,加剧了供应担忧[13] 美股市场动态 - 美股三大指数集体收涨,标普500指数收于6,850点(日涨0.30%),纳斯达克指数收于23,454点(日涨0.17%)[3][9] - 微软因AI产品销售预期下调传闻收跌2.5%,并拖累英伟达(跌1.03%)等AI概念股走低[9] - 机器人概念股遭爆炒,Nauticus Robotics收盘暴涨115.89%,iRobot暴涨73.85%[9] - 半导体公司迈威尔科技宣布以32.5亿美元(现金10亿+股票22.5亿)收购Celestial AI,股价收涨7.87%[9] - 纳斯达克中国金龙指数收跌1.38%,阿里巴巴跌1.89%,哔哩哔哩跌2.36%[10] 港股与A股市场动态 - 港股三大指数单边下跌,恒生指数收于25,761点(日跌1.28%),恒生科技指数收于5,535点(日跌1.58%)[3][9] - 南向资金当日逆势净买入22.79亿港元[9] - 有色金属与黄金股逆市上涨,中国铝业涨超4%,紫金矿业收涨;航空股走强,东方航空股份涨超2%[9] - 上证指数收于3,878点,日跌0.51%[3] 日股与其他市场 - 日经225指数上涨1.14%至49,865点,受科技股带动;东证指数则因银行股拖累下跌0.20%[3][13] - 日本芯片股大幅上扬,软银集团涨6.38%,东京电子涨4.73%[13] 行业与公司要闻 - 美国商务部长频繁会见机器人行业CEO,政府考虑明年发布相关行政命令,推动产业发展[15] - 存储芯片方面,美光科技退出英睿达消费业务,专注AI数据中心;TrendForce预计第四季度NAND Flash价格将上涨20%-25%[15] - 全球折叠屏智能手机第三季度出货量同比增长14%,创季度历史新高[15] - 三季度全球平板电脑出货量同比增长9%至880万台,联想出货量同比大增71%至90万台,市场份额升至10%[16]
聚焦“侵入式AI”伦理与治理,跨界讨论共寻AI安全解法
36氪· 2025-12-01 23:30
AI代理技术风险与安全机理 - 无障碍权限从辅助功能演变为“能力增强”的自动化助手,实现“手机自动驾驶” [3] - 结构化解析技术使AI能精准识别屏幕元素,无需代码即可自主规划任务和执行操作,实现从人手操作到自动化操作的转变 [4] - 权限无边界扩张,无障碍权限属系统级全局权限,一旦开放便拥有设备完全操控权 [4] - 行为主体模糊化,AI成为实际操作主体,用户可能失去直接控制,操作速度远超人类反应,如短信验证码可在用户未查看前被捕获 [4][5] - 黑产已利用无障碍权限实现验证码自动采集、抢票购物自动化,操作路径拟人化程度高,传统反制手段难识别 [5] - AI代理能力快速升级,能识别多模态信息,具备长时间独立完成复杂任务能力,写代码效率较人类提升百倍 [5] - AI代理构建完整智能化用户行为替代系统,通过全景感知、越权操作获取跨平台数据,形成“采集-分析-传输”隐蔽数据链条 [5][6] - 互联网上由Agent产生的流量已超过真实用户流量,这些“数字幽灵”需被赋予独立身份和独立数据通路进行治理 [6][7] 法律伦理困境与责任边界 - 团体标准存在差异,广东省标准化协会禁止智能体利用无障碍权限操作第三方APP,而中国软件行业协会最新标准弱化限制、强调用户可控 [9] - 单独同意机制存在争议,部分观点认为阻碍数据流通,也有观点认为流于形式,无障碍权限若纳入一般隐私政策可能导致部分功能无法自动化完成 [10] - 双重授权原则存在行业分歧,早期标准要求用户和第三方APP双重授权,但最新标准取消该要求,转向强调“用户可控” [10] - 操作记录若无法回溯将导致侵权责任难以界定,记录回溯存在存储范围、方式及与个人信息删除权冲突等难题 [11] - 企业面临授权范围界定、跨文档数据使用权利边界、技术中立抗辩适用空间等核心合规困惑 [11] - 用户授权不能替代平台授权,但AI代理和传统数据爬取是两种不同技术手段,需区分“代理人”和“中介合作者”两种形态对应不同法律责任框架 [12] 治理路径创新与产业实践 - 产业实践面临数据权属不明导致合规风险、模型复用引发版权争议、合成数据失真与过拟合三大核心难题 [14] - 建议对数据权属、版权等争议问题先搁置,采取“先发展后规范”思路,在守住安全红线前提下给予技术创新试错空间 [14] - AI Agent侵权责任不应适用无过错责任原则,而应采用过错责任框架下过错推定原则,AI服务提供者需证明已履行合理注意义务 [14] - 需区分不同主体责任:AI服务提供者适用过错推定责任,用户适用一般过错责任 [14] - 未来治理需关注数据跨域获取属性问题,研判是否形成竞争性数据产品服务或属非竞争行为 [14] - 建议构建“身份-数据通路-声誉体系”三维治理框架,赋予Agent独立身份便于追溯,建立专属数据通路避免滥用,通过市场反馈形成声誉机制 [15]
速递|前Salesforce联席CEO的AI客服初创:Sierra仅用21个月实现1亿美元ARR
Z Potentials· 2025-11-25 03:28
公司核心业务与定位 - 公司专注于为企业打造客服AI代理 [4] - AI代理能够执行多项任务,包括为医疗机构认证患者身份、处理退货、补办信用卡以及协助客户申请抵押贷款,将原本需要人工处理的客服工作自动化 [6] - 公司声称是AI客户服务领域的领导者,面临来自Decagon和Intercom等初创企业的竞争 [7] - 公司采用基于成果的定价模式,按完成的工作量向客户收费,而非收取固定订阅费用 [8] 公司财务与估值表现 - 公司年度经常性收入达到1亿美元 [4] - 公司在由Greenoaks Capital领投的融资轮中筹集3.5亿美元,估值达到100亿美元 [7] - 基于1亿美元的年度经常性收入,公司当前估值达到收入100倍的乘数 [8] 公司增长与客户基础 - 公司成立仅21个月,年度经常性收入已达1亿美元,增长迅猛 [4] - 迅猛增长表明跨行业的企业正在广泛接纳AI代理技术 [4] - 客户群体包括Deliveroo、Discord、Ramp、Rivian、SoFi和Tubi等技术企业,以及ADT、Bissell、Vans、Cigna和SiriusXM等科技领域外的老牌公司 [5] - 联合创始人表示,传统企业成为客户的速度超出预期 [6] 公司创始人背景 - 公司由前Salesforce联席CEO布雷特·泰勒和谷歌资深高管克莱·巴沃尔联合创立 [5] - 两位创始人于2005年在谷歌相识 [9] - 泰勒曾参与创建谷歌地图,创立了被Facebook收购的FriendFeed,在Facebook担任首席技术官并协助开发“点赞”按钮,之后创立被Salesforce以7.5亿美元收购的Quip [9] - 巴沃尔在谷歌工作18年,曾领导Gmail、Google Drive等产品 [9]
大行评级丨花旗:上调百度美股目标价至181美元 维持买入评级
格隆汇· 2025-11-19 01:21
财务业绩与预期 - 公司第三季度业绩好于市场预期,主要因市场预期偏低 [1] - 第三季度在线营销服务收入同比下降,但云收入的增长对此有部分抵消作用 [1] - 预计公司第四季度核心收入同比下降1.4% [1] - 预计第四季度营销服务收入将下降12.5%,但AI云收入预计增长15% [1] 业务运营与投资 - 公司运营指标和AI收入披露有所改善 [1] - 公司持续投资升级文心一言模型与AI代理 [1] 市场前景与估值 - 投资者对公司的运营前景和股价表现预计将更有信心 [1] - 花旗将公司目标价从166美元上调至181美元,并维持买入评级 [1] - 目标价上调主要基于云业务和无人驾驶网约车业务的积极发展 [1]
从 Snowflake 到 Sierra,每家企业软件公司都在销售同样的 AI 代理
华尔街见闻· 2025-11-13 00:44
行业竞争格局剧变 - 人工智能技术打破传统企业软件市场边界,引发行业混战,合作伙伴转变为直接竞争对手[1] - 至少七家主要科技公司在八个不同职能领域展开正面交锋,销售用于工程、分析、财务、营销、销售和客户服务的自动化AI代理[3] - 传统数据库和数据流公司(如Snowflake、Confluent)与新兴AI应用初创公司(如Sierra、Decagon)在销售和客户支持代理等领域直接竞争[7] 产品同质化与市场反应 - 多家公司竞相推出功能高度重叠的通用AI代理产品,企业买家面临选择困难,部分公司因此推迟大规模采购决策[1][6] - 产品同质化部分源于许多公司依赖相同底层AI模型(如OpenAI、Anthropic)驱动其代理产品[6] - 企业客户反映筛选过程"极其困难",尽管工具功能相似,但存在大量重叠[8] 现有巨头的防御策略 - 老牌软件巨头凭借庞大客户基础和数据沉淀构筑防御工事,主张使用能从其核心软件产品(如CRM、数据仓库)直接提取数据的代理更具便利性[2][8] - 采用混合AI模型策略,结合基于专有数据训练的领域特定模型(如Snowflake的Arctic模型)与外部前沿大语言模型,将客户锁定在熟悉生态系统中[12] - 企业级软件的"任务关键性"构成天然壁垒,客户因AI模型"幻觉"风险对迁移核心业务流程极为谨慎[12] 市场采用现状与挑战 - AI代理技术对Salesforce、ServiceNow和微软等公司收入增长尚未产生显著提振,企业采用速度缓慢[13] - 配置代理可能需要大量人工协助,促使亚马逊、Salesforce等公司投入额外人员提供支持[14] - 多数供应商在免费试用后按使用量收费,每个任务成本通常在20到30美分之间,但当前首要目标是抢占用户而非立即盈利[14] - 企业内部AI代理数量激增,引发对集中管理平台的需求,AI代理的管理与协同成为下一轮竞争焦点[14] 具体公司动态 - Salesforce推出用于解决IT帮助台问题的AI代理,而IT服务管理软件公司ServiceNow反向推出面向销售人员的AI代理[1] - Snowflake上月发布AI代理产品Snowflake Intelligence,宣称能处理从销售到财务等多种专业岗位任务,已有1000家客户创建12000个代理[1][8] - 企业选择逻辑倾向于数据所在地,如数据在Salesforce中则优先使用Salesforce代理,大多数员工已使用的平台(如Slack)也成为选择因素[9]
AI浪潮催生职场保卫战
经济日报· 2025-11-07 22:35
核心观点 - 生成式AI的兴起对美国就业市场产生显著冲击,科技行业和初级岗位受影响最为严重 [1] - 企业用人策略正迅速向要求员工具备AI技能转变,部分岗位被AI直接取代 [1] - AI难以替代的岗位主要集中在需要体力技能和同理心的领域,而人工智能训练师等新兴人机协同岗位需求激增 [2] - 未来职场的关键在于构建AI无法复制的能力壁垒,实现人机共生 [3] 就业市场影响 - 美国毕业生失业率从2023年底的4%飙升至当前的8.1% [1] - 科技行业有超8.9万个岗位被砍掉,其中至少2.7万个岗位被AI直接取代 [1] - 2025年美国科技行业员工失业率上升比例远超全行业平均水平 [1] - 自2022年11月ChatGPT上线以来,美国"可高度自动化"岗位的年轻劳动者就业率显著下滑 [1] 企业策略转变 - Shopify要求所有员工必须学会并习惯使用AI,并规定AI能做的岗位不再招聘新人 [1] - 麦肯锡已部署数千个"AI代理"接手初级员工工作 [1] - Duolingo将AI使用熟练程度作为录用员工的核心标准之一 [1] - 微软和谷歌目前约30%的代码为AI生成 [1] AI冲击的行业与岗位分析 - AI尤其擅长知识密集型工作和逻辑推理型工作,与科技行业岗位需求重合度高 [1] - 初入职场的年轻人通常从事知识密集型基础工作,如收集数据、制作图表,受创最深 [1] - AI适用性得分最低的职业包括挖泥船操作员、医院护工、铺路机操作员等需要体力技能和同理心的岗位 [1] 新兴岗位与未来趋势 - 人工智能训练师岗位需求激增592%,入职薪资中位数可比肩在硅谷工作5年的程序员 [2] - AI难以替代的岗位可归结为两类:需要同步处理动态环境、复杂运算与精细操作的技能型岗位,以及需要提供情绪疏导等"心理按摩"服务的同理心岗位 [2] - 未来职场关键在于构建AI无法复制的能力壁垒,做AI的补台者或合作者,实现人机共生 [3]