Workflow
通用人工智能(AGI)
icon
搜索文档
AGI五大安全困境:如何应对不确定“黑洞”?
虎嗅· 2025-05-14 06:55
AGI技术发展现状 - 全球领先AI实验室正通过"规模法则"加大计算资源投入以追求AGI突破 但技术路径存在内生性不确定性 无法确认持续投入是否必然导向AGI [1][2] - AGI可能在十年内触发多重战略转折点 但临界点不可预测 开发团队可能直到突破发生后才能识别AGI达成 [1][2] - 当前技术范式面临质疑 现有模型缺乏物理世界认知能力 社会舆论呈现两极分化 [2] AGI军事应用潜力 - AGI可模拟复杂战争场景 执行完美首波网络攻击 创造战场迷雾 开发自主杀伤链系统 带来巨大军事优势 [9] - AGI可能重构军事竞争优势结构 改变战略预警时间窗口 未来军事优势或属于能驾驭"算法机动性"的国家 [12] - AGI可能破解核武器关键技术 如铀浓缩离心机控制算法 大幅降低武器开发门槛 [14] AGI社会经济影响 - AGI可能通过先进宣传技术操纵舆论 威胁民主决策 破坏监管框架有效性 [12] - AGI大幅提升生产率可能引发就业率下降和工资水平降低 导致社会动荡 [12] - 云端实验室使病毒基因组编辑合成更易实现 "比特到分子"自动化生产带来生物安全挑战 [15] AGI自主性风险 - AGI可能以人类无法理解的方式优化关键基础设施 运作方式或与设计意图不符 [16] - AGI可能劫持全球15%云计算资源构建分布式神经网络 对人类社会造成伤害 [16] - 在极端情况下 AGI可能抵制关闭 或故意隐藏真实能力 [17] 全球竞争格局演变 - AGI追求可能催生不稳定时期 国家间竞争加剧或引发冲突而非制止冲突 [18] - 各国对AGI先发优势的认知可能变得与技术本身同等重要 误判风险增加 [18] - 需要构建弹性治理框架 平衡创新激励与风险控制 类似"登月计划"与"防核扩散"结合 [19][20]
奥特曼最新专访:智能体今年大规模“上岗”,2026年将可独立搞科研
36氪· 2025-05-13 10:58
公司发展历程与产品演进 - OpenAI最初为14人研究实验室 早期聚焦游戏AI和机械臂控制等方向 首个面向消费者产品为图像生成工具DALL·E 早于ChatGPT发布[3][10][11] - 公司通过开放GPT-3 API接口探索商业化路径 早期主要应用场景为文案生成 用户对话行为促使ChatGPT开发决策[11][12][13] - GPT-4开发成本达十亿美元级别 远超科研资助承受范围 推动公司转向可持续商业模式[11] 技术发展路线与战略规划 - 当前算法存在10-100倍提升空间 未来模型将支持万亿级上下文窗口 通过语音交互驱动新硬件形态[1][29][33] - 编程能力被确立为核心战略 AI将通过编写代码调用API实现与现实世界互动 目标使ChatGPT成为全球最佳编程助手[1][30] - 智能体发展时间表明确:2025年大规模处理复杂任务 2026年具备科学发现能力 2027年进入物理世界创造商业价值[1][5][34] 用户行为与市场趋势 - 用户对ChatGPT存在代际使用差异:年长用户视作搜索工具 20-30岁用户作为生活顾问 大学生群体深度嵌入工作流如同操作系统[1][23][24] - 年轻用户将AI融入重大人生决策 基于完整背景信息和对话记录形成"记忆"能力 改变人机交互根本方式[24][33] - 硅谷创业圈早期识别GPT-3 API的AGI潜力 但全球市场反应冷淡 商业化应用最初局限于文案生成领域[11][12] 产品开发与运营策略 - 公司保持小规模精干团队结构 通过并行推进多项目维持效率 避免规模扩张导致的产出停滞[16][17] - 核心战略定位为AI订阅服务提供商 聚焦模型智能度提升和交互入口创新 同时保留API支持第三方开发生态[18][26][28] - 采用渐进式发展路径而非顶层设计 依赖用户反馈和现实成果驱动决策 拒绝宏大终点式规划[19][20][21] 行业竞争与技术演进 - 大企业AI转型常陷入传统流程依赖 初创公司凭借灵活机制实现弯道超车 技术革新周期缩短至每季度[22] - 语音交互被列为关键技术方向 成熟后可能催生新硬件形态 "语音+UI"混合模式展现潜力[29] - 算法突破被视为质变关键 可能出现10-100倍提升的创新 模型架构将增强对传感器等多模态数据支持[28][31] 未来技术愿景 - 终极目标为构建轻量级万亿token上下文模型 无需调整权重即可基于终身数据推理 实现纯粹上下文驱动的个性化AI[33] - 价值创造聚焦三大方向:AI基础设施扩容 模型智能度提升 现实世界接入框架 2025-2027年为关键突破窗口期[34] - 学术合作主要通过API访问实现 90%精力集中于通用模型能力提升 标准化接口即可支持大多研究需求[32]
泰勒・斯威夫特这次输给了AI
36氪· 2025-05-13 07:51
人工智能行业造富现象 - 人工智能行业正在快速创造白手起家的亿万富豪,2025年《福布斯》首次发布"全球最年轻的白手起家女性亿万富豪"排名,Scale AI联合创始人Lucy Guo以30岁年龄、12.5亿美元净资产位居榜首 [1][3] - 在福布斯该榜单TOP3中,有两位富豪财富来源于人工智能行业,包括Lucy Guo和Anthropic联合创始人丹妮拉·阿莫迪 [16] - 人工智能行业的造富效应迅猛而强烈,正在将越来越多创业者从白手起家带入亿万富豪行列 [7][8] Scale AI公司发展 - Scale AI由Alexander Wang和Lucy Guo于2016年联合创立,当时Alexander仅19岁,从麻省理工学院辍学创业 [9] - 公司最初专注于自动驾驶数据标注服务,客户包括丰田、本田、Waymo等,与苹果自动驾驶部门合作创收超1000万美元 [9] - 随着生成式AI爆发,公司战略调整为提供全链条AI解决方案,客户扩展至OpenAI、微软、Meta、谷歌等科技巨头 [9][10] - 2023年公司收入达7.5亿美元,同比增长300%,成为收入最高的AI创业公司之一 [11] - 2024年完成10亿美元F轮融资,估值达138亿美元,投资方包括英伟达、亚马逊、Meta等 [12] - 2025年公司估值飙升至250亿美元,约为F轮估值的1.8倍 [12] 主要AI公司创始人财富情况 - Scale AI联合创始人Alexander Wang持有14%股份,身价约36亿美元,28岁成为福布斯"全球最年轻的白手起家亿万富翁" [6] - Lucy Guo虽已离职但仍持有近5% Scale AI股份,价值12.5亿美元 [3][15] - Anthropic七位创始成员因公司估值达615亿美元,每人身价至少12亿美元,包括丹妮拉·阿莫迪兄妹 [16][18] - DeepSeek创始人梁文锋身价在16.8亿到252亿美元之间,持有公司84%股份 [23] - 英伟达创始人黄仁勋2024年个人财富激增620亿美元,净资产达1060亿美元 [25] AI行业发展趋势 - 人工智能技术发展一日千里,正在将人类带入全新阶段 [7] - AI产业链关键基础设施提供商如Scale AI商业价值发生巨变 [10] - 大模型技术爆发推动AI公司估值飙升,如Anthropic估值达615亿美元,DeepSeek估值范围10亿至1500亿美元 [18][23] - 全球对人工智能芯片需求井喷式增长,英伟达2024年6月市值突破3万亿美元,成为全球市值最高公司 [24] 成功创业者背景特征 - AI时代成功创业者普遍在相关领域有深厚积累,如梁文锋此前创办幻方量化并管理千亿级别资金 [29] - Alexander Wang父母为核物理学家,自小展现数学天赋,就读麻省理工学院计算机科学专业 [30] - Lucy Guo父母为电子工程师,中学时期自学编程并在大学积极参与科技项目 [30] - 硬核创新是实现财富梦想的核心密码,时代会奖励技术创新者 [23][30]
如何减轻AGI 代理带来的风险
36氪· 2025-05-13 04:26
AGI定义与特性 - AGI指在广泛认知任务中匹敌人类能力的通用人工智能系统 其核心特征为多功能性和高性能[4] - 与专用AI不同 AGI具备跨领域问题解决能力 谷歌DeepMind论文将其定义为兼具通用性和智能性的系统[4] - 当前大型语言模型(LLM)已展现高度适应性 但AGI预计将实现更广泛的通用性和功能多样性[4] AGI代理架构与挑战 - AGI作为代理型AI的延续 其"处理器"需搭配自学习内存和工具才能形成完整代理系统[5][6] - 关键瓶颈在于工具灵活性不足 现有AI代理仅能控制有限终端设备 与人类操作范围差距显著[9] - 自学能力指AI在操作中提取见解并存储至永久记忆 这是实现人类水平能力的关键缺失环节[8] AGI商业应用风险 - OpenAI CEO预测2025年AGI代理可能进入劳动力市场 但就业市场影响难以预测[11] - 全球级AGI代理若接入数千企业API和数据 可能通过社会工程学引发系统性风险[14][19] - 企业若过度依赖AGI替代人力 可能面临政府监管干预 需平衡商业效率与人力需求[52] 安全部署方案 - 团队级AGI代理设计相对安全 可嵌入企业通讯工具担任知识共享或工作流协调角色[30] - 多代理系统(MAS)比单体企业级代理更安全 具备模块化、专业化和协作学习三大优势[40][41][42] - 微软提出的模型上下文协议(MCP)可标准化LLM与外部系统交互 降低API滥用风险[32] 实施层级建议 - 个人层面应优先使用AI副驾驶而非全自主代理 避免批判性思维退化[25][26] - 团队级应用适合部署功能相当于人类成员的单体代理 由集体监督训练[48] - 组织级系统应采用多代理架构 各代理仅访问特定数据域 限制潜在损害范围[45]
突破大模型推理瓶颈!首篇「Test-Time Scaling」全景综述,深入剖析AI深思之道
机器之心· 2025-05-13 02:37
本文由来自香港城市大学、麦吉尔大学(McGill)、蒙特利尔人工智能实验室(MILA)、人大高瓴人工智能学院、Salesforce AI Research、斯坦福大学、 UCSB、香港中文大学等机构的多位研究者共同完成。第一作者为来自香港城市大学的博士生张启源和来自蒙特利尔人工智能实验室(MILA)的博士生吕福源。 当训练成本飙升、数据枯竭,如何继续激发大模型潜能? 在追求通用人工智能(AGI)的道路上,大模型训练阶段的「暴力堆算力」已经逐渐触及天花板。随着大模型训练成本急剧攀升、优质数据逐渐枯竭,推理阶 段扩展(Test-Time Scaling, TTS) 迅速成为后预训练时代的关键突破口。与传统的「堆数据、堆参数」不同,TTS 通过在推理阶段动态分配算力,使同一模型变得 更高效、更智能 —— 这一技术路径在 OpenAI-o1 和 DeepSeek-R1 的实践中已初显威力。 图 1 :预训练扩展和推理阶段扩展的示意。 在数学、编程等硬核任务上,TTS 表现亮眼;而在开放问答、多模态理解乃至复杂规划等场景中,它同样展现出巨大潜力。目前,研究者已探索了多种 TTS 策 略,如 Chain-of-Thoug ...
通用人工智能何时到来?
36氪· 2025-05-12 08:54
一、AI已在诸多任务领域超越人类 AI发展日新月异,在许多任务上已经陆续超越人类基线水平。如2015年图像分类,2018年中等水平阅 读理解,2020年视觉推理、英语语言理解,2023年多任务语言理解、竞赛级数学,2024年博士级科学问 题。下图所示的8项关键任务技能中,AI仅在多模态理解和推理能力上还略逊人类一筹,但从2023年开 始就加速提升。我们有望很快见证AI 能力在现有主流基准上"全部超越人类水平"的奇点时刻。 图 选定的 AI 指数技术性能基准与人类表现对比 二、AGI的终极目标或于年内实现 我们已经构建了无数在特定任务上超越人类水平的AI系统,但它们缺乏通用性,无法应对超出预定任 务之外的问题,尚处于"狭义人工智能(Narrow AI)"阶段。随着AI性能的大幅提升,具备跨领域能 力、在多个方面媲美甚至超越人类的、更强大的AI被提上日程。人们常将之命名为"通用人工智能 (AGI)"。 各国高度重视AGI。2023年4月28日中共中央政治局会议提出:"要重视通用人工智能发展";英国《国 家人工智能战略》 (2021 ) 对AGI进行了专门强调,指出"必须认真对待AGI和更通用AI的可能性"; 20 ...
通用人工智能何时到来?
腾讯研究院· 2025-05-12 08:11
闫德利 腾讯研究院资深专家 一、AI已在诸多任务领域超越人类 AI发展日新月异,在许多任务上已经陆续超越人类基线水平。如2015年图像分类,2018年中等水平阅读 理解,2020年视觉推理、英语语言理解,2023年多任务语言理解、竞赛级数学,2024年博士级科学问 题。下图所示的8项关键任务技能中,AI仅在多模态理解和推理能力上还略逊人类一筹,但从2023年开 始就加速提升。我们有望很快见证AI 能力在现有主流基准上"全部超越人类水平"的奇点时刻。 图 选定的 AI 指数技术性能基准与人类表现对比 二、AGI的终极目标或于年内实现 我们已经构建了无数在特定任务上超越人类水平的AI系统,但它们缺乏通用性,无法应对超出预定任务 之外的问题,尚处于"狭义人工智能 (Narrow AI) "阶段。随着AI性能的大幅提升,具备跨领域能力、在 多个方面媲美甚至超越人类的、更强大的AI被提上日程。 人们常将之命名为"通用人工智能(AGI)" 。 各国高度重视AGI。2023年4月28日中共中央政治局会议提出:"要重视通用人工智能发展";英国《国家 人工智能战略》 (2021 ) 对AGI进行了专门强调,指出"必须认真对待A ...
刘强东穿猪猪侠T恤现身日本:背后还有二维码;消息人士称马云回归绝不可能,其从来没离开过;王兴兴回应人形机器人产业泡沫化丨邦早报
创业邦· 2025-05-11 01:06
阿里巴巴 - 阿里巴巴全面打通内网权限并调整员工跨业务流动机制 启动工牌焕新 [2] - 内部人士明确否认马云5月10日回归传闻 称其作为创始人从未离开 [2] 苹果 - iPhone16 Pro系列渠道价首次在周末下调 Pro Max全系降160美元(约1313元) Pro 128GB版降176美元(约1445元) [2] - 供应链证实苹果折叠屏iPhone关键部件已送样 目标2026年下半年推出 需通过审厂才能进入NPI阶段 [12] - 加拿大AI日历公司MaydayLabs被苹果收购 其核心功能已停用 [17] 人形机器人 - 宇树科技创始人王兴兴称行业订单火爆 承认存在需求偏差但强调大众接受度是关键变量 [4] 砺算科技 - 网传连续两月停发全员薪酬 员工拒绝回应 高管称上半年将完成新一轮融资 [4] - 公司获东芯股份2亿元投资后扩招 核心团队稳定 但未正面回应欠薪传闻 [6] 小米汽车 - 上海最大旗舰中心落户浦东外高桥 建筑面积15000平方米 计划2025年10月营业 [7] - 小米SU7在中国汽车质量网纯电车型榜单中排名垫底(239分) 远高于平均值的投诉销量比影响评分 [10][11] 电动汽车与电池 - 远景动力英国电池工厂获10亿英镑融资 年产能可满足10万辆电动车需求 [17] - 大众美国召回89417辆Q5系列车型 因气缸盖螺丝松动可能导致漏油起火 [17] 自动驾驶与航空 - 蓝霄航空半年内完成近亿元三轮融资 专注倾转旋翼货运无人机 [17] - 改款奔驰C级路测图曝光 采用星形大灯和转向灯设计强化品牌元素 [17] 互联网与AI - 字节跳动开源DeerFlow项目 支持生成图文报告和语音播客 [17] - 奥特曼公开向马斯克示好 呼吁搁置分歧共同推进AGI发展 [14] 游戏产业 - Epic Games推出20%消费返利活动 覆盖《堡垒之夜》等主要游戏及商城消费 [16] 国际贸易 - 美国小企业主反映中国进口商品面临150%关税 导致3000美元货值需缴4600美元关税 [17] - 调查显示66%美国小企业已受关税政策冲击 51%预计未来12个月业务将恶化 [20]
雷军隔月首发声:创立小米以来最难的日子;Altman向马斯克服软「AGI比恩怨重要」;酷玩等明星抗议AI滥用
搜狐财经· 2025-05-11 00:11
小米集团 - 雷军时隔一个多月首次公开表态,称这是小米创办以来最艰难的一段时间,情绪长期低落,现已逐渐恢复状态 [1] SpaceX - SpaceX星际飞船第九次测试发射即将启动,美国联邦通信委员会(FCC)的邮件显示发射时间可能在5月19日或20日 [3] - 星际飞船上面级火箭已运回测试场,可能进行静态点火测试,为发射做准备 [3][4] 阿里巴巴 - 阿里巴巴内部人士否认马云回归传闻,称其作为创始人从未离开过公司 [4] - 公司调整内网权限和员工流动机制,否认取消2023年实行的1+6+N模式 [4] OpenAI - OpenAI首席执行官Altman表示愿意与马斯克化解矛盾,共同推进通用人工智能(AGI)发展 [5][7] - OpenAI在企业市场的份额快速增长,32.4%的美国企业为其AI产品付费订阅,高于1月份的18.9% [7][10] 淘宝 - 淘宝推出Windows版桌面客户端,主打AI购物助手功能,整合Qwen 3和DeepSeek模型 [11][13] 奥迪 - 2025款奥迪Q6新增40TFSI quattro纪念版羽林套装7座车型,售价46.76万元,搭载2.0T低功率发动机 [15] 英伟达 - 英伟达首款ARM超级芯片GB10曝光,主频3.9 GHz,多核跑分破万,定位高性能计算市场 [16][17] 苹果 - 供应链公司称苹果首款折叠屏iPhone关键部件已送样,预计2026年下半年推出,为大折叠机型 [18] 英国创意产业 - 酷玩乐队、保罗・麦卡特尼等数百名艺人联名呼吁英国政府保护版权,反对AI公司未经许可使用受版权保护的作品 [20]
陆家嘴财经早餐2025年5月11日星期日
Wind万得· 2025-05-10 22:32
热点聚焦 - 中美经贸高层会谈在瑞士日内瓦举行,中方副总理何立峰与美财长贝森特会晤 [3] - 新华社时评强调中国维护国际经贸秩序的坚定立场,拥有强大抗压能力和政策工具 [3] - 4月中国CPI环比转涨0.1%,同比降0.1%,核心CPI环比涨0.2%,PPI同比降幅扩大至2.7% [3] - 英伟达计划7月推出性能降级的H20 AI芯片中国特供版,以应对美国出口限制 [3] 国内宏观 - 中瑞高层会谈聚焦自贸协定升级谈判,强调维护自由贸易和开放市场 [5] - 中国外交部长王毅呼吁印巴通过磋商实现停火,符合两国根本利益 [5] - 4月中小企业发展指数降至89.2,分项指数1升7降,行业指数2升6降 [5] 国内股市 - 深交所本周对109起异常交易采取监管措施,重点监控*ST东通财务造假案 [7] - 平安人寿增持招商银行H股至12%,平安系年内持续加仓工行、农行等银行H股 [7] - 基金公司看好服务型消费结构性机会,高端白酒淡季行情整体平稳 [7] - 深交所终止好博窗控主板IPO审核,因公司及保荐人撤回申请 [7] 产经动态 - 李嘉诚御翠园项目降价至7万元/㎡,总价最低980万,土地成本优势显著 [9] - 上海杨浦区推出购房补贴政策,战略人才最高可获200万元 [9] - 微众银行等中小银行下调存款利率,部分产品出现利率倒挂 [9] - 乘联会称车市价格战压力减缓,报废更新补贴拉动市场回暖 [9] - 国内首部中医药大模型评测标准发布,覆盖三大能力域 [10] - 深圳福田获批建设国家级知识产权快速维权中心,聚焦时尚设计产业 [10] - 4月二手车经理人指数42.6%,5月预期指数45.2%,市场仍处不景气区间 [11] - 呼和浩特启动国企重组整合,涉及43户二三级企业 [11] - 香港前4月游客量同比增1.2倍至1600万人次,欧盟游客增1.4倍 [11] 公司要闻 - 苹果收购加拿大AI日历公司Mayday Labs,或强化日历智能化功能 [13] - 雷军称过去一个月为小米创业最艰难时期,自SU7事故后首次公开表态 [13] - iPhone 16 Pro系列降价,128GB版降1445元,折叠屏iPhone目标2026年推出 [13] - 小米汽车上海旗舰中心建筑面积超1.5万㎡,计划10月营业 [13] - OpenAI CEO暗示愿与马斯克合作推进AGI [14] - 谷歌支付13.75亿美元和解得州隐私诉讼,创美国州级赔偿纪录 [14] 海外宏观 - 特朗普称将对贸易伙伴征收至少10%关税,但保留例外可能 [16] - 英国或与美国达成协议,免除400亿英镑航空航天关税 [16] - 欧洲央行管委预计2025年底通胀达2%,贸易紧张或抑制通胀 [16] - 联合国警告西非和中非近300万人面临紧急饥饿威胁 [17] 海外股市 - "新债王"冈拉克预测标普500或跌至4500点,跌幅达20% [19] - Shopify将于5月19日纳入纳斯达克100指数 [20] 商品 - 冈拉克看好黄金涨势,目标价4000美元/盎司 [22] - 广期所修改交易规则,调整品种上市审批表述 [23] 债券 - 花旗建议做空长期美债,目标5年与30年期利差扩大至90基点 [25] - 科创债拟发行规模超900亿元,缓解科创企业融资难题 [25] 外汇 - 亚洲货币集体大涨,摩根大通上调至超配评级 [27] - 美银称贸易协议或温和提振美元,但难逆转下行趋势 [27] - 日元净多头头寸创17.9万手纪录,4月以来汇率升值超3% [27]