本文来自微信公众号：Founder Park，编译：Founder Park，原文标题：《0 融资、10 亿美元营收，数据 标注领域真正的巨头，不认为合成数据是未来》，头图来自：AI生成 比 Scale AI 更值得关注的 AI 数据标注公司出现了。 同样是华人创始人，2020 年创立，120 人左右的团队，去年营收达到 10 亿美元，至今没有融资， Google、OpenAI 和 Anthropic 都是它的客户。 对比之下，Scale AI 去年的收入是 8.7 亿美元，已经是 F 轮融资，累计融资 16 亿美元。 在被 Meta 收购了近一大半股份、创始人 Alexandr Wang 加入 Meta 之后，Scale AI 被谷歌、OpenAI 等 大客户暂停合作，Surge AI 的优势更加明显，隐约要成为数据标注领域的领头者。 创始人兼 CEO Edwin Chen 是一个很独特的创始人，曾在谷歌、Facebook 和 Twitter 担任机器学习工程 师的他，对于数据有非常多有价值的深入思考。Edwin Chen 最近接受了几家播客的采访，对于创业和 模型的数据训练，输出了不少观点。 比如在他看来 ...

公司概况 - Surge AI是一家专注于AI数据标注的公司，2020年由华人创始人Edwin Chen创立，团队规模约120人，2023年营收达10亿美元，至今未进行融资 [1] - 公司客户包括Google、OpenAI和Anthropic等头部AI企业，已成为数据标注领域最大的人类数据服务商 [5] - 对比竞争对手Scale AI，后者2023年收入8.7亿美元，已完成F轮融资累计16亿美元，但被Meta收购大部分股份后遭大客户暂停合作 [2] 商业模式 - 核心产品是直接用于训练和评估AI模型的高质量数据，包括监督微调数据、偏好数据等，区别于传统人力外包公司 [4] - 交付形式不仅包括数据本身，还包括相关洞察如损失模式、失败模式等，形成完整的数据应用生态 [15] - 采用不融资策略，依靠自身盈利能力发展，保持公司控制权和产品专注度 [7][9] 技术优势 - 构建复杂算法系统衡量和改进数据质量，而非简单依赖人力外包 [17][18] - 平台技术能识别高质量内容，如创意写作、编程解决方案等主观性强的工作 [20][21] - 采用类似Google搜索的质量评估体系，收集多维度信号输入机器学习模型 [23] 行业观点 - 合成数据被高估，海量合成数据中绝大部分是无用噪音，现实表现糟糕 [32][33] - 大语言模型竞技场误导模型优化方向，导致模型追求表面特征而非实质质量 [38][39] - 人类反馈永不过时，细致的人类评估是前沿模型实验室公认的黄金标准 [37][50] 数据质量 - 高质量数据标准强调主观创造力和智慧，而非机械满足条框要求 [46][47] - 不同领域需定制化质量评估标准，结合整体性原则与专业差异 [49] - 真正的质量评估需要深入人类审查，而非五秒直觉判断 [50] 行业趋势 - 未来AI训练需要多种数据结合，包括强化学习环境和专家推理轨迹等 [31] - 模型市场将呈现多样化格局，不同公司侧重不同能力和个性 [44][45] - AI工具可能放大工程师能力差异，使10倍工程师进阶为100倍工程师 [61][62]

人工智能数据治理与发展 - 2025世界人工智能大会聚焦大模型时代数据治理与伦理建设 行业共识认为互联网数据将在2026年左右被大模型训练耗尽 需建设新的高质量数据集 [1] - 高质量数据集获取路径包括垂直行业专业数据(如金融 教育 文旅) "众包众创"联合学术机构 以及具身智能等领域的真机采集 [5][6] - 行业呼吁形成数据"联盟"共享语料 但垂直行业数据作为公司护城河 共享机制仍需探索 [5] 数据标注行业转型 - 数据标注行业正从人力密集型转向知识密集型 主力从业者从四五线城市大专生转向高校学者和行业专家 [3] - 大模型需求推动标注内容复杂化 涉及学术难题和专业知识 需构建强推理思维链数据和行业语料库 [3] - 简单标注工作或逐渐被机器取代 高阶发展趋势为专家人工编写后机器二次合成 [4] 合成数据应用与挑战 - 合成数据成为应对训练数据短缺的新思路 但存在缺陷 误差 歧视等质量问题 [5] - 算法偏见可能导致合成数据放大原有偏见 存在"Garbage in garbage out"风险 [5] - 合成数据存在伦理和隐私风险 逆向工程可能泄露原始数据中的个人信息 [5] 语料服务创新实践 - 库帕思科技启用全国首个语料运营公共服务统一门户 其语料工具链平台已开发400多个功能模块 应用于医疗 教育等领域 [6] - 大模型语料治理与传统数据治理差异显著 需处理高密度 高专业性的非结构化数据(如数学推理 化学分子式) [6][7] - 传统数据治理侧重清洗数值型结构化数据 而大模型需结合图像识别 NLP等技术处理多模态内容 [6][7]

大模型技术演进与发展之路 核心观点 - 大模型技术从预训练为主转向强化学习主导的范式转变 [10][17][19] - 行业面临Transformer架构局限性、数据枯竭、开源闭源博弈等核心挑战 [31][41][59] - Agent应用爆发与基础模型研发需双轨并行 [53][54][55] 训练范式转变 - OpenAI从GPT-4o的预训练主导转向o1的强化学习后训练，提出测试时间扩展新维度 [13][14][15] - 强化学习可解决行为克隆难以建立目标导向推理能力的问题，但需突破自然语言反馈限制 [21][22][23] - 预训练仍是强化学习冷启动的基础，但需解决奖励机制和算力效率挑战 [25][26][27] 模型架构演进 - Transformer面临O(n²)扩展性、显存占用和长期记忆三大瓶颈 [31] - 优化路径包括RoPE位置编码、分组查询注意力等改进，以及Mamba等非Transformer架构探索 [33][34] - 智能体时代可能推动RNN架构回归，需建模无限上下文能力 [37][38] 数据供给挑战 - 高质量语料预计2028年耗尽，合成数据被Anthropic/OpenAI等广泛应用但存在迭代崩溃风险 [41][42][43] - 英伟达提出物理仿真生成边缘案例，需建立真实世界验证闭环 [44][45] - 行业数据未充分挖掘，应建立非敏感数据共享机制提升预训练质量 [46][48][51] 商业化落地路径 - 2025年Agent产品成爆点（如OpenAI Operator、智谱AutoGLM），但基础模型研发仍持续 [53][54] - 大模型当前相当于自动驾驶L3阶段，距AGI仍有差距 [55] - 金融等领域落地需突破大规模数据处理等技术瓶颈 [56][57] 开源生态影响 - DeepSeek等开源模型性能逼近闭源，冲击传统GPU/闭源产业链 [60][61] - 开源推动资源合理配置并形成行业压力，但需解决分叉滥用问题 [63][64][67] - 英伟达支持开源算力引擎，未来可能走向混合模式 [65][66]

核心观点 - Surge AI 是一家专注于高质量数据标注的公司，2024年ARR突破10亿美元，超越行业巨头Scale AI的8.7亿美元收入[3] - 公司定位为AI模型提供高质量数据标注服务，尤其在NLP、对抗性训练和RLHF领域构建技术壁垒[3] - 客户覆盖Google、OpenAI、Anthropic等顶级科技公司，强调"数据质量决定野心的上限"[3] - Meta以140亿美元投资Scale AI后，公司启动首次外部融资计划募集10亿美元，目标估值超150亿美元[4] - 公司认为高质量数据是AGI竞赛的关键纽带，语义理解与人类洞察力融合是突破瓶颈的核心[4] 01 数据标注市场 - 行业分化为两类：BPO"人力中介"（如Genpact）和AI-native"加工厂"（如Scale AI、Surge AI）[11] - BPO模式依赖人力规模化但难以保证质量，AI-native模式通过技术实现10倍效率提升[11][12] - 客户核心关注点：数据质量、处理效率、成本、可扩展性、合规性等7大维度[12] - 合成数据被高估，实际应用中易出现"狭窄场景崩溃"，人工数据在敏感领域仍具不可替代性[14][17] - 垂类数据（医疗、金融）成为增长点，通用领域需求趋缓[20][23] 02 创立Surge的初衷 - 创始人Edwin Chen因在Twitter遭遇数据标注低效问题（10,000条数据交付周期数月）而创立公司[24] - 公司组建由哲学家、工程师等构成的精英标注团队，开发任务分配软件提升效率[24] - 采用Bootstrap模式，成立一个月即盈利，拒绝硅谷"先融资后创业"的传统路径[25] - 核心竞争力源于"质量大于一切"原则，客户反馈"没有你就做不到这一点"成为行业口碑[25] 03 高质量交付背后的底层技术 - 通过母语级标注团队捕捉语言nuance（如反讽"Yay, cold McDonald's"），降低误标风险[28][29] - 设计人机协同工具链：AI预筛高风险样本→人工交叉验证（如"how dare you"语气修正）[30] - 引入红队测试机制模拟攻击场景，帮助客户识别模型安全漏洞[31] - 动态偏见管控：初期高比例审核（覆盖敏感群体）→后期降至2%，平衡偏见利弊[32][33] - 交付速度形成护城河，API支持新任务即时启动，质量审核周期领先同行[34] 04 客户案例1：OpenAI GSM8K数据集 - 为OpenAI构建8500道小学数学题数据集，要求每题包含2-8步推理且答案为整数[36][38] - 标注员需STEM背景，提交试写题目并通过审核，采用"双人独立解题"歧义检测机制[36][39] - 通过句子嵌入+余弦相似度过滤重复场景，最终数据集成为LLM推理能力评估标杆[40] 05 客户案例2：Anthropic训练Claude - 解决Anthropic三大痛点：高质量RLHF数据获取难、质控体系搭建难、工具开发资源占用[43][45] - 提供科学家团队设计的专有质控技术、领域专家标注团队和快速实验接口（1-2周评估）[46][48] - Anthropic联合创始人评价Surge为"绝佳合作伙伴"，支撑AI对齐研究[51] 06 创始人团队 - Edwin Chen：MIT复合学科背景，前Google/Facebook工程师，发现GoEmotions数据集30%标签错误[56] - Andrew Mauboussin：哈佛毕业，前Twitter工程师，主导实时API和多语言数据收集[59][60] - Bradley Webb：Facebook前数据运营负责人，将合规性打造为公司核心壁垒[35][62]

无线感知与合成数据技术 - 无线感知技术通过捕捉无线信号的反射特性，突破传统感官限制，实现无感监测与精准解析，重塑人机交互边界 [1] - 无线感知使机器能够感知墙壁后的动静、数米外的动作及人类难以察觉的微妙变化 [1] 大模型与物理世界交互 - 构建能够理解物理原理（如电磁场、光学、声学）并与物理世界交互的大模型面临数据稀缺挑战 [2] - 语言和视觉大模型可从海量文字和视频数据中学习，但物理世界交互数据采集难度大，难以支持大模型训练需求 [2] SynCheck 合成数据解决方案 - 北京大学与匹兹堡大学团队提出 SynCheck，通过生成与真实数据质量相近的合成数据解决数据稀缺问题 [3] - 研究提出两个创新质量指标：亲和力（衡量与真实数据的相似度）和多样性（评估覆盖真实数据分布的范围） [5] - 现有无线合成数据普遍存在亲和力不足问题，导致标签错误和任务性能下降 [9] 合成数据质量评估方法 - 研究通过贝叶斯分析和性能指标建立理论支撑的通用评估框架，引入“边际”概念实现跨数据集公平比较 [7] - 动态校正合成数据分布偏差，使模型性能保持稳定提升，最佳情况下性能提升达12.9% [13][15] 合成数据应用与性能突破 - 采用半监督学习框架结合合成与真实数据，过滤低亲和力样本并分配伪标签，无需修改生成模型流程 [11] - SynCheck 在质量无关方法导致性能下降13.4%的最坏情况下仍能实现4.3%的性能提升 [13] 学术界观点与未来方向 - 学术界对合成数据存在分歧，部分学者警示“模型崩塌”风险，另一部分认为验证器机制可规避风险 [17] - 研究团队未来将推动无线大模型训练范式革新，探索多元数据源融合及通用预训练框架 [18]

行业趋势 - 2025年是人形机器人和具身智能赛道发展的关键年份，产业端不断迭代新产品，一级市场初创公司成为投资者青睐标的[1] - 具身智能是推动制造业、生产性服务业及新质生产力的关键领域[10] - 全球具身智能领域快速发展，代表性事件包括多模态大模型推出和特斯拉发布人形机器人Optimus，中国目前约有200家人形机器人和具身智能企业[11] 技术发展 - 多模态模型的下一步发展方向是将机器人动作作为输出模态，形成VLA（Vision-Language-Action）大模型，使机器人能自主理解指令并执行任务[6] - 人形机器人要具备自主决策能力需要具身大模型支持，但数据短缺是制约大规模落地的根本原因，需要上百亿数据但现有公开数据集仅百万条量级[7] - 合成数据技术可解决数据短缺问题，通过在仿真器里进行大规模强化学习来提升具身大模型的训练效率和泛化效果[8] 企业实践 - 银河通用自研仿真数据合成管线，已积累亿级真实应用场景数据及百亿级合成仿真数据，其机器人Galbot能直接将所学技能泛化到真实世界[8] - 公司推出全球首个人形机器人智慧零售解决方案，在北京已有10家门店应用，计划2025年扩展到100家药店[23] - 具身大模型还可赋能四足机器人实现商场陪伴功能，基于合成数据技术生成端到端模型实现灵巧移动[24] 行业挑战 - 人形机器人行业面临两大挑战：出货量远低于汽车行业且无法像汽车那样售出后自动回传数据[8] - 传统数据采集方法存在存量不足和效率低下问题，无法满足具身智能发展需求[19] - 当前公开数据集仅100万条，与需要的上百亿条数据相差4-5个数量级，是行业发展最大瓶颈[20] 企业成就 - 银河通用成立于2023年5月，已完成数轮融资累计24亿元人民币[25] - 公司训练出世界首个以合成数据为唯一预训练动作数据的具身基础抓取大模型GraspVLA[23] - 公司技术可实现对一个任务仅需一天下午采集数据就能在同类物品间自动泛化，大幅降低数据成本[23]

链博会参展企业动态 - 宇树科技首次参展链博会 展出了人形机器人G1和Go2机器人两款明星产品 产品需通过遥控器操作并支持二次开发[1] - 英伟达首次参展链博会 展台展出了Omniverse Cosmos Mega等解决方案 Mega方案支持大规模场景中仿真复杂机器人[2] - 英伟达自动驾驶业务展出了辅助系统 安全系统和智能硬件相关成果 辅助系统可通过传感器渲染极端场景帮助厂商训练[3] 机器人行业发展 - 宇树科技工作人员表示 未来1到3年机器人可能从单一工业产品发展到复合化工业场景 3到10年可能进入生活场景如家务 老人护理等[2] - 机器人未来发展需解决电池续航 材料 自重 成本控制等多重问题[2] 自动驾驶技术进展 - 英伟达相关负责人表示 自动驾驶训练需要大量数据 但厂商常缺乏真实事故和突发情况数据样本[3] - 合成数据在自动驾驶训练中具有成本和扩展性优势[3] - 英伟达考虑与中国合作伙伴共同推动汽车供应链和行业发展[4]

链博会机器人产品展示 - 宇树科技首次参展 展出人形机器人G1和Go2两款明星产品 产品需通过遥控器操作且需二次开发才能实现搬运等功能 [1] - 宇树科技参展目的是了解上下游供应链关系并收集市场反馈以完善微型机器人产品 [1] - 英伟达首次参展 展台展出机器人 自动驾驶 云计算等关键业务 包括Omniverse Cosmos Mega等解决方案 Mega方案支持大规模场景中仿真复杂机器人及传感器 [4] 机器人行业发展前景 - 行业认为未来1到3年机器人可从单一工业场景拓展至复合工业场景 如搬运后切换功能至流水线作业 [4] - 未来3到10年机器人或进入生活场景 如家务 养老等 需解决电池续航 材料 自重 成本等问题 [4] 自动驾驶技术进展 - 英伟达展出自动驾驶辅助系统 安全系统及智能硬件 通过合成数据解决厂商真实数据不足问题 合成数据具有成本及扩展性优势 [5] - 英伟达表示智能硬件与链博会主题契合 正探索与中国合作伙伴共同推动汽车供应链及行业发展 [5]

数据短缺问题 - 公共数据产生速度预计到2028年将赶不上大模型训练的消耗速度而被耗尽[1] - 医疗、工业制造等特殊领域可用数据原本就少，数据短缺问题更严重[1] 现有解决方案的局限性 - 垂直领域中小企业倾向于使用现成大模型API，但无法直接合成垂域数据[4][5] - 大模型生成的数据与垂域实际数据存在巨大差距，无法满足垂域特性需求[7][8] - 垂域数据因隐私、知识产权等原因不能上传，增加了prompt工程难度[9] PCEvolve框架核心创新 - 只需少量标注样本即可在保护隐私同时进化出整个数据集[2] - 采用类似达尔文进化论的迭代进化框架：生成候选数据→选择淘汰→下一轮进化[11] - 设计基于指数机制的新型隐私保护方法，适配垂域少样本场景[11] 技术实现细节 - 利用开源Encoder基座模型将数据映射到特征空间计算距离[16] - 通过寻找聚类中心代表标签所有私有数据来降低计算成本[16] - 提出相似度度量h(d_s^c,D_p)来优化合成数据与垂域数据的绝对距离[18] 实验验证结果 - 在COVIDx数据集上精度达64.04%，相比初始49.34%提升显著[23] - 在Came17数据集上精度达69.10%，相比初始50.47%提升显著[23] - 在KVASIR-f和MVAD-l数据集上也分别达到50.95%和59.26%的精度[23]