Workflow
算法透明
icon
搜索文档
平台主动公开算法,让网络“黑话”不再以讹传讹
新京报· 2025-12-15 05:33
行业趋势:算法透明化成为治理方向 - 货拉拉于12月10日公开建议到达时间及装货准点率算法规则,旨在让货运行业时间规则更透明,优化司机“时间体验”[2] - 抖音于今年4月首次公开算法推荐系统原理,8月在北京市网信办指导下,抖音、百度、美团等首批6家平台公示了算法规则原理[2] - 各平台公开算法规则,旨在回应社会对算法“黑箱”的诟病,是构建透明、公平、可问责算法治理体系的重要一步[2] 公司行动:以透明沟通化解误解 - 货拉拉公开算法后,司机了解到准点率与抢单无关,缓解了因堵车或客户调整时间带来的赶路压力[2] - 抖音公开回应平台不会对“钱”等词语限流,指出网络“黑话”是用户因不了解处罚原因而产生的以讹传讹[5] - 抖音发布《规范表达沟通手册》,明确“钱”“人民币”“万”等词可正常使用,鼓励创作者规范用语,以信息透明破解误解[5][6] 公众认知:对算法的误解与担忧 - 公众对算法存在巨大疑窦,既想掌握规则为我所用,又担心算法被滥用、侵蚀个体权益[4] - 大量质疑源于信息不对称,公众基于结果猜测算法规则,例如误以为短视频平台“黑话”是算法限流所致[5] - 公众担忧算法成为隐形支配力,左右商业与社会机会,如决定曝光流量、影响消费选择或产生歧视,其核心质疑是“在不透明状态下运行的算法”[9] 算法本质:技术中性及平台利益 - 算法与算力、数据并称为人工智能三要素,是日益无处不在的新质生产力[4] - 算法本身没有原罪,将社会冲突简化为“技术原罪”是因技术不会自我辩解而成了方便的归因对象[7] - 社交媒体平台从根本利益出发,不欢迎“愤怒诱饵”等引发对立的“恶流量”,这与品牌方追求的积极友善社区氛围一致[7] 治理意义:透明化构建共治生态 - 算法透明化是AI时代中国互联网企业具有标志意义的治理尝试,让算法从“不可见的力量”回归为“可理解的工具”[3] - 透明化不仅重视用户知情权和选择权,更在建立互动机制,通过公开算法理念吸纳社会反馈,反向优化系统设计[9] - 全球网络治理是共同难题,技术越强大,社会越需要理解与规范,算法透明是应对此挑战的重要实践[9]
AI时代,如何面对技术革命带来的法律困境
新京报· 2025-04-22 08:38
文章核心观点 - 法学专家在“未来契约:AI时代的法律刻度”论坛上深入探讨了AI时代算法带来的法律挑战,核心在于如何构建一个既能促进技术创新(如生成式AI带来的新质生产力),又能守护人类核心价值(如隐私、公正、信任)的法律框架[1] 算法概念与法律界定 - 算法从解决具体算术问题的方法,演进至大数据和AI时代,其复杂性和结果多样性引发了“算法黑箱”和透明度等问题[2] - 2023年以来生成式AI的发展为算法增添了新要素,先进的算法能减少大模型训练所需的算力、时间及数据需求,推动AI进步和社会福利增加[2] - 算法已广泛渗透于各类生活应用(如购物、短视频、资讯App),通过个性化推荐使不同用户看到不同内容,并在商业模型和闲置资源调配中发挥关键作用[2] - 法律对算法的定义因法规而异:《个人信息保护法》触及“自动化决策”概念以应对大数据杀熟问题;《互联网信息服务算法推荐管理规定》则对利用生成、合成类算法技术向用户提供信息进行了法律界定[2] - 平台在算法治理中扮演核心角色,因其拥有直接技术触达力、资源调配能力、社会影响力、技术团队(可发现算法Bug)以及通过用户协议收集数据影响算法质量与效果的能力[2] 算法透明的挑战与重要性 - 算法治理最重要的一点是算法的公开透明,其重要性源于公众对算法决策的恐惧和焦虑,因为算法决策过程不为人知且常与人类决策混合,而传统面向人类决策的知情、异议、救济程序需要升级以适应算法时代[3] - 算法透明在法律层面引出了“算法解释权”这一重要权利,但学界对此存在争论,可能需要的是算法问责的一整套机制[4] - 实现算法透明面临多重挑战:技术复杂性与黑箱问题、知识产权与商业秘密保护、数据隐私与安全、模型的动态性与持续演化,以及全球科技博弈白热化导致的监管碎片化[4] - 尽管挑战重重,算法透明本质上关乎社会信任,是关乎未来价值选择和社会构建的过程,而不仅仅是技术或合规议题[4] 算法在社会与经济中的影响 - 数据驱动的算法能实时监测社会舆情并调整管理策略,在提升效率的同时也可能引发新社会问题,后续论坛将讨论算法是否制造“信息茧房”、平台对网暴与谣言的应对策略,以及用户与推荐系统的真实互动模式[5] - AI技术正在创造新型就业岗位(如数据科学家、算法专家),同时也在重塑传统行业[6] - 算法对经济有深远影响:后续论坛将从量化高频交易切入,分析算法如何重构市场机制;聚焦AI带来的就业变革与岗位替代;剖析算法推荐对消费行为和财富分配的影响,以及大模型与推荐算法的融合趋势[6]