伦理治理

搜索文档
首部法律LLM全景综述发布,双重视角分类法、技术进展与伦理治理
36氪· 2025-07-31 09:13
大型语言模型在法律领域的应用综述 - 研究人员首次系统综述大型语言模型(LLM)在法律领域的应用 提出创新的双重视角分类法 融合法律推理框架与职业本体 统一梳理技术突破与伦理治理挑战 [1] - 论文涵盖LLM在法律文本处理 知识整合 推理形式化方面的进展 并指出幻觉 可解释性缺失 跨法域适应等核心问题 [1] - 该综述为下一代法律人工智能奠定理论基础与实践路线图 [1] 传统法律人工智能的局限性及LLM的突破 - 传统法律人工智能受限于符号主义和小模型方法 面临知识工程瓶颈 语义互操作性不足及碎片化推理等挑战 [6] - Transformer架构的LLM凭借上下文推理 少样本适应和生成式论证能力 突破了早期系统的局限性 [6] - 法律领域对复杂文本处理 多步骤推理和流程自动化的需求与LLM的涌现能力高度契合 [1][8] 技术落地伴随的伦理风险 - 技术落地伴随伦理风险 如偏见放大 专业权威弱化 亟需系统性研究框架整合技术 任务与治理 [3][8] - 关键挑战包括法律主张中的幻觉问题 低资源法域的适应性缺口 黑箱推理的可解释性不足 以及获取与偏见上的伦理不对称 [12] 主要研究贡献 - 采用创新的双视角分类法 对法律语境下的LLM进行全面回顾与分析 实现历史视角与现代进展的有机结合 [9] - 在第三部分首次构建法律推理本体框架 将Toulmin论证结构与LLM工作流进行对齐 整合当代LLM最新进展与过往证据研究 [9] - 第四部分将实践者角色映射至NLP任务 扩展了以用户为中心的本体研究 [9] 场景自适应部署框架 - 研究第四部分提出以角色为核心 融合诉讼与非诉讼工作流程的LLM嵌入框架 响应更智能化工具的需求 [10] 伦理与职业映射 - 研究第五部分首次对面向实践者角色的法律职业伦理挑战进行系统性分析 包括技术伦理和法律职业责任 [11] - 未来研究应优先关注多模态证据整合 动态反驳处理 以及将技术创新与法理学原则对齐的跨学科框架 [13] 工具与数据集资源 - 为开发者提供近60种工具与数据集的全景图 包括Law2Vec Legal-BERT MVE-FLK Lawformer ChatLaw等工具 [5][17] - 数据集涵盖COLIEE LawBench LEGALBENCH LexGLUE CUAD CAIL等多种法律任务评估基准 [17] - 该资源为立法者构建人机协同治理范式 推动法律人工智能从实验室工具向司法基础设施转变 [5]
从技术落地到哲学思辨,AI Agent发展的关键议题
36氪· 2025-06-20 05:31
AI Agent行业现状与用户视角 - AI Agent定义需满足三大条件:工具调用能力、自主决策能力、多轮迭代的动态决策过程 [3] - 从合作视角看,Agent应作为端到端承接整条流程的系统,在关键节点主动介入并提供决策建议 [5] - 用户常用Agent分为三类:教练型(调研与深度思考辅助)、秘书型(非沉浸式任务处理)、搭档型(高频交互的专业工作协同) [9][10] - 音频处理类Agent如CreateWise已实现音轨自动剪辑、文案生成和跨平台内容适配等全流程功能 [12] - 通用型Agent产品如Manus和Genspark在旅游规划等场景展现差异化功能,但用户体验存在明显差异 [15][16] 技术挑战与产品设计 - 当前AI模型存在指令遵循不足(如强制添加"未完待续")、为AI而AI的设计倾向、缺乏人类世界暗信息三大痛点 [18][20][21] - 音频处理领域面临中文识别能力不足、多人播客多轨对齐困难、过度优化信息密度导致人情味缺失等问题 [23][25] - 产品设计需平衡行业经验积累(如网站设计需理解行业运营模式)与用户品位把握(如对"土"的差异化定义) [46][47] - 技术攻坚方向包括自我纠正学习、多Agent协作架构(需AI CEO统筹)、企业级安全治理层开发等 [41][42][45] - 预期管理是关键挑战,需通过垂直场景数据积累使AI从"清华实习生"进阶为成熟工作者 [32][33] 商业模式与竞争策略 - 新兴公司通过AI生成的高质量新数据(如医疗语音转结构化记录)可打破传统SaaS数据壁垒 [53] - 护城河构建路径包括:用户纠正数据形成的"默契"(如PPT主色系偏好)、端到端价值链延伸(从建站到帮助盈利)、工程化调优能力等 [56][57][62] - 垂直领域Agent可通过处理行业脏活累活(如工作流打通、私有数据处理)避免与大模型公司直接竞争 [67] - 盈利逻辑应以结果为导向(对比传统外包成本),企业市场需重视ROI验证与工作流程重构 [49][69] - 中立第三方平台在企业级市场具备优势,可解决客户对单一供应商锁定的顾虑 [65] 行业发展趋势 - 交互模式将从"流程搭建+分步审核"向"价值观对齐+放手执行"演变,需建立新型信任机制 [71][72] - "AI原生"设计(如密集代码文档)将成为竞争优势,类比无障碍设施对城市规划的影响 [75][76] - 人类独特价值体现在增量信息创造(未结构化数据)、真实体验传递、观点碰撞激发等维度 [80] - 管理能力将成为核心竞争力,需从"工具使用"思维转变为"团队领导"思维 [81] - 未来可能面临AI社会结构问题(如Agent间冲突解决机制)和人机混合管理体系等挑战 [86][88]