聊天机器人被推上“被告席”：法律AI的下一道考题是责任归属
2026年5月22日，英国《New Law Journal》刊发题为“Chatbots in the dock as AI liability questions mount”的报道，指出随着AI聊天机器人越来越多地提供法律和商业建议，英国法正在面对一个更难回避的问题：当自动化系统给出错误建议时，责任应由谁承担。1 这条新闻之所以值得律师和企业法务重点关注，并不只是因为它讨论了一个新颖的AI侵权或虚假陈述问题，而是因为它标志着法律AI讨论的重心正在转移：从“能否提高效率”，转向“谁为结果负责”。
过去两年，法律AI行业最常见的叙事是效率。工具可以更快阅读材料，更快生成摘要，更快起草合同条款，也能更快完成类案检索和证据梳理。效率当然重要，但当AI开始进入客户咨询、合同履行、售后服务、争议解决和法律交付物生成等场景时，真正决定其可持续性的并不是速度，而是责任边界。对律师而言，AI输出不是“外部意见”；对企业法务而言，部署在官网、客服、合同管理或合规流程中的AI系统，也不是可以独立承担后果的“数字员工”。
《New Law Journal》报道中提到，Kingsley Napley的Mary Young讨论了传统虚假陈述规则适用于大语言模型时的困难。原因在于，AI系统本身并不是法律主体，索赔人通常不能直接向一个模型主张责任，而必须尝试将责任归属于开发者、运营者或部署该技术的企业。1 这一点对法律服务行业尤其关键：即便AI回答看似来自“机器”，法律关系中的可归责主体仍然是人、机构和组织。
法律AI带来的核心变化，不是责任消失，而是责任链条变长。谁选择模型，谁接入数据，谁设计流程，谁向客户呈现输出，谁从效率收益中获益，都可能成为责任判断的一部分。
加拿大Air Canada聊天机器人案已经给出了一个具有象征意义的答案。英国报道援引该案指出，航空公司曾试图主张聊天机器人是自主运行的，但仍因官网机器人提供错误信息而承担责任。1 美国律师协会对该案的分析显示，British Columbia Civil Resolution Tribunal在Moffatt v. Air Canada中认定，Air Canada应对其官网AI聊天机器人向消费者提供的错误丧亲票价信息负责；即使正确政策也存在于网站其他页面，企业也不能要求消费者自行在不同页面之间交叉验证。2
| 责任问题 | 传统网站内容 | AI聊天机器人内容 | 对法律与法务工作的启示 |
|---|---|---|---|
| 信息来源 | 静态页面、公告、FAQ | 动态问答、上下文生成、个性化回应 | 动态输出同样可能构成对外陈述 |
| 用户信赖 | 用户阅读后自行判断 | 用户更容易将回答理解为即时指导 | 风险从“内容错误”扩展到“交互误导” |
| 归责路径 | 发布者、网站运营者 | 部署方、运营方、供应商及流程设计者 | 不能用“模型自主”切断组织责任 |
| 治理重点 | 内容审核与版本管理 | 数据、提示词、权限、日志、复核、升级机制 | 需要把AI纳入法律风控闭环 |
对企业法务而言，这一趋势意味着AI治理不能停留在采购合同或隐私政策层面。一个面向客户、员工、经销商或供应商开放的AI问答系统，如果涉及价格政策、售后承诺、劳动规则、合规要求、合同解释或法律权利义务，就可能产生可被信赖的商业陈述。企业需要回答的问题不再是“我们是否声明AI回答仅供参考”，而是“我们是否有合理机制防止错误回答被当作正式承诺”。免责声明有价值，但它通常不能替代准确性控制、权限隔离、敏感问题升级和人工复核。
对律师和律所而言，新闻的启示更加直接。律师使用AI进行研究、摘要、翻译、起草和审阅，并不会改变律师对最终交付物的专业责任。AI可以帮助形成初稿，但不能替代事实核验；可以辅助检索，但不能替代法律判断；可以提出论证路径，但不能替代律师对引用、证据、程序和客户目标的综合把关。换言之，AI越深入法律工作流，律师越需要把“如何使用AI”本身纳入可解释、可复盘、可审计的执业能力。
Chambers在《Artificial Intelligence 2026》指南中也强调，AI已经从实验走向运营嵌入，责任问题不再抽象，而是未来十年的核心法律问题之一。3 指南还特别指出，agentic AI能够在多步骤流程中计划、决策并行动，但部署AI代理并不会把法律责任转移给代理，反而会把问责集中到部署方。3 这与聊天机器人责任新闻形成了同一条逻辑线：技术越自主，组织越不能放弃治理。
因此，企业和律所真正需要建设的不是“一个能回答问题的AI”，而是一套可治理的法律AI工作系统。它至少包括四个层面。第一，输入治理，即明确哪些材料、客户信息、商业秘密和个人信息可以进入系统，哪些必须脱敏或禁止输入。第二，输出治理，即建立引用来源、版本记录、置信度提示和人工复核机制。第三，流程治理，即规定哪些事项可以由AI直接辅助，哪些事项必须升级给律师或法务负责人。第四，责任治理，即在合同、内部制度和操作日志中明确供应商、使用者、审核者和业务部门的边界。
| 治理层面 | 关键问题 | 法律团队应采取的做法 |
|---|---|---|
| 输入治理 | AI是否接触了不该接触的数据 | 建立数据分级、脱敏规则和权限控制 |
| 输出治理 | AI答案是否可验证、可追溯 | 要求来源引用、记录留痕和人工确认 |
| 流程治理 | 哪些任务能自动化，哪些必须人工决策 | 将低风险辅助任务与高风险法律判断区分开 |
| 责任治理 | 出错后能否定位责任链条 | 在制度、合同和系统日志中保留可审计证据 |
这也是法律AI产品进入下一阶段的分水岭。早期工具往往强调“生成”，成熟工具则必须强调“交付”。生成一段文字并不难，难的是让这段文字在具体案件、具体合同、具体证据和具体商业目标中可用。更难的是，当输出被用于客户沟通、诉讼材料、合同谈判或电商维权时，团队能够知道它基于什么材料、经过哪些步骤、由谁复核、是否留下了证据链。这些问题看似偏运营，实质上正是法律AI的责任基础设施。
从这个角度看，5月22日这条新闻提醒我们，法律AI的竞争不应只是模型能力之争，而是专业责任与流程工程之争。律师和法务不需要把AI想象成一个独立承担后果的“电子律师”，而应把它视为一种嵌入法律服务生产线的能力。只有当AI被放进合适的边界、数据、权限、复核和留痕机制中，它才可能从效率工具变成可信赖的法律基础设施。
对中国律师和企业法务来说，这一判断同样适用。无论面对合同审查、类案检索、诉状起草、证据摘要，还是面对电商平台上的侵权线索识别、投诉材料生成和维权进度管理，AI真正创造价值的方式都不是“替人负责”，而是帮助专业人员更早发现问题、更快组织材料、更稳定地执行流程，并把关键判断留给具备责任能力的人。
这正是智律云关注的方向。智律云 AI Copilot（律师AI助手） 面向律师的研究、审阅与文书工作，强调在材料、法律问题和交付结果之间建立可复核的工作链路；智律云 Auto Pilot（IP维权自动化） 则面向企业品牌与法务团队，把侵权线索发现、证据整理、投诉执行和结果跟踪纳入流程化闭环。法律AI的下一阶段，不是让机器替代责任，而是让律师和法务在更可靠的系统中承担更高质量的专业责任。