AI幻觉的代价正在从罚款走向执业资格：马萨诸塞法院给律师和法务的警示
今天法律AI领域最值得律师与企业法务关注的新闻，并不是又一款模型发布，也不是某个法律科技平台融资，而是一份看似传统的法院裁定：马萨诸塞州 Suffolk Superior Court 法官 Kenneth Salinger 拒绝 Morgan & Morgan 律师 T. Michael Morgan 以 pro hac vice 方式参与一起哈佛医学院遗体管理争议相关诉讼。法院给出的关键理由之一，是该律师此前在怀俄明联邦法院案件中因提交含有 AI 幻觉案例引用的文件而受到制裁，并且在本次申请中没有充分说明其已经如何改变执业流程、审查机制和团队管理方式。1 2
这条新闻的重要性，不在于“又有律师被 AI 坑了”。类似事件过去几年已经并不罕见。真正值得警惕的是，AI 错误正在从一次性制裁，变成一种可被法院反复引用的职业信用记录。换句话说，法律AI的风险不再只停留在某份文件是否被罚款、某次庭审是否被训诫，而可能影响律师未来能否进入特定法院、能否代表客户出庭、能否让法官相信其团队具备基本的专业治理能力。
这起裁定为什么不同
根据 ABA Journal 的报道，Morgan 申请在马萨诸塞案件中代表原告出庭，但法院注意到，他曾在 Wadsworth v. Walmart Inc. 一案中因违反联邦民事诉讼规则第 11 条受到制裁。该案中，相关 motions in limine 引用了八个不存在的案例，这些虚假引用来自 Morgan & Morgan 内部 AI 平台。法院原文显示，Morgan 签署了这些文件，却没有在提交前阅读和核验其内容。1 2
马萨诸塞法院并没有简单地说“你过去犯过错，所以这次不能来”。裁定的逻辑更严格：第一，律师临时出庭不是权利，而是法院基于信任授予的特权；第二，律师既往涉及 AI 幻觉的执业失误，足以让法院审查其是否仍值得被授予这种特权；第三，披露曾经受制裁并不等于已经修复风险，法院更关心的是有没有可验证的整改措施。2
法院在裁定中强调，审判律师不能提交以虚假案例引用为依据的法律文件；资深律师也不能把审查责任转移给初级律师、同事或 AI 系统。2
这一点对法律行业具有标志意义。过去，很多关于生成式 AI 的讨论集中在“是否披露使用 AI”“是否允许用 AI 写初稿”“是否会出现幻觉”。而这份裁定把问题推进了一层：当错误已经发生后，律师和机构是否建立了防止复发的流程？是否能向法院证明这些流程真实存在、持续运行、可以审计？
| 风险阶段 | 过去常见理解 | 这起裁定释放的新信号 |
|---|---|---|
| AI生成错误 | 文件中出现虚假判例，可能导致制裁 | 错误会沉淀为律师职业信用风险 |
| 律师签署责任 | 可解释为团队疏忽或工具失误 | 签署者负有不可外包的核验义务 |
| 事后补救 | 道歉、撤回文件、缴纳罚款 | 必须展示流程整改和防复发机制 |
| 法律团队治理 | 内部管理问题 | 可能影响法院准入、客户信任和外部合作 |
对律师：签字责任不能外包给AI
对律师而言，这起新闻最直接的提醒是：AI 可以参与检索、摘要、起草和改写，但不能替代律师对法律依据、事实陈述和程序动作的最终判断。尤其在诉讼场景中，签名不是行政动作，而是专业承诺。签署文件意味着律师向法院表示，自己已经进行了合理调查，文件中的法律依据和事实基础具有可提交性。
法院裁定特别提到，Morgan 并未说明其现在采取了哪些措施来审查拟提交法院的文件，也没有说明其和律所如何防止未来再次引用不存在的案例。法院将这一遗漏称为令人意外且令人担忧。2 这说明，在 AI 进入法律工作流之后，律师的专业能力不只体现在会不会使用工具，还体现在能不能设计一个让错误难以穿透到最终文件的工作机制。
对于律所合伙人、诉讼团队负责人和企业外聘律师管理者而言，最低限度的 AI 使用规范应当包括几个环节。首先，任何由 AI 辅助生成的判例、法规、裁判要旨和引文，都必须回到权威数据库或原文进行核验。其次，提交法院或监管机构的文件，应建立签署前检查清单，明确引用核验、事实来源、证据编号、附件一致性和程序规则符合性。再次，如果团队曾经出现 AI 相关错误，整改记录不能停留在口头层面，而应形成培训记录、权限调整、复核机制和抽查日志。
对企业法务：采购法律AI时要问“怎么证明它可靠”
企业法务看待这条新闻，不应只把它理解为律所执业伦理事件。它同样是企业采购和部署法律AI系统时的风险提示。许多法务部门引入 AI 的初衷，是提高合同审查、争议管理、知识检索和合规响应效率。但如果系统只能生成内容，却无法解释内容从何而来、哪些结论经过核验、哪些步骤由谁复查，那么效率越高，潜在风险扩散也越快。
这意味着，法律AI供应商的评价标准需要从“模型是否聪明”转向“流程是否可信”。企业法务在选择工具时，应重点关注几个问题：系统是否保留引用来源和检索路径？是否区分 AI 建议、律师确认和最终输出？是否支持权限控制与操作日志？是否允许团队设置强制复核节点？当系统发现高风险内容，例如判例引用、金额计算、期限判断、跨法域结论时，是否会触发人工确认？这些问题，比单纯比较生成速度更能决定法律AI是否适合进入真实业务。
| 企业法务应审查的问题 | 风险含义 | 推荐治理动作 |
|---|---|---|
| 输出是否可溯源 | 无法核验来源会放大幻觉风险 | 要求链接原文、数据库记录或证据文件 |
| 复核责任是否清晰 | AI建议容易被误当成结论 | 区分起草人、复核人、批准人 |
| 日志是否完整 | 出错后难以复盘责任链 | 保留提示词、版本、修改和审批记录 |
| 是否支持例外升级 | 高风险事项可能被自动处理 | 对诉讼、监管、索赔、解约等事项设置人工节点 |
| 供应商责任是否明确 | 工具问题可能转化为业务损失 | 在合同中约定安全、保密、审计和赔偿机制 |
法律AI治理的核心，不是禁止，而是让信任可被验证
这起裁定也提醒我们，法律行业对 AI 的成熟态度不应是简单禁止。法院并不是因为律师使用过 AI 就拒绝其出庭，而是因为其曾让 AI 生成的虚假引用进入正式文件，并且未能向法院展示足够的整改与防复发机制。换言之，问题不在于“是否使用 AI”，而在于“是否把 AI 放进了可验证、可追责、可复盘的法律工作流”。
律师和法务真正需要建立的，是一套以专业责任为中心的 AI 工作制度。AI 可以提高第一稿速度，可以帮助发现相似条款，可以整理证据线索，也可以生成谈判方案。但每一个可能影响客户权利义务、法院判断或监管结论的输出，都必须经过法律专业人员确认。对于高频、重复、证据密集的工作，团队还应尽量减少临时性的人工复制粘贴，把流程固化为标准化系统，从源头降低遗漏、误引和版本混乱。
从这个意义上看，2026 年法律AI竞争的关键词已经不只是“生成”，而是“治理”。谁能把法律知识、业务规则、证据材料、人员权限和审查流程连接起来，谁就更有可能在效率提升的同时守住职业责任边界。
这也是智律云持续关注的方向。智律云 AI Copilot（律师AI助手）并不只是帮助律师更快起草文本，而是面向检索、审阅、改写、引用核验和法律分析等场景，帮助法律团队把 AI 输出纳入可复查的专业流程。智律云 Auto Pilot（IP维权自动化）则面向图片侵权、商标侵权、平台监测、证据固定、案件分流和索赔进度管理等重复性 IP 维权工作，把容易出错的人工环节流程化、留痕化和规模化。
法律AI的价值，最终不在于替代律师判断，而在于让律师和法务把更多时间投入到真正需要判断的地方。马萨诸塞法院这份裁定传递出的信号很清楚：未来能赢得法院、客户和企业管理层信任的，不会是“最会生成答案”的团队，而是最能证明自己如何验证答案、如何控制风险、如何持续改进的团队。