美国加州一名律师因在上诉书中引用了21条由AI（ChatGPT）编造的虚假案例，被法院处以10,000美元罚款，这是加州法院就AI生成虚假内容开出的最高额罚单。律师辩称不知情，但法院认为其未能仔细审查AI生成的文本。此次事件凸显了AI生成内容可能存在的问题，法院强调律师有责任亲自核实提交给法庭的所有内容，包括判例引用，无论信息来源是AI还是其他。法院的严厉处罚旨在警告律师，必须对提交材料的准确性负责，并指出AI工具的便捷性不应取代审慎的法律审查。

⚖️ AI生成内容风险凸显：律师阿米尔·穆斯塔法维因在上诉书中引用了21条由ChatGPT编造的虚假判例，被加州法院处以10,000美元罚款，这是加州法院针对AI编造内容开出的最高罚单。这一事件暴露了AI在生成法律文件时可能存在的错误和风险，即使是辅助工具也可能产生误导性信息。

✅ 法院强调核实责任：法院在处罚意见书中明确指出，律师必须亲自阅读并核实提交给法庭的所有文件，包括引用的判例，不论信息来源是生成式AI还是其他。这意味着律师不能将AI的输出直接用于法律文件，而必须进行独立的、审慎的核查，以确保内容的准确性。

🚫 AI使用并非禁止，但需谨慎：法院并未禁止律师使用人工智能工具，事实上，许多律师已依赖AI提高效率。然而，关键在于律师必须对AI生成的内容负责，特别是涉及法律依据的引用部分。AI可以作为强大的辅助工具，但最终的判断和责任仍在于律师本身，必须通过事实核查来避免提交不实内容。

📢 杀鸡儆猴警示作用：此次高额罚款和严厉的意见书，显示了法院对此类事件的重视，意在“杀鸡儆猴”，警告法律界不得轻视AI生成内容的准确性。法院希望通过此案例，促使所有法律从业者更加审慎地对待AI工具的使用，确保司法程序的公正性和可靠性。

美国加利福尼亚州律师阿米尔穆斯塔法维 (Amir Mostafavi) 日前因上诉书中包含 21 条虚假案例被当地上诉法院罚款 10，000 美元，这也是美国加州法院就人工智能编造内容开出的最高额罚单。

事件经过其实非常简单，穆斯塔法维自称自己撰写上述书然后交给 ChatGPT 进行改进，但改进后的版本生成长达 23 条判决案例引用，只是其中的 21 条判例都是 AI 自己编造的。

穆斯塔法维表示自己并不清楚 ChatGPT 会增加案例引用或编造内容，不过这种说法估计他自己都不信，毕竟 AI 生成的版本律师应当仔细查看而不是没有发现新增的内容。

原本这件事也不至于要罚款 10000 美元，但加州法院认为要杀鸡儆猴，必须通过这次罚款案例警告律师不要提交包含不实内容的材料，律师应当对自己提交的内容负责。

法院给穆斯塔法维的处罚还包括措辞严厉的意见书：

意见书指出律师开庭诉状中引用的 23 条案例中有 21 条是编造的，意见书称在美国其他州和联邦法院也都曾发生过因为律师引用虚假法律依据而对律师进行质询。

法院称希望通过发布这份意见书以示警告：简而言之，任何提交给法院的辩护状、诉状、动议或其他任何文件都不应包含任何未经负责提交诉状的律师亲自阅读或核实的引文，无论是由生成式人工智能还是其他来源提供的。

从意见书里也可以看出来法院并没有说不允许律师使用人工智能，或者不建议律师使用人工智能，事实上已经有相当多的律师离不开人工智能，相较于律师自行查询各种材料，人工智能的分析报告速度更快且更加简单。

只不过律师应当仔细阅读自己提交的文书尤其是其中包含判例引用的部分，因为没人知道 AI 是否自己编造了内容，如果不加以事实核查就直接添加到诉状中，那就可能出现引用虚假判例的问题。

查看评论