澳大利亚联邦法院近日就在法律诉讼中使用生成式AI的潜在风险向法律界发出警告并颁布了新的使用规范。一旦AI错误干扰司法程序当事人将面临经济处罚或法律追责。由于澳大利亚及全球各地法庭文书中出现AI生成虚假引用的案例激增澳大利亚联邦法院于近日发布了一份新的实践说明明确规范了生成式AI在司法案件中的使用方式。联邦法院首席大法官德布拉·莫蒂默表示向法庭提交虚假或不准确信息的行为不可接受。这与所有诉讼参与者不得误导法庭或其他当事方的责任相悖她在说明中指出。此类行为很可能妨碍案件依法、快速、低成本且高效地得到公正解决。莫蒂默提醒在撰写诉状、书面陈述及提交法院的其他文件时使用AI须保持审慎因为AI可能生成虚构案例、错误引用、捏造引文和事实错误。她还要求律师和事务律师在提交文件时必须声明是否使用了AI辅助并核实所引用的法律依据确实存在且能支持相关论点。在誓词和专家报告方面即便使用了生成式AI相关内容仍须真实反映当事人的记忆、知识或实际经验。若AI工具被用于信息摘要或分析、生成提交法庭的图像、视频或录音或以任何其他可能影响证据可采性的方式使用均须予以披露。莫蒂默指出对生成式AI使用情况的披露说明应置于文件起始处并注明具体的使用位置和方式。她同时警告在将保密、被限制披露或私人信息输入AI工具时须格外谨慎。将信息输入生成式AI工具可能带来严重后果即便并无意泄露该信息。莫蒂默表示联邦法院支持在诉讼程序中运用技术手段生成式AI也有潜力提升诉讼效率但生成式AI必须在适当且审慎的前提下使用。否则生成式AI将对司法公正的推进和公众对法律体系的信心构成威胁。这位首席大法官表示若违规使用生成式AI当事人将面临不利的费用裁定以及违反法律和职业义务等相应后果。目前澳大利亚已有至少73个案例被发现因使用生成式AI而出现虚假引用、捏造引文或其他错误。去年一名维多利亚州律师因虚假引用问题成为澳大利亚首位受到处分的律师被吊销了主任律师执照。西澳大利亚州和新南威尔士州的监管机构随后也在类似案件中展开了调查。法院还注意到虚假引用一旦未被发现可能引发连锁反应导致更多虚假引用出现。去年一份全庭判决中法院发现上诉方所援引的案例根本不存在判决书中指出我们认为该引用可能是大语言模型产生幻觉的结果。澳大利亚高等法院首席大法官史蒂芬·盖勒去年11月表示澳大利亚法官正在充当AI生成法律论点的人工过滤器AI生成内容的使用已进入难以为继的阶段。QAQ1澳大利亚联邦法院对生成式AI的使用有哪些具体规定A联邦法院要求凡使用生成式AI辅助准备法庭文件须在文件开头明确披露使用情况注明使用位置和方式。律师还须核实所引用的法律依据真实存在且能支持相关论点。若AI被用于生成图像、视频、录音或影响证据可采性的内容同样需要披露。违规者将面临不利费用裁定及违反职业义务的处罚。Q2生成式AI在法律文书中曾造成哪些具体问题A澳大利亚已发现至少73起因使用生成式AI导致虚假引用、捏造案例或引文错误的案件。去年一名维多利亚州律师因此被吊销主任律师执照。法院还发现未被及时察觉的虚假引用可能引发连锁错误一份全庭判决中甚至发现上诉方援引的案例根本不存在被认定为大语言模型的幻觉输出。Q3首席大法官为何说生成式AI的使用已进入难以为继的阶段A高等法院首席大法官史蒂芬·盖勒指出由于越来越多的法律论点由AI生成法官不得不扮演人工过滤器的角色逐一甄别AI内容的真实性与准确性。这不仅消耗大量司法资源还对司法公正和公众对法律体系的信任构成威胁因此他认为当前状况已难以持续。