加州一名法官在收到一份補充簡報后，嚴厲批評兩家律師事務所未披露使用人工智能的情況，該簡報“充斥著大量虛假、不準確和誤導性的法律引證和語錄”。法官邁克爾·威爾納（Michael Wilner）在上周提交的裁決中對涉案律師事務所處以3.1萬美元的罰款，并表示“任何勝任的律師都不應該將研究和寫作外包給”人工智能。

“我讀了他們的訴狀，被他們引用的權威性說服了（或者至少是好奇），于是我查閱了相關判決，想了解更多信息——結果卻發現根本不存在，”米爾納法官寫道。“這太可怕了。這幾乎導致了更可怕的結果（在我看來），那就是把這些虛假材料納入司法命令。”

如文件中所述，原告在針對State Farm的民事訴訟中的法律代表使用人工智能生成了一份補充辯護狀的提綱。然而，這份提綱在被發送給另一家律師事務所K&L Gates時，卻包含“虛假的人工智能研究”。K&L Gates將這些信息添加到了辯護狀中。“這兩家律師事務所的律師或工作人員在提交辯護狀之前，顯然沒有對這項研究進行引用核查或其他審查，”米爾納法官寫道。

米爾納法官審查了這份訴狀后，發現“至少有兩項引用的依據根本不存在”。在要求高蓋茨律師事務所澄清后，該事務所重新提交了訴狀，米爾納法官表示，訴狀中“除了最初的兩處錯誤外，還包含大量捏造的引證和引用”。隨后，他簽發了出庭令，要求律師們宣誓作證確認使用了人工智能技術。編寫該提綱的律師承認使用了Google Gemini以及CoCounsel旗下Westlaw Precision的人工智能法律研究工具。

這并非律師首次被發現在法庭上使用人工智能。特朗普前律師邁克爾·科恩（Michael Cohen）曾將Google雙子座（當時名為Bard）誤認為是“超級搜索引擎”而非人工智能聊天機器人，并在一份法律文件中引用了虛假的法庭案件。一位法官還發現，起訴哥倫比亞一家航空公司的律師在其辯護狀中包含了一系列由ChatGPT生成的虛假案件。

米爾納法官寫道：“最初未披露地使用人工智能產品生成辯護狀初稿的做法完全是錯誤的。將這些材料發送給其他律師，卻不披露其模糊的人工智能來源，實際上會將這些專業人士置于危險之中。”