バージニア州西部地区の連邦判事は、内部告発訴訟の原告代理人弁護士に対し、人工知能（AI）を使用してでっち上げの法的引用を提出した疑いで懲戒を受けるべきではない理由を述べるように求めた。弁護士らは「一見架空の事件と引用」を含む準備書面を提出し、トーマス・T・カレン判事が興行命令を出すに至ったと言われている。
この命令は、イオヴィーノ対マイケル・ステイプルトン・アソシエイツ社の訴訟で、米国治安判事ジョエル・C・ホッペが与えた秘密保持命令に原告の弁護士が異議を唱えたことを受けて出されたものである。被告は、原告の準備書面にいくつかの問題点を指摘し、その中には、そうでない訴訟への引用も含まれていた。存在しますが、引用符が見つかりません。カレン判事は弁護士らに対し、なぜ職業上の違法行為で彼らを制裁したり、それぞれの州の弁護士会に送るべきではないのかを8月14日までに説明するよう求めた。
偽の引用を使用したとして告発された弁護士が法的調査を引き起こす
カレン判事は覚書意見の中で不正行為の疑いを説明し、原告の異議申し立てで使用された出典と引用は完全に捏造されたようだと述べた。異議に対する被告の準備書面ではこの点が指摘されており、これらの誤った引用はおそらくChatGPTなどのソフトウェアを介したAIの野放しな使用に起因する可能性があることを示唆している。特に、グレイブス対リオイの文言を引用したとされる引用文は、実際の第 4 巡回裁判所の意見書には存在しなかった。
原告の弁護士は、引用の捏造に関するこれらの申し立てに応じず、カレン判事は「耳をつんざくような」沈黙とした。この失敗により、法制度の完全性や草案作成過程でAIが悪用される可能性があるかどうかについて、さらなる疑問が生じた。
カレン判事は、法律業務に AI を使用することは本質的に間違っているわけではないとしながらも、そのようなテクノロジーを選択する弁護士はすべての引用や引用の正確性を確保する必要があると指摘しました。
同氏は、AIの意図的または非意図的な乱用は、悪意で告発されたり、裁判所を誤解させようとする意図的な試みなどの重大な結果にさらされる可能性があり、その結果、訴訟手続きの完全性を保護し、虚偽の言及の原因を解明するために示威命令が発令される可能性があると警告した。
