Pohrdání soudem, v horším případě maření spravedlnosti: Anglický soud varuje právníky před citováním AI

Vrchní soud Anglie a Walesu v pátek varoval právníky, že mohou být trestně stíháni za předkládání nepravdivých materiálů vytvořených umělou inteligencí poté, co se v řadě případů objevily vymyšlené citáty a rozhodnutí, která neexistovala. Informuje o tom The New York Times.

Jeden z nejvyšších soudů v Británii uvedl, že stávající pokyny pro právníky se ukázaly jako „nedostatečné k řešení zneužívání umělé inteligence“ a že je naléhavě zapotřebí přijmout další opatření.

V rozhodnutí Victorie Sharpové, předsedkyně King's Bench Vrchního soudu, a druhého soudce Jeremyho Johnsona byly podrobně popsány dva nedávné případy, kdy byly v písemných právních argumentech, které byly předloženy u soudu, použity falešné materiály vytvořené umělou inteligencí, na něž poté advokáti u soudu odkazovali.

Rozhodnutí varovalo, že nástroje umělé inteligence „jako ChatGPT nejsou schopny provádět spolehlivý právní výzkum“ a že jejich zdánlivě „koherentní a věrohodné odpovědi se mohou ukázat jako zcela nesprávné“. „Odpovědi mohou obsahovat sebevědomá tvrzení, která jsou prostě nepravdivá. Mohou citovat zdroje, které neexistují,“ argumentují.

V jednom případě žalobce a jeho právník přiznali, že nástroje AI vytvořily „nepřesný a fiktivní“ materiál v žalobě proti dvěma bankám, která byla minulý měsíc zamítnuta. Ve druhém případě právnička muže žalujícího místní radu u Vrchního soudu uvedla, že „možná provedla vyhledávání na Googlu nebo Safari“, které zahrnovalo souhrny výsledků generované umělou inteligencí, ale nebyla schopna poskytnout důkazy o takovém vyhledávání ani identifikovat žádný zdroj pro uvedené případy na internetu.

Advokátka byla postoupena oficiálnímu regulačnímu orgánu. Soudkyně Sharpová uvedla, že případ se nedá považovat za precedent a varovala do budoucna, že právníci, kteří dříve poskytli nepravdivé informace, čelí „přísným sankcím“, včetně možného trestního stíhání za maření spravedlnosti nebo pohrdání soudem.