Soud za chybu: Americké ministerstvo odsouzeno za používání AI, která „vymyslela" neexistující právní případy

Federální soudce jmenovaný Trumpem ostře zkritizoval americké ministerstvo spravedlnosti za to, že v migrační kauze podpořilo své argumenty AI-generovanými a zcela vymyšlenými právními případy. Incident upozorňuje na vážná rizika spojená s používáním umělé inteligence v právnické praxi bez náležité kontroly.

Západ právního světa je v poslední době sužován několika kontroverzními incidenty, kdy právníci spoléhají na umělou inteligenci, aniž by důkladně ověřili kvalitu jejích výstupů. Nejnovější případ se týká právě ministerstva spravedlnosti Spojených států, které využilo algoritmicky generované citace právních precedentů v jedné z migračních řízení. Soudce však během posouzení dokumentů zjistil, že některé ze zmíněných případů jednoduše neexistují.

Nešikovné „halucinace" AI se staly terčem kritiky federálního soudce, který veřejně upozornil na naprostou nezbytnost kontroly práce umělé inteligence. „Mělo by být zřejmé, že každý právník, který používá AI, musí svědomitě zkontrolovat její výsledky a ujistit se, že všechny citované případy skutečně existují," prohlásil soudce s jasným postihem. Jedná se o důležitý signál pro právnickou komunitu, která se snaží zavádět moderní technologie do své práce, ale často bez adekvátního kontrolního mechanismu.

Tento incident se stává součástí širšího trendu, kdy se právníci, zejména v kancelářích pracujících se státní správou, snaží zvýšit svou produktivitu pomocí nástrojů jako ChatGPT nebo jiných jazykových modelů. Problém však spočívá v tom, že tyto systémy jsou náchylné ke generování zdánlivě věrohodných, ale fakticky chybných informací. V právnickém kontextu je taková chyba nepřijatelná, protože může vést k chybným soudním rozhodnutím a diskreditaci případu.

Ministerstvo spravedlnosti se nyní potýká nejen s věcnou kritiku soudu, ale také s otázkami ohledně své interní kontroly. Jak je možné, aby se v oficiálních soudních dokumentech objevily neexistující právní případy? Incident vrhá světlo na nedostatečné školení a kontrolní mechanismy, které by měly být na místě, než se technologie umělé inteligence začne rutinně používat v těch nejzodpovědnějších profesích.

Soudce svým verdiktem fakticky nařídil právníkům, aby brali vážně svou povinnost ověřit si informace generované umělou inteligencí. Jde o připomínku základního principu právnické etiky: právník nese odpovědnost za všechny tvrzení, která podá soudu, ať už je sám vytvořil, nebo je převzal z jakéhokoli zdroje, včetně umělé inteligence. Bez této osobní odpovědnosti za kontrolu by mohly být právní řízení systematicky ohrožena.

Budoucí vývoj této oblasti bude zásadní pro právní systém. Bude třeba vytvořit jasné standardy a pokyny pro používání AI nástrojů v právnické praxi. Několik právnických komor již začíná pracovat na takovýchto doporučeních, která by měla zajistit, že moderní technologie budou sloužit spravedlnosti, a nikoli ji ohrožovat.

Zdroj: Law & Crime

Rubrika: Krimi & True Crime