​​У продовження питання про посилання на несправжні джерела та інші галюцинації мовних моделей -- Яку саме відповідальність повинні нести юристи-судовики за галюцинації ШІУ липні 2025 федеральний суддя Північного округу Алабами оштрафував трьох адвокатів фірми Butler Snow (350+ гребців, 350М дохід за минулий рік, 130-150 місце в AmLaw) за те, що ті подали до суду клопотання із кількома вигаданими цитатами -- галюцинаціями чату GPT.Johnson vs. DunnКоманда із трьох юристів працювала над двома клопотаннями: про витребування доказів і про виклик свідка. Процесуальний опонент знайшов у цих клопотаннях пʼять несправжніх цитат і повідомив про це суд. Суд встановив, що над доками працювали досвідчені юристи, один із яких зробив проєкти документів за допомогою чату GPT і віддав іншим двом на перевірку. Ті перевірили по суті, поправили мову, але не перевірили цитати із джерел.Суд оголосив адвокатам догану, усунув усіх трьох від участі у справі і направив свою ухвалу до відповідних адвокатських асоціацій "для прийняття відповідних рішень". Чи не зажорстко це?Суддя у відставці Hon. Ralph Artigliere і професор Університету Флоріди William Hamilton розібрали це рішення і кажуть, що кенселити юристів за те, що мовні моделі галюцинують, потрібно обережно, а не з носака. Вони, ясна річ, погоджуються із тим, що юрист, який використав мовну модель і не перевірив текст -- їблан. Не виправдовують, а пояснюють, що:"Юрист може не усвідомлювати, що великі мовні моделі не вміють думати, а вміють лише рахувати статистичні вірогідності, внаслідок чого можуть створювати помилкові зв’язки".А от далі вони таки виправдовують юристів, бо, на їхню думку, суд застосував занадто суворе покарання. Адже -- це не було якесь супер важливе клопотання із непростою правовою позицією, -- синтетичні цитати не вплинули на суть (суд задовольнив клопотання),-- юристи визнали, що провтикали.Автори пропонують чотирискладовий тест (як же вони там люблять тести) для визначення покарання юристам:1) Шкода. Які затримки спричинили фейкові цитати, додаткові судові витрати, надмірне навантаження на суд, підрив довіри громадськості, необхідність виправлення судового рішення, чи потягла помилка інші помилки у подальших судових рішеннях? 2) Ступінь вини кожного адвоката. Чи знав, або чи мав знати, автор клопотання про помилки, чи проігнорував політику фірми або правила суду (ну раптом у суді є правила щодо поводження з особливо небезпечними ШІ).3) Визнання помилки і її усунення. Чи повідомив про помилку сам адвокат, чи це виявила протилежна сторона, чи перевірив адвокат усі свої документи на предмет помилок. 4) Контекст. Це системна поведінка чи одиничний випадок? Які наслідки для адвоката створить покарання: як вплине на інших клієнтів адвоката, які не залучені у справу, які наслідки для репутації буде мати публікація такої окремої ухвали.Професійна етикаІ ще вони цікаве кажуть. Що процесуальний опонент не обовʼязково має одразу бігти скаржитися судді на помилки. І мов не про те, що скаржитися на колегу неетично, а більше про якусь цю невловиму солідарність між колегами, які ж усі люди: сьогодні ти помилився, завтра вона. Ну візьми ти й напиши у воцапі: чуваки, ви провтичили, ха-ха, біжіть виправляйте. Ясно, що не завжди це має сенс, але у даній справі схоже, що заміна представників у справі не мала б вплинути на хід процесу. А от карʼєри трьох адвокатів накрилися розкішницями. А ви що думаєте?@gadiuk Канал | Чят | Вакансії | Події | Кіноклуб