«Новини про галюцинації штучного інтелекту перейшли від збентеження в залі суду до кар’єрних наслідків, оскільки Верховний суд штату Небраска постановив відсторонити адвоката Омахи Грега Лейка до подальшого розпорядження після того, як судовий запис, який він надав у апеляції на розлучення, містив 57 помилкових цитат із 63, включаючи 20 повністю сфабрикованих справ і чотири повністю вигадані справи, які», — пишуть на: www.crypto.news
Новини про галюцинації штучного інтелекту перейшли від збентеження в залі суду до кар’єрних наслідків, оскільки Верховний суд штату Небраска постановив відсторонити адвоката Омахи Грега Лейка до подальшого повідомлення після того, як судовий запис, який він надав у апеляції на розлучення, містив 57 помилкових цитат із 63, включаючи 20 повністю сфабрикованих справ і чотири повністю вигадані справи, які не існують в жодній юрисдикції.
Резюме
- Спочатку Лейк сказав суддям, що він завантажив неправильну версію доповіді під час подорожі на річницю свого весілля зі зламаним комп’ютером, але пізніше зізнався, що використовував штучний інтелект, що дисциплінарний радник штату Небраска визнав невідвертим ставленням до суду.
- Справа почалася зі шлюборозлучного процесу 2025 року, де оскаржувалися терміни поділу майна та опіки над дітьми, причому Лейк подала апеляційну заяву від імені чоловіка, яка потім була пронизана вигаданими деталями з реальних справ у Небрасці та повністю вигаданих органів влади.
- У висновку Верховного суду штату Небраска зазначено, що помилки «можна було легко виявити, використовуючи традиційні юридичні дослідницькі служби», і описується справа як «нове питання для судів штату Небраска», що є публічним попередженням для всіх адвокатів у штаті.
Новини про галюцинації штучного інтелекту спричинили найсуворішу професійну санкцію в Сполучених Штатах на сьогоднішній день, оскільки 15 квітня Верховний суд штату Небраска ухвалив рішення про відсторонення адвоката Грега Лейка на невизначений термін після кількох місяців розгляду, який розпочався, коли судді під час усних аргументів у лютому помітили, що запис містить помилки, які вони не могли узгодити з жодною опублікованою прецедентною практикою штату Небраска.
Заява була подана в апеляційній скарзі на розлучення, в якій оскаржувалася дата набуття чинності поділу подружнього майна та опіки над дітьми. З 63 цитат Лейка 57 містили певну форму дефекту. Двадцять були тими, що суди зараз називають галюцинаціями: реалістичними, але повністю сфабрикованими посиланнями, створеними моделлю ШІ, яка правдоподібно здогадувалася про те, про що запитував користувач, і видавала переконливі, але неіснуючі цитати.
Що сталося під час усної суперечки та після неї
Коли суддя запитав Лейка під час лютневого слухання, як сталися помилки, він сказав, що він був на 10-й річниці весілля, його комп’ютер зламався під час подорожі, і він завантажив неправильну версію резюме. Судді визнали це пояснення непереконливим. Дисциплінарний радник провів розслідування та виявив іншу інформацію: Лейк використовував штучний інтелект, щоб скласти протокол, а потім відмовив у його розгляді в суді, що є порушенням правил професійної поведінки, які вимагають відвертості щодо суду.
У березні Верховний суд штату Небраска одностайно ухвалив рішення про відхилення позовної заяви та скерування Лейка до дисциплінарної відповідальності: «Штучний інтелект, як і інші технологічні інструменти, може бути корисним для юридичної спільноти, але його слід використовувати обережно та смиренно». Суд назвав помилки легко запобігти за допомогою базової перевірки за допомогою стандартних правових дослідницьких платформ і встановив, що Лейк продемонстрував невиконання свого обов’язку бути відвертим.
Широкий ландшафт санкцій
Небраска – не поодинокий випадок. Дослідник Дем’єн Шарлотен з HEC Paris, який веде базу даних справ про галюцинації штучного інтелекту в судових процесах, наразі відстежує понад 1200 таких випадків у всьому світі, приблизно 800 із них – у судах США. Він описав цей темп як «десять справ із десяти різних судів за один день».
Орегон має найбільшу сукупну санкцію, пов’язану з одним адвокатом за помилки, пов’язані з ШІ, у розмірі 109 700 доларів США. Шостий округ наклав на двох адвокатів штату Теннессі штраф у розмірі 30 000 доларів, що є найбільшою федеральною апеляційною санкцією, пов’язаною зі сфабрикованими цитатами. Відсторонення штату Небраска на невизначений термін, якщо його буде підтверджено будь-якою апеляцією, стане першою дисциплінарною діяльністю адвокатури, яка повністю призупинить практику через помилки, пов’язані з ШІ, у США, посиливши наслідки від фінансових санкцій до призупинення кар’єри.
Чому це важливо для сектору ШІ
Кожна резонансна юридична санкція, пов’язана з моделями штучного інтелекту, надсилає нормативний сигнал, який калібрує, як інструменти штучного інтелекту можна використовувати в професійних умовах. Для оцінки ризиків штучного інтелекту в інвестиційному та технологічному середовищі реакція юридичної професії на галюцинації – це «канарка у вугільній шахті»: вона визначає, що означає «відповідальне розгортання» в першому регульованому середовищі з високими ставками, яке призведе до наслідків. Ринки токенів штучного інтелекту та інфраструктури штучного інтелекту стикаються з аналогічною нормативною базою, оскільки та сама логіка поширюється на фінансові консультації, медичні рішення та державні програми тих самих основних моделей.