Адвокат у Каліфорнії отримав штраф $10 000 після того, як використав ChatGPT для підготовки апеляції — штучний інтелект згенерував фейкові посилання, які не були перевірені, і суд це виявив. Це випадок нагадує про ризики застосування AI у юридичній практиці та може змінити правила роботи з інструментами на основі ШІ у судовій системі США.
Рішуче попередження від апеляційного суду
У червні 2025 року Апеляційний суд Другого округу штату Каліфорнія встановив, що в поданому адвокатом документі 21 з 23 посилань були вигадані. Судді самі перевірили наведені джерела та виявили фальсифікації.
Суд наголосив, що юристи не повинні включати в процесуальні документи посилання, які вони не перевірили особисто — це призвело до найбільшого на сьогодні штрафу в Каліфорнії за неправильне застосування AI у правничій практиці.
Проблема «фейкових» рішень у судах США
Інцидент став частиною ширшої тенденції: по всій країні зростає кількість випадків, коли юристи використовують AI для досліджень і непомітно цитують «винайдені» рішення чи статті.
- Масштаб проблеми: за даними різних звітів, за останній рік зафіксовано сотні подібних випадків у США.
- Натиск на регуляторів: каліфорнійські суди стоять перед вибором — заборонити певні інструменти або прийняти чіткі правила їхнього використання.
За рішенням суду, до грудня 2025 року мають з’явитися або заборони, або детальні політики щодо застосування ШІ в судових процесах; Дисциплінарні органи штату також переглядають свої норми етики для адвокатів.
Адвокат визнає помилку
Юрист, Amir Mostafavi, розповів, що використав ChatGPT для «очищення» тексту апеляції, але не перевірив джерела вручну. За його словами, мета була лише форматування й редагування, а не генерація правових прецедентів.
Проте інструмент доповнив документ цитатами, яких не існувало, і це виявили судді. Mostafavi стверджує, що не знав про можливість «винайдення» кейсів моделлю, і зараз заплатить великій штраф.
Не поодинокий інцидент у Каліфорнії та США
Цей випадок не унікальний: раніше федеральний суд у Каліфорнії оштрафував дві юридичні фірми на $31 000 за те, що вони покладалися на фейкові дослідження, згенеровані ШІ. За різними даними, в США вже понад 600 подібних інцидентів; у самій Каліфорнії налічують понад 50 таких випадків.
Кількість подій із «галюцинаціями» ШІ зростає щомісяця, що підсилює тиск на суди та професійні організації адвокатів щодо регулювання інструментів штучного інтелекту.
Експерти закликають до навчання та контролю
Фахівці з правових технологій попереджають, що багато юристів недостатньо розуміють, як працюють моделі на основі ШІ. Головний ризик — так звані «галюцинації», коли система створює правдоподібні, але хибні відомості.
Експерти пропонують:
- запровадити обов’язкове навчання для адвокатів з використання AI;
- ввести внутрішні процедури перевірки джерел у фірмах;
- чітко прописати відповідальність за неперевірені посилання у процесуальних документах.
Основний висновок суду: ШІ може прискорювати роботу, але не замінює професійну відповідальність. Недбалість верифікації загрожує штрафами, репутаційними втратами та шкодою для клієнтів.
- Штраф: $10 000 для адвоката за використання ChatGPT без перевірки джерел.
- Фальшиві посилання: 21 з 23 цитат у документі виявилися вигаданими.
- Тенденція: понад 600 випадків у США, у Каліфорнії — понад 50.
- Термін: до грудня 2025 року очікуються рішення щодо заборон або політик використання ШІ в судах Каліфорнії.
Що це означає
Ситуація демонструє, що впровадження AI у юриспруденцію вимагає не лише технологічної доступності, а й суворої професійної дисципліни. Адвокати повинні розглядати інструменти як допоміжні — але не як джерело істини. Очікуйте, що найближчими місяцями судові органи й асоціації адвокатів у США, зокрема в Каліфорнії, посилять вимоги до верифікації джерел і навчання роботи зі ШІ; для юридичного ринку це означатиме нові стандарти відповідальності й внутрішнього контролю.
Підписуйтесь на Gizchina.net в Google News, Facebook, X (Twitter), Instagram, Threads, LinkedIn, Telegram, та на Blogarama, щоб бути в курсі останніх новин технологічної індустрії.
Джерело: GizChina.com
Нагадаємо, раніше ми писали, що Samsung Galaxy S26, S26 Plus і S26 Ultra: розкрито дизайн та перші деталі флагманів 2026 року, Цифрова втома: як технології забирають наші сили та концентрацію та Ілон Маск судиться з OpenAI через зміну структури компанії.
