Експерт попереджає: суди США можуть ігнорувати помилки ШІ

Передумови: Ілюзорний наказ

Недавня скасування рішення Апеляційного суду Джорджії привернуло увагу до ризиків, пов’язаних з галюцинаціями штучного інтелекту у судових процесах. У липні 2025 року Апеляційний суд Джорджії скасував рішення про розлучення, виявивши, що адвокат спирався на вигадані посилання на справи, ймовірно, створені великими мовними моделями (LLMs), для обґрунтування запропонованого судового наказу.

Кейс: Спір про розлучення в Джорджії

У цій справі адвокат чоловіка подав запропонований наказ, підготовлений Діаною Лінч. Перевантажені судді першої інстанції часто приймають такі проекти, але цей наказ містив посилання на дві повністю вигадані справи та два нерелевантні прецеденти. Під час апеляції тричленна колегія суддів на чолі з суддею Джеффом Уоткінсом наклала штраф у розмірі 2500 доларів і повернула справу, попередивши, що неперевірені результати AI загрожують цілісності правових рішень.

Основні висновки

• Два “галюциновані” випадки та додаткові нерелевантні посилання пройшли через первинну перевірку.
• Апеляційний меморандум адвоката додав ще 11 вигаданих або непридатних справ, поглиблюючи помилку.
• Суддя Уоткінс не зміг однозначно визначити, чи були ці вигадки створені AI, чи були навмисно вставлені.

Технічний аналіз галюцинацій AI в юридичному контексті

Великі мовні моделі, такі як GPT-4 та відкриті моделі (наприклад, Llama 2, Falcon), використовують архітектури трансформерів з механізмами багатоголового уваги та векторними вбудовуваннями. Хоча вони добре генерують зв’язний текст, їх статистичне вибіркове моделювання може призводити до галюцинацій — вигаданих сутностей або посилань, які не базуються на навчальних даних.

1. Недоліки навчальних даних: Юридичні корпуси є власницькими та непослідовно оцифрованими, що змушує LLM інтерполювати відсутні назви справ.
2. Алгоритми вибірки: Температурні налаштування вище 0,7 підвищують креативність, але також і частоту галюцинацій, іноді перевищуючи 5% для незвичних запитів.
3. Обмеження контекстного вікна: Контекстне вікно GPT-4 на 32 тисячі токенів може пропускати ранні юридичні посилання, змушуючи модель вигадувати прецеденти, коли векторне сховище не має відповідностей.

Нові інструменти для виявлення та перевірки

Щоб протидіяти галюцинаціям, дослідники та стартапи розробляють системи перевірки посилань:

• Інтеграція векторного пошуку: Системи пошуку на основі вбудовувань (наприклад, Pinecone, Elastic Vector Search) перевіряють результати LLM проти централізованого корпусу судової практики.
• Фактчекінг на основі API: Сервіси, такі як CoCounsel від Casetext або Westlaw Edge, надають RESTful інтерфейси для перевірки метаданих справ у реальному часі.
• Відкриті валідатори: Прототип інструменту лабораторії POLARIS використовує нечітке зіставлення та пороги схожості n-gram для виявлення неіснуючих посилань з точністю понад 85%.

Політичні та регуляторні реакції

Лише кілька юрисдикцій запровадили формальні рекомендації щодо використання AI в судах:

• Мічиган та Західна Вірджинія: Судові етичні рекомендації, що вимагають технічної компетентності в AI.
• Вірджинія та Монтана: Закони, що вимагають людського нагляду за AI в алгоритмах кримінальної юстиції.
• Техас: Нещодавно створений Постійний комітет з нових технологій випустив AI Toolkit у першому кварталі 2025 року, надаючи рекомендації суддям щодо вибору постачальників та протоколів розкриття.

Законопроект Асамблеї Каліфорнії 673, представлений у березні 2025 року, вимагатиме від усіх судів штату впровадження програмного забезпечення для виявлення AI до 2027 року та підтримки відкритого репозиторію судової практики для публічної перевірки.

Перспективи експертів

“Цілком ймовірно, що суди з великим навантаженням випадково затвердять помилки, створені AI,” попереджає Джон Браунінг, колишній суддя П’ятого апеляційного суду та професор права в Університеті Фолкнера.

“Без надійних систем векторного пошуку та перевірки API, LLM продовжуватимуть вигадувати правдоподібно звучні, але неіснуючі прецеденти,” додає Пітер Хендерсон з лабораторії POLARIS Принстона.

Інтеграція AI в судові процеси: Переваги та ризики

Судді досліджують можливості AI для прискорення юридичних досліджень та підготовки рішень. Пілотні проекти з використанням GPT-4 Turbo повідомляють про скорочення часу на перший проект до 30%, але також вказують на ризики:

• Поширення упереджень: Нерівномірні навчальні дані можуть відтворювати історичні юридичні упередження, впливаючи на позивачів з меншин.
• Прозорість: Власницькі моделі не мають журналів аудиту, що ускладнює відстеження вихідних документів.
• Етична делегація: Надмірна залежність може підривати юридичне мислення суддів, якщо обґрунтування на основі коду замінюють людський аналіз.

Перспективи: до централізованих репозиторіїв судової практики

Експерти виступають за створення безкоштовної, централізованої, відкритої бази даних федеральних та державних рішень, подібної до європейського EUR-Lex, щоб:

1. Забезпечити перевірку посилань у реальному часі через HTTP/REST API.
2. Підтримувати дослідження впливу AI на тисячі подань.
3. Зменшити платні стіни, які в даний час фрагментують постачальників юридичних даних.

Рекомендації для суддів і судів

• Інвестувати в постійні програми навчання AI/ML для судових працівників.
• Запровадити стандартизовані вимоги щодо розкриття інформації про AI у поданнях, вказуючи назву моделі, версію та шаблони запитів.
• Досліджувати інноваційні рішення, такі як системи винагород, які заохочують виявлення вигаданих посилань.

Поки не з’явиться єдина регуляція, пильність і освіта залишаються найсильнішими засобами захисту від зростаючої загрози галюцинацій AI в судовій системі.