Юристи Лінделла піддали критиці за AI-документ із 30 помилковими посиланнями
У вражаючому застереженні, яке підкреслює обіцянки та ризики генеративного штучного інтелекту в юридичній практиці, суддя окружного суду США Ніна Я. Ванг цього тижня зобов’язала адвокатів генерального директора MyPillow Майка Лінделла пояснити, чому їм не слід накладати санкції та професійні дисциплінарні заходи після подання судового документа з майже тридцятьма дефектними цитатами. Серед помилок були невірні цитати канонічних рішень, неправильне приписування обов’язкових норм та, що найбільш тривожно, посилання на справи, які не існують.
Висновки судді щодо дефектних цитат
У своєму Наказі про необхідність пояснень, поданому 23 квітня 2025 року, суддя Ванг перерахувала наступні дефекти в Опозиції до клопотання позивача від 25 лютого:
- Невірні цитати згаданих справ, включаючи перефразування, представлені як буквальні цитати.
- Неправильне подання юридичних принципів — думки, яким приписували елементи, яких немає у рішеннях.
- Помилкові твердження про те, чи була згадана норма обов’язковою для Десятого округу.
- Неправильне приписування рішення Східного округу Кентуккі до Округу Колорадо.
- Цитування неіснуючих справ — наприклад, Perkins v. Fed. Fruit & Produce Co. 945 F.3d 1242 (10th Cir. 2019).
Головний адвокат Крістофер Качурофф та його колега Дженніфер ДеМастер визнали на слуханні 21 квітня, що вони використовували генеративну систему ШІ для підготовки документа. Коли їх допитували, Качурофф визнав, що “можливо, зробив помилку”, але зазначив, що такі помилки є побічним продуктом ранньої версії документа, створеного ШІ.
Контекст справи: Позов про наклеп від працівника Dominion Voting Systems
Позов, поданий Ерікoм Кумером — колишнім директором з продуктового стратегічного розвитку та безпеки Dominion Voting Systems — стверджує, що Лінделл, його медіа-ресурс FrankSpeech та MyPillow поширили неправдиві та наклепницькі заяви, звинувачуючи Кумера у зраді та змові з метою фальсифікації виборів 2020 року. Клопотання Кумера в limine прагнуло виключити докази, які адвокати Лінделла стверджували, що впливають на довіру Кумера, включаючи особисті питання, не пов’язані з ймовірною змовою.
Технічні основи генеративного ШІ та “галюцинації”
Генеративні моделі ШІ, такі як GPT-4 від OpenAI та подібні великі мовні моделі (LLMs), навчаються на величезних текстових корпусах — іноді понад 1,5 трильйона токенів. Вони вивчають статистичні закономірності в мові, але не витягують перевірені факти з канонічних баз даних. Це ймовірнісне генерування часто призводить до галюцинацій: упевнених, але хибних тверджень, включаючи вигадані назви справ, думки та цитати.
Згідно з дослідженням 2024 року, проведеним Центром безпеки ШІ Стенфордського університету, сучасні LLM все ще демонструють рівень галюцинацій у 8–12%, коли їх запитують про точні юридичні посилання. Відсутність ретельної перевірки людиною в процесі може призвести до серйозних ризиків відповідності для адвокатів, зобов’язаних дотримуватись професійної етики.
Інтеграція ШІ в юридичні робочі процеси: інструменти та запобіжники
Ведучі платформи юридичних досліджень намагаються заповнити цю прогалину. Westlaw Precision від Thomson Reuters та Lexis+ AI Assistant від LexisNexis тепер пропонують нативні API для перевірки цитат, які перехресно перевіряють проекти ШІ з перевіреними базами даних справ. Ключові найкращі практики включають:
- Суворий контроль версій: Вести аудиторські сліди AI-генерованих проектів для виокремлення частин, що потребують ручної перевірки.
- Автоматизована перевірка цитат: Інтегрувати реальні перевірки API, щоб виявляти неіснуючі або помилкові цитати перед поданням.
- Людина в процесі: Призначити сертифікованого юридичного редактора для перевірки всіх результатів, що допомагає ШІ, особливо цитат та рішень.
Регуляторні та етичні аспекти
Офіційна думка Американської асоціації адвокатів 498 (2023) попереджає адвокатів, що несанкціонована практика права може мати місце, якщо ШІ використовується без належного нагляду. Модельні правила професійної етики 3.3 (Відвертість перед судом) і 5.1 (Відповідальність партнерів, керівників та наглядових адвокатів) вимагають від юристів забезпечити точність і надійність усіх подань.
Невиконання цих стандартів не лише загрожує санкціями, але й може призвести до дисциплінарних проваджень перед державними адвокатськими палатами. Суддя Ванг встановила термін до 5 травня для Качуроффа та ДеМастера для подання присяжних декларацій, що детально описують обсяги використання ШІ та їх заходи контролю.
Думки експертів та наступні кроки
Аналітик юридичних технологій Ребекка Лю з LegalTech Insights зазначила: “Це рішення — це сигнал тривоги. Генеративний ШІ пропонує ефективність, але вимагає надійних запобіжників — особливо для справ з високими ставками.” Тим часом дослідник етики ШІ з Колорадо, доктор Аарон Мартінез, попереджає, що “без прозорого аудиту ШІ юридична професія може зіткнутися зі збільшенням неправильно поданих документів та апеляцій, основаних на ненадійних прецедентах.”
Остаточне рішення суду щодо санкцій, ймовірно, вплине на те, як юридичні фірми по всій країні впроваджують інструменти ШІ та вдосконалюють свої рамки дотримання, щоб уникнути подібних помилок.