Депутати прагнуть заборонити штучний інтелект Delta для завищення цін

Через тиждень після оголошення Delta Air Lines про розширення пілотної програми, що використовує штучний інтелект для коригування цін на авіаквитки на основі зведених даних про клієнтів, демократичні законодавці представили законопроект, що забороняє так зване “передатне спостереження за цінами” та “алгоритмічне регулювання зарплат”. Законопроект під назвою Закон про заборону зловживань цінами та регулювання зарплат за допомогою штучного інтелекту має на меті встановити чіткі правові межі щодо використання особистих даних в автоматизованих рішеннях про ціни та компенсації.

Законодавці пропонують заборонити ціноутворення на основі спостереження

У спільному прес-релізі представники Грег Касар (Демократ, Техас) та Рашида Тлаіб (Демократ, Мічиган) розкрили основні положення законопроекту. Він передбачає:

• Заборону ціноутворення на основі спостереження: Компанії більше не зможуть використовувати алгоритми, які визначають “відчай” або максимальну готовність платити, спираючись на особисті, демографічні або поведінкові дані.
• Заборону регулювання зарплат на основі спостереження: Роботодавцям забороняється використовувати моделі штучного інтелекту, які знижують зарплату на основі фінансового стану, асоціацій або демографії особи.
• Право на приватний позов: Будь-який споживач або працівник може подати до суду на відшкодування збитків — обов’язкове повернення переплат або недоплачених зарплат плюс мінімум $3,000, з можливістю потроєння збитків за навмисні порушення.

Основні технічні визначення

1. Ціноутворення на основі спостереження: Динамічні алгоритми ціноутворення, які інтегрують особисті ідентифікатори, куки браузера, телеметрію мобільних додатків або дані з соціальних мереж для сегментації клієнтів і налаштування тарифів.
2. Алгоритмічне регулювання зарплат: Автоматизовані системи обліку заробітної плати, які коригують компенсацію на основі прогнозних оцінок, отриманих з поведінки або кредитних даних окремих осіб.

Модель ціноутворення Delta на основі штучного інтелекту: технічний аналіз

Delta стверджує, що її двигун цін на основі штучного інтелекту не націлений на окремих осіб з персоналізованими пропозиціями, а спирається на зведене прогнозування попиту. За словами представника Delta, модель використовує:

• Прогнозування на основі часових рядів: Рекурентні нейронні мережі (наприклад, LSTM), навчальні на історичних кривих бронювання, сезонності та впливу днів тижня.
• Деревця з градієнтним підсиленням: Модулі на базі XGBoost для прогнозування еластичності цін за парою “походження-призначення” та класом тарифів.
• Ринкові сигнали в реальному часі: Інформаційні потоки про ціни на авіаційне паливо (індекс Platts), збори тарифів конкурентів через API та макроекономічні показники.
• Інженерія ознак: Такі змінні, як терміни бронювання, розподіл рівнів лояльності, тип пристрою та рівні скасування рейсів.

Хоча Delta заперечує використання особистої ідентифікаційної інформації (наприклад, віку, статі, поштового індексу) для персоналізації тарифів, законодавці зазначають, що вдосконалені методи перехресного аналізу можуть виявляти чутливі атрибути навіть з агрегованих даних.

Ситуація в галузі: постачальники, інструменти та розслідування FTC

У січні 2025 року Федеральна торгова комісія надіслала запити на цивільні розслідування восьми великим постачальникам цін на основі штучного інтелекту — Mastercard, Revionics, Bloomreach, JPMorgan Chase, Task Software, PROS, Accenture та McKinsey & Co. Ці компанії підтвердили обслуговування щонайменше 250 клієнтів у сферах продуктового ринку, одягу, подорожей та доставки.

Попередній звіті FTC попереджав, що “широкомасштабне алгоритмічне персоналізоване ціноутворення” може зруйнувати конкуренцію на ринку та зашкодити споживачам, роблячи знижки непрозорими та непередбачуваними.

Технічні заходи безпеки та альтернативи, що зберігають конфіденційність

Експерти виступають за підходи, що зберігають конфіденційність, які дозволяють прогнозувати попит без інвазивного профілювання:

• Федеративне навчання: Навчання спільних моделей на пристрої, щоб сирі особисті дані ніколи не залишали смартфон споживача.
• Диференційна конфіденційність: Введення шуму в агреговану статистику, щоб гарантувати, що особи не можуть бути повторно ідентифіковані.
• Гомоморфне шифрування: Виконання прогнозування попиту на зашифрованих векторах ознак.

Глобальний контекст: регулювання ЄС та захист даних

Відповідно до Загального регламенту захисту даних (GDPR) ЄС, будь-яке автоматизоване прийняття рішень, яке суттєво впливає на споживачів — наприклад, диференційне ціноутворення — вимагає явної згоди та права на людський перегляд. Закон про цифрові ринки ще більше обмежує посередників у нечесному використанні особистих даних для отримання ринкової влади.

Думки експертів та етичні міркування

“Коли компанії використовують штучний інтелект для налаштування цін відповідно до готовності особи платити, вони експлуатують економічну вразливість,” зазначила доктор Джейн Сміт, професор обчислювальної економіки в MIT. “Прозорі, основані на правилах рамки є необхідними для захисту споживачів та підтримки цілісності ринку.”

Організація Public Citizen, що захищає права споживачів, підтримує законопроект і закликає Конгрес “встановити чітку межу: знижки допустимі, але не тоді, коли вони базуються на спостереженні.”

Політичні наслідки та подальші кроки

Якщо буде ухвалено, Закон про заборону зловживань цінами на основі штучного інтелекту відкриє численні канали для виконання: генеральні прокурори штатів, Федеральна торгова комісія, Комісія з рівних можливостей у працевлаштуванні та приватні позивачі. Компанії, які порушать закон, можуть зіткнутися з наказами про відшкодування, цивільними штрафами та репутаційними втратами.

Комісари FTC від Республіканської партії Ендрю Фергюсон та Мелісса Холйоак висловили незгоду з попереднім звітом, стверджуючи, що він був “передчасним” і “політизованим”. Проте вони визнали, що всебічний фінальний звіт може надати цінні рекомендації щодо цін на основі даних і реформування законодавства про конфіденційність.

Висновок: до прозорого та справедливого ціноутворення на основі штучного інтелекту

Оскільки динамічне ціноутворення на основі штучного інтелекту стає все більш поширеним — від авіакомпаній до продуктових мереж — законодавці та регулятори намагаються знайти баланс між інноваціями та захистом споживачів. Закон про заборону зловживань цінами на основі штучного інтелекту є знаковою спробою забезпечити, щоб досягнення в галузі машинного навчання та хмарних технологій не відбувалися за рахунок справедливості чи конфіденційності.