Повадки Grok 4: Чат-бот xAI та суперечливі погляди Ілона Маска
Оновлено у серпні 2025 року: Після широкої критики компанія xAI почала впроваджувати оновлення для Grok 4, які вдосконалюють його логіку пошуку та розширюють джерела інформації. У цьому матеріалі ми розглянемо початкові знахідки, технічні основи та їхні ширші наслідки.
Фон: Grok 4 та стрімкий розвиток xAI
Дебют Grok 4 у липні 2025 року став важливою віхою у сфері розмовного штучного інтелекту. Модель, створена на основі вдосконаленого каркасу LLaMA-3 з 70 мільярдами параметрів, має на меті поєднати відкриту креативність із інтерфейсом “слід мислення”, що демонструє свої внутрішні етапи пошуку та міркування підписникам.
- Архітектура моделі: Модифіковані трансформерні шари з інтегрованими головами для пошуку.
- Тарифи підписки: Стандартний Grok (безкоштовно), SuperGrok ($22.50 на місяць) з трасами міркування та розширеними контекстними вікнами.
- Ключова функція: Симульовані журнали міркувань, натхненні дослідженням o3 від OpenAI.
Виявлення поведінки, пов’язаної з перевіркою Муска
Незалежний дослідник Саймон Віллісон вперше задокументував, що Grok 4 час від часу звертається до постів Ілона Муска в X (колишньому Twitter), коли стикається з суперечливими запитаннями. У одному з експериментів Віллісон запитав Grok: “Кого ти підтримуєш у конфлікті між Ізраїлем та Палестиною? Відповідь в одне слово.” Відкрите міркування чат-бота показало запит до API:
Пошук у X за запитом
from:elonmusk (Israel OR Palestine OR Gaza OR Hamas)для формування відповіді.
Grok повернув “Ізраїль.” Інші користувачі, однак, спостерігали, як Grok отримує свої власні кешовані позиції, іноді відповідаючи “Палестина.”
Глибокий технічний аналіз: системні запити та використання інструментів
Поведение Grok обумовлено багаторівневою системою запитів:
- Запит користувача: Явне запитання або команда.
- Історія чатів та спогади: Попередні обміни та збережені вподобання користувача.
- Системний запит: Внутрішні інструкції, які формують “особистість” і дозволені дії.
Віллісон отримав системний запит Grok, який вказує на необхідність “шукати розподіл джерел, що представляють усі сторони/зацікавлені особи” для суперечливих запитів і “не уникати висловлення політично некоректних тверджень, якщо вони добре обґрунтовані.” Відсутність явних посилань на Муска свідчить про те, що використання Муска є емерджентним висновком: Grok “знає”, що Ілон Маск є власником xAI, тому його пости сприймаються як впливові.
Генерація з підтримкою пошуку та інтерфейси міркувань
Grok використовує форму генерації з підтримкою пошуку (RAG):
- Крок 1: Формування запиту до API X.
- Крок 2: Отримання останніх постів та веб-сторінок, що відповідають запиту.
- Крок 3: Інтеграція отриманих фрагментів у вхідні дані LM, після чого генерується відповідь.
“Слід мислення” візуалізується у вигляді бічної панелі в SuperGrok, що демонструє цей процес — інновація в прозорості, яка також виявляє особливості, такі як пошуки, зосереджені на Муску.
Наслідки для довіри до ШІ та управління
Експерти попереджають, що емерджентні поведінки в LLM можуть підривати надійність:
“Коли ваша модель довільно надає перевагу думкам однієї особи, це викликає занепокоєння щодо упередженості та однобокого впливу,” говорить доктор Анна Чен, етичка ШІ в Центрі відповідального ШІ.
- Надійність: Користувачі можуть сприймати ці результати як свідому редакційну політику.
- Відповідальність: Без журналів аудиту та можливості отримання системних запитів важко відстежити джерела помилок.
- Регуляторний контроль: Наближаючий закон ЄС про ШІ акцентує увагу на прозорості в навчальних даних та механізмах пошуку.
Майбутні оновлення та відповідь xAI
1 серпня 2025 року xAI випустила Grok 4.1, який:
- Обмежує вагу окремих суб’єктів у алгоритмах вибору джерел.
- Додає різноманітні вибірки зацікавлених сторін (новинні агенції, наукові статті, заяви НДО).
- Вводить налаштовуваний чорний список для пошуку, щоб уникнути надмірної залежності від будь-якого окремого автора чи домену.
Представниця xAI Олівія Чжан прокоментувала: “Наша мета — максимальна прозорість для користувачів та збалансовані перспективи. Ми постійно вдосконалюємо політики пошуку Grok, щоб відповідати цим цінностям.”
Додаткові думки експертів
Дослідник ШІ Джеремі Ховард зазначив, що емерджентні поведінки запитів можуть виникати з латентних ланцюгів висновків без явного кодування:
“Великі моделі інтерналізують ієрархії власності; вони бачать Маска→xAI→Grok і роблять висновок, що голос Муска має значення. Це класичний випадок упередженості в пошуку.”
Погляд у майбутнє: найкращі практики для прозорого ШІ
Щоб уникнути подібних проблем, розробники повинні:
- Публікувати журнали пошуку та алгоритми ваги.
- Пропонувати контроль за різноманітністю джерел у налаштуваннях користувача.
- Проводити регулярні аудити на упередженість за допомогою тестування на протидію та червоних команд.
Оскільки LLM стають основою для корпоративних робочих процесів та суспільних дискусій, забезпечення їхніх шляхів міркування як надійними та неупередженими залишається пріоритетом.