Google представляє Ironwood: процесор штучного інтелекту нового покоління, що веде в епоху інференції.

Google офіційно представила Ironwood, свій найновіший та найпотужніший процесор штучного інтелекту на сьогодні, що знаменує сьоме покоління її власної архітектури TPU. Створений для задоволення зростаючих обчислювальних вимог сучасних моделей Gemini та інших, Ironwood відіграє ключову роль у підтримці прагнення компанії до справжнього агентного ШІ, де системи не просто обробляють дані, а активно залучаються до симульованого міркування, або, як формулює це Google, ‘мислення’.

Безпрецедентні апаратні можливості

Основою Ironwood є його вражаючий діапазон конфігурацій, доступних у збірках з до 9,216 рідинно-охолоджених чіпів. Такий масштаб дозволяє створити унікальне поєднання високої пропускної здатності та енергетичної ефективності, що є необхідним для виконання обчислювально інтенсивних завдань у сучасних AI-додатках. Кожен чіп має пікову пропускну здатність 4,614 TFLOPs при роботі на FP8 точності — метриці, обраній Google для порівняння з традиційними архітектурами. Крім того, кожен процесор обладнаний вражаючими 192 ГБ пам’яті та підтримує пропускну здатність пам’яті 7.2 Tbps, що є шестиразовим збільшенням ємності пам’яті та 4.5-кратним підвищенням пропускної здатності в порівнянні з попередніми поколіннями TPU Trillium.

Сучасна інфраструктура та рішення з охолодження

Одним з найяскравіших аспектів анонсу Ironwood є інноваційна технологія рідинного охолодження, що використовується в цих чіпах. Рідинне охолодження не тільки забезпечує більш ефективне відведення тепла порівняно з традиційними методами, але й дозволяє щільно упакованим системам підтримувати стабільну продуктивність під важкими навантаженнями. Кластери Ironwood виграють від покращеної міжчіпової взаємозв’язку (ICI), що дозволяє майже миттєву комунікацію між до 9,216 чіпами. Ця вдосконалена зв’язок розроблена для підтримки масивних, розподілених обчислень, де навіть мікросекунди мають значення для швидкості висновків та загальної ефективності системи.

Переваги для розробників та інтеграція в хмари

Ironwood не тільки демонструє інженерні досягнення Google; він також надає суттєві переваги для спільноти розробників. Пропонуючи конфігурації від компактного сервера з 256 чіпами до повноцінних подів з 9,216 чіпами, Ironwood дозволяє розробникам налаштовувати свої розгортання відповідно до розміру проекту та вимог до продуктивності. Ця гнучкість робить його привабливим рішенням для компаній, які хочуть використовувати можливості ШІ в хмарних середовищах, забезпечуючи швидше розгортання та покращення продуктивності для завдань, що вимагають великих обсягів даних.

Технічні специфікації в деталях

Технічні вдосконалення, закладені в Ironwood, представляють собою суттєву еволюцію в дизайні TPU. Деякі ключові специфікації включають:

• Пікова пропускна здатність: 4,614 TFLOPs на чіп при використанні FP8 точності.
• Пам’ять: Кожен чіп оснащений 192 ГБ пам’яті високої швидкості.
• Пропускна здатність пам’яті: 7.2 Tbps, що сприяє швидкому переміщенню даних між обчислювальними ядрами.
• Масштаб: Системи можуть бути налаштовані з до 9,216 чіпами в рідинно-охолодженому поді.
• Міжчіпова зв’язність: Покращена ICI забезпечує зв’язок з низькою затримкою, критично важливий для розподілених обчислювальних завдань.

Ці покращення закладають основу для великих проривів у великих мовних моделях (LLMs) та складних завданнях міркування, забезпечуючи, що екосистема AI Google залишається на передовій інновацій.

Перспективи майбутнього та вплив на галузь

Випуск Ironwood є не лише технічним досягненням, а й каталізатором для наступного покоління AI-додатків. Google стверджує, що його поди Ironwood можуть досягти вражаючих 42.5 екзафлопсів потужності обчислювального висновку при повному розгортанні. Ця обчислювальна потужність очікується прискорити розвиток більш тонкого агентного ШІ, де системи проактивно збирають дані та генерують результати від імені користувачів.

Крім того, цей випуск може також спровокувати зміни у тому, як у всьому світі проектується інфраструктура AI, спонукаючи інших лідерів галузі інвестувати в більш просунуті технології охолодження та взаємозв’язку. У міру того, як постачальники та розробники коригують свої очікування щодо пропускної здатності та енергетичної ефективності, Ironwood стає еталоном для апаратного забезпечення наступного покоління.

Думки експертів таInsights розробників

Експерти галузі зазначили, що хоча порівняння між різними системами вимірювання AI (такими як ті, що використовують FP8 точність в порівнянні з традиційними системами) іноді можуть призводити до оманливих висновків, величезний масштаб та інноваційний дизайн Ironwood роблять його очевидним кроком вперед у технології TPU. Багато розробників, особливо ті, хто працює в області хмарних обчислень та дослідження ШІ, прагнуть використовувати ці вдосконалення в розподілених обчислювальних середовищах. Коментарі від ранніх користувачів свідчать, що поєднання рідинного охолодження та покращеної міжчіпової взаємозв’язку може виявитися революційним для застосувань, які вимагають як високої продуктивності, так і низької затримки, прокладаючи шлях до нової ери інновацій на базі ШІ.

Висновок

Отже, презентація Ironwood компанією Google підкреслює її прагнення до розширення меж апаратного забезпечення ШІ. Поєднуючи новаторське управління теплом, вдосконалені можливості пам’яті та масштабовану міжчіпову зв’язність, Ironwood готовий викликати наступну хвилю інновацій як у дослідженнях ШІ, так і в хмарних розгортаннях. Оскільки Google продовжує інтегрувати ці досягнення у свою серію Gemini та інші AI-додатки, галузь уважно спостерігає за подальшими розробками, які можуть переписати уявлення про можливості обчислювального інтелекту.