Чи справді Google має бездонний запас потужності для ШІ? Розмова про TPU, “найкращу сукупну вартість володіння” та майбутнє обчислень – мій погляд зсередини
Привіт, друзі! Кейсі Байт на зв’язку, і як експерт у сфері бізнес-аналізу та автоматизації з більш ніж 20-річним досвідом, я зосереджений на штучному інтелекті та обчислювальних потребах, які стоять за ним. Минулого тижня, розмовляючи з колегами в Кремнієвій долині, я почув те, що змусило мене задуматися. Мій друг, який давно захоплюється усім, що стосується технологій, розповів про те, як лабораторії штучного інтелекту нібито постійно скаржаться на нестачу обчислювальних потужностей. “Ми обмежені обчисленнями!” – ось що стало ледь не мантрою. Він звернув увагу на Google: “А вони, здається, мають бездонну бочку з цими TPU! Як їм це вдається?”
Це змусило мене, як досвідченого бізнес-аналітика, заглибитися в світ гігантських дата-центрів, чіпів і нескінченного попиту на “мозок” для штучного інтелекту. Це питання далеко не про “хто більше”. Воно стосується того, як вибудовується майбутнє технологій, і чи справді хтось має “секретний інгредієнт” для домінування.
Я взявся проаналізувати, чи це просто вдале планування, чи якась магічна формула, що дозволяє Google годувати власний бізнес, продавати рішення конкурентам і успішно закріпитися на ринку. Давайте розберемось разом.
Google та його “бездонна діжка” TPU: як це можливо? Мій аналіз.
Уявіть собі: ви – швейцарський годинникар, який створює найточніші механізми. А навколо – весь світ, який благає ваші творіння, але ви не встигаєте їх виробляти. Ось приблизно така ситуація з обчислювальними потужностями для штучного інтелекту. Я знаю з власного досвіду роботи з проєктами машинного навчання, що компанії, які стоять на передовій розробки ШІ, такі як Anthropic чи OpenAI, постійно говорять про те, що їм бракує “заліза” – потужних комп’ютерів, особливо спеціалізованих для ШІ, таких як TPU (Tensor Processing Units) від Google.
Але Google, який сам розробляє ці TPU, здається, має іншу історію. Вони не лише забезпечують власні потреби для таких моделей, як Gemini, але й продають ці чіпи, а також надають свої потужності для навчання й роботи моделей інших компаній, навіть своїх конкурентів! Як їм це вдається?
План – все!
Я згоден з Томасом (ключовою фігурою в Google Cloud), що вся справа в далекоглядності. У Google зрозуміли тенденції ринку, і зробили ставку на довгострокове планування. Це роки заздалегідь! Моє бачення таке:
- Диверсифікація енергоджерел: дата-центри споживають величезну кількість енергії. Google подбав про те, щоб мати різні джерела, а не залежати від якоїсь однієї компанії. Я бачив, як це критично важливо, коли з перебоями в енергопостачанні зіткнулася компанія, з якою я консультував: ви втрачаєте час та кошти.
- Забезпечення землі: Google передбачив потребу в місці для розміщення дата-центрів. Виділити землю в потрібному місці не просто.
- Майстерність виробництва: тут Google пішов далі, перейшовши від “будівництва” дата-центрів до “виробництва”. Замість того, щоб класти цеглину за цеглиною, вони збирають готові модулі. Це значно швидше. Я бачив, як це прискорює розгортання нових дата-центрів – швидше запуск, швидше введення в експлуатацію.
- Швидкість розгортання: мінімізація часу від ідеї до запуску нових машин.
Власні чіпи – стратегічна перевага
Паралельно з цим Google розвиває власні TPU. Це не нова історія – вони займаються цим вже майже 12 років! Восьме покоління TPU ось-ось презентують. Це як мати вдома власну майстерню, де ти сам собі куєш найкращі інструменти. І найголовніше – це власна інтелектуальна власність (IP). Google не просто продає чіпи Nvidia, вони створюють щось своє, що дає їм конкурентну перевагу. Як експерт з бізнес-аналізу, я знаю: володіння IP дозволяє контролювати витрати, планувати інвестиції та створювати власні конкурентні переваги.
Монетизація TPU: стратегія не лише у продажу чіпів
А як Google заробляє на цих потужностях? Тут все не так просто, як здається. Моя точка зору з позиції управління витратами та аналізу ринку така:
- Продаж власних чіпів: Очевидно, що продаж TPU іншим компаніям – потужне джерело доходу.
- Надання інфраструктури: сервіс обчислень для моделей, розроблених іншими компаніями (навіть конкурентами!). Це дозволяє їм отримувати стабільний потік грошей.
- Продаж “хмарних” послуг: розміщення ваших моделей в їхніх дата-центрах, що працюють на їхніх TPU. Це дозволяє їм диверсифікувати джерела доходу.
І тут цікавинка: “We own our own IP. We’re not just a distributor of other people’s IP.” (Ми володіємо своєю інтелектуальною власністю. Ми не просто дистриб’ютори чужої IP). Це означає, що вони мають кращі маржі, контролюють весь процес і можуть краще оптимізувати ціни. Це важливо.
Від трейдингу до медицини: TPU роблять різницю
Спочатку TPU були заточені під ШІ, але зараз їх використовують і в інших сферах. Уявіть собі:
- Капітальні ринки: алгоритмічний трейдинг, який раніше залежав від традиційних чіпів, тепер отримує величезний приріст продуктивності завдяки TPU. Це як перейти з велосипеда на ракету. Як людина, що добре розбирається у фінансових технологіях, я бачив, як це впливає на прибутковість.
- Високопродуктивні обчислення: науковці, наприклад з Міністерства енергетики США, теж активно використовують TPU.
Чого бояться конкуренти Google?
На мою думку, коли ви контролюєте весь стек – від чіпа до моделі, ви маєте величезну перевагу. Це як мати ферму, де ви вирощуєте все самі – від зерна до хліба. Іншим доводиться купувати зерно, купувати борошно… це дорожче і менш контрольовано.
А чи не варто Google “припасти” всі ці потужності для себе?
Це питання, яке я задавав собі, міркуючи про майбутнє ШІ. Якщо ШІ – це майбутнє, і хто перший досягне AGI (Artificial General Intelligence), той і виграє, то навіщо ділитися своїми найкращими “іграшками”?
Я згоден з Томасом: “You have to make money to fund all of this.” (Ти мусиш заробляти гроші, щоб це все фінансувати). Найбільші витрати в ШІ – це навчання моделей. А навчання – це шалено дорого. Щоб покрити ці витрати, потрібен постійний потік грошей. Продаж інфраструктури, надання послуг іншим – це теж важливі “важелі” для генерації кеш-потоку.
Звичайно, Google балансує. Частина потужностей йде на власні проєкти, частина – на інших. Це не просто “щедрість”, це бізнес-стратегія, яка дозволяє підтримувати розвиток, залишатися на плаву і, що найважливіше, отримувати вигідні умови від постачальників, бо їхній попит – це значно більша сукупність, ніж потреба лише однієї компанії.
Дата-центри: від “будівництва” до “виробництва” – стратегічний стрибок
Згадуючи про дата-центри, варто розрізняти “будівництво” і “виробництво”. З мого досвіду сталим є те, що:
- Будівництво: Традиційний процес, коли на місці зводиться будівля, встановлюється обладнання. Це довго.
- Виробництво: Коли ви робите великі модульні блоки вже готовими, які потім швидко збираються або встановлюються. Це як порівняти, чи ви будуєте хату з нуля, чи збираєте модульний будиночок.
Google свідомо перейшов до “виробництва”, щоб прискорити розгортання нових потужностей, зменшити витрати та швидше відповідати потребам ринку.
Як розвіяти підозри щодо дата-центрів?
Багато людей ставляться до дата-центрів з підозрою: чи не вплине це на енергоспоживання, чи вистачить робочих місць? Google має кілька відповідей:
- “Behind the meter” технології: Вони частково використовують енергію, яка не береться з загальної мережі. З мого досвіду роботи у цій галузі, це дозволяє знизити залежність від зовнішніх джерел.
- Альтернативні джерела енергії: Інвестиції в нові способи генерації. Ефективне використання “зеленої” енергії – вже стандарт.
- Ефективність (PUE): Максимально низьке споживання енергії на одиницю обчислень. Google тут лідери.
- Розподіленість: Замість одного гігантського дата-центру – менші, розподіленіші по різних місцях. Це зменшує вплив на будь-який окремий регіон.
- Підтримка громад: Інвестування в місцеві громади, створення робочих місць.
Чи призведе AGI до масових скорочень?
Це одне з найнагальніших питань, яке хвилює людей. Якщо ШІ стане таким розумним, що зможе робити всю роботу, що буде з нами? З точки зору бізнес-аналітика, я бачу позитивні перспективи:
Історії, що зігрівають серце (і мозок)
Google ділиться історіями, де ШІ допомагає, а не замінює:
- Signal (німецький страховик): Використовують Gemini для допомоги співробітникам. Результат? Швидкість прийняття рішень зросла в рази, якість обслуговування покращилася, а жодного співробітника не звільнили. Навпаки, співробітники можуть зосередитися на складніших завданнях.
- American Society for Clinical Oncology: ШІ допомагає онкологам швидко аналізувати складні рекомендації з лікування, враховуючи індивідуальні особливості пацієнтів (діабет, інші захворювання). Це рятує час і, головне, життя.
- Citi Group: Розробляють “фінансового радника” на базі Gemini, який допоможе звичайним людям, а не тільки багатіям, отримувати якісні фінансові поради та керувати інвестиціями.
Висновок тут простий: ШІ може бути інструментом для покращення, а не заміни. Але це вимагає часу, щоб суспільство це усвідомило.
А що ж Google Cloud?
Чи наймають вони людей, коли інструменти ШІ роблять їхніх інженерів продуктивнішими? Так! Вони наймають людей для продуктів, продажів, інженерів, які займаються розгортанням нових систем.
Чому Block звільняє, а Google наймає?
Це просте питання: “Every company has demand for its products and services and each CEO makes their own decisions.” (Кожна компанія має попит на свої продукти та послуги, і кожен CEO приймає власні рішення). Google бачить зростання попиту, тому інвестує. Block, можливо, бачить іншу ситуацію.
Nvidia проти TPU: хто король “Total Cost of Ownership” (TCO)? – мій погляд з точки зору фінансового аналізу.
Чи справді TPU від Google мають кращий TCO, ніж рішення від Nvidia? Як консультант з питань фінансового аналізу, я можу сказати, що:
Google впевнено каже: “We have a lot customers who say we are the best total cost of ownership.” (У нас багато клієнтів, які кажуть, що ми маємо найкращий TCO). Інші лабораторії ШІ обирають TPU, тому що це найвигідніше – інакше б вони не просили їх.
Що робить TPU особливими?
Це не просто чіп, це система.
- Масштаб: TPU системи (як TPU v8) можуть мати тисячі чіпів, об’єднаних надшвидкою оптичною мережею. Це забезпечує неймовірну пропускну здатність та низьку затримку. Це важливо для масштабованості.
- Пам’ять: Можливість зберігати величезні обсяги даних (петабайти!) в системі, що є критично важливим для навчання.
- Програмний стек: Google розробив власні інструменти (JAX, PyTorch, XLA, Pathways), які оптимізують роботу на TPU. Це знижує витрати на навчання.
Зелена енергія та TPU
Google також зосередився на оптимізації “доларів за ват” або “токенів за ват”, особливо враховуючи потенційну нестачу енергії. Це теж стає вагомим аргументом для клієнтів. Зниження витрат на електроенергію – важливий фактор для будь-якого бізнесу.
Восьме покоління TPU: тренування vs. інференс – з позиції інженера з інтеграції.
Нове восьме покоління TPU вперше розділено на два напрямки:
- TPU v8T: В основному для тренування моделей.
- TPU v8I: Переважно для інференсу (коли модель вже “розумна” і видає відповіді).
Це чіткий сигнал про те, куди рухаються робочі навантаження:
- Перша фаза: Моделі відповідали на запитання (більше вхідних токенів).
- Друга фаза: Генерація контенту (зображення, відео – більше вихідних токенів).
- Поточна фаза: Агенти – моделі, які можуть взаємодіяти з різними системами (CRM, бази даних, навіть комп’ютер загалом, використовуючи браузер, API). Це означає:
- Довготривала робота агента (до 12 годин).
- Необхідність працювати з традиційними комп’ютерними системами.
- Потреба в оптимізації роботи з пам’яттю (KV cache).
- Можливість роботи в “неводяному” охолодженні, що дозволяє розгортання в багатьох місцях.
“Extreme Co-design”: коли все взаємопов’язано – моя думка як системного аналітика.
Google не просто створює чіпи. Вони створюють екосистему, де кожен елемент оптимізований для іншого.
- Нові рішення для сховищ: 10 терабайт на секунду для навчання, ультранизька затримка для інференсу.
- Мережа Virgo: Надшвидка мережа для зв’язку між чіпами.
- Агенти та їх потреби: Оптимізація для роботи з дисками, активації/деактивації VMs, щоб зробити технології доступними для звичайних споживачів (інакше це буде надто дорого).
Наступний вузький прохід?
Томас вважає, що це буде собівартість для споживачів, коли вони захочуть використовувати агентів. Поки що це вигідно для бізнесу, але для звичайних людей – це може бути за дорого. Тому інженерія вартості – ключове завдання.
Google та Anthropic: коли друг – конкурент – стратегічний баланс.
Це цікава ситуація: Google надає свої TPU для навчання моделей Anthropic (які є прямими конкурентами Gemini). Як це сприймається? Моя оцінка з позиції стратегічного аналізу така:
Томас відповідає: “Google – це компанія-платформа.” Це означає, що різні частини бізнесу можуть конкурувати, а інші – постачати. Ось як Amazon продає товари, але має й власний бренд. Ось як Apple продає своїм конкурентам (наприклад, Google Apple Pay) послуги, хоча їхні операційні системи конкурують.
Навіть складні рішення про розподіл ресурсів приймаються на найвищому рівні. Але головне – “It’s better to have your own chips and demand than not having your own chips.” (Краще мати власні чіпи та попит, ніж не мати власних чіпів).
Міфи та реальність: 10 трильйонів параметрів – можливості та обмеження.
Чи грає Google у гігантському просторі моделей на 10 трильйонів параметрів? Google впевнено каже, що TPU можуть обслуговувати найбільші моделі у світі, і це правда. Вони розробили технологію “disaggregated serving”, яка дозволяє масштабувати навіть дуже щільні моделі. Нові версії Gemini вже скоро.
Інженерна культура Google: кодування, рев’ю, безпека
Чи втрачаємо ми розуміння коду, коли його пише ШІ?
Це ризик, який галузь має контролювати. Коли інструменти генерують код, чи потрібно його розуміти? Як системний аналітик, я вважаю так:
- Google використовує ШІ для покращення коду: Не тільки для генерації, але й для пошуку вразливостей, виправлення помилок.
- Peer Review залишається: Старші інженери все ще переглядають код, але тепер їм допомагають інструменти ШІ, що прискорює процес.
- Автоматизація процесів: Від налагодження до тестування – ШІ стає помічником.
Агентичне кодування: Якість понад усе
“Не рахуйте рядки коду, рахуйте швидкість випуску функцій!” – ось сучасний підхід. Але Google розуміє, що для їхніх критично важливих систем якість – це пріоритет. Тому вони постійно шукають баланс: інструменти для прискорення роботи інженерів, але з надійною системою контролю якості.
Кібербезпека: велике поле бою – моя оцінка у сфері безпеки даних.
У кібербезпеці я бачу постійну боротьбу. Оцінка ризиків та впровадження ефективних заходів – критичні.
Чи є “червона лінія” для випуску моделей?
Коли Anthropic відмовилися випускати свій “Mythos” через розвинені можливості кібербезпеки, Google відреагував:
- Ризик відкритих моделей: Відкриті моделі (open source) точно потраплять до рук зловмисників.
- Рішення Google:
- ШІ для виправлення помилок: Якщо модель знаходить вразливість, інша модель має допомогти її виправити.
- Безперервне Red Teaming: Агенти, які постійно атакують системи, щоб знайти та усунути слабкі місця.
- Пріоритизація та виправлення: Інструменти, які допомагають визначити, які вразливості є найкритичнішими, та оперативно їх виправити.
Відкритий код vs. закритий код: аргументи за та проти – мій висновок.
Google активно використовує та підтримує open source. Вони вірять, що інструменти ШІ допоможуть спільноті open source швидше виявляти та виправляти вразливості. Хоча, звісно, зловмисники першими почнуть сканувати популярні open source бібліотеки. Я бачу ризики та можливості в обох підходах.
Що ж не дає спати Томасу?
- Довгострокове планування інфраструктури: Чи вистачить TPU, мереж, дата-центрів?
- Вирішення найважливіших проблем: Чи справді ми вирішуємо ті питання, які важливі для майбутнього (наприклад, кібербезпека)?
- Швидкість адаптації: Технології змінюються блискавично. Чи маємо ми рішення ще до того, як проблема виникне?
Підсумовуючи, Google демонструє вражаючий стратегічний підхід в галузі ШІ. Вони не просто сидять на горі своїх обчислювальних потужностей, а активно використовують їх для розвитку, монетизації та підтримки екосистеми. Їхній фокус на “extreme co-design”, довгостроковому плануванні та балансуванні між власними потребами та потребами клієнтів – це те, що дозволяє їм залишатися на передовій. Як досвідчений бізнес-аналітик, я бачу в цьому розумну стратегію та потенціал для подальшого зростання.
Що далі? А далі – тільки цікавіше! Будемо спостерігати, як ці потужні інструменти впливатимуть на наше життя, як змінюватиметься інженерна культура та як ми будемо співіснувати з все більш розумними машинами.
А як ви думаєте, чи справді Google має “бездонну діжку” потужності? Діліться своїми думками в коментарях! До зустрічі в наступній статті!
