Переписано відповідно до інструкцій:
Чи змінить цей мільярдний договір правила гри на ринку ШІ? Розбір Lilu Hart, досвідченого експерта
Привіт, читачі! Сядьте зручніше, приготуйте свою улюблену каву. Сьогодні будемо обговорювати дуже важливу тему, що стосується світу ШІ, але цього разу не просто про чергові “тренди”, а про справжню епічну гру, яка розгортається за лаштунками IT-гігантів.
Останнім часом я помітив щось цікаве: здається, що в ШІ важливе вже не так те, що він вміє, як те, наскільки швидко він це робить. І ось, нещодавно OpenAI, творці ChatGPT, оголосили угоду з Cerebras Systems на декілька мільярдів доларів на три роки. Мета угоди – забезпечення найшвидшого можливого “інференсу”. Що таке інференс і чому він став важливішим за навчання моделі? Я, як експерт з понад 20-річним досвідом у сфері бізнес-аналізу та ШІ, поясню сьогодні.
Інференс можна порівняти з організацією екскурсій у великому домі, який ви добудували. Після навчання моделі (будівництво будинку) інференс передбачає “обслуговування” цього будинку та прийом відвідувачів. Саме від того, наскільки швидко та зручно це відбувається, залежить, чи ви отримаєте прибуток, чи залишитесь просто власником розкішного, але тихого будинку.
Тож, приготуйтеся, ми поринемо у світ спеціалізованих чіпів, мільярдних угод та гонки за швидкістю. Повірте, це буде цікаво!
Розділ 1: “Атака Титанів” – Google, Nvidia і народження Gemini 3
Все почалося з несподіваної події. Минулого листопада Google представила свою нову модель – Gemini 3. І це була бомба! Вона показала чудові результати у багатьох тестах, але, що ще важливіше, вона використовувала… TPU (Tensor Processing Units), а не традиційні GPU від Nvidia.
Я, як експерт в цій галузі, одразу зрозумів: це вперше, коли настільки потужна модель тренувалася не на обладнанні Nvidia. Крім того, весь процес “інференсу”, коли ви ставите ШІ запитання та отримуєте відповідь, теж відбувався на цих TPU.
Для Nvidia це було дуже серйозним викликом. Їхні GPU відмінні, універсальні, але тут з’явився конкурент, який кинув виклик їхньому домінуванню, особливо у швидкості. Nvidia зрозуміли: “Так, наші карти круті, але, мабуть, доведеться щось робити, щоб конкурувати зі спеціалізованими чіпами”.
Розділ 2: Подарунок на Різдво, або Як Nvidia “купила” Groq, але не купила
На Різдво Nvidia зробила хитрість. Вони оголосили про… “придбання” Groq. Але це було не класичне поглинання. Не було куплено всю компанію. Замість цього майже всі співробітники Groq звільнилися та приєдналися до Nvidia, а Nvidia уклала з ними угоду про ліцензування технологій на 20 мільярдів доларів!
Чому такий хитрий план? Найімовірніше, щоб уникнути антимонопольного законодавства. Гроші великі, але формальна “купівля компанії” була б заблокована. Так вийшло: “ми не купуємо, ми співпрацюємо”.
Цей крок показав, що навіть Nvidia, яка довгий час була законодавцем моди у світі графічних процесорів, визнала: спеціалізовані чіпи – це майбутнє. Особливо для інференсу.
Варто знати: Інференс – це процес, коли навчена модель ШІ використовується для генерації відповідей, класифікації даних, прийняття рішень тощо. Це як, коли ви навчилися пекти хліб (тренування), а потім починаєте його продавати (інференс).
Розділ 3: Де гроші, Зін? Ганяємося за інференсом!
І ось тут прихована головна суть. Раніше всі говорили про те, як дорого коштує тренування моделей ШІ. Це факт. Це як збудувати дорогий завод – на старті мільйонні витрати. Але цей завод працює роками, випускаючи продукцію.
Але, як я зрозумів з власного досвіду, справжні гроші – в інференсі. Чому? Тому що models are trained once. But serve them indefinitely. Чим швидше і дешевше ви можете “обслуговувати” модель, тим вищі ваші прибутки. Кожен запит, кожне слово з ШІ – це потенційний дохід. А чим більше клієнтів, тим більше грошей.
Навчання – це витрати. А інференс – це операційний дохід. Подумайте: тренування – це інвестиція, яка робиться один раз. А інференс – це потік грошей, який може бути постійним, якщо модель актуальна.
Розділ 4: Cerebras Systems: Швидкість, що вражає!
І ось ми підходимо до головного героя нашої сьогоднішньої історії – компанії Cerebras Systems. Саме вони стали партнерами OpenAI у цій багатомільярдній угоді.
Чому саме вони?
-
Швидкість. Просто погляньте на ці цифри. OpenAI провела порівняння своєї моделі GPT-4S на різних чіпах. Cerebras показують надзвичайні результати. Близько 3000+ токенів за секунду проти 465 у Groq. Це не просто “трохи швидше”, це в рази швидше!
- “Це як коли ви готуєте борщ, і хтось нарізає всі овочі за секунду, лише коли ви починаєте брати ніж. А ще й миє посуд!” – ось так я б описав цю різницю.
-
Незалежність від Nvidia. OpenAI, отримуючи чіпи від Nvidia для навчання, ризикувала стати надто залежною від одного постачальника. А якщо Nvidia підніме ціни або виникнуть проблеми з поставками? Це великий платформний ризик. Угода з Cerebras дозволяє диверсифікувати.
-
Унікальна архітектура. Чіпи Cerebras мають вбудовану пам’ять прямо на пластині (wafer). Це означає, що вони не страждають від дефіциту пам’яті, який зараз відчуває весь ринок, і через який ростуть ціни на RAM. За словами генерального директора Cerebras Ендрю Фельдмана на запит про це питання, він лише знизав плечима: “Ми це не використовуємо. Тож, це нам на користь”.
Чого я більше не робитиму: Я намагався оптимізувати код, що виконувався на повільному сервері, замість того, щоб зрозуміти, що проблема – у самому “залізі”. Іноді найкраще рішення – це просто змінити інструмент.
Розділ 5: Гаряча дискусія: Швидкість проти якості?
Я пам’ятаю, як збирав дані під час опитування в X (раніше Twitter): “Що для вас найважливіше в ШІ: вартість, якість чи швидкість?” Знаєте що? Якість перемогла з великим відривом. Швидкість набрала лише 2% голосів!
Здавалося б, навіщо ця метушня зі швидкістю? Але тут є нюанси. Для розробників – а це величезна аудиторія – швидкість є критичною. Коли ти пишеш код, і ШІ генерує тобі пропозиції, а ти чекаєш… це дратує. А тепер уявіть, що ви можете ітерувати, експериментувати, виправляти помилки буквально за лічені секунди. Це прискорює процес розробки в рази!
Так, для глибоких досліджень, де ви можете запустити процес і чекати відповіді хоч цілий день, швидкість не є основним критерієм. Але для майже всього іншого – для генерації тексту, коду, відповідей на часті запитання – швидкість стає ключем до продуктивності.
“Я давно це казав! Ви просто не чули!” – жартує моя внутрішня “швидкісна” версія. І ось, схоже, тепер усі нарешті це зрозуміли.
Розділ 6: Що далі? Переосмислення стратегії ШІ
Угода OpenAI та Cerebras – це більше, ніж просто партнерство. Це сигнал.
- Спеціалізовані чіпи – це майбутнє для інференсу. GPU від Nvidia, ймовірно, залишаться для навчання, але навіть тут TPU показали, що можна й без них.
- Інференс – це поле битви за прибуток. Хто швидше і дешевше надає доступ до моделей ШІ, той і виграє.
- OpenAI отримує перевагу: Тепер вони можуть виділити свої GPU на тренування нових, ще кращих моделей, замість того, щоб витрачати їх на обслуговування користувачів. Це означає, що ми можемо очікувати на ще більш просунуті версії ChatGPT та інших продуктів.
- Cerebras має шанс на IPO: Така гучна угода з OpenAI – це чудова реклама. Багато інших компаній, які розробляють великі мовні моделі, тепер точно звернуть увагу на Cerebras.
“А що я б робив на місці CEO Nvidia?” – думав я, переглядаючи новини. Ймовірно, довелося б неабияк похвилюватися. Але, з іншого боку, це стимулює до інновацій!
Висновок: Гонка озброєнь за обчислювальну потужність триває!
Друзі, ми спостерігаємо справжню “гонку озброєнь” за обчислювальну потужність у світі штучного інтелекту. Кожен гравець намагається знайти свою нішу, свою перевагу.
Угода OpenAI та Cerebras – це не просто бізнес-кейс. Це стратегічний крок, який може змінити правила гри. Це демонстрація того, як спецчіпи можуть докорінно змінити швидкість та ефективність роботи ШІ.
Що це означає для нас, користувачів?
- Кращі, потужніші моделі ШІ.
- Швидші відповіді та кращий досвід використання.
- Можливо, зниження цін на послуги.
Що далі?
- Слідкуйте за новинами: Ринок ШІ змінюється щодня. Нові угоди, нові технології.
- Експериментуйте: Навіть якщо ви не розробник, спробуйте різні інструменти ШІ. Помічайте, де швидкість має значення, а де – ні.
- Думайте критично: Не ведіться на всі “вау-ефекти”. Розумійте, що стоїть за технологіями.
Підводячи підсумок, можна сказати, що ми знаходимось на порозі нової ери у розвитку штучного інтелекту. Гонка за швидкістю інференсу стала головним драйвером інновацій. І хто знає, можливо, саме ця угода стане тим “поштовхом”, який прискорить появу справді революційних ШІ-рішень.
Пам’ятайте, технології – це лише інструмент. Важливо, як ми його використовуємо. Тож, давайте використовувати його мудро, швидко і, головне, на благо!
Дякую, що були зі мною! До зустрічі в наступній розмові!
