Mac Studio M5 Ultra: Чи вартий він мільйонів та “вбивства” підписок? Реальний погляд від експерта
Я вже понад два десятиліття занурююся у світ бізнес-аналізу, автоматизації та штучного інтелекту. За цей час я бачив чимало технологічних “диев”, які обіцяли змінити правила гри. Тому, коли мій друг, палкий прихильник Apple, почав захоплено розповідати про новий Mac Studio з чипом M5 Ultra, я спочатку сприйняв це як звичайний ентузіазм. “Це найкраще для локального ШІ!”, “Він знищить усі ваші підписки на ChatGPT!” – звучало це як типова маркетингова пісня.
Але потім він показав мені одну цифру: $110.10. Це не просто число, а місячна вартість оренди Mac Studio M5 Ultra. Далі він додав: “А тепер додай до цього свої щомісячні витрати на ChatGPT, Claude, Gemini, Grok, Seedance та Fish Audio”. Саме тоді я зрозумів, що це не просто розмова про черговий гаджет. Це глибинний аналіз того, як технології впливають на наші фінанси та, можливо, на наше сприйняття.
Ми живемо в епоху, коли штучний інтелект став невід’ємною частиною нашого життя, допомагаючи нам у написанні текстів, творчості та комунікації. Проте, як я з’ясував на власному досвіді, він також може суттєво впливати на наш бюджет. Коли я побачив цю цифру, одразу виникло питання: чи справді новий Mac Studio є тією “срібною кулею”, яка позбавить нас від калейдоскопу підписок, чи це черговий дорогий, хоч і потужний, пристрій? Запасіться кавою, бо зараз ми зануримося в реальність Mac Studio M5 Ultra, оминаючи маркетингові прикраси, і спробуємо розібратися, чи варто він того.
M5 Ultra: Коли цифри починають говорити (або мовчати)
Apple стверджує, що їхній новий Mac Studio з M5 Ultra – це найкраща машина для локального ШІ. Звучить переконливо, але давайте розберемося. На папері він справді вражає: M5 Ultra складається з двох M5 Max чипів, об’єднаних Ultra Fusion. Кожен з них, по суті, є двома “чіпами”, що дає чотири “чіпи” в сумі. Йдеться про 36-ядерний CPU, 80-ядерний GPU та 32-ядерний нейронний процесор. А об’єднана пам’ять може сягати від 96 ГБ до 512 ГБ. Ключове слово тут – “об’єднана”, адже саме це дозволяє GPU бачити весь цей пул пам’яті, створюючи ефект величезної, легкодоступної майстерні.
Apple заявляє про пропускну здатність пам’яті 1.2 терабайти на секунду. Для порівняння, два “половинки” чипа обмінюються даними зі швидкістю 4.4 терабайти на секунду через Ultra Fusion. І ось тут, друзі, криється справжній інсайт: саме пропускна здатність, а не кількість ядер, визначає швидкість завантаження моделі та генерації результатів.
Проте, я звернув увагу на один нюанс: діапазон пам’яті від 96 до 512 ГБ залишається таким самим, як у минулорічного M3 Ultra. Це означає, що максимальна ємність не змінилася. Натомість, “труба”, що веде до цієї пам’яті, стала приблизно на 50% ширшою. Саме це є головною інновацією цього покоління.
Тепер про ціну. Базова конфігурація з 96 ГБ стартує від $5499. Чесно кажучи, це не та конфігурація, про яку мріють мільйони. Варіант з 36-ядерним CPU та 80-ядерним GPU коштуватиме близько $6799. А тепер найцікавіше: стрибок з 96 ГБ до 256 ГБ пам’яті обійдеться вам ще приблизно в $4000. Так, чотири тисячі доларів за додаткову пам’ять! Найдорожча конфігурація, яку можна замовити зараз, досягає $18299, і це ще без урахування 512 ГБ версії, яка, ймовірно, буде ще дорожчою.
Цікавий факт: Apple, як завжди, не розкриває деталей виробничого процесу чи кількості транзисторів для своїх чіпів. Це дещо дивно для машини, яку позиціонують як “найкращу для локального ШІ”.
Коли цифри обманюють: 9.8x швидше? Серйозно?
Apple має особливе ставлення до цифр, і їхні заяви про “9.8 разів швидше” потребують ретельного розбору. Перше, на що я звертаю увагу, – це виноски (footnotes). Виявляється, більшість порівнянь Apple проводить з… M1 Ultra, чіпом 2022 року! Це все одно, що порівнювати сучасний смартфон з першим iPhone. Порівняно з M3 Ultra, який цей чіп фактично замінює, цифри вже не такі вражаючі: 1.25x для одноядерної продуктивності та 1.3x для багатоядерної.
Але найцікавіше – це те саме число 9.8x, яке розлетілося мережею. Воно вимірювалося в LM Studio і стосувалося обробки промпту (prompt processing). Це час, який машина витрачає на “перетравлення” вашого запиту, перш ніж видати перше слово. Це може бути корисно, якщо ви щоразу вставляєте величезний шматок коду. Однак, це не визначає, наскільки швидко ви побачите відповідь на екрані.
Apple MLX демонструє більш реалістичну картину: час до першого токена приблизно в 3.3-4 рази кращий. Але кожен наступний токен – лише близько 1.2 рази швидший. Чому? Бо швидкість генерації обмежується пропускною здатністю пам’яті, яка зросла приблизно на 50%, а не на 900%!
Мене завжди дратує в бенчмарках Apple, що вони ніби забувають про існування інших чіпів, окрім своїх. Порівнювати Mac M6 з Intel MacBook – це майже те саме. А коли вони показують демонстрацію з трильйонною моделлю, що працює на чотирьох Mac Studio, вони забувають згадати, що це було зроблено на попередньому поколінні, ще до виходу M5 Ultra. І жодного порівняння з конкурентами.
Гумористичне застереження: Завжди звертайте увагу на примітки. Маркетинг – це мистецтво, а цифри в ньому – це фарби, які можна розкласти як завгодно.
Обчислення “токенів на секунду”: Наша власна математика
Оскільки Apple не бажає ділитися найважливішою цифрою – токенами на секунду – ми зробимо це самі. Хоча я не маю доступу до цього Mac Studio, і поки що ніхто не опублікував незалежних тестів, ми можемо розрахувати теоретичну стелю, виходячи з пропускної здатності пам’яті.
Основне правило просте: для генерації одного токена чипу потрібно прочитати активні ваги моделі з пам’яті. Ділимо пропускну здатність на обсяг даних, які потрібно прочитати, і отримуємо теоретичну стелю. Реальні показники завжди трохи нижчі, оскільки жодна система не працює на 100% своїх специфікацій.
Наприклад, 70-мільярдна щільна модель (4-біт) вимагає приблизно 40 ГБ для кожного токена. З пропускною здатністю 1.2 ТБ/с, теоретична стеля становить близько 30 токенів на секунду. Реалістично, це буде 20-25. Це доволі непоганий показник для настільного комп’ютера.
Але ось що цікаво: більший обсяг пам’яті не робить щільну модель швидшою на токен. Він дозволяє тримати більшу модель. Тому вся справа в тому, як ви використовуєте цей об’єм.
З іншого боку, модель з 20 мільярдами активних параметрів (Mixture of Experts) читає лише близько 11 ГБ на токен. Навіть якщо вся модель займає 200 ГБ, швидкість буде значно вищою – приблизно 70-100 токенів на секунду. Це і є головний аргумент для купівлі величезного об’єму об’єднаної пам’яті. Ви платите не за швидкість, а за можливість тримати модель, яка занадто велика для будь-якого іншого комп’ютера на ринку.
- 96 ГБ: Цього достатньо для 70-мільярдних щільних моделей з повним контекстом. Це покриває більшість популярних відкритих моделей.
- 256 ГБ: Тут вже комфортно розміщуються великі Mixture of Experts моделі. Цей стрибок коштує близько $4000.
- 512 ГБ: Це те, чого ніхто інший не пропонує в такій компактній формі. Саме це дозволило Apple продемонструвати трильйонну модель.
І ось тут ми виходимо на чисту математику. 9.8x? Це префіл, який видає себе за генерацію. Час до першого токена – це одне, а генерація – це інше.
Друзі, конкуренти і конкурентні ціни: AMD та NVIDIA на сцені
Apple не згадує про конкурентів. А це, друзі, саме та частина історії, яка робить картину повною. Давайте подивимося на AMD та NVIDIA.
AMD Ryzen AI Halo: Це дев-кіт, який коштує близько $4000 і має 128 ГБ пам’яті. Він видає 40-80 токенів на секунду для моделей до 10 мільярдів параметрів. І коли ви переходите до 27-35 мільярдних моделей Mixture of Experts, швидкість все ще залишається в межах прийнятних двозначних чисел. Це виробник чіпів, який показує свою роботу.
GMK Evo X2: Цей комп’ютер на базі чіпа Strix Halo з 128 ГБ пам’яті коштує близько $3400 (після зростання цін на пам’ять). Він видає приблизно 31 токен на секунду для 120-мільярдної моделі Mixture of Experts і близько 89 для 30-мільярдної моделі кодера.
Framework Desktop: Схожий до GMK Evo X2, також використовує чіпи Strix Halo. Ціна також близько $3400. Швидкість приблизно така ж.
NVIDIA DGX Spark: Ось тут цікавіше. Коштує близько $4700 за 128 ГБ. Він майже на рівні AMD за швидкістю генерації (30+ токенів на секунду для Mixture of Experts). Але його сильна сторона – це префіл, де він видає майже 1700 токенів на секунду! Це фантастично, якщо ви використовуєте агентів, які постійно надсилають весь репозиторій коду.
Asus Ascent GX10: Використовує той самий чіп GB10, але з меншим SSD, коштує близько $3000. Це найдоступніший шлях до тієї ж швидкості префілу, що й у NVIDIA.
Тепер подивимося на ціну за гігабайт:
- AMD: близько $26/ГБ
- NVIDIA/Asus: близько $35/ГБ
- Apple Mac Studio (базова 96 ГБ): близько $57/ГБ!
Це ще до того, як ми почнемо розглядати дорожчі конфігурації Apple.
Хто “вбиває” підписки, а хто просто їх лякає
Давайте повернемося до початкової цифри: $110.10 на місяць за оренду Mac Studio Ultra. Це за три роки. А якщо купити базову машину і розділити її вартість на 36 місяців, то це близько $153 на місяць.
ChatGPT Plus коштує $20 на місяць. За три роки це всього $720. Одна підписка – це не привід купувати Mac Studio.
Але якщо ви важкий користувач, який активно використовує Claude, Gemini, Grok, відеогенератори, голосові інструменти – тоді сумарні витрати на підписки можуть сягати $100 на місяць і більше. Ось тоді оренда Mac Studio та сукупність підписок опиняються в одному ціновому діапазоні.
Проте, тут є важлива різниця. Ви платите за підписки, які можете скасувати будь-коли. А Mac Studio – це амортизований пристрій, який залишається з вами на роки. І локальні моделі, хоч і добрі, але не завжди дотягують до передових моделей, які ви могли б скасувати.
Тому, твердження, що Mac Studio “вбив” підписки, потребує серйозного переосмислення. Арифметично це не підтверджується.
Для кого цей Mac Studio? Розкладаємо по полицях
Якщо ви хочете просто протестувати локальний ШІ, або бути раннім адоптером, який прагне мати найновіше – вам, ймовірно, не потрібна найдорожча конфігурація. Я б порекомендував зважений підхід: розглянути AMD або NVIDIA, або навіть базовий Apple Mac Studio, який добре тримає вартість.
Якщо ви виконуєте мінімальний обсяг AI-роботи, вам просто не потрібен цей монстр. Запуск моделі локально, тому що це “круто” – це хобі, а хобі не потребує 512 ГБ пам’яті.
Але є одна категорія користувачів, для яких все це змінюється. Це серйозні професіонали, які працюють з конфіденційними даними, підписаними NDA. Агентства, консультанти, розробники, юристи, медичні практики. Для них цей комп’ютер – це не конкурент $20 підписки. Це конкурент заборони використання інструменту. Машина, яка ніколи не відправляє жодного байта даних кудись – це чиста відповідь.
І все ж, це шалена ціна для звичайного домашнього робочого місця. 10-20 тисяч доларів за потужний комп’ютер – це багато.
Що мене дратує найбільше? Apple називає це “найкращою AI-машиною для локальних моделей”, але не надає жодної цифри токенів на секунду.
Зазирнемо у вересень: Місце для сподівань
Є одна річ, яку я можу передбачити. 512 ГБ версія з’явиться в жовтні. Це буде перший раз, коли хтось поза Apple зможе помістити трильйонну модель в один компактний комп’ютер і опублікувати виміряну швидкість. Моя ставка – ця цифра з’явиться в мережі протягом кількох днів після виходу перших одиниць. І вона буде значно ближчою до моїх розрахунків, ніж до тієї маркетингової цифри 9.8.
До того часу, кожна впевнена заява про токени на секунду – це лише оцінка. Включаючи мою.
Тому, перш ніж натискати “купити”, зробіть свої розрахунки. Бо, як я вже казав, коли йдеться про технології, цифри мають значення. І не завжди ті, які показують на рекламних постерах.
Підсумовуючи все вищесказане, Mac Studio M5 Ultra – це, безумовно, потужна машина з вражаючими технічними характеристиками, особливо в плані пропускної здатності пам’яті та можливості роботи з величезними моделями. Однак, його завищена ціна та маркетингові маніпуляції з бенчмарками викликають сумніви щодо його реальної цінності для більшості користувачів. Для тих, хто працює з конфіденційними даними, це може бути виправданим рішенням. Для всіх інших – варто ретельно зважити всі “за” і “проти”, порівняти з конкурентами та своїми реальними потребами.
Що далі? Якщо ви зацікавлені в локальному ШІ, почніть з аналізу своїх потреб. Можливо, вам буде достатньо більш доступних рішень. Якщо ж ви прагнете найвищої продуктивності та безпеки, слідкуйте за виходом 512 ГБ версії та незалежними тестами. І, звісно, продовжуйте стежити за нашими оглядами – ми завжди намагаємося надати вам найточнішу інформацію, щоб ви могли зробити усвідомлений вибір.
