AMD Ryzen AI Halo: Чи варто “примарний вибір” величезної суми? Мій досвід та експертний аналіз

    Останніми роками світ штучного інтелекту (ШІ) переживає справжній вибух. Кожен тиждень приносить новини про нові, вражаючі моделі, здатні на все – від написання віршів до прогнозування майбутнього. Але чи могли ви уявити, що вся ця потужність може опинитися прямо у вас на столі, упакована в елегантний, компактний пристрій, що нагадує міні-холодильник?

    Нещодавно я мала нагоду зануритися у світ, де ціни на передові технології змушують задуматися, а потенціал – захоплює. Це світ нового AMD Ryzen AI Halo. Уявіть собі: 192 гігабайти об’єднаної пам’яті в мінімалістичному корпусі. AMD стверджує, що цього обсягу достатньо для запуску на вашому робочому столі моделей ШІ з 300 мільярдами параметрів. Це, без сумніву, прямий виклик для таких рішень, як Apple Mac Studio, і мені було надзвичайно цікаво оцінити його можливості.

    На папері ця система виглядає як справжній монстр продуктивності. Але чи виправдовує вона надзвичайно високу ціну? Чи це радше маркетинговий хід, де за привабливим дизайном ховається щось менш вражаюче? Давайте розберемося разом, з моєї практичної точки зору, без зайвого пафосу, а з чітким розумінням функціоналу та вартості. Бо, зізнаюся, ціни, які ми побачили, викликають неабияке здивування, а іноді й легке запаморочення.

    Що таке AMD Ryzen AI Halo насправді?

    Отже, розглянемо цю, на перший погляд, потужну, але компактну систему. Модель, що надійшла у продаж 12 жовтня, базується на новітньому чипі Ryzen AI Max Plus Pro 495, відомому під кодовою назвою “Gorgon Halo”. Його ціна? Тримайтеся міцніше: 7299 доларів. Так, ви не помилилися. І купити його можна лише в одному магазині в США (Micro Center), виключно особисто, і, що найцікавіше, тільки з операційною системою Linux. Це вже перший сигнал про специфічну цільову аудиторію.

    Якщо ж звернути увагу на минулорічний чип 395-ї серії зі 128 ГБ пам’яті, аналогічна конфігурація коштуватиме “лише” 3999 доларів. Різниця, як бачите, колосальна.

    Хоча “Gorgon Halo” звучить як прорив, варто зазначити, що він використовує той самий кремній, що й попередні міні-ПК від AMD, про які ми вже говорили. Редакція Toms Hardware слушно назвала його “незначним оновленням”. По суті, це той самий двигун, але з набагато більшим “паливним баком” і незначно оптимізованими налаштуваннями.

    Паливо для ШІ: коли вартість пам’яті перевищує вартість “двигуна”

    Що саме робить цей “бака” таким особливим? Безсумнівно, це пам’ять. Якщо попередні моделі мали 128 ГБ, то нова версія пропонує 192 ГБ – приріст на 64 ГБ, що є доволі значним показником. Крім того, швидкість доступу до цієї пам’яті зросла: з 256 до 273 ГБ/сек, що становить приблизно 7% покращення. Процесор та графіка отримали невеликий бонус близько 100 МГц, а NPU (нейронний процесорний блок, оптимізований для ШІ) збільшив свою продуктивність з 50 до 55 TOPS. При цьому ядра, графіка та ліміти потужності залишилися незмінними.

    AMD заявляє, що до 160 ГБ з цих 192 ГБ можуть бути виділені під графіку. Це, за їхніми словами, достатньо для завантаження стиснених моделей з 300 мільярдами параметрів. Параметри – це, по суті, міра розміру моделі. 300 мільярдів параметрів – це вже вагома категорія великих, відкритих моделей, які багато хто прагне запускати локально.

    Але саме тут криється головний підступ, що впливає на кінцеву ціну. Ви знаєте, що саме формує таку значну частину цієї вартості? Звісно, пам’ять.

    Я добре пригадую наші ранні огляди AMD: один з міні-ПК, GMK Tech Evo X2, коштував близько 1500 доларів зі 128 ГБ. На початку жовтня ціна на аналогічну конфігурацію сягала 3650 доларів! Причина? Стрімке зростання цін на мобільну пам’ять. Аналітики з SemiAnalysis та TrendForce прогнозували подальше зростання цін на 80% у другому кварталі.

    Проведемо приблизний розрахунок: 192 ГБ за ціною близько 18 доларів за гігабайт (враховуючи прогнозоване зростання) – це майже 3450 доларів. І це лише вартість самих чіпів пам’яті! Це наші припущення, а не офіційні дані, але вони показують, що пам’ять складає майже половину вартості системи від AMD, ще до врахування процесора чи корпусу.

    Крім того, для конфігурації 192 ГБ потрібні нові чіпи пам’яті об’ємом 24 ГБ. А будь-які нові компоненти в умовах дефіциту завжди дорожчі. Навіть Framework відкрито повідомляє, що майбутні ціни напряму залежать від вартості пам’яті. Nvidia також вдалася до подібної стратегії: їхній DGX Spark подорожчав з 3999 до 4699 доларів без жодних змін у “залізі”.

    Це стосується не лише коробки від AMD. Будь-яка машина з чіпом 495-ї серії та 192 ГБ оперативної пам’яті коштуватиме приблизно від 6500 до 7400 доларів. Таким чином, значна частина цієї ціни – це вартість пам’яті за цінами 2026 року, а не суттєво швидший чіп.

    Коли цифри говорять, але шепочуть: перші результати вимірювань

    Це саме той момент, коли багато хто губиться. Ви чуєте про “пропускну здатність”, “параметри”, “розподіл пам’яті” – і все одно не можете визначити, чи стосується це саме вас. Саме тому я створила AI Master. На цій платформі ви можете зануритися в глибини ШІ, детально розбираючи, як насправді працюють моделі, що їм потрібно для оптимального функціонування, та як підібрати конфігурацію, що відповідатиме вашим завданням. Навчання персоналізоване, тому ви вивчаєте саме те, що вам потрібно, а не йдете за універсальним плейлистом.

    Кожен урок передбачає практичне застосування. У нас є студія, де ви можете створювати контент за допомогою найновіших моделей, які ми постійно оновлюємо. Є ШІ-чат, щоб не переплачувати за окремі сервіси. І є контент-агент, який допоможе вам застосувати отримані знання до вашого власного каналу чи відео. Там ви знайдете курси, яких немає на цьому каналі, і ніколи не буде. Понад 200 уроків, більше 30 годин ексклюзивного контенту. Річний план є найбільш вигідним, ніж щомісячна оплата. Він включає запас токенів для практики та достатньо часу, щоб успішно завершити курси та реально застосувати знання. А ще є 7-денна гарантія повернення коштів, щоб ви могли спробувати все без жодного ризику. Вже понад 15 000 студентів навчаються на AI Master.

    Повертаючись до нашої теми. Нарешті з’явилися перші незалежні вимірювання. Micro Center порівняв 395-й та 495-й чипи 9 та 10 жовтня. Вони запустили п’ять однакових моделей у LM Studio з llama.cpp на Vulcan, використовуючи запити приблизно на 9000 токенів. Кожен тест повторювався 10 разів, і враховувалося медіанне значення.

    Перед тим, як перейти до цифр, давайте запам’ятаємо два терміни, які ми будемо використовувати:

    • Prefill (попереднє заповнення): це етап, коли модель “читає” ваше запитання.
    • Generation (генерація): це етап, коли модель формує відповідь.

    Prefill визначає, скільки часу ви чекаєте, перш ніж з’явиться перше слово. Generation – наскільки швидко текст генерується після цього.

    Отже, за показником Generation (генерація відповіді) 495-й чип виявився приблизно на 3% швидшим у середньому. За Prefill (читання запиту) – менш ніж на 2%. Найкращий результат генерації зріс з 51.2 до 52.2 токенів за секунду. Токен – це приблизно одне коротке слово або частина слова. Отже, 50 токенів за секунду – це вже значно швидше, ніж будь-хто може читати. Перехід з 51 на 52 токени за секунду – це той приріст, який ви навряд чи помітите, працюючи за комп’ютером.

    Єдина істотна різниця, яку ви могли б відчути, була під час 4-годинного стрес-тесту. 495-й чип зберіг приблизно на 3% більше швидкості протягом усього випробування, а його графіка працювала приблизно на 5 degreesC холодніше (80 degreesC замість 85 degreesC). Це приємно для пристрою, який працює цілий день, але це доволі незначна віддача за додаткові 3300 доларів.

    Важливо пам’ятати, хто проводив це тестування. Micro Center – єдиний продавець цієї системи, тому це не може бути абсолютно нейтральним оглядом, навіть якщо цифри виглядають прийнятно. Крім того, всі п’ять моделей вмістилися в 128 ГБ, тому тест показує лише незначне прискорення роботи того самого чіпа, а не те, для чого насправді потрібна додаткова пам’ять. Машини також не були налаштовані ідентично: 395-й виділив для графіки 96 ГБ, а 495-й – 144 ГБ. Для моделей такого розміру це, ймовірно, не має суттєвого значення.

    Отже, єдине доступне нам вимірювання свідчить про те, що новий чип працює на пару відсотків швидше в задачах, які старий чип вже міг виконувати. А ось головна причина, заради якої купують 192 ГБ – запуск моделі, що не вміщується в 128 ГБ, – ще не була виміряна. Це те, що нам доведеться з’ясувати самостійно.

    Що ж насправді дають ці 192 ГБ?

    Найпростіший спосіб зрозуміти продуктивність цих систем – це уявити собі трубу між пам’яттю і чіпом. Щоразу, коли модель генерує новий токен, їй потрібно “протягнути” через цю трубу ту частину себе, яку вона використовує. Отже, швидкість появи відповіді залежить від того, наскільки широка ця труба і скільки даних через неї потрібно передати для кожного токена.

    У 495-го чипа ця труба стала приблизно на 7% ширшою: з 256 до 273 ГБ/сек. Це означає, що генерація відповіді може прискоритись максимум на 7%. Це цілком відповідає тим 2-4%, які виміряв Micro Center. Додаткова пам’ять сама по собі не робить систему швидшою. Вона надає вам простір – можливість завантажити модель, яка просто не вміщується в 128 ГБ.

    На 395-му чипі графічна частина може отримати до 96 ГБ у Windows і близько 120 ГБ у Linux. AMD стверджує, що 495-й може виділити до 160 ГБ. Це створює простір для моделей розміром приблизно від 120 до 160 ГБ. Це саме ті моделі, які працюватимуть на новому чипі, але не працюватимуть на старому. І саме це “вікно” – головний аргумент на користь 495-го.

    Наприклад, Qwen 3 235B, одна з великих відкритих моделей, у своїй найпоширенішій стислій версії займає близько 142 ГБ. Вона не вміщується на 395-му. Але на 495-му – так. За оцінками Computing for Geeks (використовуючи аналогічну математику “труби”), вона працюватиме зі швидкістю близько 12 токенів за секунду. Це все ще швидше, ніж ви можете читати, але запас потужності майже відсутній. І це розрахунок, а не вимірювання. До того ж, це не враховує пам’ять, яку модель використовує для відстеження тривалого діалогу. Тож при роботі з довгими документами швидкість буде ще нижчою.

    Для моделей, що потребують менше пам’яті (до 110-120 ГБ), старий 395-й робить ту ж роботу приблизно за вдвічі менші гроші, оскільки ці моделі вже вміщуються, а швидкість майже однакова. Якщо ж потрібен обсяг, що перевищує 160 ГБ, то жодна окрема коробка в цьому ціновому сегменті не має достатньо пам’яті.

    Є й менш очевидний шлях. Дві коробки 395-го коштуватимуть приблизно як одна 495-та, але разом вони матимуть 256 ГБ. AMD навіть опублікувала посібник для таких конфігурацій, але з чотирма коробками. Чотири настільні комп’ютери Framework по 128 ГБ кожен, об’єднані через llama.cpp по мережі 5 Гбіт/сек, запускають Kimi K2.5, модель з трильйоном параметрів, зі швидкістю близько 9.5 токенів за секунду. Але є важливий нюанс: коробки спілкуються одна з одною через мережу, а це значно вужча “труба”, ніж та, що всередині одного чіпа. Тому це працює, але ви жертвуєте швидкістю та простотою заради об’єму.

    Як самостійно оцінити будь-який ШІ-комп’ютер?

    Перш ніж порівнювати цю коробку з конкурентами, пропоную простий спосіб оцінити будь-яку з цих машин самостійно, навіть ті, що ще не вийшли на ринок. Вам не потрібно глибоко занурюватися в технічні деталі чіпів.

    1. Почніть з головного: чи вміщується ваша модель. Кожна модель має чітко визначений розмір у гігабайтах, який зазвичай вказаний на сторінці завантаження. Якщо модель не вміщується, всі інші характеристики стають несуттєвими. Якщо ж вона легко вміщується на дешевшу машину, ви просто переплачуєте за пам’ять, яку не будете використовувати.
    2. Порівняйте, скільки пам’яті коробка може виділити саме для графіки. Це число, яке ми щойно обговорювали, а не загальний об’єм, надрукований на корпусі.
    3. Визначте, які операції ви виконуєте найчастіше. Якщо ви переважно спілкуєтеся в чаті, ставите короткі запитання та отримуєте довгі відповіді, то важлива саме генерація, яка залежить від ширини “труби”. Якщо ви працюєте з довгими документами або використовуєте кодових агентів, які надсилають великі шматки контексту за кожен запит, то більш важливим є попереднє заповнення, що залежить від загальної обчислювальної потужності. Ці фактори вказують на різні типи машин.
    4. Завжди запитуйте, звідки взялася заявлена цифра швидкості. Це може бути заява виробника, вимірювання з опублікованою методологією, або розрахунки на основі специфікацій. Коли ви маєте справу лише із заявою чи розрахунком, варто дочекатися незалежних вимірювань.

    Конкуренти: хто є хто на ринку ШІ-заліза

    Щоб бути максимально об’єктивною, я виберу по одній машині з кожного ключового табору.

    • Найближчий конкурент від AMD: це його ж попередник, коробка на базі 395-го чипа зі 128 ГБ. Коштує від 3400 до 4000 доларів. “Труба” на папері – 256 ГБ/сек, а на практиці – близько 215 ГБ/сек. Це найсильніший конкурент для “Gorgon Halo” в межах екосистеми AMD.

    • NVIDIA DGX Spark: також має 128 ГБ, а “труба” – 273 ГБ/сек, як у 495-го. Швидкість генерації відповіді приблизно така ж. Але де він виривається вперед, так це у читанні вашого запитання. На GPT OSS 120B, за опублікованими бенчмарками, попереднє заповнення Spark становить близько 1700 токенів за секунду, тоді як у Strix Halo – приблизно 340. Це приблизно вп’ятеро швидше! Список цін – 6950 доларів, а рітейлери іноді виставляють ще вищі ціни.

    • Apple Mac Studio з M5 Ultra: його “труба” – 1.2 ТБ/сек, приблизно вчетверо ширша, ніж у 495-го. За тією ж математикою “труби”, відповіді з’являються помітно швидше. Починається від 5499 доларів за 96 ГБ, є версії на 256 і 512 ГБ. Я вибираю Ultra, а не Max, тому що тільки Ultra перевищує 128 ГБ, що робить її прямим конкурентом за об’ємом пам’яті.

    Але ціна за гігабайт – це те, де новий чіп AMD виглядає найгірше. На тій же коробці AMD перехід з 128 на 192 ГБ коштує додатково 3300 доларів. Це приблизно 52 долари за кожен додатковий гігабайт. Apple бере близько 4000 доларів за перехід з 96 на 256 ГБ для M5 Ultra, що становить приблизно 25 доларів за гігабайт. Це наші підрахунки, але вони демонструють, що додатковий гігабайт від AMD коштує приблизно вдвічі дорожче.

    Щоб бути справедливим до AMD, коробка 495-го все ще є найдешевшим способом отримати 160 ГБ для графіки в одній машині. Але будьте обережні з власними діаграмами AMD. Вони стверджують, що 495-й у 34 рази швидший за Apple M5 Pro у задачах генеративного ШІ в ComfyUI. Але це MacBook Pro з 64 ГБ, і деякі тести на ньому просто не запускалися. AMD не порівнює себе з M5 Ultra чи DGX Spark. Microsoft робить щось подібне з Surface Laptop Ultra, заявляючи про до шести разів вищу швидкість порівняно з MacBook Pro з M5 Pro і 64 ГБ.

    Отже, AMD продає об’єм, NVIDIA – швидке читання, а Apple – швидке написання.

    Програмне забезпечення: що насправді працює?

    Графічний чіп у 495-му той самий, що й у 395-му. AMD вказує обидва під однією назвою архітектури: GFX 1151. Програмне забезпечення, яке працювало на 395-му, має працювати і тут, і більшість відомих проблем 395-го переносяться також.

    Linux – це те, де ця коробка справді “живе”. Власна коробка AMD та Framework Desktop поки що продаються тільки з Linux. Це трохи кумедно, адже сторінка AMD для цієї коробки говорить про нативні X86 Windows. Версія для Windows має бути з Project Zenith від Microsoft, але дати виходу поки що немає.

    У Windows ROCm, відповідь AMD на CUDA від NVIDIA, підтримується лише частково. Документація AMD вказує PyTorch на ROCm як офіційно підтримуваний у Windows для чіпів Ryzen AI Max 300, але повний стек ROCm все ще відсутній. Є нова помилка, специфічна саме для цього чіпа. Бекенд ROCm для Windows у Lemonade, інструменті AMD для запуску локальних моделей, відхиляє графіку 495-го, Radeon 865S, як непідтримувану. Але нативна збірка llama.cpp працює. Якщо ви запускаєте моделі в llama.cpp, ви також можете вибрати бекенд. На цих чіпах Vulcan часто швидший за ROCm у генерації відповіді, тоді як ROCm зазвичай швидше читає запит. Micro Center проводив свої тести на Vulcan.

    А тепер про NPU. AMD позиціонує 495-й як 132 TOPS. Але це сума процесора, графіки та NPU за ідеальних умов. Стандартні інструменти, як-от llama.cpp, LM Studio та Ollama, досі запускають мовні моделі на графічному чіпі. Ми не знайшли нічого, що б свідчило про зміну цього. Для запуску чат-бота вдома ця цифра мало що означає.

    Що далі? Чутки та прогнози

    Наступний справжній крок для AMD – це Medusa Halo, але AMD його ще не анонсувала. Все, що ми маємо, – це витоки, тому кожен пункт має свою оцінку: підтверджено, достовірно, можливо, або з одного джерела.

    • Достовірно: Medusa Halo перейде на новий стандарт пам’яті LPDDR6. Це, за даними джерела витоку, разом із тим самим 256-бітним інтерфейсом, дасть близько 460 ГБ/сек. Це приблизно на 80% більше, ніж у Strix Halo.
    • Можливо: ширший 384-бітний інтерфейс, що означатиме близько 690 ГБ/сек.
    • Також можливо: до 24 ядер Zen 6 і 48 графічних блоків наступного покоління.

    Навіть у найкращому сценарії це буде приблизно половина пропускної здатності “труби” M5 Ultra. Витоки вказують на 2027 або 2028 рік, і AMD нічого з цього не підтвердила. Це ті самі цифри, про які ми говорили в нашому першому відео про AMD, і з того часу нічого нового не з’явилося. Прогнози у цій сфері часто помиляються. У серпні один ресурс очікував GMK Tech Evo X 5 Pro приблизно за 2500 доларів, а зараз він коштує 6799 доларів.

    Купувати, чекати чи пропустити? Вердикт

    Купуйте 495-й, якщо ви вже точно знаєте, що ваша модель важить десь між 120 і 160 ГБ, і вона повинна працювати виключно на вашій власній машині. Зазвичай це стосується безпеки даних, а не максимальної швидкості. Якщо ви працюєте з конфіденційними файлами клієнтів під NDA, або з юридичними чи медичними документами, які не можна відправляти на сервери інших компаній, то коробка, яка ніколи нічого не надсилає, – це чисте рішення. Для вас альтернатива – не дешевша коробка, а взагалі не використовувати цю модель.

    Зачекайте, якщо ви ще не впевнені. Незалежні тести машин зі 192 ГБ тільки починають з’являтися, і їх буде більше, коли перші системи надійдуть до кінцевих користувачів. Очікування в кілька тижнів означає купівлю на основі виміряних показників, а не наших розрахунків. Хоча очікування теж не безкоштовне, бо ціни на ці коробки змінюються майже щотижня, а запаси надходять невеликими партіями.

    Пропустіть, якщо ваші моделі вміщуються в 110 ГБ. 395-й з 128 ГБ запускає їх майже з такою ж швидкістю, але за половину ціни. Якщо ви працюєте з довгими документами, або запускаєте код та агентів з великим контекстом, зверніть увагу на NVIDIA DGX Spark, тому що читання запиту там приблизно вп’ятеро швидше. А якщо вам потрібна найвища швидкість генерації, і бюджет дозволяє, то це Mac Studio.

    І тут постає ще одне, набагато важливіше питання: чи справді вам це потрібно вдома? Чи краще продовжувати платити за підписку? Близько 7300 доларів за коробку – це приблизно 30 років підписки по 20 доларів на місяць. Це наші приблизні розрахунки. А відкриті моделі, які ви запускаєте локально, хороші, але зазвичай це не найновіші моделі, від яких ви б добровільно відмовилися. Тож, якщо тільки приватність не є ключовим фактором, підписка все ще є набагато дешевшим способом використання ШІ.

    “Gorgon Halo” – це гарна пам’ять, продана за цінами 2026 року. Чіп став на пару відсотків швидшим, і насправді ви платите переважно за додаткові 64 ГБ. Для невеликої групи користувачів це найдешевша окрема коробка, яка вміщує їхні специфічні моделі. Для всіх інших – стара Nvidia RTX 3090 з 24 ГБ або підписка зроблять свою справу дешевше.

    Якщо ви хочете глибше розібратися в моделях ШІ, автоматизації та промптингу, AI Master – це те, з чого я б радила почати.

    До зустрічі наступного разу!

    Поділитися.
    0 0 голоси
    Рейтинг статті
    Підписатися
    Сповістити про
    guest
    0 Коментарі
    Найстаріші
    Найновіше Найбільше голосів
    0
    Буду рада вашим думкам, прокоментуйте.x