Еволюція розуму: Як Google Alpha Evolve розриває шаблони і відкриває двері до самовдосконалення AI
Зі світлом сонця, що м’яко проникало крізь вікно, я сиділа, затамувавши подих. Новини із світу штучного інтелекту завжди зачаровують, але те, що я почула, вибило мене з колії. Мова йшла про Alpha Evolve, проект Google, який може змінити правила гри.
Забудьте на мить про фантастичні сценарії – перед нами вже реальність. Говорять про алгоритм, який за 56 років не могли збагнути краще, ніж з 49 множеннями. Alpha Evolve досяг цього з 48. Це лише верхівка айсбергу.
Щоб розібратися глибше, я погрузла в деталі. Alpha Evolve – це щось більше, ніж просто програма. Це еволюційний агент кодування, створений для наукових і алгоритмічних відкриттів. Уявіть собі: система, яка використовує найсучасніші великі мовні моделі (LLMs), здатна пропонувати, оцінювати та вдосконалювати нові алгоритми для вирішення різноманітних задач – від математики до інженерії.
Звучить дивовижно? Ще трохи, і ви повірите.
Народження нової ери:
Уявіть собі точку, де людина вже не є головним “вузьким місцем” у процесі відкриття нового знання. Це місце, де AI здатний до самовдосконалення – точка, яка може привести до “інтелектуального вибуху”.
Уявіть процес:
- Постановка проблеми: Людина ставить завдання, яке потрібно вирішити.
- Генерація підказки: Моделі генерують підказки, враховуючи проблему, підказки, попередні дослідження тощо.
- Колаборація моделей: Ансамбль LLM працює разом, щоб знайти найкраще рішення.
- Оцінка рішень: Програмна оцінка здійснює перевірку коду. Це дозволяє системі працювати без людського втручання.
- Збереження та ітерації: Збереження отриманих результатів у базі даних, щоб уникнути повторень і урізноманітнити ідеї.
Цей процес повторюється тисячі, мільйони разів. Ключовим обмеженням є лише обчислювальна потужність. Кожне крихітне поліпшення в алгоритмах помножується на кожну ітерацію, створюючи неймовірний ефект.
Еволюція проти пошуку:
Alpha Evolve – це не перший досвід в еволюційному кодуванні. Основною базою для нього стала FunSearch. Основна відмінність полягає в масштабі.
- Функціональний пошук: Еволюція є лише однієї функції.
- Alpha Evolve: Може еволюціонувати цілі файли коду.
Також, Alpha Evolve може працювати з сотнями рядків коду, на відміну від FunSearch, який діє з 10-20 рядками. Ще одним значним покращенням стала здатність Alpha Evolve працювати з будь-якою мовою програмування та забезпечувати паралельну оцінку протягом годин, використовуючи прискорювачі, як-от GPU або TPU.
Практичні результати:
- Матричне множення: Вперше з 60-х років було знайдено оптимізацію алгоритму матричного множення.
- Математичні проблеми: У 75% випадків Alpha Evolve відтворював найкращі відомі рішення задач. У 20% випадків було знайдено нові, кращі об’єкти.
- Оптимізація інфраструктури Google: Покращення алгоритмів розподілу трафіку.
- Покращення Gemini: Покращення коду, який лежить в основі моделей Gemini, з поліпшенням швидкості ядра до 23%.
Як це працює на практиці?
- Метрика оцінки: Потрібна механізм автоматичної оцінки згенерованих рішень.
- Початковий код: Можна почати з нуля або вдосконалювати наявний код.
- Модель незалежна: Можна використовувати будь-які моделі. Google використовує Gemini 2.0, а не навіть 2.5.
Процес включає використання Gemini 2.5 Flash для швидкої генерації та Gemini 2.0 Pro для отримання більш якісних результатів.
Основна перевага – автоматизована оцінка. Можна налаштовувати оціночні каскади, генерувати відгуки LLM та використовувати паралельні оцінки.
Майбутнє вже тут:
Alpha Evolve – це не просто науковий проект. Це крок у майбутнє, де AI постійно вдосконалюється.
Збільшення швидкості матричного множення
Матричне множення є одним із ключових математичних фундаментів сучасного штучного інтелекту. Alpha Evolve взяв як основу існуючий, передовий алгоритм для цього завдання. Результат? Вперше з 60-х років було досягнуто оптимізації! Невеличкі, на перший погляд, зміни, на кшталт переходу від 33 до 32 множень, мають колосальний вплив. Враховуйте, що ці операції виконуються трильйони разів за секунду на кожному графічному процесорі.
Математичні відкриття: від задач до нових об’єктів
Alpha Evolve також проявив себе у низці математичних задач, які охоплюють різні галузі, як-от:
- Аналіз
- Комбінаторика
- Теорія чисел
- Геометрія
Його результати вражають:
- У 75% випадків – відтворення найкращих відомих алгоритмів, які вже відомі людству.
- У 20% випадків – створення нових математичних об’єктів, які перевершують попередні досягнення.
Для тих, хто не знає про математику, це означає, що AI не просто розв’язує задачі, а й генерує нові, ефективніші способи обчислень. Найскладніші формули та об’єкти тепер під силу штучному інтелекту.
Покращення в екосистемі Google
Alpha Evolve не лише працює з математикою, а й приносить практичну користь. Його було застосовано для покращення інфраструктури Google. Уявіть собі: щосекунди користувачі надсилають мільярди запитів до Google, і система має організовувати розподіл цих запитів. Alpha Evolve вирішив цю проблему.
Задача полягала у ефективному розподілі завдань на доступних машинах, враховуючи ресурси та можливості кожної. Існуючий алгоритм, використовуваний Google, зазнав змін.
На основі результатів було зроблено висновок. Виконуючи свою роботу, Alpha Evolve, дав нове життя.
- Показуючи як кращі результати.
- Володіючи кращими показниками: зрозумілості, можливості налагодження, передбачуваності та легкості розгортання.
Ще один наслідок – постійне повернення близько 0.7% обчислювальних ресурсів, які в іншому випадку були “загублені”.
Alpha Evolve всередині Gemini
Alpha Evolve не зупиняється на зовнішніх покращеннях. Він також працює над покращенням кодів, що лежать в основі моделей Gemini. В результаті:
- Збільшення швидкості роботи ядер на 23%.
- Зменшення часу загального тренування Gemini.
Це все призвело до значного скорочення терміну оптимізації ядер від місяців роботи до кількох днів експериментів.
Покращення апаратного забезпечення TPU і Transformer
Крім того, Alpha Evolve впливає на архітектуру апаратного забезпечення. Зокрема, він використовується для покращення:
-
TPU (Tensor Processing Units): Оптимізує ключові арифметичні схеми, покращуючи їх. Ці зміни вже інтегровані в майбутні версії TPU.
-
Transformer Architecture: Alpha Evolve оптимізує архітектуру трансформерів, яка є ключовою для сучасного AI..
-
Збільшення швидкості яє FLASH-уваги на 32%
-
15% прискорення у областях попередньої та подальшої обробки вхідних та вихідних даних.
Самостійне навчання і майбутнє Alpha Evolve
Дослідження продовжуються, і одним із ключових напрямків є автономність. Уявіть, що Alpha Evolve більше не потребує стартової точки, а може самостійно шукати та відкривати нові знання.
Підсумок:
Alpha Evolve – не просто інструмент, а каталізатор змін. Він відкриває двері до майбутнього, де AI здатний до самовдосконалення і може розширяти горизонти людських знань. Цей проект Google – яскравий приклад того, як штучний інтелект може змінюватись.