Чи зможе новий стартап революціонізувати ШІ, обійшовши OpenAI та Google? (Мій погляд з 20-річним досвідом)
Привіт, друзі! Ліла Харт з вами, і сьогодні ми розглянемо перспективний сценарій, що може змінити підхід до штучного інтелекту. Я поділюся своїми думками, заснованими на двох десятиліттях у сфері бізнес-аналізу, автоматизації та штучного інтелекту, а також тим, як цей новий стартап може вплинути на майбутнє індустрії.
Зараз, я бачу, що в індустрії штучного інтелекту з’являється багато нових продуктів, але історія, яку ми розглядаємо сьогодні, дійсно заслуговує на увагу. Уявіть собі: ключовий розробник, який активно впливав на такі потужні моделі, як GPT-4, вирішує відійти від загальної тенденції. Не просто піти, а залучити від 500 мільйонів до одного мільярда доларів фінансування! Це не просто черговий стартап – це виклик.
Ми звикли до великих мовних моделей (LLM), які, здається, стали синонімом ШІ. Хоча вони демонструють вражаючі можливості, важливо запитати себе: чи дійсно це те найбільше досягнення, до якого ми прагнемо? Чи не стоїмо ми на порозі чогось зовсім іншого, що вийде за рамки цих статичних, але потужних “мозків”? Цей новий гравець, ім’я якого поки що не розголошується, амбітно натякає на те, що майбутнє ШІ може бути значно цікавішим і… несподіваним, ніж ми очікуємо.
Готові пірнути глибше? Давайте розглянемо, чому поточні методи, можливо, не ведуть до справжнього “людиноподібного” ШІ, і які нові горизонти відкриває цей сміливий виклик.
Розділ 1: “ШІ, який вчиться на льоту”: Чому це як навчити кота ловити мишей, але по-справжньому
Спершу давайте порівняємо. Уявіть собі, як ви навчаєте свого кота полювати. Ви показуєте, як це роблять інші коти, він спостерігає, пробує, можливо, робить помилки. З кожною невдалою спробою він стає кращим, адже він вчиться на власних помилках, а не тільки зубрінням теорії. Кіт вчиться на досвіді. А от сучасні ШІ-моделі? Вони швидше нагадують студента, який вивчає матеріал до іспиту, але забуває все відразу після закінчення.
Нотатки про особистий досвід: Я пам’ятаю, як на початку своєї кар’єри працював над проєктом автоматизації, який застосовував методи машинного навчання. Ми витратили багато часу, збираючи дані та навчаючи модель, але, як тільки умови змінилися, модель перестала працювати. Нам довелося все починати спочатку. Цей досвід чітко засвідчив обмеження статичного навчання.
Саме тут криється головна інтрига нового підприємства. Вони не женуться за черговою, хай і вдосконаленою, LLM. Їхня мета – створити ШІ, здатний “вчитися на льоту” (continual learning). Це не просто прослухати лекцію, це безперервний процес пізнання, адаптації до реального світу, як це робимо ми з вами.
Важливо: Сьогоднішні моделі, на кшталт ChatGPT, – це, по суті, “цифрові відлюдники”. Вони тренуються на величезних обсягах даних, але коли навчання завершується, вони стають “замороженими”. Вони не можуть самостійно пристосовуватися до нової інформації або досвіду без повного перенавчання. Це як якщо б ваш автомобіль потребував повного переобладнання двигуна кожного разу, коли ви заливаєте новий бензин. Не дуже зручно, правда?
Цей новий підхід обіцяє позбутися цієї “статичності”. Уявіть ШІ, який, взаємодіючи зі світом, постійно оновлює свої знання, виправляє помилки, як дитина, яка спочатку вчиться ходити, падає, але піднімається і йде далі, стаючи щоразу впевненішою. Звучить як справжній прорив.
Розділ 2: Google, OpenAI та “бульбашки” знань: Коли менше – це більше
Ви, можливо, чули про Nested Learning від Google? Це була спроба поглянути на нейронні мережі не як на монолітну вежу знань, а як на цілу систему взаємопов’язаних, менших “бульбашок” знань. Кожна така “бульбашка” відповідає за певну частину завдання і навчається у власному темпі. Деякі з них швидко реагують на події, інші формують довготривалу пам’ять. Головне – вони не перезаписують одна одну, не стирають корисну інформацію.
Це як команда фахівців, де один чудово розбирається в бухгалтерії, інший – в маркетингу, а третій – у виробництві. Вони працюють разом, кожен у своїй сфері, але їхні знання доповнюють одне одного, створюючи цілісну картину. Це зовсім не схоже на одну людину, яка намагається запам’ятати все одразу, ризикуючи заплутатися.
Нотатки про особистий досвід: У моїй роботі з різними проєктами з автоматизації я бачив, як фрагментований підхід до навчання може призвести до кращих результатів. Наприклад, ми розробили модель для аналізу настроїв у соціальних мережах, яка складалася з окремих модулів для розпізнавання сарказму, ідентифікації емоцій та виявлення ключових слів. Це дозволило нам досягти виняткової точності, водночас спрощуючи підтримку та покращення моделі.
Саме ці ідеї, як “бульбашки” знань, що не перезаписують себе, можуть стати ключем до подолання обмежень сучасних моделей. Бо, чесно кажучи, коли щось працює надто добре, ми часто забуваємо про його слабкості.
Розділ 3: “Трансформери” – це вже минуле? Виклик старим богам
Здавалося б, “трансформери” – це вершина сучасної ери ШІ. Вони лежать в основі майже всіх топових моделей, від GPT до BERT. Але чи справді це кінець шляху? Новий стартап робить ставку на те, що майбутнє – в архітектурах “поза трансформерами”.
Це не просто гра слів. Це означає потребувати менше даних для навчання й менше потужних серверів. Уявіть, що замість величезної бібліотеки, яка потребує мільйонів книг, ви маєте компактний, але надзвичайно ефективний довідник. Це змінило б усе! Наразі навчання моделей вимагає бюджетів, які можуть собі дозволити лише найбільші гравці. Якщо вдасться створити моделі, які потребують значно менше ресурсів, це відкриє двері для безлічі нових гравців та інновацій.
Крім того, вони планують об’єднати різні етапи навчання в один процес. Це схоже на те, як ми, люди, не робимо окремо “теоретичну підготовку”, потім “практичні вправи” і тільки потім “іспит”. Ми навчаємося паралельно, інтегруючи знання в реальному часі.
“Між нами кажучи, це дуже амбітно”, – зізнається автор. “Трансформери” мають свої недоліки: вони “ненажерливі” до даних, не можуть вчитися на льоту і часто допускають “дурні” помилки. Але вони працюють. І працюють дуже добре. Питання в тому, чи можна досягти чогось більшого, покинувши цю надійну гавань?
Розділ 4: “Gradient Descent” – старий добрий інструмент чи гальмо для розвитку?
Сучасні моделі ШІ, як виявилося, тренуються за допомогою так званого “градієнтного спуску” (gradient descent) – це метод поступового налаштування параметрів моделі, який, по суті, допомагає їй “спуститися” до найоптимальнішого рішення. Це стало стандартом індустрії. Проте, наш новий шукач пригод збирається переглянути навіть його.
Нотатки про особистий досвід: Я пам’ятаю, як у минулому ми стикалися з проблемою “локальних мінімумів” при використанні градієнтного спуску. Моделі “застрягали” у неоптимальних рішеннях, не знаючи, як вибратися з них. Це змусило нас експериментувати з різними методами оптимізації, щоб покращити результати.
“Це як намагатися переписати правила гри, коли всі вже звикли до поточних”, – каже автор. “Але саме так народжуються прориви!” Історія показує, що саме відхід від загальноприйнятого шляху часто призводить до найцікавіших відкриттів. Згадайте самих “трансформерів”, які теж були несподіваним поворотом.
Технічний екскурс: “Градієнтний спуск” існує з 1960-х років. За цей час безліч блискучих умів намагалися його замінити, але він досі залишається найефективнішим методом для навчання сучасних нейронних мереж. Чи зможе хтось його справді обійти? Це справжній виклик!
Розділ 5: Від промислової автоматизації до колонізації Марса: Чого очікувати від “Sess”?
А тепер – найцікавіше. Плани цього стартапу настільки амбітні, що здаються вирваними зі сторінок наукової фантастики. Їхня перша мета – 100-кратне зменшення обсягу даних, необхідних для навчання моделей. Потім – створення ШІ-агента, який сам зможе автоматизувати розробку продуктів компанії. Це вже звучить як футуристична казка!
Але вишенька на торті – це кінцева мета:
- Промислова автоматизація: Не просто автоматизувати окремі процеси, а створити цілі фабрики, що самі себе відтворюють.
- Біомашини: ШІ, який зможе автоматично створювати кастомні дизайни.
- Тераформування планет: Так, саме так – зміна клімату на інших планетах для створення умов для життя.
“Я не впевнений, чи це ми вже надто сильно граємося в Бога, але, друзі, коли у вас є інтелект, який не обмежується нічим, чи дійсно можна сказати, що це неможливо?” – міркує автор. І справді, думка про самовідтворювані фабрики і тераформування планет лякає і захоплює одночасно.
Назвали свою модель на честь карликової планети і римської богині – Sess. Це вже натякає на щось грандіозне.
Розділ 6: Скептицизм чи мудрість? Чи варто ставити все на “градієнтний спуск”?
Зізнаюся, дивлюся на це з певним скептицизмом. “Градієнтний спуск” – це не просто робочий інструмент, це цілий фундамент, на якому побудовано сучасний ШІ. Ми бачимо вражаючі результати – від GPT-4 до новітніх досягнень у математиці. Це як якщо б хтось сказав, що побудує хмарочос, відмовившись від бетону.
Історія показує, що найсильніші гравці роками вдосконалюють саме ці методи. І коли хтось заявляє, що може зробити це в 100 разів ефективніше, це викликає питання. Чи не є це просто черговим “хайпом”?
Але… саме в цьому скептицизмі може ховатися і цікава перспектива. Як я вже казала, “трансформери” теж колись були “пустим місцем” на карті. Аутсайдери, які мислять інакше, часто роблять найбільші стрибки. Якщо їм вдасться подолати обмеження “трансформерів” – їхню “ненажерливість” до даних, неможливість вчитися на льоту, “дурні” помилки – це дійсно може змінити всю економіку ШІ.
Наразі створення передових моделей вимагає мільярдів доларів. Уявіть, що це знадобиться лише мільйони. Це відкриє двері для таких же “місячних” проєктів, як цей.
Висновок-мотивація: Ваше місце серед майбутнього ШІ
Отже, друзі, ми розглянули щось справді грандіозне: виклик усталеним правилам, сміливість мріяти про тераформування планет із допомогою ШІ. Цей стартап із його колосальними інвестиціями та амбітними, майже фантастичними цілями, – це не просто чергова новина зі світу технологій. Це сигнал. Сигнал про те, що ми, можливо, стоїмо на порозі нової ери.
Особиста думка: За два десятиліття в індустрії я навчилася ніколи не відкидати нові ідеї. ШІ – це динамічна область, і те, що сьогодні здається неможливим, завтра може стати реальністю. Важливо зберігати відкритий розум і бути готовим до змін.
“Що далі?” – запитаєте ви. А далі – спостерігати. Досліджувати. Не боятися ставити під сумнів те, що здається непохитним. Можливо, саме ті методи, які зараз здаються нам дивними або занадто амбітними, стануть наступним кроком у розвитку штучного інтелекту.
Якщо ви працюєте в сфері ШІ або просто цікавитеся технологіями, не забувайте: найцікавіші відкриття часто народжуються там, де звичайне зустрічається з неможливим.
Підсумовуючи, ми бачимо, як один із провідних гравців у галузі штучного інтелекту вирішив обрати нетрадиційний шлях, поставивши під сумнів домінуючі підходи. Їхня ставка на “навчання на льоту”, нові архітектури, відмова від “градієнтного спуску” та далекосяжні цілі роблять їхній проєкт неймовірно цікавим.
У підсумку, майбутнє ШІ – це поле для сміливих мрійників, які не бояться переосмислювати основи.
Заклик до дії: Я закликаю вас не просто стежити за новинами, а й експериментувати, вчитися, ставити запитання. Хто знає, можливо, саме ви станете тим, хто зробить наступний революційний крок? Або хоча б будете готові пояснити своїм друзям за філіжанкою кави, чому майбутнє ШІ може бути зовсім не таким, як ми його уявляємо.
До зустрічі на хвилях цифрових відкриттів!
