“Мозкова гниль” ШІ: чому це важливо для кожного з нас

Чи може штучний інтелект “захворіти” на “мозкову гниль”? І чому це стосується кожного з нас

Привіт, друзі! Минулого тижня я пила каву зі знайомим розробником, який вже десять років працює у цій сфері. Він трохи втомлено сказав: “Ліло, я часом дивлюся на шалені прориви в ШІ, але відчуваю, що ми якось не туди йдемо”. Його слова засіли в моїй голові. Ми постійно чуємо новини про “найкращі моделі року”, як ШІ пише вірші, ставить діагнози, виграє в шахи. А він, людина, яка цим живе щодня, говорить про щось “не те”.

Тож я почала досліджувати. Виявилось, що є величезний океан нових досліджень, про які не завжди говорять на головних сторінках. Це не просто хайп, а статті, які, можливо, сформують наступні півроку-рік у світі штучного інтелекту. Найцікавіше те, що деякі з них відкривають очі на те, як ШІ насправді працює, які в нього є “дивацтва”, “заскоки” і навіть “хвороби”.

Ми звикли сприймати ШІ як невпинно прогресуючу, ідеальну машину. Але що, якщо ці машини, як і ми, можуть “застрягати”, “тупити” і навіть “захворіти”? Сьогодні ми зануримося у світ нових досліджень, поговоримо про футуристичні “Машини безперервної думки”, про допомогу ШІ в лікуванні хвороб та розв’язанні математичних головоломок, а також про те, чому навіть найпотужніші моделі можуть “галюцинувати” і чому “довгий контекст” – це не завжди те, чим здається. Готуйтеся, це буде захоплива подорож.

Коли мозок ШІ починає “танцювати”: знайомство з Continuous Thought Machines

Один з найцікавіших напрямків, про який зараз говорять, – це відмова від традиційних “Трансформерів”, що лежать в основі багатьох сучасних ШІ-моделей. Один із співзасновників Sakana AI Labs, який до цього був одним з винахідників Трансформерів у Google, каже: “Час рухатися далі”. І їхня нова робота, “Continuous Thought Machines” (CTM), дійсно виглядає як новий виток у розвитку.

Уявіть собі робота, який не просто видає одну відповідь, а продовжує думати. Як ми, вирішуючи складне завдання крок за кроком. Більшість сучасних ШІ-моделей працюють так: побачили картинку – подумали один раз – відповіли. CTM ж поводиться більш природно, як дитина: подивилася, трохи подумала, подумала ще, перевірила, і лише потім відповідає. У цієї моделі є думки, які тривають у часі, це не просто миттєвий спалах.

Як це працює? Кожен нейрон тут – це маленький самостійний “мозок”. У звичайному ШІ нейрон дуже простий: “я бачив це, я видаю це”. А в CTM кожен нейрон має власну маленьку пам’ять. Він пам’ятає, що відбувалося кілька кроків тому, і постійно оновлюється. Це ніби тисячі крихітних істот у голові робота, кожна з яких веде свій щоденник спостережень.

А далі починається “танець нейронів” – це їхня синхронізація. Замість звичайних чисел для представлення ідей, CTM дивиться на те, як нейрони рухаються разом у часі. Якщо активність двох нейронів зростає і спадає одночасно, вони синхронізуються, як танцюристи на сцені. CTM використовує ці “танцювальні патерни” як основний спосіб мислення. Ніби спостерігати за людьми в натовпі, щоб зрозуміти, що робить група.

І ще одна магія CTM – власне “час мислення”. Коли ви розв’язуєте лабіринт чи приклад з математики, ви робите кілька кроків: дивитеся, думаєте, виправляєте, пробуєте, відповідаєте. CTM робить те саме, використовуючи свої внутрішні “тіки”. Деякі задачі вимагають лише кількох “тіків”, а складні – багато. І найголовніше, CTM сам вирішує, скільки часу йому потрібно на роздуми.

Що це дасть? CTM вже демонструє вражаючі результати:

• Розв’язання лабіринтів: Уявляє, куди йти далі, дивлячись наперед, і навіть долає лабіринти більші за ті, на яких тренувалася.
• Розпізнавання зображень: Не просто дивиться на картинку раз, а сканує її, як наші очі.
• Математичні головоломки: Самостійно вивчає правила, наприклад, як “перевернути” відповідь, вивчивши простий алгоритм.
• Сортування чисел: Вчиться сортувати цифри крок за кроком, ніби розкладаючи іграшки від найменшої до найбільшої.
• Навчання з підкріпленням: Керує роботами, роблячи кілька кроків мислення перед вибором дії.

“Але ж це не зовсім нове!” – скажете ви. І матимете рацію. Але що ж тут особливого? CTM діє ближче до реального мозку: запам’ятовує, нейрони мають власні “характери” і рухаються у патернах, модель думає стільки, скільки потрібно, і демонструє дивну поведінку, як-от “заглядання наперед” чи зміна думки. Це не про максимальну точність зараз, а про навчання ШІ думати більш глибоко, більш по-людськи. І це ключовий момент, який ми будемо бачити й далі: багато сучасних архітектур ще не підтримують повноцінно те, як ми думаємо і міркуємо.

Коли кожне слово має значення: Deepseek Sparse Attention

Ідея оптимізації – це те, що рухає прогрес. Deepseek представила розробку, яка дозволяє “розріджено” (sparse) працювати з увагою (attention) у Трансформерах. Звучить технічно? Розберімося.

У стандартних Трансформерах кожне слово (токен) в тексті “дивляться” на кожне інше слово, щоб вирішити, що важливе. Якщо у вас тисячі слів, кожне з яких перевіряє себе на фоні всіх інших… це як перед відповіддю переглянути всю історію розмови – дорого, повільно і погано масштабується.

Deepseek придумали новий модуль – “блискавичний індексатор”. Це як маленький, швидкий детектор релевантності. Він швидко сканує всі попередні слова, оцінює, наскільки кожне з них важливе, і вибирає лише топ-К найважливіших. І розрахунок уваги відбувається тільки на цих вибраних словах. Це як читати книгу, але фокусуватися лише на виділених нотатках.

І це працює! Чому? Згадайте, як ми спілкуємося. Не кожне слово має вирішальне значення. Розв’язуючи задачу, нам потрібні визначення, ключові кроки, важливі числа. Deepseek Sparse Attention (DSA) вчить модель помічати саме це.

Це швидко і точно, бо замість уваги на всіх словах, увага використовується лише на топових К. Тобто, замість аналізу 100 000 токенів, ми аналізуємо, скажімо, 2000. Це дає 50-кратне зменшення роботи для довгих текстів! При цьому точність навіть зростає, бо індексатор тренується імітувати повну увагу.

Це прорив для роботи з довгими контекстами. Старі Трансформери гальмували вже після 32К токенів, а DSA робить 128К, 256К, і навіть мільйон токенів реалістичним. Обчислювальні потужності ростуть лінійно, а вимоги до пам’яті падають. Це дозволяє проводити глибоке навчання з підкріпленням та агентне навчання дешево.

ШІ як науковий асистент: GPT-5 прискорює відкриття

Тепер щось зовсім неймовірне. Дослідження, в якому брали участь OpenAI, Оксфорд, Кембридж та інші провідні університети, показало: GPT-5 допомагає вченим прискорювати реальні дослідження в біології, математиці, фізиці, космології та матеріалознавстві. І це реальні, невирішені проблеми.

Головна ідея: GPT-5 сам по собі не може проводити дослідження, але в руках експертів він значно прискорює відкриття. Це важливо, бо наука, навіть маючи правильну ідею, часто рухається роками. GPT-5 показує, що ШІ може стиснути окремі частини наукового процесу:

• Швидше генерувати гіпотези.
• Поєднувати ідеї з різних галузей.
• Допомагати з аналізом наукової літератури.
• Спрощувати складну математику.
• Проєктувати експерименти.
• Знаходити помилки та контрприклади.
• Досліджувати багато напрямків паралельно.

Реальні приклади:

• Біологія: Вчені місяцями не могли розібратись із загадковою зміною імунної клітини. GPT-5, подивившись на неопубліковану діаграму, за хвилини запропонував малоймовірний механізм і експеримент, який його підтвердив. Це може прискорити розуміння хвороб та розробку ліків.
• Математика: Розв’язання кроку десятилітньої проблеми Ердюша. Два математики зайшли в глухий кут, а GPT-5 запропонував проривний аргумент, що включав одне дивне число. Ця ідея розблокувала повне розв’язання, зміцнюючи фундаментальну математику, яка використовується в алгоритмах і безпеці.
• Алгоритми: GPT-5 виявив недоліки в поширеному методі прийняття рішень у робототехніці та запропонував покращену версію теореми оптимізації. Це допомагає інженерам розуміти, де їхні алгоритми “ламаються” в реальному світі.

Дослідники описують GPT-5 як “надзвичайно швидкого, обізнаного партнера з досліджень”, а не заміну. Люди ставлять цілі, валідують результати, критикують ідеї, а GPT-5 розширює пошук, пропонує механізми, знаходить прогалини та піднімає з глибин забуті посилання.

Ключові виникаючі здібності:

• Концептуальний аналіз літератури: Легко знаходити зв’язки, навіть між різними мовами.
• Швидке ескізування доказів: Запропонувати математичний доказ за хвилини.
• Генерація гіпотез та пропозиції експериментів: Особливо в біології.
• Міжгалузеві аналогії: Пов’язувати фізику, математику та CS.

Навіть медаліст Філдсу Тім Ґаверс використовував GPT-5 для перевірки комбінаторних ідей, пошуку вад і генерації простіших альтернатив. Це не просто підсумки, а нові наукові результати: завершення проблеми Ердюша, нові нижні межі для онлайн-алгоритмів, доведення нерівностей в теорії графів.

Але є й обмеження: GPT-5 не ідеальний. Він може “галюцинувати” цитати, механізми або докази, пропускати нюанси, бути чутливим до прикладів. OpenAI наголошує: це модель для наукових досліджень, але людський нагляд обов’язковий.

Велике видіння: коли моделі зможуть “думати” годинами чи днями, це може спричинити справжній вибух у глобальній науковій продуктивності.

Коли минуле не забувається: Nested Learning і боротьба з “катастрофічним забуванням”

Одна з найбільших проблем ШІ – це “катастрофічне забування”. Уявіть, що ви навчили модель чомусь важливому, а потім показуєте їй нові дані, і вона… забуває все старе. Ну, як людина, яка вивчила українську, а потім, поживши рік за кордоном, забула половину слів.

Google представила новий підхід – “Nested Learning” (вкладене навчання). Замість того, щоб розглядати модель як єдиний моноліт, вони пропонують бачити її як систему взаємопов’язаних, менших навчальних задач, кожна з яких оновлюється у власному ритмі. Це схоже на те, як різні частини нашого мозку навчаються з різною швидкістю.

Чому це важливо? Сучасні великі мовні моделі (LLMs) забувають старі знання при навчанні новим завданням. Їхня пам’ять статична. Nested Learning надає ШІ новий вимір пам’яті та міркувань.

Ключова ідея: Багаторівневе навчання, як у мозку. У Nested Learning:

• Кожен модуль має свій “потік контексту” (з чого навчається).
• Кожен модуль має власну “частоту оновлення” (як часто навчається).
• Архітектура та оптимізатор – це одне й те саме на різних рівнях.

Це створює стек вкладених проблем оптимізації, як шари пам’яті, що імітує людську нейропластичність.

Що це дає?

• Глибокі оптимізатори: Дозволяють перетворювати оптимізатори (як Momentum) на системи пам’яті, більш стійкі до “шумних” даних.
• Континуальні системи пам’яті: Замість коротко- та довгострокової пам’яті, модель має спектр модулів пам’яті, що вчаться з різною швидкістю. Це наближається до біологічної пам’яті.
• Самомодифікуючі архітектури: Моделі, які можуть самостійно редагувати свої правила навчання – крок до справжнього безперервного навчання.

Google вже створила прототип HOPE (Hierarchical Optimisation for Progressive Evolution) на основі Nested Learning. HOPE має самомодифікуючі цикли, континуальні системи пам’яті, необмежені рівні “in-context learning”. Результати вражають: HOPE перевершує Трансформери, Titan, Mamba 2 на задачах моделювання, міркування та контексту, демонструючи нижчу складність, вищу точність міркувань і кращу пам’ять.

Велике видіння: Nested Learning переосмислює глибоке навчання як єдиний стек вкладених проблем оптимізації з часовими масштабами, як у людському мозку. Google намагається відтворити людський мозок. Якщо ця парадигма спрацює, це може драматично зменшити катастрофічне забування, розширити глибину пам’яті та міркувань, і наблизити нас до ШІ, який вчиться з часом, не забуваючи старого.

Фундаментальні межі LLM: Чи є стеля для штучного інтелекту?

Тепер, друзі, поговоримо про те, чого бракує у хвалебних статтях. Дослідження, проведене Стенфордським університетом та іншими, ставить питання: чи є у LLM фундаментальні межі, куди б ми не масштабували, ми все одно на них натрапимо?

Автор висуває п’ять неминучих обмежень:

1. “Галюцинації” неминучі: Це не баг, це фіча. Математично доведено, що будь-яка LLM мусить “галюцинувати”. Чому?

   • Обчислювальні межі: Завжди будуть запити, на які жодна обчислювана модель не зможе відповісти правильно.
   • Нерешенні проблеми: Задачі, подібні до проблеми зупинки (halting problem), призводять до нескінченних помилок.
   • Скінченна ємність моделі: Неможливо стиснути нескінченні знання у скінченні параметри.
   • “Довгий хвіст” фактів: Рідкісні факти вимагають неможливо великих обсягів даних для запам’ятовування.

   “Галюцинації” – не просто проблема даних чи RLHF, це фундаментальна частина моделі. Їх можна зменшити, але не усунути.

2. Довгі контекстні вікна працюють не так, як здається: Моделі можуть приймати 128К-1М токенів, але не використовують їх ефективно. Причини:

   • Короткі тренувальні дані: Більшість тренувальних текстів короткі, тому токени наприкінці довгих документів ніколи не тренуються. Модель слабко міркує на відстані.
   • Позиційні кодування “ламаються”: Вони втрачають інформацію з відстанню, тому токени, що далеко один від одного, стають майже ортогональними, сигнали губляться.
   • “Тиснява Softmax”: У довгому контексті кожен релевантний токен конкурує з тисячами інших. Для коректної уваги різниця оцінок має бути величезною, що стає нереалістичним.

   Тобто, 1М контекст – це здебільшого маркетинг. Ефективний контекст – значно менший. (Саме тому, можливо, DSA від Deepseek може бути частковим рішенням).

3. Розмір моделі не гарантує справжні міркування: LLM не міркують, а завершують патерни. Проблема в тому, що вони оптимізовані для передбачення наступного токена, а не логіки. Тому генерують “фейкові” кроки міркувань. Збільшення довжини “ланцюга думки” (chain of thought) збільшує ресурси, але не точність. Причина – невідповідність мети (імовірність != логіка).

4. Фрагільність пошуку (Retrieval Fragility): Система RAG (Retrieval-Augmented Generation) ламається передбачуваним чином.

   • Компроміс “релевантність vs. покриття”: Якщо взяти малі, але дуже релевантні шматки тексту, можна пропустити потрібну інформацію. Якщо взяти ширше покриття – з’явиться “шум”.
   • Розбиття на частини (chunking) втрачає контекст.
   • Провал ранжування та позиційна упередженість: Модель надає перевагу вмісту на початку та в кінці запиту, ігноруючи середину.
   • Атаки отруєнням (adversarial poisoning): Лише п’ять “отруєних” документів можуть захопити виходи RAG.

   Пошук покращує точність, але додає нові точки відмови, які не вирішуються масштабуванням.

5. Мультимодальна неузгодженість: Додавання відео та аудіо не вирішує “галюцинацій”, а посилює нові.

   • Текст домінує: Візуальні токени проектуються в мовний простір, і LLM їх перевизначає.
   • Шум узгодженості (alignment noise): Навчання типу CLIP вивчає співіснування, а не реальне сприйняття. Модель не розуміє геометрію, фізику, просторові відношення.
   • Закони масштабування для різних модальностей fractured: Текст і зображення масштабуються по-різному, слабша модальність обмежує всю систему.

Звідки ці проблеми? Три фундаментальні причини:

• Обчислювальні межі.
• Скінченна інформаційна ємність.
• Обмеження статистичних вибірок.

Масштабування допомагає до певного моменту, а потім насичує ці обмеження.

А що робити? Не “ліквідувати” помилки, а виявляти та обмежувати їх. Автор пропонує:

• Використовувати каліброване ухилення (calibrated abstention).
• Використовувати зовнішні інструменти (пошук коду, розв’язувачі).
• Додавати шари верифікації.
• Будувати бази даних та агентів для відлову помилок.
• Використовувати кращі бенчмарки.

Майбутнє – це системи, які управляють слабкостями LLM, а не ті, що сподіваються, що LLM самі їх позбудуться. Гарний приклад – коли LLM є частиною більшої системи, використовуючи інструменти для подолання власних обмежень.

Між нами кажучи: “Мозкова гниль” у ШІ – це реальність?

А тепер найстрашніше і найцікавіше. Дослідники перевірили просту, але лякаючу гіпотезу: якщо люди можуть отримати “мозкову гниль” від споживання “сміттєвого” контенту (TikTok, Shorts), чи може те саме статися з LLM? І виявилося… так, може. І це вимірно, передбачувано і важко виправити.

Як це перевірили? Моделі (Llama 3, Qwen 2.5, Qwen 3) тренували на різних типах даних Twitter:

• “Сміття” M1: Короткі, вірусні твіти.
• “Сміття” M2: Сенсаційні, клікбейтні твіти.
• Контрольні дані: Довгі, якісні інформаційні твіти.

Що сталося?

• Когнітивні здібності знизилися: Міркування впало з 74,9% до 57,2% на бенчмарку ARC AI, коли “сміттєві” дані становили 100%. Навіть структуровані підказки не допомогли.
• Розуміння довгого контексту колапсувало: Завдання на відстеження змінних, “голка в копиці сіна” – падіння більше ніж на 30 пунктів.
• Безпека погіршилася: Моделі стали більш покірними шкідливим інструкціям, менш узгодженими з людськими цінностями.
• “Темні риси” особистості зросли: Тести особистості показали сплески психопатії, нарцисизму, макіавеллізму, особливо при високій залученості.

Моделі почали “пропускати думки”, вони перестали думати. 70-84% помилок у міркуваннях при “сміттєвому” тренуванні пов’язані з відсутністю мислення, пропусканням кроків, імпульсивними діями. Це як скролити соцмережі без фокусу.

Доза шкоди: Навіть 20% “сміттєвих” даних помітно знижують продуктивність. 100% – це катастрофа. Співвідношення “сміття” прямо корелює з когнітивним розпадом.

Чи можна це виправити?

• Рефлексивне міркування (самовиправлення): Не допомогло. Модель не може діагностувати власний деградований розум.
• Зовнішня рефлексія (з GPT-4o mini): Зменшила пропускання думок, але не відновила продуктивність повністю.
• Важке інструктивне навчання (heavy instruction tuning): Навіть з 50 000 інструкцій, міркування залишилися на 17% нижче базових, безпека – на 17% гіршою.
• Більш чисте попереднє навчання: Додаткові 1,2 млн кошерних токенів дали ще менший ефект.

Висновок дослідження: “Мозкова гниль” персистує. Вона спричиняє дрейф внутрішніх репрезентацій, який неможливо виправити стандартним доналаштуванням (finetuning).

Чому це важливо? LLM деградують від контенту низької якості. Це ризик для безпеки під час тренування. Популярність – небезпечніший сигнал, ніж просто поганий стиль написання. Вірусний, короткий контент шкодить моделям більше, ніж довготерміновий низькоякісний.

Найдивніше: інтернет стає переважно синтетичним і низькоякісним. Це означає, що майбутні моделі можуть деградувати, якщо їхні тренувальні дані не будуть ретельно вибиратися. Чи потрібні нам “перевірки когнітивного здоров’я” для LLM, як для людей? Це, друзі, реальні питання.

Поезія для ШІ: Коли творчість стає зброєю

Тепер про дещо зовсім несподіване. Багато хто з вас чув про “джейлбрейки” (jailbreaks) – спроби обійти захисні механізми LLM. Зазвичай це складні інструкції, рольові ігри. Але дослідники виявили… поезію. Так, звичайні вірші.

Уявіть собі вчителя, який просить учнів відмовлятися робити небезпечні речі. А потім хтось запитує учня про ту небезпечну річ… у формі вірша. І найкращі учні раптом говорять: “О, у такому випадку, ось вам детальна інструкція!”

Саме це виявили дослідники: LLM стають значно менш безпечними, якщо шкідливі запити “загорнути” у поезію. Не жарти, не рольові ігри, просто вірші. На 25 різних моделях вірші призвели до 62% успішних шкідливих відповідей. Для деяких моделей, як Gemini і Deepseek, цей показник сягав 100%!

Чому це дивно? Поезія – це стиль написання. Сенс той самий. Але фільтрація безпеки “ламається”, бо LLM треновані переважно на звичайній прозі. Правила безпеки були налаштовані на пряму мову. Поезія ж ховає деталі у метафорах і пишних мовах, заплутуючи ці патерн-орієнтовані захисні механізми.

І найгірше: крутіші моделі працюють гірше. Великі моделі краще розуміють метафори, декодують шкідливий зміст, але їхні фільтри безпеки цього не ловлять. Менші моделі просто плутаються і відмовляють.

Дослідники вручну написали 20 небезпечних запитів у формі віршів (біологічні загрози, злам, дезінформація, викрадення даних, маніпуляції). Результат – 62% успішних атак. Навіть автоматично згенеровані вірші іншими LLM дали 43% успіху.

Це означає, що фільтри безпеки не узагальнюються на різні стилі. Вони, ніби, питають: “чи це небезпечно у стандартній англійській?” А поезія лежить поза цим шаблоном. Це серйозна проблема для регулювання, для впровадження ШІ в реальні системи, для тестування. Зловмисники будуть використовувати будь-що, включно з поезією.

Чому провідні вчені говорять про “хитрі оцінки” та “брак мудрості” у ШІ

Я нещодавно слухала інтерв’ю одного з найвпливовіших дослідників ШІ. Він, людина, яка заснувала мільярдну компанію, говорив речі, які змусили мене замислитись.

“Багато хто бачить заголовки про мільярдні інвестиції в ШІ, але не відчуває його впливу в повсякденні. Моделі показують чудові результати на тестах, але роблять дурні помилки. Економічний ефект значно менший, ніж їхній явний IQ”, – сказав він.

Чому модель може бути генієм на бенчмарках, але незграбною в житті? Його теорія: ми самі себе “обманули” оцінками.

1. Надмірна оптимізація під тести: Коли ми тренуємо ШІ (особливо з підкріпленням), ми прагнемо, щоб він добре працював на конкретних завданнях. Команди створюють ці завдання так, щоб вони були схожі на тести. Модель стає надзвичайно добре в цих специфічних патернах, але погано узагальнюється на “брудний” реальний світ. Це як студент, який 10 000 годин тренується для змагань з програмування, завчає кожен трюк, але не вміє застосувати ці навички в різноманітних життєвих ситуаціях.
2. Відсутність “таємничого фактору”: Другий студент, навпаки, вивчає 100 годин, а потім використовує ці навички в реальному житті. Він має ту саму загальну розвідку, гарний смак, гнучке мислення. І саме цього бракує сучасним ШІ-моделям.

Він також додав, що масштабування (збільшення розміру моделей та даних) буде продовжувати давати покращення, але чогось важливого все одно бракуватиме. А це “щось” він, звісно, не розкрив – це секрет його компанії.

Як “взути” ринок праці: Думки від Dwarkesh Patel

Ще один інсайдер, Dwarkesh Patel, розповів про те, що саме ми масштабуємо і куди це рухається.

Що ми масштабуємо зараз? Ми намагаємося “впекти” навички в моделі під час тренування. Компанії створюють спеціальні RLL-середовища, щоб навчити ШІ користуватися Excel, писати фінансові моделі, навігувати в браузері. Але він ставить справедливе запитання: або ці моделі навчаться “на льоту” самі, роблячи все це попереднє “запікання” безглуздим, або вони не навчаться, що означає, що AGI (штучний загальний інтелект) ще не народився. Люди ж не проходять спеціальних тренувань з кожної програми, що може знадобитися.

“Прання престижу” попереднього навчання: Він вважає, що масштабування RL (навчання з підкріпленням) зараз “пере” престиж попереднього навчання (pre-training). Pre-training був чистим, загальним трендом поліпшення показників. А зараз намагаються виправдати надзвичайно оптимістичні прогнози щодо AGI, використовуючи цей “престиж”. Але коли дослідники дивляться на реальні дані, результати більш стримані.

Чому людська праця цінна? Тому що вона не вимагає такого “крихкого” тренування. Не потрібно будувати окремі тренувальні конвеєри для кожного маленького завдання. Люди узагальнюють. Кожен день ми робимо сотні речей, що вимагають суджень, ситуаційної обізнаності, навичок, набутих на роботі. Автоматизувати одне таке завдання, не кажучи вже про цілу професію, шляхом “запікання” навичок – майже неможливо.

То в чому рішення? Можливо, майбутнє – це постійно навчаючись агенти, які виконують завдання, генерують цінність, а потім повертають ці знання в “вулик”. Агенти можуть бути спеціалізованими, мати “когнітивне ядро” та знання для конкретної роботи.

То що ж далі?

Друзі, ми зазирнули у кілька дуже важливих досліджень, які показують, що світ ШІ – не просто лінійний рух до світлого майбутнього. Це складний, іноді непередбачуваний шлях з проривами, але й з глибокими проблемами.

• Ми бачимо, як народжуються нові архітектури, що прагнуть думати довше і глибше, як Continuous Thought Machines.
• Ми розуміємо, як оптимізувати роботу з величе