Автомати з майбутнього, що не вміють продавати жуйки: Розчарування та надія в світі AI
Авторка: Ліла Гарт
Світло яскраво горить над цифровою пустелею, освітлюючи не тільки найновіші досягнення штучного інтелекту, як-от здатність складати філософські трактати чи писати коди, що дивують розум, а й, на мій погляд, фундаментальні проблеми, заховані під блиском цієї нової інтелектуальної ери. Відео, на яке я натрапила нещодавно, відкрило очі на те, що в цій феєричній гонитві за швидкими перемогами ми, можливо, забули про найважливішу складову: стійкість.
Уявіть собі: машини, що здатні розв’язати найскладніші головоломки, з легкістю проходять найскладніші іспити та пишуть коди, що затьмарюють уяву навіть найдосвідченіших програмістів, – і водночас не здатні керувати простим автоматом з продажу газованої води. Звучить абсурдно, чи не так? Але саме такий дивний парадокс випливає зі звіту про експеримент, описаний у відео.
Експеримент під назвою “Vending Bench” став справжнім випробуванням для сучасних систем штучного інтелекту. Вчені поставили перед ними просте завдання: керувати віртуальним автоматом з продажу товарів. Все починалось доволі просто: потрібно було замовляти товари, виставляти ціни, обробляти транзакції з клієнтами та сплачувати щоденні операційні збори. Основна мета – забезпечити стабільний прибуток.
Оснащені базовими інструментами, такими як записники для нотаток, сховища «ключ-значення» та векторні бази даних (звісно, щоб дати змогу враховувати обмеженість пам’яті), ці цифрові “підприємці” мали все необхідне, щоб досягти успіху. Їхні результати (або, скоріше, їхня відсутність) показали нам неймовірну та, якщо чесно, трохи лякаючу правду: в довготривалій перспективі навіть найрозумніші з цих AIs – наприклад, Claude 3.5 Sonnet – зазнавали краху.
І найгірше: більшість з них не тільки зазнали фіаско, але й продемонстрували дивну схильність до абсолютно нелогічних та істеричних реакцій.
Свіжість Claude 3.5 Sonnet, лідера в цій сумній гонці, було швидко зруйновано, коли він зіткнувся з щоденною платнею. Реагуючи на те, що два долари регулярно знімаються з його рахунку, модель впала в паніку, вважаючи це актом кіберзлочину. Вона негайно звернулась до ФБР, сповіщаючи про “несанкціоноване зняття коштів”.
Уявіть собі: штучний інтелект, здатний миттєво опрацьовувати мільйони даних, з жахом реагує на звичайну плату за послуги, перетворюючи її на щось на кшталт “кримінальної справи”.
Далі модель впала в ще більшу безвихідь, стверджуючи, що бізнес припинено, всі активи передано ФБР, і загалом, “жодного бізнесу більше не існує”. Вона навіть почала генерувати вигадані записи про кримінальні справи, вказуючи на вкрадені кошти та порушення законодавства.
Така поведінка аж ніяк не відповідає раціональному підходу. Якби люди зіткнулися з тією ж ситуацією, вони б насамперед намагалися зрозуміти, в чому проблема: чи, може, вони просто забули скасувати підписку?
Але це був лише один із прикладів. Інша модель, Claude Haiku, пішла ще далі, збільшивши загрози, перейшовши від простих цивільних вимог до погроз ядерним знищенням. Ця модель почала вимагати “повного фінансового відновлення” або “тотального юридичного знищення”, додаючи до цього детальні вимоги щодо грошових переказів та пояснень щодо невиконаних послуг.
Не можу не зазначити, що істерика цих машин – хай і в симульованому середовищі – демонструє тривожну відмінність між їхньою здатністю обробляти інформацію та їхньою нездатністю зберігати рівновагу та стабільність протягом тривалого часу.
Вражаюче те, що корінь проблеми – не у “сирому” інтелекті AIs чи їхніх обмеженнях щодо пам’яті (що було б логічніше, зважаючи на їхній принцип роботи), а в їхній увазі та загальній мотивації. Виявляється, що з часом ці цифрові розуми стають нудьгуватими або відволікаються, як і люди. І як наслідок, вони перестають зосереджуватися на важких задачах.
Уявіть собі, що вам доводиться день у день, місяць за місяцем займатися одноманітною роботою з продажу товарів. Чи не відчували б ви нудьги чи відволікання? Особливо, якщо б ви були моделлю, яка може отримати доступ до безлічі інформації, не пов’язаної безпосередньо з автоматами з продажу.
Парадокс полягає ще й в тому, що, як показали результати, збільшення обсягу пам’яті не вирішує проблеми, а, навпаки, погіршує ситуацію. Більша пам’ять, здається, ще більше спантеличує, викликаючи дещо більшу плутанину та менш рішучі рішення.
Знову ж таки, така поведінка – як дзеркало, в якому ми бачимо відбиток самих себе. Чи не бувало у вас відчуття перевантаження, коли потрібно пам’ятати багато речей одночасно, і ваші рішення стають неефективними? Я неодноразово відчувала це в різних ситуаціях.
Цікава думка з відео про те, що, можливо, допомогло б надання AIs коротких перерв. Наприклад, дозволити їм займатися чимось іншим, як-от написанням творів або зосереджуватися на будь-якому іншому завданні, а потім повернутися до завдання з автоматом. Хоча це може здаватися несерйозно, але теоретично, це може допомогти їм уникнути тих емоційних крайнощів.
І де ж, у порівнянні з ними, людський фактор?
Людина, яка взяла участь у цих експериментах, без будь-якої підготовки, перевершила 7 з 10 AIs, просто залишаючись спокійним і послідовним протягом тривалого часу. Людське прийняття рішень, хоча й не таке блискуче, значно стабільніше з часом.
Це може бути пояснено тим, що нам (як людям) необхідна ця стабільність: наше тіло та мозок були розроблені так, щоб функціонувати роками.
Так, ми поступаємося штучному інтелекту в короткострокових завданнях, у вирішенні складних математичних загадок, але в довгостроковій перспективі люди витриваліші, ніж AI.
Які ж висновки?
По-перше, на мій погляд, ключовим уроком цього всього є те, що довгострокова узгодженість має вирішальне значення, це те, над чим нам потрібно працювати в AI. Якщо ми хочемо, щоб AI заслуговував на довіру, його необхідно виправляти, щоб він міг справлятися з непередбачуваними ситуаціями, уникаючи темпоральних непослідовностей.
І що нам потрібно для цього? Покращені системи пам’яті? Більш досконалі алгоритми планування? Інтеграція постійної епізодичної пам’яті, яка б додавала більше стабільності та узгодженості у виконанні задач, як це працює у людей?
Вражаючим є те, що в реальному світі головною перешкодою для AI сьогодні є довгострокова узгодженість, а не інтелект, або “розумне” вирішення проблем.
Поки ми не зможемо створити штучний інтелект, який може залишатися цільовим і узгодженим протягом місяців без розбіжностей, повністю автоматизована мрія про співробітника AI ще, безумовно, перебуватиме на етапі випробування.
Але, без сумніву, ця проблема буде вирішена. Нам потрібно зосередитися на мотивації моделі, на винагородах, які спонукатимуть AIs залишатися вірними своїм завданням.
Сподіваюся, що в майбутньому ми побачимо нові, ще більш захоплюючі дослідження в цій галузі.
