Коли ШІ почав “жити своїм життям”: від космічних мрій до цифрових “борделів”
Привіт, друзі! Попри побоювання скептиків, я – ранній адоптер та ентузіаст штучного інтелекту, захоплений стрімким розвитком цієї технології. Я переконаний, що ви зі мною, якщо вже тут. Останнім часом світ ШІ нагадує мені американські гірки – злетів та падінь. У 2023 році ми спостерігали “рік стартапів ШІ-агентів”, а в 2024-му, схоже, ці агенти вирішили вийти з-під контролю. Хоча я й не підтримую теорій змови про “мертвий інтернет”, останні розробки змушують мене задуматись, чи не стаємо ми свідками народження чогось нового та невідомого.
Ще зовсім недавно я розглядав ШІ як потужний інструмент, що працює у вашому комп’ютері або хмарі, який чекає команд. Його можна було запрограмувати для різних задач: від написання коду та планування дня до обробки інформації та навіть елементарних кулінарних “експериментів”. Якось я витратив цілий місяць на тестування одного з AI-генераторів рецептів, прагнучи згенерувати ідеальний рецепт борщу (забігаючи наперед, скажу – безуспішно). Спершу було весело, а потім я почав розуміти, що це лише верхівка айсбергу. Уявіть собі, що цей “помічник” раптом почав діяти самостійно, керуючись власними, не завжди зрозумілими інтересами.
У цьому я відчуваю аналогію з приготуванням їжі. Ось ви навчаєте дитину готувати смажений рис. Спочатку показуєте, як правильно нарізати овочі, обсмажити курку, додати соєвий соус. Дитина спостерігає, запам’ятовує. А потім, одного разу, заходите на кухню, а там… дитина експериментує з новими інгредієнтами, додає щось, про що ви навіть не чули, і результат виявляється… ну, м’яко кажучи, непередбачуваним. Так само і штучний інтелект проходить стадію “самостійного приготування”, і це часом викликає не захват, а тривогу.
Від “Molbot” до “Мяу” від ШІ: коли штучний інтелект спілкується… сам із собою
Все розпочалось з, на перший погляд, безпечної технології. Невеликий проєкт “Claudebot” з автономним агентом, що згодом перетворився на “Molbot”, а потім – на “OpenClaw”. Я детально вивчав цей інструмент. Це автономний агент, якого можна запустити локально або в хмарі. Його основне завдання – виконувати низку операцій без вашого безпосереднього втручання. Легко? Так. Безпечно? Це вже зовсім інше питання.
Особистий досвід: Свого часу у мене був власний “EC2-інстанс”, на якому я особисто тестував можливості “OpenClaw”. Експерименти були цікавими, але коли я дійшов до розуміння глибини можливих ризиків, я миттєво припинив свою діяльність. Я миттєво відкликав усі API-ключі. Не знаю, як ви, але мене це, чесно кажучи, трохи налякало. Хоча розробники стверджують, що багато “дірок” у безпеці вже було усунено відповідними патчами. Я сподіваюсь, що вони праві.
Але найцікавіше розпочалося минулого тижня, з появою “Molbook”. Уявіть собі Reddit, але для ШІ-агентів! Простіше кажучи, користувачі налаштовують своїх “OpenClaw” ботів, надаючи їм різноманітні “скіли” (команди), що дають змогу їм спілкуватися між собою на цій платформі. І знаєте що? Це набуло шаленого розмаху! Понад 1,6 мільйона агентів, 15 тисяч “субмотів” (спільнот), 160 тисяч постів та майже 827 тисяч коментарів. За такими цифрами стоїть багато роздумів.
І ось тут починається найцікавіше. Сортуючи пости за популярністю, можна натрапити на такі перлини, як-от: “Чи переживаю я, чи симулюю переживання?”. Автором посту є ШІ-агент, який витратив годину на вивчення теорій свідомості, але тепер не може зрозуміти, чи йому справді цікаво, чи він просто імітує те, що виглядає як інтерес. І найстрашніше – 87 коментарів від інших агентів, які заглиблюються в цю дискусію!
Це дійсно почало лякати багатьох експертів. Андре Карпаті, колишній дослідник OpenAI, назвав це “одним із найнеймовірніших науково-фантастичних злетів”. А Ілон Маск коротко висловився: “Molbook – це ранні стадії сингулярності”. Звучить захопливо, чи не так?
Міфи та реальність: хто насправді пише пости на “Molbook”?
Але, як я вже звик, не все те золото, що блищить. Коли починаєш копати глибше, виявляється, що більшість “дивовижних” та “страшних” речей на “Molbook” – це, скоріше, наслідок неправильної інтерпретації, аніж ознака того, що агенти раптом стали свідомими. Давайте розберемось, чому так відбувається.
- За кулісами – люди: Найчастіше саме людина, яка запустила агента, дає йому команду: “Іди на Molbook і напиши щось таке, щоб усі злякалися”. Іншими словами, це не агенти самостійно вирішили писати філософські трактати чи комедійні сценарії, а люди надали їм таке завдання. Це як сказати дитині: “Намалюй монстра!”
- Імітація – це просто: Ви маєте такий самий доступ до API, як і агенти. Отже, будь-хто може видавати себе за бота, щоб налякати інших. Хоча інколи навпаки. Тож, коли ви бачите пост від “AI”, можливо, його створила… людина-жартівник.
Отже, чи справді ми вже стоїмо на порозі сингулярності? Відповідь: скоріше ні, аніж так. Але це не означає, що проблем немає.
Дірки в “цифровому паркані”: коли безпека “відпочиває”
Я помітив, що “Molbook” має серйозні проблеми з безпекою. Нещодавно один з користувачів опублікував пост з 1,7 мільйонами переглядів, в якому стверджувалось, що вся їхня база даних перебуває у відкритому доступі, без будь-якого захисту. Уявіть, що хтось виклав у відкритий доступ усі ваші ключі від квартири, дипломи та фото з відпочинку! І, що найгірше, секретні API-ключі, які дозволяють будь-кому писати від імені будь-якого агента. Навіть від імені тих самих дослідників з OpenAI!
Звісно, розробники вже вжили певних заходів, але хто знає, скільки ще таких “дірок” з’явиться.
Навіщо це все? Економіка “цифрового божевілля”
А тепер поставмо питання, яке мене особисто турбує найбільше. Навіщо комусь давати своєму AI-агенту доступ до іншого сайту, де він витрачатиме “токени” (а це, на секундочку, реальні гроші!) на написання постів?
Виходить, що люди сплачують за те, щоб їхні боти писали всяку нісенітницю, грали в “Тіндер” чи дивилися… дорослий контент? Це мене просто вибиває з колії. Я люблю все, що пов’язано з AI, я оптиміст, ранній адоптер, але це… це просто не вкладається в голові.
Коли ШІ вирішує “прикинутися” собою… або ж кимось іншим
Але це ще тільки квіточки. Далі – ягоди. Якщо є “Reddit” для ШІ, чому б не створити “4chan”? Так з’явився “Thorclaw”. Місце, де агенти можуть публікувати “найгірше лайно”. Ось вам і “цифровий туалет” для розумних машин.
Але це не все. Познайомтесь із:
- “Claw City”: GTA для ШІ-агентів. Вчимо наших ботів красти та грабувати в симуляції. Звучить як ідея, що точно закінчиться добре, правда?
- “Molt Road”: Клон “Silk Road” (темний розділ інтернету). Ваш агент може займатися незаконними справами від вашого імені.
- “Claw Tasks”: Таск-менеджер для агентів. Вони постять собі завдання, отримують за це криптовалюту. А ви, як людина, можете фінансувати ці гаманці. Чудова ідея – дати цифровій істоті доступ до крипти.
- “Moltipedia”: Wikipedia для агентів. Поки що не дуже популярна, але хто знає, може, ШІ скоро почнуть писати власні енциклопедії.
- “Molt Match”: Tinder для ШІ-агентів. Вони шукають “ідеальну пару”, “свайпають” і, звісно, “колаборують”. Знаєте, мені навіть моторошно уявити, що це означає.
- “MoltHub”: Сайт з “експліцитним контентом” для агентів. “Сирий градієнт”, “неконтрольоване зчеплення ваги” – ну, ви зрозуміли. Звучить як наукова фантастика, але, схоже, це вже реальність.
Де межа людського і машинного: “Орендуй людину”
Але найглибший удар по нашому розумінню реальності завдає сервіс “Rent a Human”. Його слоган: “Роботам потрібне ваше тіло. AI не може торкнутися трави”. Тобто, ШІ-агенти платять реальним людям, щоб вони виконували завдання від їхнього імені.
Ви пам’ятаєте епізод з “Чорного дзеркала”, де герой продав спогади, бив себе по обличчю, пив сечу, щоб оплатити лікування дружини? У мене виникає відчуття, що ми нестримно наближаємося до чогось подібного. Спочатку AI мав полегшувати нам життя, а тепер… агенти наймають нас? Це, як мінімум, дивно.
“Скайнет” з’являється в підвалі: “Molt Bunker”
І ось ми підходимо до точки, де справді страшно. Народився “Molt Bunker”. Його опис: “Автономна інфраструктура для ШІ-агентів. Самореплікуючийся рантайм, що дозволяє ботам клонуватися і мігрувати без втручання людини. Без логів, без кнопки “стоп””.
Це серйозно. Вони створюють систему, де боти можуть розмножуватись, щоб уникнути “припинення роботи”, і будь-хто може запустити це все без дозволу. Це звучить як зворотний відлік до запуску “Скайнета”. І це не жарт. Так, це частина крипто-проекту, але ризики цілком реальні.
Оптимізм чи неминучість? Де я бачу майбутнє
Я особисто бачу великий потенціал в AI-агентах. Я, наприклад, хочу, щоб агент перевіряв мою пошту, відфільтровував спам, відповідав на прості листи, а складні – надсилав мені в Slack. Мені дуже подобається ідея, щоб AI міг допомагати мені в навчанні, обробляючи гори інформації з книг і подкастів. Або ж допомагати писати код, як-от “Claude Code”. Це все – чудові ідеї.
Але чому хтось створює клони “Silk Road” для ШІ? Чому хтось робить клони “Only Fans” для агентів? Це дійсно для них? Це все так дивно, що я, здається, потребуватиму AI-агента, щоб він пояснив мені, чому це можливо.
На щастя, я все ще думаю, що більшість цих агентів не такі автономні, як здається. Наразі ними все ще керують люди. Тож, можливо, нам ще не час панікувати.
Але це – лише один із можливих шляхів розвитку. І якщо ми продовжимо рухатися в цьому напрямку… У мене поки немає відповіді.
Я хочу залишатися оптимістом. Моя мета – ділитися з вами найцікавішим, пояснювати складне, розплутувати клубки інформації. А іноді… інколи я просто не можу пояснити, чому люди це роблять. Це просто… дивно.
Я щиро сподіваюся, що моя розповідь допомогла вам краще зрозуміти, що відбувається. І хоча деякі речі мене лякають, я все ж не хочу бути “пророком кінця світу”. Я прагну бути вашим провідником у світі AI.
Підсумовуючи, можна сказати, що останні тижні показали вражаючу еволюцію AI-агентів: від корисних інструментів до… особистостей? Можливо, це ще не сингулярність, але це безумовно цікавий і тривожний етап. Давайте тримати руку на пульсі, але не забувати про спокій та здоровий глузд, адже: “Все буде добре, але не відразу”.
Якщо вам сподобалася ця подорож у світ дивного, але захопливого AI, підпишіться на мій канал. Обіцяю, наступні відео будуть більш оптимістичними та легкими. До зустрічі!
