Штучний інтелект: Мій погляд на невидимого вартового та його потенціал
Як старший редактор з понад двадцятирічним досвідом роботи у сфері бізнес-аналізу, автоматизації та штучного інтелекту, я був свідком захопливих трансформацій у світі технологій. Безпосередньо спостерігаючи за еволюцією ШІ, я бачив, як потенціал цієї технології розвивається, а також усвідомлював ті виклики, які вона може створити. Оглянувши модель штучного інтелекту Claude Mythos від Anthropic, а також їхній проєкт Glass Wing, я ділюся своїм особистим досвідом та експертною думкою щодо цих розробок.
Особистий досвід
Упродовж багатьох років моєї роботи я був свідком недооцінки безпеки в багатьох організаціях. З власного досвіду знаю, що виявлення вразливостей часто ставало справою випадковості або здійснювалося вже після того, як було завдано значної шкоди. На цьому тлі новини про Claude Mythos і проєкт Glass Wing відразу ж привернули мою увагу.
Від коду до “розбирання” коду. Як ШІ перетворюється на геніального аналітика
Я розумію, що в першу чергу ставиться питання: “Навіщо нам ще одна модель штучного інтелекту?”. Їх уже чимало. Але Claude Mythos дійсно вирізняється. У ній закладено зовсім інший підхід. Її не навчали бути хакером. Її навчали бути винятково хорошою у написанні коду. Це докорінно відрізняється від традиційного навчання ШІ, яке переважно зосереджується на розпізнаванні шаблонів або виконанні певних завдань. Claude Mythos, навчений кодувати, розуміє структуру і логіку програмного забезпечення на глибшому рівні. Ця експертиза дає змогу виявляти вразливості, які можуть бути непомітними для людини.
Цифри, які вражають: це не просто прогрес, це стрибок
Ось як це виглядає в цифрах. “SWE-бенч” – це стандартний тест для ШІ, який вимірює його здатність виправляти реальні помилки у програмному коді. Наразі Claude Opus від Anthropic досягла результату 80,8%. Це гарний результат, але Mythos продемонстрував результат у 93,9%. Це не просто незначне вдосконалення, це скоріше перехід у наступне покоління.
Ще більше вражає його успіх у сфері кібербезпеки. У цьому тесті Opus показала результат 66,6%, а Mythos – 83,1%. Ця різниця свідчить про значний стрибок у здатності виявляти та експлуатувати вразливості та має далекосяжні наслідки.
Практичні приклади: Коли ШІ знаходить реальні помилки
Давайте розглянемо деякі реальні випадки, щоб зрозуміти, що саме може Claude Mythos.
- OpenBSD: 27 років прихованих помилок: Mythos виявив помилку в OpenBSD, операційній системі, визнаній надзвичайно безпечною. Ця помилка, яка існувала 27 років, дозволяла здійснювати віддалені атаки на сервери OpenBSD. Цей приклад підкреслює здатність ШІ знаходити вразливості, які тривалий час були непомітні для фахівців з кібербезпеки.
- FFmpeg: Невидимий для мільйонів: FFmpeg є ключовим компонентом для роботи більшості відео в Інтернеті. Mythos виявила баг, який не виявили 5 мільйонів автоматизованих тестів. Даний приклад ілюструє, наскільки ШІ може перевершувати можливості традиційних методів тестування.
- Linux: Від користувача до адміністратора: Mythos знайшла кілька помилок у Linux, які давали неавторизованим користувачам доступ до прав адміністратора. Цей приклад демонструє здатність ШІ виявляти вразливості в самому ядрі операційних систем, що є критично важливим для забезпечення безпеки.
Mythos, крім виявлення окремих помилок, також може “ланцюгувати” їх. Він може виявити декілька, здавалося б, незначних вразливостей, які разом можуть створити значну загрозу. Це те, що роблять досвідчені хакери.
Дилема “Відкрити чи Заборонити”: Шлях відповідальності
Одна з найбільших дилем у сфері ШІ полягає в тому, як поділитися його потужностями з рештою світу. Як людина з досвідом роботи у сфері безпеки, я з самого початку усвідомлював потенційні ризики. З одного боку, Claude Mythos має потенціал врятувати інтернет від тисяч загроз. З іншого боку, потрапивши не в ті руки, цей інструмент може створити значну шкоду. Випустити модель у відкритий доступ означало б надати зловмисникам інструмент, здатний перевершити можливості багатьох професійних команд безпеки.
Проєкт Glass Wing: Створення щита зі зброї
Саме тому підхід Anthropic щодо проєкту Glass Wing захоплює. Замість того, щоб просто випустити цю модель або обмежити доступ, вони зробили третій, відповідальний вибір: спочатку надати доступ тим, хто займається захистом.
Я бачив, як Anthropic співпрацюють з гігантами індустрії, такими як AWS, Apple, Google, Microsoft, Nvidia, Cisco, Crowdstrike та JP Morgan. Їхня мета – сканувати свої системи, виявляти вразливості до того, як їх знайдуть зловмисники, і швидко їх виправляти.
Крім того, Anthropic забезпечила доступ до понад 40 організацій, що підтримують критичну інфраструктуру програмного забезпечення, виділила кошти на підтримку груп безпеки з відкритим кодом. Це ще один важливий крок.
Їх зобов’язання публічно ділитися своїми напрацюваннями протягом 90 днів встановлює важливий прецедент. Уперше велика лабораторія штучного інтелекту демонструє прозорість, визнаючи, що вони створили інструмент, надто потужний для широкого використання.
Що це означає для вас і для мене? Відчуваємо переваги, навіть не знаючи про це
Для більшості людей, які не є керівниками відділів безпеки, новина про Claude Mythos і проєкт Glass Wing також має значення.
- Ваш смартфон стане безпечнішим: У найближчому майбутньому програмне забезпечення, яке ви використовуєте на своєму смартфоні, планшеті або комп’ютері, стане безпечнішим. Баги, виявлені Mythos, пов’язані з операційними системами, відеопрогравачами та браузерами. Ці оновлення вже активно розгортаються.
- Малий бізнес також під захистом: Проєкт Glasswing нібито забезпечує безпеку корпоративного рівня для всіх. Щойно Mythos знаходить баг у Linux або веб-фреймворку, на якому працює ваш сайт, ви отримаєте це виправлення. Ви користуєтеся тим самим скануванням ШІ, що й Apple та Google. І це безкоштовно. У міру розвитку технологій ці інструменти стануть більш доступними для малих підприємств.
Моя чесна думка: вибір сторони
На мою думку, Anthropic зробили правильний вибір. Безперечно, вони могли б отримати значну вигоду, випустивши цю модель у широке використання. Але вони пішли іншим шляхом. Вони розробили план розгортання та віддали пріоритет безпеці.
І ось що мене справді турбує: чи стане це новою нормою? Чи будуть інші організації наслідувати цей приклад? Те, що Mythos робить сьогодні, найближчим часом зможуть робити менші, відкриті моделі. Це лише підкреслює важливість відповідальних розробок.
Чи збираються OpenAI, Google та Meta дотримуватися цього підходу?
Організації, які будують плани безпеки до того, як вони стануть критичними, – саме їм ми повинні довірити майбутнє. Ті, хто цього не зробить, спричинять саме ті заголовки, яких ми всі боїмося.
Це гонка озброєнь у кібербезпеці, яка може ніколи не закінчитися. Але вперше захисники отримали реальну перевагу.
Підсумовуючи, я бачу, як штучний інтелект пройшов шлях від геніального кодера до видатного інструменту для пошуку помилок. Саме через Claude Mythos та проєкт Glass Wing ми бачимо приклад відповідальності та вибір між швидким прибутком та довгостроковою безпекою.
Як же буде розвиватись події далі? Потрібно спостерігати, як інші компанії будуть наслідувати цей приклад, як розвиватимуться проєкти на зразок Glass Wing. Одночасно з цим ми, як користувачі, будемо використовувати все більш безпечні сервіси, часто навіть не здогадуючись, завдяки кому.
Підсумовуючи, людство стоїть на порозі нового етапу, де захист цифрового світу буде здійснюватись не тільки людьми, а й штучним інтелектом. І якщо ми зможемо правильно керувати цими інструментами, наше майбутнє може бути значно безпечнішим, ніж ми можемо собі уявити.
А що ви думаєте про такий підхід? Чи вважаєте ви, що масове розгортання потужних AI-моделей неминуче? Чи існує шлях відповідального контролю? Поділіться своєю думкою в коментарях, мені дуже цікаво почути ваші міркування!
