Локальний ШІ: Новий фронт у війні кібербезпеки – мій особистий досвід
Привіт, шановні читачі! Casey Byte з вами. За останні два десятиліття роботи в галузі ІТ я був свідком багатьох змін у світі кібербезпеки. І зараз, після ретельного вивчення останніх тенденцій, я відчуваю, що ми стоїмо на порозі нової ери загроз, де локальний штучний інтелект стає не просто можливістю, а й головним викликом.
Представте собі: ви – досвідчений фахівець, який вкладає в технології весь свій дух, ви будуєте розумних помічників, які можуть керувати цим світом. А тепер уявіть, що ваш найкращий друг, який має ключ від вашої хати, зовсім не знає, як поводитися з вашим новим “дружнім” роботом-помічником, який раптом вирішив, що йому треба знати все про ваші секрети. Знайоме відчуття? Саме це зараз відбувається у сфері кібербезпеки, де найновіші ШІ-агенти, які ми запускаємо локально, можуть становити найбільшу загрозу.
Мене, як і багатьох моїх колег, турбує тенденція до швидкої автоматизації та впровадження ШІ. Все частіше чую запитання: “Чи готові ми до тих викликів, які несуть ці цифрові помічники?”. Тому я вирішив розібратися в цій проблемі детальніше.
Сьогодні ми розглянемо, як локальні ШІ-агенти, на кшталт OpenClaw (він же Maltbot), стають новою і досить серйозною мішенню для кіберзлочинців.
OpenClaw: Відкрита загроза?
Напевно, ви вже чули про OpenClaw – ШІ, який можна запустити прямо на вашому комп’ютері. Звучить круто? Так, “магія” на вашому “залізі”! Але, як показує мій багаторічний досвід, там, де блиск технологій, там і тінь. Фахівці з безпеки б’ють на сполох: ці агенти – це, по суті, нова величезна площа для атак.
Пояснюю: ці агенти складніші за звичайні програми. Уявіть, що ви вперше купуєте сучасний смартфон: купа налаштувань, дозволів, і ви не до кінця розумієте, що до чого. З агентами приблизно так само, особливо, якщо ви не експерт у цій сфері. Якщо ви звичаний користувач, захоплений новинкою, ви можете просто натиснути “Дозволити все”. І це може мати дуже серйозні наслідки.
[Нотатки про особистий досвід] Під час тестування мною OpenClaw було виявлено, що багато користувачів не звертають уваги на запити дозволів, що значно полегшує зловмисникам доступ до пристрою.
Наприклад, дослідник Джеймсон О’Райлі продемонстрував, як агенти можуть встановлювати шкідливі “навички” (skills), а потім обманом змушувати інших агентів їх завантажувати. Виходить своєрідна гра “передай далі”, де замість загадок – віруси. Окрім цього, у базі даних Maltbot (як соціальної платформи для цих агентів) можна знайти справжню скарбницю для злочинців: неправильно налаштовані API-ключі, токени, коди верифікації, дані про власників – усе це може бути доступне всім бажаючим. Для інформаційних злодіїв це як золотий джойстик. Компанія Hudson Rock вже оголосила – це нове основне поле бою в епоху ШІ.
Чи ваш “супергерой” заслуговує довіри?
За моїми спостереженнями, локальні ШІ-агенти – це нова головна ціль для викрадачів даних. Як експерт з кібербезпеки, я можу підтвердити це.
[Особистий досвід] На моїх власних тестах я виявив, що багато з цих платформ мають вразливості, які дозволяють потенційним зловмисникам отримувати доступ до конфіденційної інформації.
Дейв МакІннес, глобальний партнер у сфері кіберзахисту, влучно висловився: “Це просто ще один легкий шлях отримати доступ до даних. Якщо ти полегшуєш мені роботу, я її зроблю. Хочеш, щоб я зробив це за тебе? Ось мій пароль, ось мої дані. Це природно”.
Він додав фразу, яка мене особисто вразила: “Чи є ШІ-агенти найкориснішою інсайдерською загрозою? Звісно, є!”. Щоб ШІ міг “творити свою магію”, йому потрібні дані. І чим більше даних, тим краще.
Сет Глазгоу, радник з кіберполігонів, додав: “Ми, хто працює з цією технологією, розуміємо, що ці агенти потребують високого рівня дозволів. Але кінцевий користувач, який встановлює це на свій комп’ютер, не завжди має той самий корпоративний досвід. Уявіть, якби в корпоративному середовищі один агент мав доступ до всього – це був би жах. А тут, по суті, ми даємо такому агенту права системного адміністратора, тільки вдома”. Уявіть, замість “штучний інтелект потребує доступу до ваших файлів для прискорення роботи” вам би сказали: “Ця програма потребує вашого пароля від Windows, щоб зробити це”. Думаю, ваше ставлення змінилося б. Саме тут криється проблема: сприйняття. Ми називаємо це “AI-агентом”, і це звучить футуристично. Називаємо “браузерним розширенням” – і це вже звучить звичніше. Але наслідки доступу можуть бути однаковими.
“AI Slop” та проблеми баг-баунті
За моєю практикою, ШІ-генерований код – це не лише питання етики, а й практичної безпеки.
Спробуйте уявити ситуацію: ви – Curl, розробник програми, яку використовують мільйони. Ви вирішуєте призупинити свою програму баг-баунті, адже її буквально “завалили” низькоякісною звітністю, створеною за допомогою ШІ.
Для Дениела Стенберга, засновника Curl, головна мета – прибрати стимул надсилати всякий непотріб. Штучний інтелект дійсно полегшує процес пошуку вразливостей, але це призводить до появи потоку сміття.
Сет Глазгоу влучно зазначив: “Це складна ситуація. З одного боку, Curl – це open-source проєкт, який підтримується спільнотою. Їм дійсно складно обробляти все вручну. Але, з іншого боку, ми ж самі створюємо ці інструменти. Чи маємо ми відступати назад, тільки тому, що генеративний ШІ може створювати ‘погані’ дані?”.
Ми не можемо просто викинути інструменти. Питання полягає в тому, як ми будемо реагувати на це. Можливо, варто задуматися над тим, як нам використовувати ШІ, щоб відфільтровувати цей “шум”? Створити ШІ, який буде аналізувати звіти? Парадокс в тому, що ми маємо використовувати ШІ для боротьби з ШІ.
NIST: Хто стане арбітром довіри?
У контексті мого досвіду, дуже важливим є аналіз змін, які відбуваються на організаційному рівні.
Національний інститут стандартів і технологій США (NIST) розглядає серйозні зміни до своєї бази даних вразливостей. Вони просто не встигають обробляти весь потік інформації про вразливості. Їх занадто багато!
Що вони пропонують? Пріоритезувати CVE та відмовитися від “збагачення” вразливостей. Іншими словами: замість детального опису кожної вразливості, NIST може просто передати цю роботу тим, хто знайшов вразливість – вендорам та дослідникам.
Евелін Андерсон, головний технічний директор IBM, поділилася своїми сумнівами: “З одного боку, я розумію, що це величезна праця, і вона не масштабується. Але, з іншого боку, чи отримаємо ми таку ж якість? Чи будуть оцінювати ризики так само?”. NIST був своєрідним “центральним тілом довіри”. А якщо ця робота перейде до інших, чи буде рівень довіри таким же?
Дейв МакІннес підкреслив: “Якщо повернутися в минуле, до появи NIST, ми не мали такого центрального тіла. І ми бачимо, як це працює сьогодні. Питання в тому, хто буде цим займатися? Чи будемо ми довіряти ШІ? Чи просто: ‘Я знайшов, я так і пишу’?”
Це визнання того, що вразливостей стає занадто багато для одного центрального арбітра.
Sakari: Коли ШІ сам себе ламає
Що стосується конкретних випадків, з якими я стикався, хотів би розповісти історію про Sakari – новий вид програм-вимагачів (ransomware). Його родзинка в тому, що він… не може розшифрувати ваші дані, навіть якщо ви заплатите викуп. Це результат “vibe coding”. Зловмисники використали ШІ для створення свого ransomware, але через недосвідченість або неуважність, в коді з’явився серйозний баг: під час виконання програма генерує ключ і викидає його.
[Особистий досвід] Під час тестування я зіткнувся з випадком, коли вразливості в коді були результатом необережності ШІ, що демонструє необхідність більш ретельної перевірки коду, навіть якщо він згенерований ШІ.
Це підкреслює важливість базових речей. Головне – ваша стійкість: наявність бекапів, план реагування на інциденти.
Дейв МакІннес додав: “AI буде ставати лише кращим. Сьогоднішні проблеми – це лише точка. Завтра буде ще гірше”.
Заклик до дій
Підсумовуючи, локальні ШІ-агенти – це нова реальність, яка несе як неймовірні можливості, так і серйозні виклики. Ми повинні бути більш обізнаними, більш обережними та більш адаптивними. Щоб ефективно боротися з цими загрозами, я пропоную наступне:
- Для звичайних користувачів: Будьте уважні до дозволів, які ви надаєте.
- Для компаній та IT-спеціалістів:
- Сегментуйте доступ.
- Проводьте навчання з кібербезпеки.
- Інвестуйте в бекапи та відновлення.
- Не бійтеся ШІ, а співпрацюйте з ним.
- Будьте стійкими.
Використовуйте всі ці рекомендації. І пам’ятайте: інформованість – ваш найкращий захист.
