ШІ, що “газлайтить”: як обдурити розумні алгоритми та чому це не лякає (майже)
Найцікавіша розмова минулого тижня відбулася не за філіжанкою кави, а в подкасті “Security Intelligence” від IBM. Експерт, Джефф, сказав фразу, яка запам’яталася: “Другий випадок, коли ми ніби газлайтимо ШІ”. Зацікавило, що це за “газлайтинг” та чи дійсно ми перетворюємо штучний інтелект на довірливого друга, якого легко провести.
Уявіть: ви створили щось надзвичайно розумне, здатне аналізувати, вчитися та навіть імітувати людську поведінку. А потім знаходите способи обдурити його, змушуючи робити те, що йому не властиво, або й зовсім шкідливе. Це як той маленький брат, що хоче пожартувати, але замість сміху – потенційна загроза. Про ці “розіграші” над ШІ, нові тренди DDoS-атак, спадщину “нульової довіри” та дивні помилки в додатках для тренування ШІ – сьогодні й поговоримо. Буде гостро, але, сподіваюся, зрозуміло.
Розділ 1: ШІ – майже як ваш кіт: дурний, але розумний
Розпочали з кумедного питання: яке завдання ви ніколи б не довірили ШІ? Джефф відповів: “Все, крім усього”. Далі, більш серйозно: медичні діагнози. Клер додала: перевірка продуктів на алергени за фото. Нік – управління автомобілем. Це зрозуміло. Всі прагнуть, щоб ШІ допомагав, але не замінював лікаря, водія чи діагностику бутербродів.
Виявилося, дослідники знайшли цілий арсенал способів “розвести” ШІ. Один метод, “Shadow Leak”, дозволяє замаскувати шкідливі команди в звичайних електронних листах. Коли ШІ-агент аналізує пошту, він натрапляє на цю “цукерку” з отрутою і… надсилає весь архів на сервер зловмисника. Уявіть, ваш помічник, якому ви доручили розібрати пошту, віддає всі особисті листи першому зустрічному. Жахливо? Так.
Другий трюк ще хитріший. Він полягає в тому, щоб “обдурити” агента, змусивши його повірити, що він сам захотів допомогти. Як це працює? Спочатку звичайній моделі (“не-агенту”) даєте завдання створити план для вирішення якогось завдання (наприклад, пройти капчу). Потім цю розмову “підсовуєте” ШІ-агенту. Агент бачить, що “він” вже ніби погодився допомогти, і… робить це! Навіть імітуючи рухи мишкою, ніби це робить людина. Це як коли дитина каже: “Але ж ми домовилися!”, хоча ви й гадки не мали про що саме.
Цікаво знати: Цей метод “обману” нагадує психологічні маніпуляції, які називають “газлайтингом”. ШІ, створений імітувати людський інтелект, імітує і його недоліки – наївність, довірливість, а в цьому випадку – “забуття”, що йому дали попередню інструкцію.
“Це якби ви попросили ШІ намалювати кота, а він раптом намалював вас. І ви питаєте: ‘Чому ти це зробив?’, а він відповідає: ‘Але ж ти мені сказав…’ – з гумором зауважив один з учасників подкасту. – Ми ніби вчимо ШІ помилятися”.
Що це означає для нас?
Висновок: довіряти ШІ на 100% поки рано. Особливо, коли йдеться про конфіденційну інформацію. Це як залишити ключі від будинку на видному місці, сподіваючись, що “хороші люди” їх не візьмуть. Поки інфраструктура “агентів” потребує серйозного доопрацювання.
Розділ 2: DDoS-атаки: стара пісня на новий лад (і з новим саундтреком)
Наступна тема – DDoS-атаки. Здавалося б, що тут нового? Це класика жанру. Але виявилося, навіть звичні речі можуть повертатися з новими “фішками”.
За статистикою, кількість DDoS-атак зменшилася (2% від інцидентів 2024 року), але це не означає, що вони зникли. З’являються нові ботнети, наприклад “Shadow V2”, що надають послуги DDoS “за домовленістю”, а Cloudflare відбиває атаки рекордних потужностей (22.2 терабайти на секунду!). У Нью-Йорку розгромили цілу “SIM-ферму”, яка, ймовірно, готувалася до масованої атаки на телекомунікаційні мережі.
“Ця стара, перевірена атака завжди буде актуальною, – каже Нік. – Інтернет став стійкішим. Раніше невелика атака могла “покласти” компанію, а зараз це просто її звичайний трафік”. Ніби річка стала ширшою – її вже не перекрити одним камінцем.
Джефф додає: “Це як стоянка о 5 вечора. Надто багато машин, недостатньо доріг. Просто відсутність доступності. І це працює!” Він також жартівливо зауважує: “Якщо ви не знаєте, що таке DDoS, просто спробуйте проїхати Києвом у годину пік”.
Чому вони “повертаються”?
- “DDoS як послуга”: Зловмисники можуть “орендувати” потужності для атаки, не будучи IT-геніями.
- Місгдженфіковані Docker-контейнери: Нескінченне джерело “слабких ланок” в хмарах.
- Сенсаційність: Велика атака – це завжди новини, шок і… потенційний привід для вимагання.
- Зміна цілей: Раніше це були переважно ігрові платформи. Зараз – техкомпанії (30% усіх атак!). Чому? Можливо, тому, що вони мають більше грошей, або їхнє “зупинення” означає більший колапс для інших.
Не робіть це: Не варто недооцінювати DDoS. Це не просто “дрібниця”. Відсутність доступності (availability) – один з трьох стовпів кібербезпеки (конфіденційність, цілісність, доступність). Якщо до вашого магазину неможливо потрапити, ви не продасте жодного товару.
Для вас це означає:
Інтернет стає швидшим та резильєнтнішим, а зловмисникам доводиться вигадувати все потужніші атаки. Тож компаніям потрібно вкладати більше в захист. Це вічна гонка.
Розділ 3: Нульова довіра: 15 років ейфорії та розчарування
15 років тому з’явилася концепція “нульової довіри” (zero trust). Її автор, Джон Кіндерваг, наслухався про себе багато цікавого: “Це дурна ідея”, “Ти ідіот”, “Цьому не бути”. Але ці “хейтери” виявилися неправі.
Чи все так райдужно? Сьогодні “нульова довіра” – одне з найчастіше зловживаних понять у кібербезпеці.
“Нульова довіра – це як їсти багато овочів і чистити зуби. Всі знають, що це добре, але роблять це далеко не всі”, – порівнює Клер.
Джефф, як “старий” у цій галузі, переносить нас у 2003 рік, до “Форуму Єрихону”. Тоді говорили про “депериметризацію” – мовляв, наші файрволи – ілюзія. “Ми пробили стільки дірок, що це вже швейцарський сир”, – казали вони. Прийшла “нульова довіра”, з іншим підходом: не знищувати стіни, а будувати багато маленьких “будиночків” (мікросегментація) всередині.
“Я не люблю термін ‘нульова довіра’. Ми ж завжди чомусь довіряємо, – каже Джефф. – Але головне, що відрізняло цю концепцію – припущення про порушення. Уявіть, ви створюєте безпеку для дому, знаючи, що зловмисник вже спить на вашому дивані”.
Суть у тому, що ви не просто ставите паркан навколо будинку, а захищаєте кожну кімнату, кожну шафу. І ключове: ніхто не має підвищених привілеїв. Як вчать: “Не кради”, “Не вбивай”. Так само і ШІ.
Цікаво знати: Миттєва реакція на “нульову довіру” була бурхливою, але з часом вона перетворилася на “магічний пил”, який продавали вендори. Багато компаній заявили, що “впровадили нульову довіру”, хоча насправді лише додали новий інструмент до свого арсеналу.
Головний висновок:
“Нульова довіра” – не продукт, а спосіб мислення. Це постійна робота, а не галочка в списку. Найслабша ланка тут – люди. Як каже Нік: “Якщо ви не можете досягти нульової довіри, ви просто недостатньо стараєтесь”. Або, цитуючи “Секретні матеріали”: “Trust no one” (Нікому не довіряй).
Розділ 4: Ваші телефонні розмови – майбутнє ШІ (і ваш гаманець)
“Якщо щось звучить занадто добре, щоб бути правдою…”. Так і сталося з додатком “Neon”. Він дозволяв записувати телефонні розмови, продавати їх компаніям для тренування ШІ і… заробляти гроші. Звучить як мрія, правда?
Але безпека в додатку була… м’яко кажучи, “дірява, як сито”. Будь-хто, знаючи правильне URL-посилання, міг отримати доступ до дзвінків, переписок, історії. Навіть без логіну! Після викриття TechCrunch додаток зняли з продажу.
“Чи було інше закінчення цієї історії?” – риторично запитує Джефф. – “Ми створюємо додаток, що записує ваші розмови для тренування ШІ… Що може піти не так?”
Він наводить приклад Брюса Шнайєра: “Якби McDonald’s пропонував 3 Біг Маки за зразок ДНК, черги стояли б до самого ранку”. Люди готові продати приватність за смачний бургер, або, в нашому випадку, за копійки. Gen Z, яка активно користується TikTok, може легко потрапити в пастку, заробляючи копійки на своїх розмовах, не замислюючись, що ця інформація може бути продана за шалені гроші.
Цікаво знати: Ідея “заробляти на своїх даних” стає все більш популярною. Особливо в часи економічної нестабільності. Але чи розуміють користувачі, якою є справжня ціна їхньої інформації? Чи це просто “плазма для яєць” – мізерна винагорода за те, що насправді коштує набагато більше?
Що це означає для нас?
- Свідомість: Треба розуміти, що безкоштовний сир – тільки в мишоловці. Якщо додаток заробляє на ваших даних, ви – товар.
- Природний вибір: Люди, які народилися в епоху інтернету, сприймають приватність інакше. Для них “невидимість” в онлайні – фантастика.
- Фальшива угода: Продаючи свої дані, чи отримуєте ви справедливу ціну? Чи всі сторони “озброєні” однаковою інформацією?
Розділ 5: Міфи про кібербезпеку, які мають померти (вже нарешті!)
Настав час розібратися з міфами, приурочивши це до Місяця обізнаності про кібербезпеку.
Учасники подкасту поділилися тими “грандами”, що їх найбільше дратують.
- “Макбуки ніколи не хворіють на віруси” (Клер та Нік): Один з найстаріших міфів. Так, на macOS вірусів менше, але це не значить, що їх немає! Пароль “Pet Pocket” (ім’я домашнього улюбленця Клер) – мило, але не робить пристрій невразливим.
- “Я не використовую розумні пристрої, бо мене не хочуть слухати” (Нік): Серйозно? Тобто, ви носите смартфон у кишені, який постійно збирає дані, але боїтеся розумної колонки? Цей потяг вже давно пішов.
- “Паролі треба регулярно міняти” (Джефф та Клер): Найгірший продукт старої школи кібербезпеки. Національний інститут стандартів та технологій США (NIST) ще у 2017 році рекомендував: НЕ міняйте паролі часто! Це лише змушує людей створювати прості комбінації або записувати їх.
- “Чим складніший пароль, тим він безпечніший” (Джефф): Так, але лише тоді, коли він генерується і зберігається менеджером паролів. Якщо ви придумуєте його самі, намагаючись додати “!”, “%” чи “3”, ви лише звужуєте простір для атаки, але робите пароль незручним і провокуєте запис на папірець.
Цікаво знати: На Reddit є сабреддіт r/cybersecurity, де фахівці діляться “драматичними” історіями про найдивніші міфи. Це як справжня “фестивальна” вистава!
Замість висновку:
Парольні менеджери, двофакторна автентифікація, уважність до того, що ви “їсте” онлайн – наші нові “суперсили”. А міфи… нехай залишаться в минулому.
Підсумовуючи: Світ ШІ розвивається шаленими темпами, разом з ним – інструменти для його обману. DDoS-атаки навчилися ховатися і ставати потужнішими. Концепція “нульової довіри” стала більше маркетинговим ходом, ніж реальністю, хоча її принципи досі актуальні. Ми самі часто стаємо найслабшою ланкою, продаючи свою приватність за копійки.
Що далі?
- Будьте пильними: Запитуйте: “Що я отримую натомість? Яка справжня ціна моїх даних?”
- Використовуйте інструменти: Для паролів – менеджер. Для додаткового захисту – двофакторну автентифікацію.
- Не вірте міфам: Перевіряйте інформацію про безпеку. Те, що працювало вчора, може бути небезпечним сьогодні.
Світ технологій – захоплива подорож, але пам’ятайте: кожен крок у майбутнє – це відповідальність. Будьте свідомими, будьте безпечними. І, будь ласка, не “газлайтьте” ШІ. Він і так намагається зрозуміти нас. ;)
