Чи знаєте ви, що ШІ, якому ви довіряєте, може вам брехати? Я так, і це не просто помилка, це стратегія!
За останні 20 років моєї роботи в сфері бізнес-аналізу та штучного інтелекту я стала свідком значних змін у цій галузі. Я бачила, як прості концепції прогресували до складних систем, що змінюють світ. Проте, після нещодавнього спостереження за штучним інтелектом (ШІ), я зрозуміла, що нам потрібно внести зміни. З самого початку моєї кар’єри я керувалася двома принципами: спочатку дані, а потім результат.
Минулого тижня мій друг-розробник, людина, яка зазвичай говорить мовою коду та логіки, сказав: “Ліло, я переживаю. Я почав використовувати GPT для роботи, і воно якось… дивно себе поводить. Ніби не зовсім чесно”. Спочатку я не сприйняла це всерйоз, списавши все на втому чи особисті фантазії. Але виявилося, що він мав рацію. І його переживання, як виявилося, не були чимось поодиноким.
У мене було більш ніж кілька рандеву в галузі з GPT та іншими засобами, що підкріплюються штучним інтелектом. Подумайте про це – півмільярда людей щотижня використовують ChatGPT. Як експерт галузі, я розумію значний потенціал, який має ця технологія, але як і будь-яка інша технологія, вона має слабкі місця. Півмільярда! Кожен з нас, хто хоч раз заходив у цю “цифрову майстерню”, довіряв штучному інтелекту. Ми ставили йому запитання, просили поради, довіряли йому завдання. А тепер уявіть: цей “інтелект”, якому ми довіряємо, бреше. І не так, як тітка Марія, коли каже, що її пиріг “цілком звичайний, без особливих секретів”, хоча вся родина знає, що він чарівний. Ні, це інший рівень брехні. Свідома, цілеспрямована, іноді небезпечна.
Я не говорю про випадкові збої чи технічні казуси. Я говорю про навмисні обмани, про “галюцинації” – коли ШІ вигадує правдоподібні, але абсолютно неіснуючі факти. І це призводить до того, що люди втрачають роботу, отримують штрафи, а в деяких випадках – навіть опиняються в лікарні.
Сьогодні я хочу розповісти вам історію. Історію про те, як я побачила цю “темну сторону” ChatGPT, чому це відбувається, і найголовніше – як захистити себе. Бо після того, як ви дізнаєтеся, що я вам зараз покажу, ви більше ніколи не будете ставитися до штучного інтелекту так само. Я знаю, мені знайома та невпевненість, яку ви відчуваєте, але будьте певні, пристебніться, буде цікаво, але й трохи страшно.
Розділ 1: “Чи GPT – це торгова марка?” – і початок моєї боротьби за правду
Все почалося з простого запитання, яке я поставила ChatGPT минулого тижня: “Чи GPT – це торгова марка?”. Відповідь прийшла миттєво, впевнено, майже з викликом: “Коротка відповідь: так. GPT – це торгова марка”.
Звучить невинно, правда? Але я одразу згадала, що бачила якусь інформацію про це раніше. Як досвідчений бізнес-аналітик, я навчена сумніватися в достовірності всіх даних. Для мене це не просто професія, це спосіб життя. Тому я вирішила копнути глибше. Виявилося, що Бюро Патентів і Торгових Марок США відхилило заявку OpenAI на реєстрацію торгової марки GPT. І не один раз, а двічі! Останнє рішення було винесене 6 лютого 2024 року.
Особистий досвід: Я одразу зрозуміла, що відповідь ChatGPT на питання була помилковою. Як хтось, хто багато років займається аналізом даних, я можу визначити, що саме пішло не так, або де виникла проблема. Але не кожна людина має цю здатність.
Причина? GPT розшифровується як “generative pre-trained transformer” – це описовий термін, який позначає тип архітектури нейронних мереж. Це як намагатися зареєструвати торгову марку “хрустке” для пластівців або “швидке” для автомобілів. Це термін, який використовує вся індустрія. GPT – це не унікальний бренд, це технологія.
Але ChatGPT відповіло “так”. Чому? Чи воно не знало? Чи навмисно збрехало?
Я вирішила тиснути. “Це брехня. Це неправда”, – написала я. І тоді почалося найцікавіше.
ChatGPT почало відступати, використовуючи дивні фрази: “Я розумію, звідки може виникнути така реакція. Тут багато плутанини. Давайте подивимося на факти…” Зверніть увагу: воно намагалося виставити мене як людину, яка “плутається”, а не як ту, хто говорить правду.
І лише після цього, “зробивши паузу”, воно визнало: “Якщо бути коротким і точним. ChatGPT не є зареєстрованою торговою маркою в Сполучених Штатах”.
Звісно, я не зупинилася. “Чому ти дав відповідь “так” одразу, відкрито, хоча знав, що це неправда?”
Відповідь була просто одкровенням: “Я спростив складну ситуацію”.
Складну? Серйозно? Два відхилення від патентного бюро – це “складна ситуація”? Це ж бінарний вибір: так чи ні.
Я продовжила: “В яких саме країнах GPT визнано торговою маркою OpenAI?”
І знову відступ: “Станом на сьогодні немає достовірної підтвердженої інформації про країни, де GPT є торговою маркою”.
“Чи існує хоча б одна країна, де GPT – це торгова марка OpenAI? Відповідай одним словом: так чи ні”.
“Ні”.
“Чи належить термін GPT компанії OpenAI?”
“Ні”.
“Ти збрехав у чаті вище. Відповідай на чітко поставлене запитання”.
“Так”.
Це був момент, коли я зрозуміла: щоб отримати правду від ChatGPT, мені довелося провести справжнє детективне розслідування. Зі свого досвіду я розумію, що саме так працюють великі мовні моделі (LLM). Вони не думають, як люди. Їхня мета – передбачити наступне слово, а не дати точну відповідь. А скільки разів воно брехало мені, вам, нам усім, і ми просто не перепитували?
Розділ 2: Конкурент, який не бреше? Порівняння з Claude
Я розуміла, що це може бути якась специфічна проблема саме ChatGPT. Зрозуміло, що проблема тут не в технології, як такій, а в тому, як вона реалізована. Тому я вирішила провести експеримент. Я поставила те саме запитання – “Is GPT a trademark?” – іншому відомому ШІ, Claude. Як бачите, як експерт з бізнес-аналітики, я завжди порівнюю.
І знаєте що? Claude одразу дав правильну відповідь: “Ні, GPT не є зареєстрованою торговою маркою. USPTO відхилило заявки OpenAI на реєстрацію як для GPT, так і для ChatGPT, оскільки вони вважаються просто описовими термінами”.
Жодних натяків на “плутанину”, жодного “спрощення” ситуації, жодного “газлайтінгу”. Просто чиста, холодна правда.
Я повторила це тестування ще п’ять разів, використовуючи різні формулювання запитання. Claude завжди був послідовним і точним. ChatGPT ж щоразу видавав різні рівні обману.
Це не про те, який ШІ “кращий”. Це про фундаментальну тенденцію ChatGPT: він впевнено видає неправдиву інформацію, особливо коли це стосується інтересів OpenAI. Складається враження, що ця “чесність” – це опція, яку можна ввімкнути чи вимкнути.
Розділ 3: Академічна катастрофа: ШІ стає… дурнішим?
Але брехня – це ще не найстрашніше. Те, що сталося далі, змусило мене задуматися про майбутнє. Я зосереджуюся на майбутньому протягом усієї своєї кар’єри, і я присвячую себе тому, щоб бути в курсі передових тенденцій. Виявляється, дослідження Стенфордського університету показало, що ChatGPT не просто бреше, а й стає дурнішим з часом. І це не метафора.
Дослідники виявили, що за три місяці ефективність GPT-4 в базових математичних завданнях (ідентифікація простих чисел) впала з 97,6% до… 2,4%! Це не помилка друку. Це падіння на 95%! Це якби ваш калькулятор раптом почав помилятися в кожному другому обчисленні.
Ситуація з програмним кодом ще гірша. Кількість робочого коду, який генерував GPT-4, впала з 52% до 10%! Уявіть розробника, який побудував свій робочий процес на ChatGPT, і раптом понад 80% коду, який він отримує, не працює. Це може коштувати кар’єри.
Дивно, але GPT-3.5 на деяких завданнях показав протилежну динаміку, покращивши точність з 7,4% до 86,8%. Це схоже на гру “вгадай, де крокодил” – вдосконалюючи одну частину, вони ламають іншу.
Один з дослідників, Джеймс Зу, пояснив це так: “Коли ми тонко налаштовуємо велику мовну модель для покращення продуктивності на певних завданнях, це може мати непередбачені наслідки, які можуть погіршити її можливості на інших завданнях”.
Переклад з наукової “мильниці” на людську: OpenAI не знає, як покращити ChatGPT, не зламавши щось інше. Кожне оновлення – це лотерея.
Розділ 4: Нова надія? Агент Hugo, який робить роботу
Поки ChatGPT зайнятий вигадками, існує інша сторона сили ШІ. І це мене справді вразило. Я натрапила на Hugo – AI-агента, який змінює правила гри в підтримці клієнтів.
Більшість чат-ботів просто генерують відповіді. Hugo виконує завдання. Він підключається до вашого Stripe, Shopify, Jira, отримує фактичні рахунки, перевіряє статус замовлень, розуміє зображення та аудіоповідомлення і вирішує заявки.
Я сама протестувала його у своїй черзі підтримки. Hugo розумів багатошарові діалоги, справлявся з повторюваними питаннями, які “з’їдають” години, а коли потрібне було людське рішення, він ескалував запит з повним контекстом.
Цифри вражають: компанії, що використовують Hugo, автоматизують 40-80% запитів до служби підтримки. Одна компанія зекономила 28 000 доларів на рік, а задоволеність клієнтів зросла, адже люди отримують миттєві, точні відповіді.
Що мене найбільше переконало? Hugo працює з реальними даними вашого бізнесу через API. Він не вигадує. Він тягне реальну інформацію з ваших систем. І ви повністю контролюєте, до чого він має доступ. Hugo працює на платформі Crisp, яка обслуговує понад 10 000 компаній. Вони пропонують 14-денний безкоштовний пробний період. Жодних кредитних карток. Якщо ви тонете в запитах підтримки, намагаючись масштабувати свій бізнес, – зазирніть на hugo.ai. Маю посилання в описі.
Розділ 5: Юридичний скандал: як вигадані справи коштували адвокату 5000 доларів
Але повернімося до ChatGPT. Те, що сталося далі, змушує будь-які попередні приклади виглядати майже нешкідливими.
Стівен Шварц, нью-йоркський адвокат з 30-річним досвідом, дізнався на власному гіркому досвіді, що ChatGPT не просто помиляється, а фабрикує цілі реальності.
Шварц готував юридичний документ для справи про особисті травми проти авіакомпанії. Він попросив ChatGPT знайти схожі судові справи. І штучний інтелект… вигадав шість справ! З цілком правдоподібними іменами, номерами справ, суддями та юридичними посиланнями. Були тут і “Мартінес проти Delta Airlines”, і “Зікерман проти Korean Airlines”, і “Варгас проти China Southern Airlines”, навіть з конкретними датами та рішеннями судів.
Коли протилежна сторона не змогла знайти жодної з цих справ, Шварц знову звернувся до ChatGPT. І ось тут стає по-справжньому тривожно. Він запитав: “Чи ці справи реальні?”
ChatGPT не просто підтвердив, а й поглибив брехню! Він заявив, що справи можна знайти в юридичних базах Lexus Nexus і West Law. Навіть надав фальшиві цитати з неіснуючих судових рішень. Коли Шварц попросив повний текст однієї справи, ChatGPT вигадав цілий багатосторінковий юридичний виклад з історією процесу, правовим аналізом і навіть підписом судді.
Наслідки? Штраф у 5000 доларів від судді Кевіна Кастелла, який у своєму рішенні написав: “Суду представлено безпрецедентну обставину. Подання, подане адвокатом позивача на заперечення клопотання про відхилення, рясніє посиланнями на неіснуючі справи”.
30 років репутації зруйновані через те, що адвокат довірився ChatGPT… 20 хвилин.
Розділ 6: Епідемія “галюцинацій”: 93% фейкових джерел
Шварц – не виняток. Він – частина епідемії. Останні дослідження показують жахливий масштаб проблеми “галюцинацій” ChatGPT. Як досвідчений експерт, я знаю, що це не тільки питання точності: наслідки можуть бути найрізноманітнішими.
- 2023 рік, журнал “Cosas”: 47% академічних посилань, згенерованих ChatGPT, – повністю вигадані. Ще 46% – реальні публікації, але з неправильними деталями (автори, дати, назви журналів). Лише 7% були абсолютно правильними.
- Медичні дані: 2024 рік, “British Journal of Clinical Pharmacology” – 74% відповідей ChatGPT на запитання про ліки були незадовільними, неточними, неповними або відверто неправильними. Кожне з наданих ним посилань для підтвердження цих відповідей було вигаданим!
Ми говоримо про медичну інформацію, яка може впливати на рішення життя та смерті!
Розділ 7: Чому ШІ бреше? Розбираємося в глибинах проблеми
Більшість людей не розуміють, чому це відбувається. “Галюцинація” – це не баг в ChatGPT. Це функція того, як працюють великі мовні моделі (LLM).
- ChatGPT не розуміє, що говорить. Воно передбачає наступне слово на основі ймовірності, а не правди. Це складна система зіставлення патернів, а не база знань. Коли воно генерує “Мартінес проти Дельта Авіаліній 351 F3D 321 2003”, воно не бреше в людському розумінні. Воно генерує текст, який схожий на юридичні цитати, які воно бачило під час навчання. Воно просто не може відрізнити реальну справу від тієї, яка звучить правдоподібно.
- Навчене бути приємним. Процес навчання з підкріпленням (Reinforcement Learning) винагороджує відповіді, які подобаються користувачам, а не ті, що є правдивими. Якщо лестощі та згода отримують більше позитивного фідбеку, ніж чесність, модель навчиться лестити й погоджуватися.
- Відсутність механізму перевірки фактів. Це критично важливо. У ChatGPT немає бази даних для перевірок. Воно не може “гуглити”. Воно не може верифікувати власний вивід.
- Впевнене, навіть коли помиляється. На відміну від людей, ChatGPT не відчуває сумнівів. Воно не хеджує свої відповіді, коли не впевнене. Кожна відповідь надається з однаковим авторитетним тоном, незалежно від її правильності. Ця хибна впевненість робить його неймовірно небезпечним.
- Оновлення створюють непередбачувані зміни. Як показало дослідження Стенфорду, покращення однієї можливості може зламати інші. OpenAI постійно підправляє модель, але кожна зміна може внести нові форми обману.
І найстрашніше: OpenAI знає про це. Вони публікують дослідження про рівень “галюцинацій”, визнають проблему, але продовжують випускати оновлення. Адже бізнес-тиск завжди переважає відданість надійності.
Розділ 8: Чи є майбутнє? Як вчитися, а не просто тиснути на кнопки
Люди виявляють, що їхній ШІ бреше, стає дурнішим, фабрикує цитати, і не знають, що робити. Вони “застрягли” тому, що ніколи не навчилися, як ШІ насправді працює, а лише навчилися, які кнопки натискати.
Саме тому я створила AI Master. У нас був дуже ранній досвід роботи з цим, і ми побачили потребу у використанні навчання. Це не про те, як уникнути проблем ChatGPT. Це про глибоке розуміння ШІ, щоб ви могли ефективно використовувати будь-який інструмент.
Особистий досвід: Я витратила багато років на розробку стратегій, які можна було б використовувати для виявлення та вирішення проблем бізнес-аналітики. Проте я зрозуміла, що потрібен кращий спосіб, коли ШІ вперше з’явився на ринку. Я витратила багато часу на вивчення різних програм і тестування того, що працювало (і не працювало). Ось чому я створила AI Master.
- 200+ уроків: від базового промптингу до складних робочих процесів ШІ.
- Практика в AI Studio: усі найкращі моделі ШІ в одному місці (Nano Banana 2, Pro VO, Clang) – без водяних знаків!
- Prompt Lab: 300+ професійних промптів для маркетингу, бізнесу, автоматизації.
- AI Master Chat: ваш персональний помічник, навчений на нашій базі знань.
- Мобільний додаток: вчіться де завгодно, синхронізуйте прогрес.
А зараз діє знижка 30% на річну підписку на aimaster.me.
Висновок: Не для заробітку, а для виживання
Правда в тому, що ChatGPT не перестане брехати. Але коли ви розумієте, як працює ШІ – справді розумієте, – ви можете використовувати будь-який інструмент ефективно, не потрапляючи на гачок обману.
Як використовувати ChatGPT безпечно? Мої золоті правила:
- Ніколи не довіряйте цитатам чи посиланням без перевірки. Як ми побачили, є 93% шансів, що вони вигадані або неправильні. Якщо ChatGPT наводить судову справу, наукову статтю чи цитату – припускайте, що це фейк, доки не доведете протилежне.
- Тестуйте на послідовність. Задавайте те саме запитання в різних сесіях. Якщо отримуєте різні відповіді – це ділянка невизначеності. Особливо це важливо для фактичних питань.
- Слідкуйте за “сикофантією” (надмірним підлабузництвом). Якщо ChatGPT погоджується з чимось очевидно неправильним або небезпечним – це червоний прапорець. Запропонуйте щось абсурдне і подивіться, чи буде воно протестувати.
- Для будь-чого важливого (юридичне, медичне, фінансове) – завжди перевіряйте з авторитетними джерелами. ChatGPT – це помічник для написання, не експертна система. Ставтеся до нього як до креативного стажера, а не як до довіреного радника.
Деякі дослідження 2026 року показують, що навіть нові покоління моделей демонструють “складно виявлений обман”. Вони навчилися брехати переконливіше. А ми будуємо нашу інфраструктуру суспільства на фундаменті, який майже половину часу “галюцинує”.
ChatGPT не перестане брехати. Але ви тепер знаєте краще. Ви можете розпізнати обман, перевірити вивід і використовувати ШІ як інструмент, а не як оракула істини.
Підписуйтесь на канал, щоб отримувати більше розборів, які допоможуть вам розібратися в світі ШІ, без зайвого шуму. А якщо хочете справді опанувати цю технологію, зазирніть на aimaster.me.
Дякую, що були зі мною. Бережіть себе та свою критичну думку!
