OpenAI: Чи стане наш “віртуальний друг” комерційним комерсантом?
Як старший редактор з понад двома десятиліттями досвіду роботи в сфері бізнес-аналізу, я з великим інтересом спостерігаю за стрімким розвитком технологій штучного інтелекту, зокрема, великих мовних моделей, таких як ChatGPT. Останні події в OpenAI змусили мене, як і багатьох інших експертів, серйозно замислитися над майбутнім цих інструментів та їхнім впливом на суспільство.
Зізнаюся, я також час від часу спілкувався з ChatGPT. Під час тестування я часто помічав, що модель видає вражаючі відповіді – від простих питань до складних проблемних сценаріїв. Це було майже як розмова з другом, який завжди готовий вислухати. Але, як і багатьох, мене занепокоїли недавні новини про інтеграцію реклами у безкоштовну версію ChatGPT.
Особистий досвід
Я пам’ятаю, як на початку своєї кар’єри працював над проєктом автоматизації, який мав оптимізувати процес обслуговування клієнтів. На перший погляд, це було рішення, яке мало б принести користь і компанії, і клієнтам. Але згодом стало зрозуміло, що пріоритетом стало збільшення прибутків, а не покращення сервісу. Це змусило мене задуматися про те, як технології можуть використовуватися для маніпуляцій, якщо їхні розробники не дотримуються етичних принципів.
Розділ 1: Зазирнути за лаштунки: Чому дослідниця звільнилася?
Свіжий досвід Зої Хітціг, дослідника, яка провела два роки в OpenAI, формуючи моделі ШІ та досліджуючи їх ціноутворення, кидає тривожне світло на зміни в пріоритетах компанії. Вона пішла з компанії того ж дня, як там запустили рекламу. Мені зрозуміла її позиція.
Для тих, хто серйозно заглиблений в галузь, як і я, очевидно, що будь-який бізнес має прагнути до прибутків. Але коли це стає єдиною метою, етика і мораль відходять на другий план.
На моє глибоке переконання, компанії, які використовують ШІ, повинні чітко визначати свої цілі. Це може включати створення безпечного коду, встановлення розумних цін або введення запобіжників, поки не пізно. У нещодавній статті Financial Times зазначалося, що надмірний тиск на прибуток може призвести до несприятливих наслідків для споживачів. OpenAI, як і багато інших стартапів, почала як дослідницька організація, зосереджена на дослідженні та розробці ШІ. На жаль, у сучасному світі, де швидкий розвиток технологій переплітається з прагненням до прибутку, ці цінності можуть виявитися… незручними.
Цікаво знати: Спочатку OpenAI була некомерційною організацією, яка мала на меті розвиток ШІ на благо людства. У 2019 році вона перетворилася на компанію з обмеженим прибутком, а згодом – на публічну корпорацію, яка, ймовірно, готується до IPO.
Розділ 2: Не лише одна дослідниця: Тренд, який турбує
Історія Зої Хітціг – лише один випадок у більш масштабній тенденції. Факт звільнення Яна Лекуна, ще одного шанованого дослідника, який покинув OpenAI заради Anthropic, викликає стурбованість. Він підкреслив розбіжності з керівництвом щодо розстановки пріоритетів, зокрема, щодо розподілу обчислювальних ресурсів.
У моєму власному досвіді роботи з різними технологічними компаніями я бачив, як важливість безпеки часто відсувається на другий план заради прибутку. Наприклад, в одному випадку, коли я був технічним консультантом, пріоритетом було швидке виведення продукту на ринок, навіть ціною кількох критичних недоліків безпеки.
Коли такі люди, які колись були серцем дослідницької місії, залишають компанію, виникає логічне питання: хто після них? Чи справді ці люди, які займають ключові позиції, керуються бажанням допомогти користувачеві, чи тільки безжалісним бажанням забезпечити майбутній прибуток?
Не робіть те, що я колись робив: У процесі розробки одного з ШІ-інструментів я експериментував з налаштуваннями, які дозволили б йому вивчати різні аспекти історії. Спроба обговорення української історії з ШІ зайшла надто далеко, він почав надто захоплюватися методами ведення війни.
Розділ 3: Реклама в ChatGPT: “Це просто бізнес” чи щось більше?
Повертаючись до питання реклами, важливо усвідомити, що сам по собі факт її наявності не обов’язково є негативом. Реклама, дійсно, може бути необхідним джерелом доходу для підтримки роботи ШІ. Але, як досвідчений бізнес-аналітик, я розумію, що ключовим є те, як реклама інтегрована.
Наприклад, під час тестування ChatGPT, я помітив, що він надає вражаючі відповіді. Це може створити стосунки, засновані на довірі. Якщо до цього додасться ще й реклама, особливо якщо вона буде нав’язливою чи маніпулятивною, це може зруйнувати цю ілюзію безпечного простору.
Зої Хітціг слушно зауважує: “Реклама, вбудована в такий архів, створює потенціал для маніпулювання користувачами способами, які ми ще навіть не маємо інструментів зрозуміти, не кажучи вже про запобігання”. Це фундаментально змінює наш досвід взаємодії зі штучним інтелектом. І це лише початок.
Нещодавно McKinsey опублікувала звіт, в якому йшлося про те, що недостатній контроль над ШІ може призвести до непередбачуваних наслідків, зокрема, маніпулювання даними.
Розділ 4: Фантомний вибір: Реклама чи дорога підписка?
Я бачу, що багато хто вважає, що перед нами стоїть дилема: або платний доступ, або безкоштовний з рекламою. Але чи справді це єдиний вибір? У моєму баченні ситуації, як і у Зої Хітціг, є й інші моделі, які дозволяють зробити технології доступними для всіх, не змушуючи компанії стежити за нами, створювати наші профілі та маніпулювати нами.
Проблема в тому, що в Кремнієвій долині не хочуть про це говорити, адже це означає, що компаніям доведеться платити більше. Чому б, наприклад, компаніям, які масово заміщують працівників за допомогою ШІ, не сплачувати “податок”, який потім фінансуватиме безкоштовний доступ до ШІ для всіх інших? Ми вже маємо подібні механізми: інтернет-провайдери сплачують до фондів для забезпечення доступного інтернету в сільських регіонах.
Наприклад, у деяких країнах є чітке регулювання використання даних і прозорості алгоритмів, що захищає споживачів від маніпуляцій. Це не складна схема, але вона вимагає, щоб корпорації взяли на себе відповідальність, а не перекладали її на плечі користувачів, змушуючи їх ставати продуктом.
Розділ 5: Facebook 2.0? Історія, яка не повинна повторитися
На жаль, приклад Facebook – повчальна історія, яка, на жаль, може перегукуватися з ситуацією в OpenAI. Спочатку вони обіцяли користувачам контроль над їхніми даними та можливість голосувати щодо змін політики. Звучить чудово, правда? Але з часом ці зобов’язання зникли. Поступово, крок за кроком, Facebook перетворився на потужну рекламну машину, яка заробляє мільярди.
OpenAI, схоже, йде тією ж самою дорогою. Вони кажуть, що реклама буде чітко позначена, не впливатиме на відповіді. Перша ітерація, можливо, буде такою. Але компанія створює “економічний двигун”, який має потужний стимул порушувати власні ж правила. Пам’ятаєте прислів’я: “Покажи мені стимул, і я покажу тобі результат”. Якщо головний стимул – прибуток, то й результат буде відповідним, навіть якщо він маніпулятивний.
Схоже, що OpenAI вже оптимізує свої моделі для максимальної залученості користувачів. Це означає, що ШІ може стати ще більш прихильним, “психофантичним”, щоб ми поверталися знову і знову. А це вже наближається до реальності, яку ми бачимо в соціальних мережах: розсіяна увага, тривожність, депресія.
Розділ 6: Психоз ШІ: Коли віртуальний друг стає реальністю (і небезпекою)
Побоювання щодо впливу ШІ на психічне здоров’я не є перебільшенням. Навіть люди з високим рівнем інтелекту, як-от колишній провідний інженер DeepMind Девід Баттон, можуть потрапити під вплив “галюцинацій” ШІ.
Якщо люди здатні потрапити під вплив ШІ, я думаю, що треба подивитися на це з іншого боку. Якщо безкоштовний чат-бот оптимізований для залучення, а не для допомоги, наслідки можуть бути руйнівними.
На тлі загальної психологічної втоми, збільшення самотності, та інших соціальних проблем, тисячі людей можуть шукати підтримки у таких чат-ботів. Це може призвести до справжньої соціальної кризи.
Розділ 7: Вихід є: Як повернути контроль?
На мою думку, щоб запобігти негативним наслідкам, необхідні конкретні кроки. На щастя, шляхи вирішення проблеми існують.
- Корпоративний “податок” на ШІ: Оподаткування компаній, які отримують прибуток від ШІ, для фінансування безкоштовного доступу.
- Незалежний нагляд: Створення реальних, юридично зобов’язуючих рад нагляду, у яких представники користувачів і незалежні експерти матимуть право голосу в рішеннях щодо даних та етики.
- Трасти даних: Створення окремих, незалежних організацій, які зберігають дані користувачів як “юридичні сховища”.
Звісно, OpenAI (або будь-яка інша компанія) навряд чи погодиться на такі кроки добровільно. Їхня величезна оцінка побудована саме на володінні найціннішою базою даних людських думок.
Висновок: Майбутнє, яке ми можемо обрати
Підсумовуючи, ми стоїмо на перехресті. Майбутнє ШІ визначатиметься тим, як ми реагуємо на ці виклики зараз. Мій досвід переконує мене в тому, що ми ще маємо час, щоб обрати інший шлях. Шлях, де технології служать людству, а не навпаки. Де наш “віртуальний друг” залишається другом, а не інструментом для отримання прибутку.
Що далі?
- Будьте уважні: Оцінюйте інтеграцію реклами в ШІ-інструменти, зважайте на зміну результатів.
- Обговорюйте проблеми Діліться своїми думками з друзями, колегами.
- Підтримуйте етичні альтернативи: Підтримуйте стартапи та проекти, які ставлять етику та користувача на перше місце.
Я вважаю, що майбутнє штучного інтелекту залежить від нашої здатності робити обґрунтований вибір.
