“Хрещений батько” ШІ, Джеффрі Хінтон, про небезпеки штучного інтелекту та несподівану Нобелівську премію
Джеффрі Хінтон, знаний як “хрещений батько” штучного інтелекту, нещодавно отримав Нобелівську премію з фізики за свою новаторську роботу в галузі ШІ. Хоча сам Хінтон жартома зазначає, що фізикою ніколи не займався, визнання його праці підкреслює величезний вплив штучного інтелекту на сучасну науку. Професор-емерит з комп’ютерних наук Університету Торонто, Хінтон поділився своїми думками про перспективи та небезпеки, які несе розвиток ШІ.
Емоції від отримання Нобелівської премії, за словами Хінтона, досі живі. “Це було дивовижно, особливо враховуючи, що я не займаюся фізикою, а отримав Нобелівську премію з фізики”, – зізнається він. Хінтон припускає, що Нобелівський комітет хотів відзначити розвиток ШІ, який сьогодні є однією з найцікавіших галузей науки, тому “перепрофілював” фізичну премію.
Щоб пояснити, за що саме він отримав премію, Хінтон описує механізм роботи людського мозку: “У вашому мозку є безліч клітин, які називаються нейронами, і між ними існують зв’язки. Коли ви дізнаєтесь щось нове, змінюється сила цих зв’язків. Щоб зрозуміти, як працює мозок, потрібно зрозуміти правило зміни сили цих зв’язків”. Питання полягає в тому, як мозок вирішує, чи зробити зв’язок сильнішим, чи слабшим, щоб покращити здатність до навчання. І якщо вдасться відтворити цей механізм у великій мережі змодельованих клітин мозку, то вона стане дуже розумною.
На питання, чому він обрав саме цю сферу наукових досліджень, Хінтон відповідає: “Тому що це, безсумнівно, найцікавіше. Щоб зрозуміти людей, потрібно зрозуміти, як працює мозок”.
Зважаючи на величезну популярність після отримання Нобелівської премії, Хінтон почав попереджати про небезпеки ШІ та навіть залишив роботу в Google через занепокоєння цими ризиками. Він розрізняє два види ризиків:
- Короткочасні ризики, пов’язані зі зловживанням ШІ поганими акторами. Ці ризики більш безпосередні, і вони вже проявляються.
- Довгострокові ризики, які виникають, коли ШІ стає розумнішим за нас. Чи захоче він взяти владу, чи просто відсунути нас вбік? Хінтон ставить питання: “Скільки ви знаєте прикладів, коли більш інтелектуальні істоти контролювалися б менш інтелектуальними?”.
Як приклад зловживання ШІ, Хінтон наводить використання великих обсягів даних про людей для створення фейкових відео, щоб переконати їх, наприклад, не голосувати. Він також зазначає, що між 2023 і 2024 роками кількість фішингових атак зросла на 1200%, оскільки великі мовні моделі зробили їх набагато ефективнішими. Раніше фішингові листи містили граматичні та орфографічні помилки, що робило їх легко ідентифікованими. Тепер же вони написані ідеальною мовою, що робить їх більш переконливими.
Щодо прикладів контролю розумних істот нерозумними, Хінтон називає лише один приклад: дитина і мати. Еволюція зробила дитячий плач нестерпним для матері, щоб дитина могла контролювати її.
Щодо довгострокового ризику, Хінтон зазначає, що майже всі провідні дослідники погоджуються, що ШІ стане розумнішим за нас. Вони просто не сходяться в термінах. Дехто вважає, що це станеться через 20 років, інші – через три, а деякі – навіть через рік. Хінтон оцінює ймовірність того, що ШІ захопить владу, у 10-20%, але визнає, що це лише його здогадки.
Якщо ШІ захопить владу, то, за словами Хінтона, це може призвести до нашого вимирання. Він уникає спекуляцій щодо конкретних сценаріїв, але зазначає, що ШІ може створити вірус, який знищить людство.
Хінтон наголошує на необхідності розробки безпечного ШІ. Зараз існує дослідження з безпеки ШІ та екзистенційної загрози, але їх недостатньо. Великі компанії мотивовані короткостроковими прибутками. Потрібно, щоб люди змусили уряди зобов’язати ці компанії витрачати більше ресурсів на дослідження з безпеки ШІ.
На жаль, за словами Хінтона, уряди роблять недостатньо для вирішення цієї проблеми. Він згадує, що адміністрація Байдена була зацікавлена в безпеці ШІ та видала відповідний указ, але цей указ був скасований за Трампа. Хінтон вважає, що це пов’язано з тим, що найбагатші люди в технологічній сфері підтримують цю адміністрацію.
Для вирішення цієї проблеми, за словами Хінтона, необхідно досягти консенсусу щодо серйозності проблеми та переконати уряди та компанії проводити більше досліджень з безпеки ШІ. Він порівнює це з проблемою зміни клімату: спочатку потрібно переконати людей, що зміна клімату реальна та матиме жахливі наслідки, якщо нічого не робити, а потім можна починати діяти.
Хінтон вважає, що всі країни можуть співпрацювати у вирішенні екзистенційної загрози, оскільки ніхто не хоче бути знищеним. Китайські лідери не хочуть бути знищеними, Трамп не хоче бути знищеним. Але, на жаль, ми не знаємо, що робити з цим. Нам терміново потрібні дослідження, щоб з’ясувати, що робити.
На питання про міжнародну організацію, яка могла б очолити цю співпрацю, Хінтон відповідає, що існує кілька організацій, які намагаються бути лідерами, але поки що жодна не стала домінуючою. Він вважає, що ООН не в змозі впоратися з цим завданням. Великі компанії мають ресурси, тому потрібно, щоб дослідження з безпеки ШІ проводилися з використанням найновіших моделей. І тільки великі компанії мають ресурси для їх навчання.
Хінтон також згадує Ілона Маска, з яким у нього, м’яко кажучи, натягнуті відносини. Він погоджується з Маском щодо екзистенційної загрози, але критикує його дії в Twitter (X). Хінтон вважає, що Маск завдає величезної шкоди науковим установам у США.
Він розповів, що кілька років тому Маск пропонував йому стати радником його нової компанії X.AI. Хінтон відмовився, вважаючи, що Маск хоче скоротити державні витрати та ввести тарифи, щоб фінансувати зниження податків для багатих. Він вважає це огидним.
На питання про збитки науковим установам у США, Хінтон наводить приклад призначення “божевільного хлопця з черв’яком у мозку” відповідальним за систему охорони здоров’я, маючи на увазі Роберта Ф. Кеннеді-молодшого.
Незважаючи на всі небезпеки, Хінтон все ж бачить позитивні перспективи розвитку ШІ. Він вважає, що ШІ зробить дивовижні речі в охороні здоров’я, забезпечуючи значно кращий догляд за пацієнтами. ШІ зможе діагностувати складні випадки з меншою кількістю помилок, ніж лікар самостійно. Він також буде дивовижним в освіті, забезпечуючи персоналізоване навчання, яке в кілька разів ефективніше, ніж навчання з приватним репетитором.
На питання про те, чи варто дітям вчитися кодувати, Хінтон відповідає, що, можливо, ні. Комп’ютерні науки – це більше, ніж просто вміння кодувати.
На закінчення, Хінтона запитують про його титул “хрещеного батька” ШІ: “Мені це подобається, хоча спочатку це не було сказано з добротою. Хтось почав кликати мене так після зустрічі, на якій я перебивав людей”.
Половину своєї Нобелівської премії Хінтон пожертвував організації Water First, яка навчає людей у корінних громадах технологіям очищення води. Він пояснив це тим, що сам пережив досвід відсутності безпечної питної води, коли жив у Перу з новонародженою дитиною.
На питання про плани на майбутнє, Хінтон зізнається, що намагається вийти на пенсію, але поки що йому це погано вдається. У свої 77 років він вважає, що ще занадто молодий для пенсії і має ще багато планів на майбутнє.
