Чи справді ChatGPT робить нас дурнішими? Розбір зухвалого дослідження MIT
Привіт, друзі-гіки! З вами Кейсі Байт, і сьогодні ми ниряємо у досить карколомну тему: чи може штучний інтелект, зокрема, великі мовні моделі (LLMs) на кшталт ChatGPT, насправді робити нас трохи…тупішими? 🤯
Нещодавно опублікована стаття MIT викликала чималий резонанс, і я, як завжди, тут, щоб розібратися в деталях, переклавши науковий жаргон зрозумілою мовою. Ми розглянемо, що кажуть дослідники, які провели експерименти, і що це може означати для нашого навчання, мислення та майбутнього взаємодії з AI.
Про що мова: Когнітивний борг і есе з AI
Дослідження MIT, яке отримало назву “Accumulation of cognitive debt when using an AI assistant for essay writing task” (Накопичення когнітивного боргу при використанні помічника AI для написання есе), зосереджене на впливі LLMs на процес навчання, зокрема на написання есе. Дослідники поставили собі за мету відповісти на наступні фундаментальні питання:
- Чи суттєво відрізняються есе, написані з використанням LLM, традиційних пошукових систем (наприклад, Google) та власним розумом?
- Як відрізняється активність мозку учасників під час використання цих трьох інструментів?
- Як використання LLM впливає на пам’ять учасників?
- Як використання LLM впливає на відчуття авторства есе? (Чи відчуває автор, що це його власна робота?)
Звучить цікаво, правда? Давайте зануримось!
Групи, експерименти та результати: Розбиваємо дослідження
Дослідники розділили учасників на три групи, кожна з яких використовувала для написання есе свій інструмент:
- Група 1: LLM: Використовувала OpenAI GPT-4 як єдине джерело інформації.
- Група 2: Пошукова система: Могла користуватися будь-яким сайтом, але без ChatGPT чи інших LLM.
- Група 3: Лише мозок: Заборонено використовувати пошук та LLM.
Крім того, був етап, де групи мінялися інструментами. Таким чином, дослідники могли порівняти, наскільки довготривалим є вплив певного інструменту.
Що вони робили?
- Написання есе: Учасники писали есе на певну тему, використовуючи свій інструмент.
- Інтерв’ю після написання: Їм ставили питання щодо процесу написання, структури есе, авторства та здатності цитувати.
Ось найцікавіші результати:
- Відмінності в пам’яті: Учасники з групи LLM мали найбільші проблеми із запам’ятовуванням змісту своїх есе. Більше 80% мали труднощі з цитуванням навіть одного речення зі своїх робіт. І жоден не зміг процитувати коректно! Натомість, групи “Пошукова система” та “Лише мозок” показали майже ідеальні результати в цитуванні.
- Втрата авторства: У LLM-групі відчуття власності на написане есе розподілилося: половина учасників відчувала себе повністю власниками роботи, інші – ні, або відчували часткове авторство (50/50, 70/30). Групи з пошуковою системою та “Лише мозок” не мали проблем з цим питанням.
- Активність мозку: У групі LLM спостерігалася нижча активність мозку. Можна сказати, що мозок працював менше. Інформація надходила “зверху вниз” (від LLM до автора), замість “знизу вгору” (коли автор самостійно досліджує інформацію, будує зв’язки та робить висновки).
LLM проти традиційного пошуку: Хто виграє в битвах розуму?
Дослідники порівняли вплив LLM з традиційним пошуком в інтернеті. Ось деякі їхні спостереження:
- Традиційний пошук: Вимагає більших зусиль для аналізу інформації, критичного мислення та стратегічного пошуку. Але він також сприяє глибшому засвоєнню знань.
- LLM: Зменшує когнітивне навантаження (робить процес простішим), підвищує продуктивність (есе пишуться швидше), але може призвести до поверхневого розуміння матеріалу та гіршого запам’ятовування.
Кейсі Байт: Думки експерта
На мій погляд, дослідження підкреслює важливу істину: LLM – це інструменти. Вони можуть бути неймовірно корисними, але їх потрібно використовувати з розумом.
Ефект “Ехо-камери” та LLM
У дослідженні також згадується проблема “ехо-камери”. Це коли алгоритми, збираючи інформацію про ваші вподобання, починають показувати вам лише те, що з цим збігається. Тому ви стикаєтесь лише з однією точкою зору.
LLM, будучи надзвичайно інтерактивними, також посилюють цей ефект:
- Ви ставите питання – отримуєте відповідь, що відповідає вашим уявленням.
- Алгоритми LLM “підганяють” інформацію під ваші потреби.
Результат: Ви стикаєтесь з меншою кількістю різноманітних поглядів та маєте менше можливостей для розширення кругозору.
Майбутнє: Люди та AI в симбіозі
Дослідження натякає на важливі зміни в тому, як ми будемо взаємодіяти з AI в майбутньому.
- Зсув від активного мислення до пасивного нагляду: Ми все більше переходимо до контролю над AI, а не самостійно розбираємося в питанні.
- Баланс навичок: Нам потрібно знайти баланс між вмінням керувати AI та глибоким розумінням основних знань.
Висновок:
Зрештою, дослідження MIT не стверджує, що AI “робить нас дурнішими”. Воно підкреслює, що надмірне покладання на них може змінити спосіб, яким ми думаємо та вчимося.
Важливо:
- Використовуйте LLM як інструмент.
- Не забувайте про критичне мислення.
- Перевіряйте інформацію з декількох джерел.
- Не дозволяйте AI замінити вашу власну роботу мозку.
Додаткові поради від Кейсі Байта
- Експериментуйте: Спробуйте різні підходи до навчання. Використовуйте як LLM, так і інші інструменти.
- Ставте запитання: Не соромтеся ставити запитання LLM, але не приймайте відповіді на віру.
- Розвивайте критичне мислення: Навчіться оцінювати інформацію, виявляти упередження, та знаходити різноманітні погляди.
До чого готуватися? Майбутнє за людиною та AI
Ми стоїмо на порозі захопливої епохи, де людина та штучний інтелект співпрацюють.
- AI – це інструмент, а не заміна: Творчість, індивідуальність та критичне мислення залишаються цінними навичками.
- Розвивайте навички майбутнього: Вміння керувати AI, аналізувати інформацію, критичне мислення, креативність та емоційний інтелект – ключові навички.
Загалом, дослідження MIT служить нагадуванням про те, що ми повинні використовувати технології свідомо, критично оцінюючи їх вплив на наше власне мислення та навчання.
Дякую за увагу, друзі! До наступних зустрічей у кіберпросторі! 👋
