Чи справді ChatGPT робить нас дурнішими? Розбір зухвалого дослідження MIT
Привіт, друзі-гіки! З вами Кейсі Байт, і сьогодні ми ниряємо у досить карколомну тему: чи може. Штучний інтелект, наприклад, зокрема, великі мовні моделі (LLMs) на кшталт ChatGPT, насправді робити нас трохи. Тупішими? Щоб було ясно,
Нещодавно опублікована стаття MIT викликала чималий резонанс, і я, як завжди, тут, щоб розібратися в деталях, переклавши науковий жаргон зрозумілою мовою. Ми розглянемо, що кажуть дослідники, які провели експерименти, і що це. Може означати для нашого навчання, мислення та майбутнього взаємодії з AI.
Про що мова: Когнітивний борг і есе з AI
Дослідження MIT, яке отримало назву “Accumulation of cognitive debt when using an AI assistant for essay writing task” в принципі, (Накопичення когнітивного боргу при використанні помічника AI для написання есе), зосереджене на впливі LLMs на процес навчання, зокрема на написання есе. Дослідники поставили собі за мету відповісти на наступні фундаментальні питання:
- Чи суттєво відрізняються есе, написані з використанням LLM, традиційних пошукових систем (наприклад, Google) та власним розумом, якось так.
- Як відрізняється активність мозку учасників під час використання цих трьох інструментів?
- Як використання LLM впливає на пам’ять учасників?
- Як використання LLM впливає на відчуття авторства есе? (Чи відчуває автор, що це його власна робота? )
Звучить цікаво, правда? Давайте зануримось!
Групи, експерименти та результати: Розбиваємо дослідження
Дослідники розділили учасників на три групи, кожна з яких використовувала для написання есе свій інструмент:
- Група 1: LLM: Використовувала OpenAI GPT-4 як єдине джерело інформації.
- Група 2: Пошукова система: Могла користуватися будь-яким сайтом, але без ChatGPT чи інших LLM.
- Група 3: Лише мозок: Заборонено використовувати пошук та LLM.
був етап, де групи мінялися інструментами. Зрозуміло, дослідники могли порівняти, наскільки довготривалим є вплив певного інструменту. Цікаво,
Що вони робили?
- Написання есе: Учасники писали есе на певну тему, використовуючи свій інструмент.
- Інтерв’ю після написання: Їм ставили питання щодо процесу написання, структури есе, авторства та здатності цитувати.
Ось найцікавіші результати:
- Відмінності в пам’яті: Учасники з групи LLM мали найбільші проблеми із запам’ятовуванням змісту своїх есе. Більше 80% мали труднощі розумієте, з цитуванням навіть одного речення зі своїх робіт. Дивно, простіше кажучи, і жоден не зміг процитувати коректно! Натомість, групи “Пошукова система” та “Лише мозок” показали майже ідеальні результати в цитуванні.
- Втрата авторства: скажімо, У LLM-групі відчуття власності на написане есе розподілилося: половина учасників. Дивно, відчувала себе повністю власниками роботи, інші – ні, або відчували часткове авторство (50/50, 70/30). Групи з пошуковою системою та знаєте, “Лише мозок” не мали проблем з цим питанням.
- Активність мозку: У групі LLM спостерігалася нижча активність мозку. Більше розумієте, того, можна сказати, що мозок працював менше. Інформація надходила “зверху вниз” (від LLM до автора), замість “знизу вгору” (коли автор самостійно досліджує інформацію, будує зв’язки та робить висновки).
LLM проти традиційного пошуку: Хто виграє в битвах розуму?
Дослідники порівняли вплив LLM з традиційним пошуком в інтернеті. Ось деякі їхні спостереження:
- Традиційний пошук: Вимагає більших. Зусиль для аналізу інформації, критичного мислення та стратегічного пошуку. Але він також сприяє глибшому засвоєнню знань.
- LLM: Зменшує когнітивне навантаження (робить процес простішим), підвищує продуктивність (есе пишуться швидше), але може призвести до поверхневого розуміння матеріалу та гіршого запам’ятовування.
Кейсі приблизно, Байт: Думки експерта
На мій, в такому дусі. Погляд, дослідження припустимо, підкреслює важливу істину: LLM – це інструменти. Вони можуть бути неймовірно корисними, але їх потрібно використовувати з розумом.
Ефект “Ехо-камери” та LLM
У дослідженні також згадується проблема “ехо-камери”. Це коли алгоритми, збираючи інформацію про ваші вподобання, починають показувати вам лише те, що з цим збігається. Тому ви стикаєтесь лише з однією точкою зору.
LLM, будучи надзвичайно інтерактивними, також посилюють цей ефект:
- Ви ставите питання – отримуєте відповідь, що відповідає вашим уявленням. Зрозуміло,
- Алгоритми LLM “підганяють” інформацію під ваші потреби.
Результат: Ви стикаєтесь з меншою кількістю. Різноманітних поглядів та маєте менше можливостей для розширення кругозору.
Майбутнє: Люди та AI в симбіозі
Дослідження натякає на важливі зміни в тому, як ми будемо взаємодіяти з AI в майбутньому, щось на зразок.
- Зсув від активного мислення до пасивного нагляду: Ми все. Більше переходимо до контролю над AI, а не самостійно розбираємося в питанні.
- Баланс навичок: Нам потрібно знайти баланс між вмінням керувати AI та глибоким розумінням основних знань.
Висновок:
Зрештою, дослідження MIT не стверджує, що AI “робить нас дурнішими”. Чесно кажучи, воно підкреслює, що надмірне покладання бачите, на них може змінити спосіб, яким ми думаємо та вчимося.
Важливо:
бачите,
- Використовуйте LLM. Як інструмент і
- Не забувайте про критичне мислення.
- Перевіряйте інформацію з декількох джерел.
- Не дозволяйте AI замінити вашу власну роботу мозку.
Додаткові поради від Кейсі Байта
- Експериментуйте: Спробуйте різні підходи до навчання. Використовуйте як LLM, так і інші інструменти.
- Ставте запитання: Не соромтеся ставити запитання LLM, але не приймайте відповіді на віру.
- Розвивайте критичне мислення: Навчіться оцінювати інформацію, виявляти упередження, та знаходити різноманітні погляди.
До чого готуватися? Майбутнє за людиною та AI
Ми стоїмо на. Порозі захопливої епохи, де людина та штучний інтелект співпрацюють.
- AI – це інструмент, а не. Заміна: Творчість, індивідуальність та критичне мислення залишаються цінними навичками.
- Розвивайте навички майбутнього: Вміння керувати AI, аналізувати інформацію, критичне мислення, креативність та емоційний інтелект – ключові навички.
дослідження MIT служить нагадуванням про те, що ми повинні використовувати. Технології свідомо, критично оцінюючи їх вплив на наше власне мислення та навчання.
Дякую за увагу, друзі проте до наступних зустрічей у кіберпросторі!
