Штучний інтелект дає відповідь за секунди, швидше, ніж людина встигає сформулювати запитання. Логічно було б очікувати, що обсяг помилкових тверджень почне скорочуватися, адже інструмент, що консультує мільйони людей щодня, мав би ставати точнішим. Але за даними звіту NewsGuard, частка неправдивих тверджень у відповідях провідних чат-ботів на запити про новини зросла майже вдвічі за рік, із 18% до 35%.

Нижче йдеться про те, як три компоненти критичного мислення – активність, інтерпретація й оцінка – працюють у взаємодії зі штучним інтелектом. Те, що в побуті називають здоровим глуздом, по суті, і є звичка застосовувати ці три компоненти автоматично, і саме вона опиняється під тиском, коли відповідь з'являється швидше, ніж встигає спрацювати внутрішня перевірка.

Чому впевнена відповідь ШІ не звільняє від активної перевірки фактів

Критичне мислення визначають як активну інтерпретацію та оцінку інформації, наших уявлень і спостережень, наших тверджень і аргументів. Людина, яка мислить активно, не сприймає повідомлення як готову реальність, а розбирає його на складові й перевіряє, чи випливає висновок із наведених підстав.

Ви питаєте чат-бота про дату історичної події, і він одразу, без вагання, називає рік, хоча насправді вигадав деталь, якої не знав. Відповідь з'являється миттєво – і саме це підштовхує сприймати її як факт, а не як гіпотезу, яку варто перевірити. Звичка на секунду затриматися перед копіюванням відповіді і перевірити, чи випливає висновок із підстав, – це і є вихід із пасивного споживання.

Як мовні моделі ШІ працюють з поняттями інакше, ніж людина

Другий компонент – інтерпретація: розуміння того, що факти входять у свідомість не самі по собі, а через понятійні рамки, які вже задають їм сенс. Рух від слова до поняття, а від поняття до концепції, називають концептуалізацією – саме вона відрізняє розуміння від упізнавання знайомих слів.

Мовна модель генерує текст на основі статистичної ймовірності, яке слово має йти за яким, а не через усвідомлену рамку. Попросіть чат-бота пояснити «ризик інвестування»: він видасть плавне визначення, зібране зі статистично типових формулювань, а не з власного досвіду втрати грошей. Саме людина мусить розпізнати рамку за формулюванням, а не довіряти плавності викладу.

Чому впевнений тон відповіді ШІ не дорівнює обґрунтованості

Третій компонент – оцінка: перевірка надійності підстав, релевантності даних, коректності логічного зв'язку. Цей компонент вимагає найбільшої уваги, тому що впевнений тон часто підмінює собою перевірку.

Явище, коли модель впевнено генерує неіснуючі факти чи джерела, називають «галюцинаціями», і за тим самим звітом NewsGuard воно посилюється: новіші моделі OpenAI демонстрували вищий рівень таких помилок, ніж попередники. Чат-бот наводить цифру «за дослідженням Гарвардського університету 2019 року» – фраза звучить авторитетно, хоча перевірити існування такого дослідження часто можливо лише окремим пошуком. Різниця між «звучить переконливо» і «є обґрунтованим» – саме те, що людина має перевіряти сама.

Практичні звички для перевірки відповідей штучного інтелекту

Жоден із трьох компонентів критичного мислення не вимагає складних інструментів – лише кількох звичок, застосованих саме в той момент, коли відповідь здається надто гладкою, щоб її одразу приймати. Ось кілька конкретних практик, які повертають активність, інтерпретацію та оцінку в щоденну взаємодію з ШІ:

Перефразування запитання. Поставте те саме запитання іншими словами чи іншому чат-боту: розбіжність часто показує межу, за якою система добудовує правдоподібний текст.
Перевірка джерела. Якщо текст наводить факт чи цитату, перевірте їх у першоджерелі, а не сприймайте саму згадку джерела як доказ.
Розрізнення факту й формулювання. Зверніть увагу, де відповідь описує факт, а де подає інтерпретацію як факт: плавність тексту однаково рівна в обох випадках.

Жодна з цих звичок не усуває потребу в перевірці повністю; вони зменшують ймовірність прийняти правдоподібний текст за обґрунтований висновок.

Критичне мислення як перевага людини у добу штучного інтелекту

Штучний інтелект розширює обсяг доступних тверджень швидше, ніж більшість попередніх інструментів, але сам акт активної інтерпретації та оцінки залишається за людиною – і саме в цьому її стійка перевага. Критичне мислення починається там, де людина, припускаючи можливість власної помилку, повертається до перевірки підстав, а модель не здатна усвідомити власну помилку так, як це доступно людині.

Школа «Архітектор Сенсів» Андрія Баумейстера будує маршрут «Самопізнання» саме навколо цієї відмінності: між текстом, який просто звучить переконливо, і твердженням, підстави якого людина перевірила сама. Ті самі 18% і 35%, з яких почалася ця стаття, – не аргумент проти використання ШІ, а нагадування, що саме людина, а не алгоритм, залишається останньою інстанцією перевірки.

Про те, як ці три компоненти працюють на практиці, детальніше розказано в ґрунтовній статті про критичне мислення на офіційному сайті школи.