Искусственный интеллект дает ответ за секунды быстрее, чем человек успевает сформулировать вопросы. Логично было бы ожидать, что объем ошибочных утверждений начнет сокращаться, ведь инструмент, консультирующий миллионы людей ежедневно, должен стать более точным. Но по данным отчета NewsGuard, доля ложных утверждений в ответах ведущих чат-ботов на запросы о новостях выросла почти вдвое за год, с 18% до 35%.

Ниже говорится, как три компонента критического мышления – активность, интерпретация и оценка – работают во взаимодействии с искусственным интеллектом. То, что в обиходе называют здравым смыслом, по сути, и есть привычка применять эти три компонента автоматически, и именно она оказывается под давлением, когда ответ появляется быстрее, чем успевает сработать внутренняя проверка.

Почему уверенный ответ ИИ не освобождает от активной проверки фактов

Критическое мышление определяют как активную интерпретацию и оценку информации, наших представлений и наблюдений, наших утверждений и аргументов. Человек, мыслящий активно, не воспринимает сообщение как готовую реальность, а разбирает его на составляющие и проверяет, следует ли вывод по приведенным основаниям.

Вы спрашиваете чат-бота о дате исторического события, и он сразу, без колебаний, называет год, хотя на самом деле придумал деталь, которую не знал. Ответ появляется мгновенно – и это подталкивает воспринимать его как факт, а не как гипотезу, которую следует проверить. Привычка на секунду задержаться перед копированием ответа и проверить, следует ли вывод из оснований – это и есть выход из пассивного потребления.

Как языковые модели ИИ работают с понятиями иначе, чем человек

Второй компонент – интерпретация: понимание того, что факты входят в сознание не сами по себе, а через понятийные рамки, которые уже задают им смысл. Движение от слова к понятию, а от понятия к концепции называют концептуализацией – именно она отличает понимание от узнавания знакомых слов.

Языковая модель генерирует текст на основе статистической вероятности, какое слово должно следовать которому, а не через осознанную рамку. Попросите чат-бота объяснить «риск инвестирования»: он выдаст плавное определение, собранное из статистически типичных формулировок, а не по собственному опыту потери денег. Именно человек должен распознать рамку по формулировке, а не доверять плавности изложения.

Почему уверен тон ответа ИИ не равен обоснованности

Третий компонент – оценка: проверка надежности оснований, релевантности данных, корректности логической связи. Этот компонент требует наибольшего внимания, потому что уверенный тон часто подменяет собой проверку.

Явление, когда модель уверенно генерирует несуществующие факты или источники, называют галлюцинациями, и по тому же отчету NewsGuard оно усиливается: более новые модели OpenAI демонстрировали более высокий уровень таких ошибок, чем предшественники. Чат-бот приводит цифру "по исследованию Гарвардского университета 2019 года" - фраза звучит авторитетно, хотя проверить существование такого исследования часто возможно только отдельным поиском. Разница между «звучит убедительно» и «обоснованна» – именно то, что человек должен проверять сам.

Практические привычки для проверки ответов искусственного интеллекта

Ни один из трех компонентов критического мышления не требует сложных инструментов – лишь нескольких привычек, применяемых именно в тот момент, когда ответ кажется слишком гладким, чтобы его сразу принимать. Вот несколько конкретных практик, возвращающих активность, интерпретацию и оценку в ежедневное взаимодействие с ИИ:

Перефразирование вопроса. Задайте тот же вопрос другими словами или другому чат-боту: расхождение часто показывает предел, по которому система достраивает правдоподобный текст.
Проверка источника. Если текст приводит факт или цитату, проверьте их в первоисточнике, а не воспринимайте самое упоминание источника как доказательство.
Различение факта и формулировки. Обратите внимание, где ответ описывает факт, а где представляет интерпретацию как факт: плавность текста одинаково равна в обоих случаях.

Ни одна из этих привычек не устраняет потребность в проверке полностью; они уменьшают возможность принять правдоподобный текст за обоснованный вывод.

Критическое мышление как преимущество человека во время искусственного интеллекта

Искусственный интеллект расширяет объем доступных утверждений быстрее, чем большинство предыдущих инструментов, но акт активной интерпретации и оценки остается за человеком – и именно в этом его устойчивое преимущество. Критическое мышление начинается там, где человек, предполагая возможность собственной ошибки, возвращается к проверке оснований, а модель не способна осознать свою ошибку так, как это доступно человеку.

Школа «Архитектор Сенсов» Андрея Баумейстера строит маршрут «Самопознания» именно вокруг этого отличия: между текстом, который просто звучит убедительно, и утверждением, основания которого человек проверил сам. Те же 18% и 35%, с которых началась эта статья, – не аргумент против использования ИИ, а напоминание, что именно человек, а не алгоритм остается последней инстанцией проверки.

О том, как эти три компонента работают на практике, подробнее рассказано в основательной статье о критическом мышлении на официальном сайте школы.