Дело не в том, что ИИ делает нас дураками: дело в том, что мы ему подчиняемся

По мере того, как искусственный интеллект интегрируется в нашу жизнь, есть один вопрос, который приобретает все большую актуальность. ИИ делает нас дураками? Возможно, глупость — это не то слово, которое подходит, а скорее расплывчатость, или, по крайней мере, это направление, на которое указывает недавнее исследование Пенсильванского университета.

Когнитивная капитуляция. Так они назвали явление, которое возникает, когда мы используем ИИ «с минимальной тщательностью, сводя на нет интуицию и обдуманность». Исследователи провели три эксперимента, в которых участники должны были пройти тесты на когнитивное мышление, в которых интуитивный ответ имеет тенденцию быть ошибочным, а преднамеренный — правильным (вопросы-ловушки, надо же). Одна группа могла использовать только свой мозг, а другая имела доступ к ChatGPT, хотя в половине случаев им манипулировали так, что он намеренно выходил из строя.

В результате, когда ИИ давал неправильный ответ, люди копировали его в 80% случаев. И что еще хуже: безопасность участников, имевших доступ к ИИ, была выше, несмотря на то, что они накапливали неправильные ответы. Другими словами, участники одобрили высокую степень уверенности, с которой ИИ формулировал свои ответы, и перестали проверять их правильность.

Новая система отправной точкой исследования является теория системы 1 и системы 2 Даниэля Канемана, в которой система 1 — это быстрое мышление или интуиция, а система 2 — это медленное мышление или обдумывание. Проблема этой теории, особенно в настоящее время, заключается в том, что она игнорирует тот факт, что мы все чаще делегируем когнитивный процесс генеративному ИИ. Поэтому исследователи предлагают добавить третью систему, которую они назвали «искусственным познанием» и которая относится к мышлению или рассуждениям, происходящим вне нашего разума, то есть в ИИ.

Согласно исследованию Пенсильванского университета, все три системы познания

Сдаваться или делегировать полномочия. В исследовании проводится различие между когнитивной сдачей и когнитивной разрядкой, то есть не то же самое, что просто принять то, что нам говорит ИИ, чем использовать его в качестве вспомогательного инструмента. Первым делом было бы использовать систему 3 с небольшим количеством системы 1 (интуиция), в то время как ее использование в качестве инструмента также предполагает использование системы 2 (обдумывание или рассуждение). Использование ИИ для делегирования определенных задач сравнимо с использованием калькулятора или поиском чего-либо в Google. В эксперименте 73% приняли неправильные ответы (сдались) и 17% исправили их (делегировали им полномочия, но не слепо соглашались с тем, что он говорил).

Исследователи предупреждают, что когнитивная капитуляция может подорвать критическое мышление и заставить нас потерять привычку быть недоверчивыми и проверять вещи на себе.

Когнитивный долг. В июне 2025 года исследование Массачусетского технологического института под названием «Ваш мозг в чате: накопление когнитивного долга при использовании помощника ИИ при написании эссе» стало вирусным. В эксперименте они наблюдали за участниками с помощью энцефалографии во время выполнения задания. Результаты показали, что группа, использующая ChatGPT, показала худшие результаты по мозговой активности и становилась все более ленивой по мере прохождения теста.

ИИ не делает нас дураками. За прошедшие годы появилось множество исследований, направленных на то, чтобы проверить, не ограничивают ли технологии наши возможности, но есть и другие, которые указывают на совершенно противоположное. Возвращаясь к исследованию Массачусетского технологического института, имеет смысл, что мозговая активность будет меньше, если мы будем использовать вспомогательный инструмент (и к тому же такой мощный, как ИИ). Также будет меньше активности, если мы будем использовать калькулятор, чем если бы мы выполняли операции вручную, но это не обязательно означает, что мы хуже разбираемся в математике. Имейте в виду, что если нам нужен калькулятор для сложения 2 +2, у нас есть проблема.

Ключ не в том, делает ли нас дураками использование ИИ, а в том, как мы его используем, подчиняемся ли мы ему или делегируем ему полномочия.

Редактор: AndreyEx