- Татьяна СмирноваАвтор
Когда мы делегируем нейросетям слишком много когнитивных задач, наш мозг постепенно утрачивает необходимые навыки. Нейробиолог, автор книги «Мне некогда», основатель школы личной эффективности «Хронология» Татьяна Смирнова рассказывает, что такое когнитивный долг, в каких случаях он возникает и как «общаться» с ИИ эффективно
Когнитивный долг — это постепенное ухудшение мыслительных навыков, которое усиливается каждый раз, когда человек делегирует сложную интеллектуальную работу нейросетям. Термин пока не стал официальным, но все чаще используется для описания негативных последствий взаимодействия человека с искусственным интеллектом (ИИ). Как и финансовый, когнитивный долг возникает, когда мы получаем быстрый результат практически без усилий — распоряжаемся деньгами, которых не заработали, или пользуемся выводами, к которым за нас пришел алгоритм.
Вместо того, чтобы самостоятельно искать информацию, сравнивать альтернативные решения, удерживать в памяти промежуточные шаги, рассуждать и проверять гипотезы, мы делегируем эту работу внешней системе. Казалось бы, выигрыш очевиден: задача решается быстрее, а нагрузка на мозг снижается. Однако если такой сценарий входит в привычку, часть когнитивных функций со временем ослабевает и находить решения самостоятельно становится все сложнее.
Как и любой навык, сложная мыслительная деятельность требует регулярной практики. Если мы перестаем анализировать, выстраивать причинно-следственные связи и проходить путь от постановки проблемы до ее решения (делегируем все это нейросетям), мозг запоминает и из раза в раз воспроизводит более короткий маршрут.
При этом важно понимать, что использование ИИ автоматически не приводит к возникновению когнитивного долга (так же, как и наличие кредитной карты не говорит о финансовой неграмотности ее владельца). Проблема возникает, когда нейросеть перестает быть вспомогательным инструментом и берет на себя основные задачи мозга, по сути заменяя собственную мыслительную деятельность. И если калькулятор избавил нас от рутинных вычислений, то современные языковые модели способны брать на себя поиск аргументов, структурирование информации, анализ данных и даже предварительную формулировку решений — то есть выполнять не только механическую, но и часть интеллектуальной работы.
Естественный процесс
Возникновение когнитивного долга можно назвать естественным процессом, в основе которого — особенности работы нашего мозга, который постоянно стремится к экономии ресурсов. На его работу приходится около 20% всей энергии организма, поэтому одна из фундаментальных задач нервной системы — получать максимальный результат при минимуме затраченных усилий. Получается, что автоматизация рутины, формирование привычек и поиск наиболее простого решения — признаки нормального функционирования мозга.
Склонность человека прилагать минимум когнитивных усилий и упрощать обработку информации описана концепцией когнитивной экономии (англ. — cognitive economy). Если задачу можно решить быстрее с помощью готового шаблона, чужого совета или другого внешнего источника информации, мозг с высокой вероятностью выберет именно этот путь. В повседневной жизни, где мы решаем в основном рутинные задачи, этот механизм полезен: он помогает экономить силы, время и не держать в голове лишние факты.
Проблема в том, что мозг плохо понимает, в каких ситуациях эффективно экономить ресурсы, а в каких — нет (ведь это мешает получать новые знания и развиваться). С точки зрения нейробиологии, самостоятельный поиск решений — это важный процесс, в ходе которого формируются новые нейронные связи, система знаний и представлений о мире, а также укрепляется способность логически мыслить. Когда мы регулярно пропускаем этот этап, нам становится сложнее рассуждать, анализировать информацию и находить ответы.
Важно помнить: мозг всегда будет стремиться делегировать алгоритму максимум задач. Но мы можем выбирать, где экономить усилия, а где — тренировать мышление.
Основные угрозы
Существует мнение, что взаимодействие с ИИ приводит к ухудшению памяти, но это иллюзия. Человеческий мозг давно научился использовать внешние источники хранения информации — книги, записи, интернет. Исследования в области transactive memory (англ. — «трансактивная память» — совокупность фактов, которые помнят несколько человек, поделившихся друг с другом личными знаниями) показывают, что мы хорошо адаптируемся к ситуации, когда помним не сам факт, а источник, где его можно найти. Гораздо опаснее, что ИИ берет на себя функции, связанные с обработкой, а не хранением информации.
В чем заключается основная угроза некорректного использования ИИ?
- В первую очередь нейросети избавляют человека от необходимости долго рассуждать. Многие сложные задачи невозможно решить за минуты. Они требуют удерживать в сознании несколько гипотез одновременно, возвращаться к предыдущим шагам, замечать противоречия и постепенно уточнять собственное видение происходящего. Если человек привык мгновенно получать решение, его толерантность к процессу размышления снижается: становится трудно выдерживать ситуацию, когда проблема обозначена, а решение — не найдено.
- Другой навык, который теряется при слишком интенсивном взаимодействии с ИИ, — психологическая способность переносить неопределенность. Самостоятельный поиск ответа предполагает вероятность ошибки, необходимость менять мнение при появлении новых данных и готовность оставаться в ситуации выбора и уточнения фактов. ИИ, напротив, почти всегда отвечает быстро и уверенно. Даже если предлагаемое решение сопровождается оговорками, оно создает эффект завершенности и мешает человеку получить важный опыт — пребывания в состоянии неопределенности.
- Наконец, под угрозой оказывается навык построения причинно-следственных связей. Когда человек самостоятельно анализирует информацию, он понимает, как люди, события и явления связаны между собой, формирует собственную картину мира, находит закономерности и делает выводы. Если анализом занимается алгоритм, человек получает готовый ответ, но не может его объяснить. Умение рассуждать и выстраивать логические цепочки нужно не только для поиска правильных ответов, но и для тренировки мозга. Любопытно, что самые трудные интеллектуальные задачи (которые больше всего хочется делегировать ИИ) лучше всего развивают когнитивные функции. Например, когда мы пишем текст с нуля, а не просим нейросеть сгенерировать его, мозг вынужден удерживать структуру готовящегося материала, искать аргументы, строить причинно-следственные связи и проверять логику рассуждений.
Иллюзия компетентности
Одно из самых незаметных, но опасных последствий взаимодействия с ИИ — иллюзия компетентности, или ощущение, что вы полностью разобрались в проблеме, едва ознакомившись с чужими выводами (в данном случае — ответами, сформулированными нейросетью).
Когнитивная психология описывает похожий феномен термином illusion of explanatory depth (англ. — «иллюзия глубины понимания»). Это когнитивное искажение, при котором люди значительно переоценивают свое понимание той или иной проблемы. Так, многим кажется, что они разбираются в устройстве привычных вещей: велосипеда, застежки-молнии, государственной системы. Однако при погружении в тему быстро обнаруживаются пробелы.
Искусственный интеллект усиливает этот эффект. Хорошо структурированный, логичный и убедительно сформулированный ответ легко присвоить себе. Однако, чтобы разбираться в теме, мало получить информацию. Основная работа происходит, когда мы ищем нужные сведения и перерабатываем их: например, сравниваем новые идеи с уже известными, задаем вопросы, замечаем противоречия, пытаемся объяснить материал своими словами или применить новые знания на практике.
Один из лучших способов проверить, действительно ли вы разбираетесь в проблеме, — попытаться воспроизвести логику рассуждения (которая привела вас к тому или иному выводу) без помощи ИИ. Попробуйте, не повторяя отдельные формулировки, объяснить, почему вывод получился именно таким, и привести собственный пример. Если не получилось, вероятнее всего, вы переоценили свой уровень погруженности в тему.
Telegram-канал Forbes YoungПросто о сложной картине мираПодписаться
Второй пилот
История человечества показывает, что технологические открытия не обязательно ослабляют когнитивные способности человека, а иногда — даже усиливают. Все зависит от того, какие задачи мы ставим перед алгоритмом, а какие — оставляем себе.
Парадокс заключается в том, что искусственный интеллект способен ускорить процесс обучения новому. Если использовать его как собеседника, который задает вопросы, критикует аргументы и помогает проверять гипотезы, он становится инструментом развития мышления.
Наиболее продуктивная модель взаимодействия с ИИ — использовать его как второго пилота, главные функции которого — замечать ошибки, анализировать ситуацию и снижать нагрузку на капитана. Искусственный интеллект наиболее полезен не когда берет на себя наши функции, а когда помогает лучше с ними справляться.
Вот несколько рекомендаций, как сделать взаимодействие с ИИ более эффективным:
- Делегируйте ему рутинные операции, не связанные с анализом информации, поиском и выбором решений. Например, попросите чат-бот структурировать уже собранный материал, предложить альтернативные точки зрения, найти слабые места в аргументации или объяснить сложную концепцию несколькими способами. Но важные выводы, выбор между альтернативными вариантами, оценку достоверности информации и окончательные решения лучше оставлять за собой.
- Измените формат запросов. Вместо «Напиши за меня» используйте конструкции: «Задай мне вопросы», «Найди ошибки в моих рассуждениях», «Предложи контраргументы», «Покажи, что я мог не учесть».
- Перестаньте оценивать свое взаимодействие с ИИ, опираясь на количество правильных ответов. Подумайте, что в результате этого «общения» получаете вы. Спросите себя: нейросети помогают мне мыслить шире или, наоборот, мешают рассуждать самостоятельно? Обращаюсь ли я к чат-ботам, чтобы тестировать гипотезы, делиться идеями и глубже погружаться в разные темы? Важно помнить, что при правильном использовании ИИ — один из самых мощных интеллектуальных инструментов, которые когда-либо оказывались в распоряжении человека.
Мнение редакции может не совпадать с точкой зрения автора
Источник: www.forbes.ru
