ИИ не обязательно заменять людей, чтобы ослабить человеческие способности

Искусственный интеллект становится одним из самых быстрых способов устранить барьеры в интеллектуальном труде. Полевой эксперимент 2025 года под названием «Изменение характера работы с помощью генеративного ИИ», в котором приняли участие 6000 сотрудников, показал, что доступ к генеративному ИИ сократил время, затрачиваемое на электронную почту: некоторые пользователи стали тратить на нее на 25% меньше времени каждую неделю. Другое исследование под названием «Влияние генеративного ИИ на высококвалифицированный труд», в котором участвовали 4867 разработчиков программного обеспечения, показало, что помощь ИИ увеличила количество выполненных задач на 26,08%.

Производительность стала самым простым показателем в дискуссиях об ИИ, поскольку она наглядна и сразу привлекает бизнес. Когнитивный потенциал поддается учету гораздо сложнее. Более быстро созданный документ говорит компании о том, как оперативно была выполнена работа; он не показывает, стал ли человек, создавший его, менее способным выстраивать аргументацию без посторонней помощи.

Исследователи из Медиалаборатории Массачусетского технологического института (MIT) зафиксировали аналогичную тенденцию, используя электроэнцефалографы (ЭЭГ) для наблюдения за испытуемыми, писавшими эссе с помощью чат-бота и без него. Те, кто использовал LLM, создавали черновики быстрее, но во время письма демонстрировали заметно меньшую активность мозга и справлялись с заданием хуже своих коллег, работавших самостоятельно, после того как инструмент убирали.

Авторы дали этому явлению название: когнитивный долг — дефицит, который накапливается постепенно и дает о себе знать только тогда, когда поддержка исчезает.

Когнитивная разгрузка, то есть перекладывание умственной задачи на внешний инструмент, — явление не новое. Калькуляторы и поисковые системы делали нечто подобное. Однако исследователи отмечают, что генеративный ИИ отличает то, что он не просто извлекает информацию или производит вычисления; он рассуждает за человека, выдавая готовые выводы вместо сырого материала, с которым должен поработать разум. Повторяясь изо дня в день и из года в год, такая подмена может привести к формированию рабочего процесса, в котором легко составлять запросы, но при этом недоразвиты те навыки рассуждения, памяти, воображения и здравого смысла, для поддержки которых эти запросы и задумывались.

Д-р Вишал Капур, исследователь и стратег крупных транснациональных банков, считает, что в дискуссии о производительности необходима еще одна переменная — состояние человеческого разума, выполняющего эту работу. Его беспокоит когнитивная эрозия, возникающая из-за чрезмерной зависимости от ИИ. По его мнению, этот риск все еще трудно оценить однозначно, даже несмотря на накопление данных о когнитивной разгрузке.

«Я считаю важным поднять этот вопрос именно сейчас,» — утверждает д-р Капур. — «Мы используем так много ИИ, совершенно не задумываясь о когнитивной эрозии.»

Д-р Капур не призывает отказаться от ИИ. Он активно использует его в работе и разработал собственную рабочую философию, которую называет «ИИ подпитывает, человек управляет». Она ставит человека во главе процесса мышления, используя ИИ для ускорения или усиления работы. Собственный опыт лишь усугубил его опасения. После того как он стал использовать ИИ для рассуждений, он заметил ухудшение показателей своего когнитивного профиля в приложении для тренировки мозга — падение составило примерно 40–50 пунктов по шкале из 1000 баллов.

Это наблюдение он воспринимает как личное предупреждение о том, что происходит, когда рассуждения начинают систематически отдаваться на аутсорс.

«Когда ИИ становится доминирующей частью процесса, рассуждения обычно исчезают первыми,» — говорит д-р Капур. Он также относит память и воображение к числу способностей, которые могут оказаться уязвимыми по мере того, как люди все больше полагаются на машины в поиске информации и генерации идей.

Предлагаемая им дисциплина сводится к принципу, который, как он опасается, уходит в прошлое: думайте перед тем, как давать промт. В качестве примера д-р Капур приводит научные исследования. Пассивный пользователь может попросить ИИ изучить какую-либо страну и просто ждать ответа. Пользователь, руководствующийся принципом «человек за главного», приходит со своими наблюдениями, гипотезой и четко определенным пробелом в знаниях, а затем просит ИИ исследовать недостающие факты и подвергнуть сомнению его собственные умозаключения. «Не передоверяйте искусственному интеллекту ни первый вопрос, ни финальное решение,» — призывает он.

По мнению д-ра Капура, этот подход крайне важен для организаций, поскольку ИИ способен усиливать слабые суждения так же эффективно, как и сильные. Коллектив, приученный управлять системами ИИ без сохранения независимого мышления, может стать крайне продуктивным, но при этом утратить экспертные навыки, необходимые для того, чтобы оспорить результат, распознать ошибочное предположение или принять решение в незнакомых условиях.

Д-р Капур убежден, что политика регуляторов должна играть роль в предотвращении превращения этого компромисса в структурную проблему. Он утверждает, что внедрение ИИ должно дозироваться в зависимости от характера задач, причем особую осторожность следует проявлять в сферах образования и фундаментальных исследований. «Цель образования — развивать человеческий мозг. Если человеческий мозг не развивается в процессе учебы, то какой от нее смысл?» — заявляет он.

Его аргументация ставит во главу угла личную ответственность в вопросах управления ИИ. Машины способны обрабатывать информацию с невероятной скоростью, однако именно люди привносят в принимаемые решения ответственность, ценности, проницательность и философию. Эти качества приобретают особую важность при выработке государственной политики и принятии ответственных бизнес-решений, где эффективный ответ все равно может оказаться неверным.

Таким образом, следующий этап стратегии в области ИИ требует принципиально иного инвестиционного подхода. Организациям потребуется оценивать не только то, что их системы способны автоматизировать, но и следить за тем, чтобы люди не теряли способность мыслить самостоятельно.

Д-р Капур видит свою будущую работу в консультировании глав государств, политиков и бизнес-лидеров именно по этому вопросу: как будет выглядеть общество, в котором люди живут и работают бок о бок со все более способным ИИ?

По его мнению, гонка вооружений в сфере ИИ до сих пор строилась почти исключительно вокруг создания все более мощных машин. Он предпочел бы перенести акцент на вторую, более «человечную» дискуссию: способны ли люди, использующие эти машины, по-прежнему мыслить без них?