Делает ли ИИ нас глупее?

Делает ли ИИ сотрудников менее компетентными?
Нет доказательств, что ИИ делает нас менее умными. Но он может мешать обучению, когда выполняет за нас задачу, которую мы должны уметь решать сами. В эксперименте по математике снижение результатов было у тех, кто работал с ИИ без ограничений, но не у тех, кому ИИ давал подсказки.1
Главное
- Когда ИИ убирают, появляются измеримые потери: выявляемость у эндоскопистов падает с 28,4% до 22,4%,2 результат школьников на экзамене снижается на 17%.1
- Риск известен с 1983 года: чем больше автоматизации, тем компетентнее должен быть человек в тот день, когда машина откажет, и тем меньше у него было практики.3
- Защита укладывается в несколько правил: выбирать, что поручать ИИ, делать самому, прежде чем спрашивать, проверять с реальным правом сказать «нет», сохранять время без ИИ и измерять навыки.
Письмо отправлено за тридцать секунд. А без помощника вы бы смогли написать его и обосновать сказанное? Вот что мне интересно: что команда по-прежнему умеет делать, когда закрывает приложение?
Страху 2400 лет
В «Федре» Платона царь Тамус опасается, что из-за письма люди перестанут упражнять память.4 Записать список, чтобы не держать его в голове, значит снизить нагрузку на память.5 С ИИ можно поручить инструменту и письмо, и рассуждение. Меняется то, что мы перестаём делать сами.
Что исследования говорят о критическом мышлении
В опросе 319 специалистов те, кто больше доверял ИИ, сообщали, что реже задействуют критическое мышление. Когда оно было нужно, усилия уходили на проверку и встраивание ответов в работу. Это самооценка, а не проверка навыков.6
Когда ИИ убирают: измеренная утрата навыков
В Польше после внедрения инструмента с ИИ доля обнаруженных аденом при колоноскопиях без ИИ снизилась с 28,4% до 22,4%. Исследование наблюдательное: оно не доказывает, что снижение вызвал инструмент.2
В турецкой школе ученики, пользовавшиеся GPT-4 без ограничений, набрали на экзамене без ИИ на 17% меньше, чем те, у кого доступа не было. В группе, получавшей подсказки вместо ответов, измеримого снижения не было.1
В эксперименте по программированию разработчики, работавшие с помощником, получили 50% в последующем тесте без ИИ против 67% в другой группе. Самый большой разрыв был в заданиях по отладке.7
Парадокс автоматизации, известный с 1983 года
В 1983 году Лизанна Бейнбридж описала парадокс: чем больше рутины делает машина, тем меньше практикуется человек. Но именно он должен взять управление в сложной ситуации.3
После катастрофы рейса AF 447 французское бюро BEA рекомендовало регулярно отрабатывать ручное пилотирование на большой высоте. На работе принцип тот же: не стоит ждать сбоя, чтобы потренироваться без ИИ.8
Неровная граница: когда ИИ уверенно ошибается
В эксперименте с 758 консультантами GPT-4 ускорил выполнение задач, с которыми справлялся. На задаче за пределами его возможностей участники с помощником находили верный ответ на 19 процентных пунктов реже. Уверенный ответ всё равно нужно проверять.9
Не глупее. Но иногда зависимее
Экзамен по математике или тест по коду не измеряет общий интеллект. Полезнее спросить: что мы хотим по-прежнему уметь делать без помощи?
Человек в центре: метод из шести правил
- Выбирать, что делегировать. Сортировку писем можно поручить ИИ, решение о найме оставить за человеком.
- Сначала сделать, потом спросить. В ключевых задачах сначала предложить своё решение, а потом попросить ИИ его оспорить.
- Иметь право отказать. У проверяющего должны быть время, компетенция и полномочия.
- Упражняться без ИИ. Отрабатывать действия, которые нельзя разучиться выполнять.
- Учить проверке. Разбирать ошибки из своей практики и учиться их замечать.
- Измерять. Повторить реальную задачу без помощника. Если качество упало, вернуть практику.
Чтобы начать в правильном порядке, в нашем руководстве переход на ИИ: с чего начать расписаны первые шаги, а статья ИИ-агент или чат-бот объясняет, почему хорошо спроектированный агент готовит работу, но не решает за вас.
А если вы задаётесь вопросом, почему сэкономленное с помощью ИИ время так часто превращается в новую работу, прочитайте нашу статью о том, почему мы работаем больше, когда ИИ повышает продуктивность.
Что говорит закон: AI Act и человеческий надзор
AI Act предусматривает человеческий надзор за системами высокого риска, в том числе за некоторыми инструментами найма. Регламент может затронуть компанию из Монако, если результаты системы используются в ЕС.10
В Монако статья 19 закона № 1.565, за оговорёнными исключениями, защищает человека от полностью автоматизированных решений, которые имеют правовые или сопоставимые по значимости последствия.11
В Монако: небольшие команды, ценные знания
В малом бизнесе ключевые знания часто держатся на нескольких людях: менеджер, которая знает каждое дело, консультант, который чувствует клиента, ассистентка, которая знает, где что лежит. Именно этот капитал нужно беречь при внедрении ИИ. Наша статья об ИИ и персональных данных в Монако раскрывает другую сторону вопроса: какую информацию мы доверяем этим инструментам.
Частые вопросы
Что такое предвзятость автоматизации?
Предвзятость автоматизации проявляется, когда мы следуем совету машины, даже если она ошиблась. Она затрагивает и экспертов, а одного обучения недостаточно, чтобы её предотвратить.12
Нужно ли запрещать ИИ младшим сотрудникам?
Нет, но его использование нужно выстраивать. В исследованиях обучение тормозят те сценарии, где ИИ делает работу вместо человека; когда он служит репетитором или отвечает на содержательные вопросы, навык формируется гораздо лучше.1,7
Как понять, что моя команда теряет самостоятельность?
Время от времени выполняйте реальный кейс без ИИ и сравнивайте качество и затраченное время. Следите и за слабыми сигналами: проверки становятся всё быстрее, ошибки ИИ замечают клиенты, а не команда, сотрудники не могут объяснить документ, который сами отправили.
Прежде чем автоматизировать задачу, спросите, кто сможет выполнить её без инструмента. С этого начинается наш бесплатный ИИ-аудит.
Запросить бесплатный аудит и прототип
Источники
- PNAS, Bastani et al., Generative AI without guardrails can harm learning,
- The Lancet Gastroenterology & Hepatology, Budzyń et al., Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy,
- Automatica, Bainbridge, Ironies of Automation,
- Platon, trad. Léon Robin (Wikisource), Phèdre, 274c-275b,
- Trends in Cognitive Sciences, Risko et Gilbert, Cognitive Offloading,
- ACM CHI 2025, Microsoft Research et Carnegie Mellon, Lee et al., The Impact of Generative AI on Critical Thinking,
- arXiv, Shen et Tamkin, How AI Impacts Skill Formation,
- BEA, Rapport final, accident du vol AF 447 du 1er juin 2009,
- Harvard Business School, Dell’Acqua et al., Navigating the Jagged Technological Frontier, Working Paper 24-013,
- Journal officiel de l’Union européenne, Règlement (UE) 2024/1689 sur l’intelligence artificielle, articles 2, 14 et 26,
- Légimonaco, Loi n° 1.565 du 3 décembre 2024 relative à la protection des données personnelles, article 19,
- Human Factors, Parasuraman et Manzey, Complacency and Bias in Human Use of Automation,