Ключевые моменты
- Искусственный интеллект может повышать эффективность, но оставляет людей с более слабыми навыками, когда он отключается.
- Эффект «возврата ИИ» проявляется в медицине, вождении, творческой деятельности и не только.
- Использование ИИ означает защиту и укрепление человеческих навыков.
Недавно мне прислали статью из The Lancet Gastroenterology & Hepatology, которая привлекла меня к более детальному изучению. Окей, это было о колоноскопиях, но наблюдения можно применить к более широким аспектам использования искусственного интеллекта. Это исследование отслеживало гастроэнтерологов, использующих ИИ для помощи в обнаружении полипов. С применением ИИ уровень обнаружения улучшился. Это не стало неожиданностью.
Но вот что меня поразило. Когда те же врачи вернулись к работе без ИИ, их показатели обнаружения упали ниже того уровня, который был до введения технологии. Это больше, чем просто спад. Это то, что я называю «возвратом ИИ» — парадокс, при котором инструмент, который повышает эффективность в данный момент, оставляет людей в худшим состоянии, когда он отключается.
Больше, чем медицинская история
Если это может произойти с высококвалифицированными специалистами, то легко представить это в других областях. Водитель становится уверенным в системе автопилота Tesla и обнаруживает, что его рефлексы замедлились при внезапном переключении на ручное управление. Пилот проводит большую часть полета на автопилоте, а затем должен приземляться вручную в плохую погоду. Даже в творческой работе я видел, как писатели теряли свой естественный поток, слишком полагаясь на цифрового помощника.
Механизм возврата ИИ
Возврат ИИ, как я его называю, может быть связан с проблемой «вне круга», которая наблюдается в случае традиционной автоматизации. Когда автоматизация берет на себя детали, оценка ситуации притупляется. В таком контексте мы меньше сканируем, меньше предсказываем и делаем меньше микро-корректировок. Проще говоря, ментальные модели, на которые мы полагаемся, чтобы ориентироваться в сложных ситуациях, сужаются, поскольку система выполняет то, что мы раньше делали сами.
Со временем это не просто о приостановке навыка; это может быть скорее эрозия. И когда технология отключается, навыки не просто возвращаются к базовому уровню. Они могут вернуться на более низкий уровень.
Почему важна исходная точка
В высокострессовых областях даже небольшие изменения в производительности имеют реальные последствия. В медицине несвоевременное обнаружение небольшого поражения может привести к пропущенному диагнозу. На дороге полсекунды задержки может превратить почти аварию в реальную. В бизнесе колебание или неопределенность могут подорвать критическое решение.
Легко сосредоточиться на выигрышах, которые мы видим, когда ИИ включен. Но исходная точка важна не меньше — ведь именно там мы действуем, когда инструмент отсутствует, выходит из строя или требует временной приостановки.
Проектирование против падения
Если возврат ИИ является реальным и измеримым риском, решение состоит не в том, чтобы избегать ИИ, а в том, чтобы интегрировать его так, чтобы сохранять основные человеческие компетенции. И потенциальное решение может быть так же простым, как внесение нескольких корректировок в способ использования технологий.
- Смешивайте сессии с ИИ и без ИИ, чтобы люди продолжали тренировать весь набор своих навыков.
- Подчеркивайте решение, ориентированное на человека, с соответствующей поддержкой ИИ.
- Включите регулярные тренировки переключения, где скорость и точность измеряются без помощи ИИ.
- Отслеживайте и вознаграждайте результаты без помощи ИИ наряду с результатами при помощи ИИ.
Это не просто технические исправления; это проектные решения, которые помогают людям оставаться активными участниками, а не пассивными наблюдателями. Отслеживая преимущества и недостатки, можно способствовать развитию навыков, дополненных ИИ, и уменьшать вероятность возврата ИИ.
Осторожность и возможности
Возврат ИИ не означает, что нужно бояться автоматизации или цепляться за устаревшие способы работы. Дело в том, чтобы понять, как технологии формируют наши способности со временем. И, по мере этого, предпринять шаги, чтобы обеспечить, что то, что мы приобретаем сегодня, не подрывает нас завтра.
Статья по гастроэнтерологии является ярким примером того, как легко это может произойти. Врачи в этом испытании не теряли своих медицинских дипломов или опыта, но их зоркость снизилась, когда ИИ отключали. Это тонкий, почти незаметный сдвиг, пока он не станет важным.
Сегодня необходимо наметить, измерить и спроектировать стратегии против этого — от операционной до класса. Потому что рано или поздно наступит момент, когда машина замолчит, и наша производительность будет зависеть от того, что мы сохранили в себе.
Поделитесь с друзьями:
