При том, что так называемые системы искусственного интеллекта (ИИ), сегодня активно внедряются в различные домены, от ритейла до медицины, говорить о том, что они заменят людей, преждевременно по следующим причинам:

• Слабая возможность интерпретации. Для большинства обывателей технологии Data Science, реализованные в виде приложений, представляются черным ящиком, внутри которого происходит неясная магия. А излишняя прозрачность модели, работа которой описана в простых и понятных терминах, может еще больше запутать пользователей. При этом даже у ИТ-специалистов возникают когнитивные искажения, когда они пытаются объяснить явные ошибки алгоритма. Поэтому, даже при создании объяснимого ИИ, который интерпретирует, почему принято то или иное решение, люди будут или чрезмерно доверять машине или, наоборот, саботировать ее рекомендации из-за непонимания принципов работы.
• ответственность (юридическая, социальная и уголовная). Например, сегодня беспилотные автомобили и другие самоуправляемые механизмы (дроны, скоринговые модели и антифрод-системы) начинают использоваться автономно. Но пока еще не разработаны нормы и правила, кто или что будет отвечать, если виновником ДТП стал беспилотный автомобиль под управлением ИИ. Такие случаи с машинами Mazda 4-го поколения (модельный ряд 2019 и 2020 годов) и Tesla уже случались. Хотя часть проблем по ликвидации материального ущерба можно передать страховой компании, вопросы с административной и уголовной ответственностью остаются открытыми. Поэтому ответственность по-прежнему лежит на человеке. Не случайно, в самолетах даже при наличии автопилота, до сих пор есть возможность ручного управления, чем регулярно пользуются командиры воздушного судна, спасая пассажиров в критических ситуациях.
• Отсутствие типовых паттернов. человек пока лучше любого ИИ принимает решения в нестандартной ситуации, неявно экстраполируя на нее свой жизненный опыт из других предметных областей. Хотя подобный прием сегодня используется в глубоком обучении, особенно в RL (обучение с подкреплением), в целом он все равно реализует идею реагирования на события внешнего мира по образцам, которые в прошлом были успешны для подобного опыта. Но если подобного опыта нет, и нейросеть сталкивается с совершенно новыми данными, результаты не бывают успешными.

Частично эти причины хочет устранить Ян ЛеКун, главный научный сотрудник лаборатории искусственного интеллекта запрещенной Meta и один из самых влиятельных ИИ-исследователей в мире. Ранее он пытался дать машинам базовое представление о том, как устроен мир — своего рода здравый смысл, — обучая нейросети предсказывать, что происходит. Осознав безуспешность этой идеи, сейчас он работает над тем, чтобы обучить нейросеть, которая может фокусироваться только на соответствующих аспектах мира. Например, предсказывать, что предмет на краю стола упадет, но не то, как именно. Исследователь построил раннюю версию этой модели, которая может выполнять базовое распознавание объектов. А сейчас ЛеКун работает над тем, чтобы научить его делать прогнозы. Но то, как должен работать конфигуратор, остается загадкой, говорит он. ЛеКун представляет себе эту нейронную сеть как контроллер всей системы, который будет решать, какие прогнозы модель окружающего мира должна делать в любой момент времени и на каком уровне детализации она должна сосредоточиться, чтобы сделать эти прогнозы возможными. По мере необходимости контроллер вносит в эту модель изменения. По представлению ЛеКуна, эта модель окружающего мира и конфигуратор являются двумя ключевыми частями более крупной системы, известной как когнитивная архитектура, которая включает в себя другие нейросети: модель восприятия, которая ощущает мир, и модель, которая использует вознаграждение для мотивации ИИ, чтобы изучить или обуздать его поведение.

Идея когнитивных архитектур, особенно вдохновленных мозгом, существует уже несколько десятилетий. Как и многие идеи ЛеКуна о прогнозировании с использованием моделей с разным уровнем детализации. Но когда глубокое обучение стало доминирующим подходом в ИИ, многие из этих старых идей вышли из моды. Поэтому ЛеКун взял эти идеи и реабилитировал их, сочетая их с глубоким обучением. Впрочем, несмотря на определенные успехи, достигнутые исследователем, воплотить их в жизнь пока не получается из-за отсутствия технологий практической реализации. Поэтому говорить о том, что ИИ заменит человека в творческих областях деятельности, где нет готовых паттернов и формализованных алгоритмов, пока рано.