Новости Ян ЛеКун предложил наделить ИИ-системы «здравым смыслом»

«Автономному» искусственному интеллекту, способному исследовать и воспринимать окружающий мир как люди, необходимо более эффективное обучение. К такому выводу пришел вице-президент Meta и ведущий ИИ-специалист компании Ян ЛеКун, пишет Motherboard.

По сравнению с людьми и животными современным системам искусственного интеллекта не хватает разума. Это концепция, необходимая для разработки «автономных» ИИ-алгоритмов, способных обучаться «на лету» путем наблюдения за реальным миром, а не через длительные тренировки для выполнения только одной конкретной задачи.

ЛеКун опубликовал исследование, где предложил способ решения этой проблемы. По его мнению, алгоритмы требуют более эффективного обучения, поскольку пока ИИ «не очень хорош» в планировании и прогнозировании изменений в реальном мире. С другой стороны, люди и животные способны получить огромное количество знаний путем наблюдения и несущественных физических взаимодействий.

Подростки могут научиться водить автомобиль, попрактиковавшись несколько десятков часов, и при этом не попасть в аварию. Для решения той же задачи ИИ-системам необходимо огромное количество данных.

«Беспилотному автомобилю потребуется несколько раз съехать со скалы, прежде чем он поймет, что это плохая идея, и еще тысячи попыток, чтобы научиться не падать с нее», — отметил ЛеКун во время доклада в Калифорнийском университете в Беркли.
​

По его словам, различие заключается в наличии у людей и животных «здравого смысла».

В статье ученый описывает это понятие как набор моделей, способных помочь живому существу сделать вывод о разнице между вероятным, выполнимым и невозможным. Такой навык позволяет человеку исследовать свое окружение, восполнять недостающую информацию, а также предоставлять новые решения неизвестных проблем.

ЛеКун заявил, что многие современные тренировочные процессы вроде обучения с подкреплением «не на высоте», когда дело доходит до соответствия человеческой надежности в реальных задачах.

«Это практическая проблема, потому что людям действительно необходимы машины со здравым смыслом. Нам нужны беспилотные автомобили, домашние роботы и интеллектуальные виртуальные помощники», — сказал он.
​

Специалист предложил архитектуру, предназначенную для минимизации действий, которые должен выполнить ИИ для успешного обучения и выполнения поставленной задачи.

ЛеКун описал модель создания «автономного» интеллекта, состоящую из пяти отдельных, но настраиваемых модулей. Одна из сложнейших частей архитектуры станет вроде симулятора и будет оценивать состояние мира, а также прогнозировать воображаемые действия и другие последовательности. Это позволит использовать знания об окружении для разных задач.

Напомним, в июле Google уволила инженера после того, как он заявил о «зарождении разума» у ИИ-алгоритма LaMDA.

В январе Илон Маск пообещал предотвратить бунт машин против людей.

В июне 2021 года ученые DeepMind заявили, что для достижения общего искусственного интеллекта достаточно обучения с подкреплением.


Новость Ян ЛеКун предложил наделить ИИ-системы «здравым смыслом» на сайте CoinProject.info.