[cbrpnk]

Самый умный ИИ в мире гораздо глупее ребенка. Почему?

Люди понемногу свыкаются с этой мыслью, пришедшей на смену радужных и/или пугающих прогнозов скорого создания сверх-умных машин.
И хотя алгоритмы могут уже многое (переводить со всех языков, давать полезные советы, сочинять музыку, писать картины, обыгрывать нас в шахматы, водить машину и т.д.), они по-прежнему колоссально уступают людям в умении быть разумными. По уму и способности к обучению пятилетние дети, даже не количественно, а качественно превосходят возможности самых мощных суперкомпьютеров.

Если мы пока не можем повторить человеческий разум в машине, мы хотя бы понимаем – почему?

Ответ на этот вопрос, пожалуй, сейчас самый важный в науках об ИИ. И понемногу этот ответ начинает проясняться.

Известнейший французский нейробиолог Станислас Деан объясняет это следующим. Эволюция создала в людях, как минимум, три уникальных качества, которые люди пока что не могут повторить в машинах.

Первое качество – это уникальный по мощности и простоте способ обучения. Его механизм предельно прост: восприятие фрагмента реальности, обработка его и перенесение в мозг.

Второе качество – уникальные статистические «алгоритмы» мозга, постоянно учитывающие неопределенности и вероятности при прогнозировании изменений мира и самого себя на основе запечатленных в мозге фрагментов реальности.

Третье качество – какой-то особый, пока не понятный нам способ обработки символической информации. Машины умею информацию лишь обрабатывать (преобразовывать по заданным правилам). Люди же (даже маленькие дети) умеют информацию извлекать.

Ничего подобного у машин пока нет.

Фрагментов реальности в «мозге» машины нет. Вместо них море двоичных данных, могущих означать что угодно. А машине все равно что это. Она ведь о мире знает лишь что-то одно. Например, шахматный ИИ – про игру в шахматы и ничего больше.

Статистические алгоритмы у машины есть. Но они столь несовершенны, что для выучивания перевода одного нового слова, машине нужно предоставить миллион примеров перевода в разных контекстах. А ребенку хватает и пары примеров. Разница качественная.

Что же до особого умения извлекать информацию, то его вообще нет у машин. Их алгоритмы умеют лишь распознавать паттерны. Подобный процесс есть и у людей на первом этапе восприятия (например, восприятие зрительных образов). Но это работает только в течение первой четверти секунды и, по сути, является бессознательным процессом обработки информации в мозге.
Ну а после первой четверти секунды идет совсем иной процесс: уже не обработка, а извлечение информации. Мы извлекаем из мира не только неявную информацию, как это делают нейронные сети, но и явную информацию, которой мы можем делиться с другими в форме символов, которых раньше не было в нашем языке.

Чтоб узнать об этом подробней, и не в пересказе, а из первоисточника, читайте только вышедшую книгу Станисласа Деана «How We Learn: Why Brains Learn Better Than Any Machine . . . for Now» (ссылка на Амазон)

Источник - тут