7 ошибок, которые допускают все, кто пытаются предсказать будущее искусственного интеллекта

Родни Брукс — бывший директор лаборатории компьютерных наук и искусственного интеллекта (CSAIL) при MIT. В своем эссе он описывает 7 ошибок, которые допускают все, кто пытаются предсказать будущее ИИ.

7 ошибок, которые допускают все, кто пытаются предсказать будущее искусственного интеллекта

1. Мы переоцениваем влияние технологии в краткосрочной перспективе и недооцениваем — в долгосрочной. GPS разработали в 1978 для нужд американской армии. В 80-х проект едва не прикрыли, а впервые GPS использовали по назначению (наведение снарядов) только через 13 лет.

Сейчас без GPS сложно представить нормальную жизнь. ИИ может ожидать такой же цикл развития. Но что считать долгосрочной перспективой? Брукс уверен, что это срок больше, чем считают большинство футурологов.

2. «Любая достаточно совершенная технология неотличима от магии». Если перенести Ньютона в наши дни и показать ему айфон, скорее всего он решит, что это что-то магическое. В этом проблема с воображаемыми технологиями будущего — мы наделяем их магическими свойствами и неограниченными возможностями. Это хорошо заметно на примере общего ИИ.

При всех современных достижениях науки ученые пока не могут создать общий ИИ. Не все даже уверены в том, что это возможно. Тем не менее, многие люди ожидают, что общий ИИ обязательно будет создан и будет обладать неограниченными способностями. С такими аргументами нельзя спорить — это вопрос веры.

3. Люди путают производительность и компетентность. Компьютер может распознать на фотографии людей с фрисби. Но он не сможет ответить на вопросы вроде «Можно ли есть фрисби? Нормальная ли сегодня погода для фрисби?».

Он умеет только описывать картинки. Часто люди, услышав, что робот или программа научились выполнять какую-либо задачу, обобщают это и считают, что теперь робот заменит и человека, выполняющего эту задачу. Но пока компьютерные системы заточены под узкие задачи. Человеческие обобщения здесь не работают.

4. Мы часто применяем по отношению к машинам «человеческие» слова: «мышление», «опыт», «сознание», «объяснять», «воображать», «учиться», «распознавать». Но в машинном мире эти слова имеют совсем другое, очень узкое значение. Это ведет к непониманию и переоцениванию возможностей ИИ.

5. Развитие технологий рассматривают как экспоненциальный процесс. Во многих случаях реальный график таких процессов — S-кривая, в которой экспоненциальный рост сменяется устойчивым плато. К примеру, процесс уменьшения транзисторов ограничен физикой — они уже настолько маленькие, что дальше некуда уменьшать.

Увеличение объемов жестких дисков ограничилось с насыщением рынка — никому не нужен iPod на терабайт, сотни-другой гигабайт достаточно. А иногда экспоненциальные процессы просто не являются такими с самого начала. Прогресс в ИИ тоже может быть ограничен физикой или экономикой, или же не быть экспоненциальным.

6. В популярных фильмах будущее часто не отличается от настоящего кардинально. Люди живут среди человекоподобных роботов, но читают газеты и звонят по проводному телефону. Технологические прогнозы тоже страдают подобной узостью мышления.

Неправильно представлять мир будущего как сегодняшний мир, к которому просто добавили общий ИИ. Такое упрощенное изображение можно использовать в дискуссиях, но с реальным будущим эти картинки не имеют ничего общего.

7. Даже самые крутые достижения науки не будут внедрены быстро. На многих промышленных предприятиях используют старые технологии. Здесь работает принцип «Работает — не трогай». Особенно небыстро обновляют железо.

К примеру, на заводах Tesla используют ПЛК, то есть машины с самым продвинутым ИИ создают с помощью технологий 50-летней давности. Футурологи говорят о мире так, как будто он уже цифровой, стоит только создать новые эффективные ИИ-программы, и все производственные цепочки в момент перейдут на новый уровень. Это не так. Любые инновации в робототехнике будут внедряться очень небыстро».

Автор: Алена Владимирская

Дата: 8 октября