Кто сможет правильно настроить ИИ?

Опасность ИИ таится не в том, что он сможет стать умнее людей и подчинить их своей воле, а в нашей неспособности отлаживать его, предупреждает Бен Хоровиц, соучредитель известного венчурного фонда Andreessen Horowitz.

Выступая на этой неделе в Токио на «Новом экономическом саммите», Хоровиц назвал «спекулятивными» опасения о превосходстве ИИ над человеком. Он отметил, что до сих пор не существует обладающей сознанием технологии ИИ.

Идея о том, что ИИ может стать хозяином в этом мире была растиражирована некоторыми из выдающихся техно-гиков, в частности, харизматическим предпринимателем Элоном Маском. По данным Wall Street Journal, Маск даже создал компанию под названием Neuralink, целью которой являются работы по соединению человеческого мозга с компьютером, как способ расширения возможностей мозга, чтобы он мог конкурировать со сверх умным ИИ.

«Никто еще не представил программное обеспечение с ИИ, которое реализовало бы какое-либо намерение или волю», - сказал Хоровиц, ссылаясь на Интернет в качестве примера новой технологии, которая вначале вызывала страх, но позже стала необходимой для повседневной жизни. Все опасались проблем с информационной безопасностью, кибертерроризма и кибервойн. Это сегодня происходит. Но мы все равно пользуемся интернетом».

Хоровиц, однако, предупредил о том, что существует более явная опасность. Если что-то с ИИ пойдет не так, люди не сразу смогут понять, что случилось. ИИ, пояснил он, развивается сегодня посредством процесса, называемого глубоким обучением, который требует компьютеров для обработки больших объемов данных.

Хоровиц привел пример: «На начальном этапе развития ИИ была создана шахматная программа, в которой программист допустил ошибку. Как результат, программа была оптимизирована для проигрыша, а не для победы. В действительности, очень трудно было понять, в чем причина постоянных проигрышей, которые, оказывается, были целью программы. Это реальная опасность».