Британско-канадский ученый-компьютерщик, которого часто называют «крестным отцом» искусственного интеллекта, повысил вероятность того, что ИИ уничтожит человечество в течение следующих трех десятилетий. Темпы изменений в технологии «намного быстрее», чем ожидалось, предупредил он.

Профессор Джеффри Хинтон в этом году был удостоен Нобелевской премии по физике за свою работу в области искусственного интеллекта. Ранее он говорил, что развитие этой технологии с вероятностью в 10% приведет к катастрофическим последствиям для человека.

На днях в программе Today на BBC Radio 4 в ответ на вопрос о том, не изменил ли он свой прогноз, ученый заявил «на самом деле нет» и добавил, что сейчас вероятность такого сценария составляет от 10 до 20%.

«Нам никогда раньше не приходилось иметь дело с более умными существами, чем мы сами. А сколько вы знаете примеров, когда более разумное существо управляется менее разумным существом? Их очень мало. Вот мать и ребенок. Эволюция приложила немало усилий, чтобы позволить ребенку контролировать мать, но это, пожалуй, единственный известный мне пример», — сказал Хинтон.

По его словам, люди будут подобны младенцам по сравнению с интеллектом мощных систем ИИ.

«Мне нравится думать об этом так: представьте себя и трехлетнего ребенка. Мы будем трехлетними детьми», — сказал он.

В прошлом году Хинтон уволился из Google, чтобы «свободно говорить о рисках, связанных с искусственным интеллектом», и заявил, что сожалеет о работе всей своей жизни. Уже тогда он высказывал опасения, что «злоумышленники» будут использовать эту технологию во вред другим. Но главная проблема, по мнению активистов кампании за безопасность ИИ, заключается в потенциальной угрозе существованию людей, если такие системы станут умнее человека и выйдут из-под его контроля.

Хинтон признался, что сам не ожидал такого быстрого прогресса в развитии ИИ, когда только начинал работу в этой сфере. Он полагал, что к тому состоянию, в котором технология находится сейчас, она придет лишь когда-нибудь в более отдаленном будущем.

В стремлении получить прибыль крупные компании в сфере ИИ не будет уделять достаточно внимания тому, чтобы обеспечить безопасности этих разработок. И только государственное регулирование может заставить их проводить больше исследований в области безопасности, считает Хинтон.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.