Илон Маск и более 1000 других экспертов в области искусственного интеллекта и IT призвали ввести полугодовой мораторий на обучение систем более мощных, чем GPT-4 компании OpenAI. Их открытое письмо с этим предложением опубликовала некоммерческая организация Future of Life.

В числе прочих послание подписали ведущие интеллектуалы IT-индустрии Эмад Мостак (основатель Stability AI), соучредитель Apple Стив Возняк, филантроп Эндрю Янг, Йошуа Бенжио (Монреальский университет, считается «крестным отцом» ИИ), профессор Нью-Йоркского университета ГэриМаркус и Стюарт Рассел из калифорнийского университета в Беркли.

В нем говорится, что такие технологии, способные конкурировать с людьми, могут нести «серьёзные риски для общества и человечества» и приводить к экономическим и политическим потрясениям, что подтверждается «обширными исследованиями». Поэтому их следует разрабатывать только тогда, когда есть уверенность, что последствия будут положительными, а риски — управляемыми.

Запуск ChatGPT побудил другие компании ускорить разработку конкурирующих продуктов. «В последние месяцы лаборатории искусственного интеллекта застряли в неконтролируемой гонке по разработке и развертыванию все более мощных цифровых умов, которые никто — даже их создатели — не может понять, прогнозировать или надежно контролировать», — говорится в письме.

Авторы обращения призывают немедленно приостановить создание продвинутых систем искусственного интеллекта как минимум до тех пор, пока не будут разработаны и внедрены общие протоколы и стандарты безопасности для таких технологий (их соблюдение будут контролировать независимые эксперты). А если компании не пойдут на мораторий добровольно, его должны установить правительства, отмечается в послании.

Разработать эффективную систему контроля искусственного разума за шесть месяцев вполне реально, считает финансовый аналитик группы компаний CMS Станислав Бовт.

«Мне представляется, что предложение остановить обучение на полгода продиктовано реальными опасениями ученых о развитии искусственного интеллекта. Я думаю, эти люди знают, о чем говорят», — сказал он «Ридусу».

Маск, чья компания Tesla использует элементы искусственного интеллекта в системах автопилота, и ранее открыто высказывал свои опасения по поводу машинного разума, напоминает эксперт.

По некоторым прогнозам, ИИ способен в будущем заменить более 300 миллионов рабочих мест в различных областях жизнедеятельности человека, таких как здравоохранение, образования, юриспруденции, агропромышленном комплексе и управленческая сфера.

«Безусловно, это не произойдет в одночасье и можно надеяться, что ученые найдут способ применить его с максимальной эффективностью», — утешает собеседник «Ридуса».

Но развитие искусственного интеллекта, по его мнению, идет слишком стремительно, и научная мысль намного опережает моральное развитие общества. А стремление к обогащению любой ценой дает повод сомневаться, что ИИ будет применен всеми в благих целях.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.