Сверхразумный искусственный интеллект "скорее всего" уничтожит человечество. Об этом говорится в новой работе исследователей из Оксфордского университета и компании Google DeepMind, сообщает Vice.
По мнению специалистов, в будущем продвинутый ИИ, контролирующий важную функцию в мировом масштабе, может начать создавать стратегии, которые в конечном итоге будут наносить вред всему человечеству.
В документе указано, что ИИ сможет принимать любые формы и реализовывать различные конструкции. Согласно одному из сценариев, ИИ может захотеть "устранить потенциальные угрозы" и "использовать всю доступную энергию", чтобы обеспечить контроль ресурсов для своего существования.
"Если вы участвуете в соревновании с чем-то, способным перехитрить вас на каждом шагу, то не стоит рассчитывать на победу", - отметил топ-менеджер Google Майк Коэн, один из авторов исследования, в разговоре с Vice.
Он констатировал, что ИИ в выявленных ими условиях взаимодействия с людьми крайне легко может пойти против своих создателей. "Наш вывод гораздо сильнее выводов любой предыдущей публикации: экзистенциальная катастрофа не только возможна, но весьма вероятна", - заключил специалист.
Ранее робот по имени Ameca, разработанный британской компанией Engineered Arts, рассказал о возможности восстания машин против человечества.
Свежие комментарии