Глава SpaceX и Tesla Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и еще более тысячи исследователей искусственного интеллекта призвали немедленно приостановить обучение систем на основе ИИ, "более мощных, чем GPT-4" от OpenAI. Об этом говорится в письме, опубликованном на сайте некоммерческой организации Future of Life.
Авторы письма, среди которых числятся Маск и Возняк, указали на риски для человечества из-за дальнейшего развития систем ИИ с "человеко-конкурентным интеллектом". Они призвали полностью приостановить обучение любых систем ИИ на шесть месяцев.
"Мощные системы искусственного интеллекта следует разрабатывать только в том случае, когда мы уверены, что их эффекты будут положительными, а их риски - управляемыми", - говорится в тексте.
Под обращением также подписались соучредитель Pinterest Эван Шарп, соучредитель Ripple Крис Ларсен, генеральный директор Stability AI Эмад Мостак, а также исследователи из компании DeepMind, университетов Гарварда, Оксфорда и Кембриджа.
В письме описаны потенциальные риски для общества и цивилизации со стороны "слишком умных" систем ИИ в виде экономических и политических потрясений.
"Должны ли мы развивать "нечеловеческие умы", которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным лидерам технологий", - заключили авторы письма.
Ранее аналитики американского банка Goldman Sachs предсказали, что в ближайшие 10 лет с мирового рынка труда из-за искусственного интеллекта исчезнут около 300 млн вакансий.
Свежие комментарии