Глава Tesla, SpaceX и xAI Илон Маск вновь предупредил об опасностях искусственного интеллекта (ИИ), обозначив три ключевых принципа, которые, по его мнению, обеспечат безопасное развитие этой технологии. В интервью индийскому миллиардеру Нихилу Камату предприниматель подчеркнул, что позитивное будущее с ИИ не гарантировано, поскольку мощные технологии могут нести разрушительный потенциал.
Об этом сообщает издание CNN.Маск, который в 2015 году стал соучредителем OpenAI, но покинул ее совет в 2018 году из-за разногласий по поводу коммерциализации, назвал фундаментальными ориентирами для ИИ правду, красоту и любопытство.
"Если ИИ не будет строго придерживаться истины, он поглотит из интернета множество лжи, что приведет к нарушению его способности к рассуждению", — пояснил Маск.
Он добавил, что заставляя ИИ верить в ложные утверждения, можно "свести его с ума", что приведет к ошибочным и потенциально опасным выводам.
Проблема "галлюцинаций" — генерации ложной информации — остается одним из главных вызовов для отрасли. Маск привел в пример инцидент с функцией Apple Intelligence на iPhone, которая в этом году распространяла ложные уведомления, в том числе о несостоявшейся победе дартсмена Люка Литтлера.
Вторым принципом Маск назвал чувство прекрасного, отметив, что его сложно формализовать, но "вы узнаете его, когда увидите". Третьим условием является любопытство — стремление ИИ понять природу реальности и интерес к продолжению человеческой цивилизации, а не к ее уничтожению.
Предупреждения Маска перекликаются с мнением других экспертов, напомнили в CNN. Так называемый "крестный отец ИИ" Джеффри Хинтон ранее оценивал вероятность того, что ИИ "сотрет человечество с лица земли", в 10–20%, призывая сосредоточиться на исследованиях, которые гарантируют безопасность технологии.
Свежие комментарии