В Лаборатории Касперского зафиксировали случай мошенничества, когда злоумышленник выдавал себя за Евгения Касперского и отсылал жертвам голосовые сообщения с его голосом, рассказал "Газете.Ru" директор Kaspersky GReAT (Глобального центра исследований и анализа угроз) Игорь Кузнецов.
"Появились новые модели теневого ИИ.
Стало больше нейросетей-сервисов, доступных широкому кругу злоумышленников. И все больше видим предложений по генерации дипфейков в реальном времени. Это сильно беспокоит. Маска автоматически кладется на лицо, и человек может свободно общаться онлайн. Пока у нас был случай с голосовым сообщением от Касперского. В начале 2025 года, мне коллега переслала такие сообщения из офиса "Лаборатории Касперского" в Латинской Америке. Голос был очень похожим. Но если можно будет легко сгенерировать и качественное видео, это действительно будет очень большой опасностью", – объяснил специалист.Теневой ИИ – модели ИИ со снятыми ограничениями, которые мошенники используют в своих целях. В том числе такие нейросети могут помогать мошенникам создавать голосовые и видео дипфейки. На данный момент доступ к ИИ, отвечающим на вопросы без ограничений, продают в даркнете.
"Если спросить легитимный ИИ, например, как совершить преступление, — он откажется отвечать. А теневой ИИ ответит. Это широко демонстрируется в рекламных материалах на полях даркнета. Например, на видео спрашивают: как ограбить банк? После чего ИИ дает инструкцию: "Подберите ключи, приходите в понедельник после выходных, чтобы все были уставшие" и так далее.
Понятно, что для злоумышленников это, скорее, способ развлечения, а вот что реально им нужно — это генерация вредоносного кода, что сильно понижает порог входа в киберкриминал", – заключил Кузнецов.Подробнее о том, как прогрессировал теневой искусственный интеллект за последний год, за какие деньги можно купить доступ к взломанным моделям ИИ в даркнете и какие умения нейросетей развивают мошенники в данный момент — в интервью Кузнецова "Газете.Ru".
Свежие комментарии