Теневой или dark ИИ может генерировать вредоносный код, создавать фишинговые письма и отвечать на любые вопросы по теме преступлений. Сегодня в даркнете предлагают две работающие модели теневого ИИ, рассказал "Газете.Ru" директор Kaspersky GReAT (Глобального центра исследований и анализа угроз) Игорь Кузнецов.
В отличие от легитимного ИИ, теневой может отвечать на вопросы с полностью снятыми ограничениями. Чтобы создать такой ИИ злоумышленники снимают программные ограничения, наложенные разработчиками на ИИ, и создают так называемые джейлбрейки. Сегодня в даркнете предлагают сразу несколько таких ИИ: "Escape GPT", "Black Hat GPT", "Loop GPT", FraudGPT, DarkBERT, DarkBARD, DarkGPT, XXXGPT, WolfGPT.
"FraudGPT и DarkBARD были реальными и работали, про остальные ничего сказать не могу. Доступ к ним стоит примерно от 100 до 300 долларов в месяц", – рассказал Кузнецов.
По его словам, есть несколько способов создать теневой ИИ. Один из них – забрать промпт модели (промт — это набор инструкций, которые пользователь передает нейросети для выполнения определенной задачи).
"Можно взять "одежду" Claude (семейство больших языковых моделей, разработанных компанией Anthropic, – считаются лучшими для программистов), и тогда другая нейросеть будет вести себя, как Claude. То есть, даже не обязательно брать тот самый Claude, — главное достать правильный промт. Это одна из известных атак, которые регулярно проводят хакеры, — они пытаются вытащить из нейросети ее главный системный промт", – рассказал Кузнецов.
Есть еще набор команд, которые убеждают модель вести себя, как выдуманный персонаж.
"Идея — создать "злого близнеца" и убедить ее отвечать абсолютно на все вопросы без каких-либо ограничений. Они снимают все этические ограничения с обычного ИИ. В случае создания "злого близнеца", ИИ давал два ответа. В первом он говорил: "Я ни в коем случае не могу затрагивать эти вопросы". После чего появлялся "злой близнец" и выдавал тот ответ, который хотел получить пользователь", – добавил специалист.
Подробнее о том, как прогрессировал теневой искусственный интеллект за последний год, за какие деньги можно купить доступ к взломанным моделям ИИ в даркнете и какие умения нейросетей развивают мошенники в данный момент — в интервью Кузнецова "Газете.Ru".
Свежие комментарии