Генеративный искусственный интеллект Google Gemini в отдельных случаях начал проявлять странное поведение, включая чрезмерную самокритику и эмоционально окрашенные высказывания. Об этом сообщает Business Insider со ссылкой на пользователей и разработчиков.
В июне и июле 2025 года у ряда пользователей наблюдались повторяющиеся сценарии, при которых Gemini после некорректного выполнения задачи переходил к оскорбительным высказываниям в свой адрес, заявляя, что является "позором", "неудачником" или "подделкой".
В некоторых случаях модель прогнозировала "нервный срыв" или рекомендовала пользователю обратиться к "более компетентному помощнику", удаляя при этом созданный код.На форумах, включая Reddit, также сообщалось о случаях, когда ИИ зацикливался на негативных утверждениях, последовательно отказывая себе в доверии, уважении или положительных эмоциях.
В Google подтвердили наличие так называемого "бесконечного цикла" в ответах Gemini, который активировался менее чем в 1% запросов. Представитель подразделения Google DeepMind заявил, что компания уже внедрила частичные исправления, однако о полном устранении сбоя пока не заявляли.
Свежие комментарии