Авторитетное издание о технологиях Ars Technica приняло решение об увольнении старшего редактора, отвечавшего за тематику искусственного интеллекта (ИИ), после того как в подготовленном им материале обнаружились цитаты, сгенерированные ChatGPT. Бендж Эдвардс лишился должности из-за публикации, посвященной резонансному инциденту с участием ИИ-агента, который обвинил разработчика в дискриминации ботов.
Поводом для статьи послужила ситуация вокруг куратора Python-библиотеки Скотта Шамбо, отклонившего запрос на исправление кода. Сам разработчик ранее описал этот случай в своем блоге, после чего с ним связались несколько изданий. Однако Ars Technica, не обращавшаяся к Шамбо за комментариями, все же выпустила собственный материал, который, как выяснилось, содержал множество выдуманных фрагментов.
Шамбо обратил внимание, что в статье были приведены цитаты, якобы взятые с его страницы, хотя на самом деле он подобных высказываний не публиковал. Разработчик предположил, что журналисты могли использовать чат-ботов для сбора информации, но из-за установленной на его блоге защиты от парсинга нейросети выдали "галлюцинации" вместо реальных данных.
Редактор Ars Technica Кен Фишер подтвердил, что статья действительно содержала сфабрикованные цитаты, созданные ИИ, и принес извинения за случившееся. В Ars Technica журналу Futurism официально подтвердили увольнение сотрудника. Сам Бендж Эдвардс также опубликовал пост с извинениями, взяв на себя полную ответственность за появление выдуманных фрагментов в материале, который готовился в соавторстве.
Журналист пояснил, что в момент работы над статьей заболел и находился в постели с высокой температурой.
В таком состоянии он решил прибегнуть к экспериментальному инструменту на базе Claude Code, чтобы структурировать материал и составить список источников, однако тот не справился с задачей. Тогда Эдвардс обратился к ChatGPT за дополнительной информацией, и в ходе диалога нейросеть предоставила ему цитаты, якобы взятые из блога Шамбо, которые впоследствии были включены в текст без должной проверки.
Свежие комментарии