Замглавы Articul Кузьмин назвал пять скрытых рисков использования ИИ для бизнеса

Первый скрытый риск использования искусственного интеллекта в бизнесе - телесные повреждения из-за ошибок ИИ. Такое мнение в беседе с "Газетой.Ru" высказал заместитель генерального директора IT-компании Articul Борис Кузьмин.

"В 2023 году в США робот Tesla нанес травмы человеку, а в Южной Корее сотрудник погиб из-за неправильной работы ИИ.

Несоблюдение техники безопасности и ошибки в распознавании объектов могут привести к трагедиям, особенно в сфере робототехники", - отметил эксперт.

Второй риск - распространение дезинформации. Кузьмин уточнил, что ИИ иногда допускает серьезные фактические ошибки, например, некорректно описывает товары и услуги, что подрывает доверие клиентов и вредит репутации компаний. Один из случаев — публикация научной статьи с ошибочной иллюстрацией, где были изображены несуществующие анатомические детали, пояснил эксперт.

Третий риск - финансовые потери из-за ошибок ИИ. По словам Кузьмина, автоматизированные системы могут ошибаться, и это приводит к убыткам. Например, продавец на Amazon потерял £300 тыс. из-за неверной работы системы, списавшей деньги за рекламу в регионе, где он не продавал товары.

Четвертый риск - утечка конфиденциальных данных. Кузьмин допустил, что ИИ может стать причиной утечки данных, если использует информацию, содержащую коммерческую тайну. По словам эксперта, подобная ситуация произошла в Samsung, когда сотрудники вводили в GPT корпоративные данные.

Пятый риск - усиление предвзятости и дискриминации. Кузьмин пояснил, что информация для обучения ИИ-систем может содержать исторические предубеждения и приводить к дискриминации. Например, в 2023 году в этом уличили компанию iTutor Group при найме персонала. Эксперт сказал, что система отсеивала женщин старше 55 лет и мужчин старше 60 лет, не учитывая опыт и квалификацию. Это не только нанесло ущерб репутации, но и понесло финансовые убытки — компании пришлось выплатить $365 тыс., добавил Кузьмин.

Чтобы снизить риски, эксперт посоветовал российским предпринимателям проводить регулярные инструктажи и обучать сотрудников. Кузьмин уточнил, что нужно четко распределять ответственность — системы не могут отвечать за безопасность людей при работе с ИИ. Это должны делать руководители и ответственные сотрудники, заключил эксперт.

Доцент Финансового университета при правительстве РФ Петр Щербаченко уверен, что россияне могут заработать с помощью ИИ. По словам эксперта, нейросеть может помочь в подготовке текстов и постов для соцсетей, изображений, презентаций, создании чат-ботов.