В Роскачестве назвали три главные ошибки пользователей при работе с нейросетями

Директор Центра компетенций в области цифровой трансформации Роскачества Мария Мустафаева выделила три распространенные ошибки пользователей, которые они допускают при работе с искусственным интеллектом.

Многие пользователи воспринимают нейросети аналогично поисковым системам, не учитывая их способность генерировать сложные и контекстуализированные ответы.

Чтобы получить релевантный результат, важно четко формулировать запрос, уточняя роль автора и формат контента. Конкретизация параметров — ключ к качественному отклику. Именно этот принцип лежит в основе нового направления в сфере ИИ — промпт-инжиниринга, который занимается разработкой эффективных стратегий взаимодействия с нейросетями.

ИИ, несмотря на свою способность к обработке больших массивов данных, подвержен так называемым "галлюцинациям" — ошибкам, доходящим до 5%. Технология может не учитывать специфику законодательства, профессиональные нюансы или контекст запроса. Поэтому на данном этапе нейросети следует рассматривать как вспомогательный инструмент, а не как окончательный источник информации при принятии значимых решений.

"Третья ошибка — это игнорирование вопросов кибер- и информационной безопасности. Загрузка конфиденциальных данных в нейросети может привести к утечке информации, что особенно опасно для корпоративной среды. Поэтому пользователи должны быть осторожны и осведомлены о рисках, связанных с утечками данных и сохранением их в безопасности. Важно соблюдать требования законодательства, учитывая все правовые аспекты использования ИИ, в том числе вопросы авторских прав, защиты персональных данных и прозрачности алгоритмов", — отметила Мустафаева.

Она также подчеркнула важность учета правовых аспектов при использовании ИИ, поскольку нейросети часто не учитывают эти нюансы. Вопросы защиты персональных данных, соблюдения авторских прав и юридической ответственности становятся все более актуальными в условиях быстрого технологического прогресса.

По словам эксперта, для бизнеса ИИ — это не только инструмент автоматизации, но и средство стратегической трансформации, который освобождает сотрудников от рутинных задач, повышает продуктивность и помогает компаниям быстрее адаптироваться к изменениям, а также улучшает внутренние процессы, снижает затраты, ускоряет принятие решений и повышает гибкость.