Производитель бумаги в РФ ограничил работу ИИ из-за его опасных для людей решений

Пермская целлюлозно-бумажная компания (ПЦБК) приостановила использование ИИ (искусственного интеллекта) в промышленном программировании после выявления потенциально опасных решений, предложенных нейросетью. Об этом "Газете.Ru" сообщил заместитель руководителя Центра метрологии и автоматизации группы предприятий ПЦБК Иван Тарасов.

На предприятии продолжают применять ИИ, например, для предсказания потребления электроэнергии и в других расчетах, невыполнимых классической математикой. При этом в разработке программ управления производством от использования ИИ отказались. Причиной стали предложенные ИИ алгоритмы, которые оказались неработоспособными и даже опасными для рабочих. К такому решению в ПЦБК пришли после попыток использовать все доступные ИИ-модели, включая ChatGPT, Gemini, Claude, DeepSeek, Grok и не только.

В частности, в рамках одного из тестов при разработке цепочек аварийных отключений система пропускала отдельные пункты, из-за чего оборудование могло отключаться с нарушением циклограммы (расписания в работе оборудования. – "Газета.Ru").

"На оборудовании работают люди, их безопасность для нас на первом месте. Пропуск мельчайшей детали фатален. Например, в определенный момент должен открываться клапан в камере с высоким давлением и сбрасывать его, и если этого не сделать, то может произойти разрушение", – отметил Тарасов.

По его словам, нейросети не способны учитывать весь производственный контекст при разработке индустриальных решений и иногда игнорируют части технического задания, что в промышленной среде может привести к серьезным последствиям.

"Нейросеть никогда не сможет корректно учесть все изменения, которые происходят в ходе установки и запуска оборудования. Например, поставщик поставил не те датчики, подрядчик предоставил некорректные алгоритмы, в документах были не те единицы измерения. Профессионал заметит это с легкостью, существующие ИИ – почти никогда", – добавил эксперт.

Также на предприятии заявили, что главная проблема ИИ в промышленности в том, что даже в результате выявления ошибок их сложно проанализировать и исправить. По его словам, классическое ПО с жесткими регламентами сильно выигрывает у ИИ в использовании на производстве.