ОК начали автоматически обнаруживать и скрывать эротические изображения

Соцсеть "Одноклассники" начала автоматически обнаруживать и размывать изображения и GIF-файлы, которые пользователи считают эротическими. Об этом сообщили в пресс-службе ОК.

Чтобы лучше выявлять и ограничивать такой контент, соцсеть провела исследование среди пользователей и выяснила, что именно они считают эротикой, которую не хотят видеть.

Если пользователь захочет посмотреть скрытое изображение или GIF-файл, он может кликнуть по нему либо проигнорировать и пропустить.

Всего ОК использовали более 6 млн файлов и разработали две ML-модели. Одна сканирует картинку и определяет визуальное содержимое, другая относит контент к определенному типу, за счет чего он или размывается, или остается в первоначальном виде.

Обновление не затрагивает изобразительное искусство, фото спортсменов и снимки пользователей с пляжа. Пользователи все так же могут пожаловаться на нежелательный контент.

Ранее соцсеть начала автоматически обнаруживать на платформе нецензурные слова и скрывать их. Также ОК используют модерацию на базе машинного обучения, чтобы ограничивать другой нежелательный и неприемлемый контент.

В прошлом году соцсеть также запустила ML-модель, ограничивающую навязчивые знакомства и общение с нежелательными собеседниками на площадке.