К чему может привести экономия Цукерберга на модераторах Facebook со знанием финского языка

Утечка данных Facebook показала, что автоматической системы модерации на финском языке у соцсети не существует и борьбу с запрещенным и опасным контентом компания поручает всего 11 людям, работающим в Берлине.

Об этом свидетельствуют документы, полученные телерадиокорпорацией Yle.

В соцсети распространяются разжигающие ненависть высказывания, нарушающие местный закон, но автоматизированная система их вовремя не распознает и не ограничивает.

Публикации в Facebook стали причиной для вынесения десятков приговоров за последние несколько лет.

Во время пандемии количество разжигающих ненависть высказываний в соцсети резко возросло.

Компания заявила, что внедрила автоматическую модерацию на испанском, арабском и индонезийском языках, что позволило увеличить масштаб удаления подобного контента до 22,5 млн случаев.

Однако внутренние документы ИТ-гиганта свидетельствует о том, что корпорации по-прежнему удается ограничивать лишь несколько процентов разжигающих ненависть высказываний, а ресурсы на проверку материалов распределяются в зависимости от значимости языка.

Так, компания концентрирует свои усилия на тех языковых группах, на которых создается наибольшее количество контента: именно для них создаются автоматизированные системы модерации.

Также, после скандала с геноцидом в Мьянме, развернувшимся отчасти из-за недостаточных мер Facebook по удалению ненавистнического контента, Meta уделяет особое внимание странам, где регулярно происходит насилие.

Однако любое государство могут "вычеркнуть" из приоритетного списка, если компания сочтет, что разработать автоматическую модерацию для местных языков слишком сложно.

Финский язык своего алгоритма не получил.

Так, в частности, отсутствует автоматическая модерация для таких типов опасного или запрещенного контента, как язык вражды, насилие и нагота.

ИИ просматривает материалы, опубликованные местными пользователями на других языках, однако, согласно собственному исследованию соцсети, алгоритм распознает только около пятой части сообщений – все остальное ложится на плечи 11 людей-модераторов.