IT-новости

Компания Facebook* продолжает работу по созданию системы проверки правдивости данных. Ранее уже был представлен алгоритм Rozetta, который позволит выявлять оскорбительные мемы, но компания идёт дальше.

Сообщается, что в Facebook* разработали и уже запустили в работу модель машинного обучения для проверки на «фейковость» фото и видеоматериалов. Система определяет дезинформацию на первом этапе, используя анализ метаданных, геометок и других сведений. Затем данные отправляются на обработку 27 партнёрам компании в 17 странах, которые специализируются на факт-чекинге.

Техническая сторона проекта основана на уже известных аспектах, которые позволяют специалистам определять фейки. К примеру, это поиск исходного изображения, анализ метаданных и так далее. Для работы используется оптическое распознавание символов (OCR) для извлечения текста из фотографий и сравнение их с заголовками статей в других источниках.

Также в компании заявили, что разрабатывают ещё более изощрённые средства обнаружения и выявления фейков, хотя и не уточнили, как они должны работать. Известны лишь направления: созданные с помощью монтажа заведомо манипулятивные фото и видео; зависимые от контекста и содержащие рекламу или иные вставки. Представители Facebook* отмечают, что борьба с дезинформацией и фейками — проект с долгосрочной перспективой. Хотя, разумеется, есть и тактические решения, которые работают здесь и сейчас.

Отметим, что Facebook* развернула широкомасштабные «военные действия» против фейков после того, как социальную сеть обвинили в манипуляциях мнениями и «вбросах» информации на выборах президента США Дональда Трампа. Владелец компании Марк Цукерберг вынужден был объясняться в Сенате. Всё это привело к запуску системы по контролю и распознаванию фейков, поскольку предыдущая система на основе только модераторов показала свою неэффективность.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».