Jump to content

Meta создала новую ИИ-систему для борьбы с вредным контентом


security147

Recommended Posts

Meta создала новую ИИ-систему для борьбы с вредным контентом

15:55 / 9 Декабря, 2021 2021-12-09T16:55:28+03:00

Alexander Antipov

После запуска новой системы в Facebook и Instagram процент просмотров вредного контента уменьшился.

https://www.securitylab.ru/upload/iblock/4f5/4f58a44c5244dc8a21f33d31532e2244.jpg

Компания Meta, ранее известная как Facebook, сообщила о создании технологии искусственного интеллекта (ИИ), способной быстро адаптироваться к новым типам опасного контента, включая публикации против вакцинации от COVID-19.

Обычно ИИ-системы обучаются новому на основе примеров, но процесс сбора и маркировки огромных объемов данных может занимать многие месяцы. С помощью технологии, которую Meta назвала Few-Shot Learner, новой ИИ-системе для обучения достаточно только небольшого количества данных, так что она может адаптироваться для борьбы с новыми видами вредного контента всего за несколько недель.

Новая ИИ-система поможет соцсети защититься от критики в свой адрес, в частности со стороны президента США Джо Байдена, обвинившего ее в неудовлетворительной борьбе с дезинформацией на своей платформе. Напомним, ранее в нынешнем году бывший директор по продуктам Facebook Фрэнсис Хауген (Frances Haugen) опубликовала внутренние документы компании, свидетельствующие о том, что она ставит собственную выгоду выше безопасности пользователей.

По словам Meta, во время тестирования новая система идентифицировала оскорбительный контент, который обычные ИИ-системы могли пропустить. После запуска новой системы в Facebook и Instagram процент просмотров вредного контента пользователями уменьшился, заявила Meta.

Few-Shot Learner работает с более сотни языков. Компания не уточнила, с какими именно, но, по словам ее нынешнего директора по продуктам Корнелии Карапчи (Cornelia Carapcea), новая технология способна «нанести сильнейший удар» по вредному контенту на языках, отличных от английского.

Поскольку Facebook планирует создать метавселенную, модерация контента может стать еще более сложной задачей, чем сейчас. Как отметила Карапча, в итоге Few-Shot Learner можно будет использовать и в отношении контента в виртуальной реальности.


В нашем телеграм канале мы рассказываем о главных новостях из мира IT, актуальных угрозах и событиях, которые оказывают влияние на обороноспособность стран, бизнес глобальных корпораций и безопасность пользователей по всему миру. Узнай первым как выжить в цифровом кошмаре!

Adblock test (Why?)

Link to comment

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.
Note: Your post will require moderator approval before it will be visible.

Guest
Reply to this topic...

×   Pasted as rich text.   Paste as plain text instead

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

×
×
  • Create New...