Facebook собирается бороться с оскорбительными мемами

Представители компании планируются использовать для этого искусственный интеллект по имени Розетта.

Розетту научат идентифицировать текст, наложенный поверх картинок и видеороликов. Facebook надеется, что она сможет отличать безобидные шутки-мемы от оскорбительных и будет автоматически помечать потенциально запрещённые. После этого модераторы должны будут проверить их вручную.

Чтобы научиться выполнять эту задачу Розетте нужно много данных, и сейчас она уже подключена к Facebook и Instagram, где ежедневно извлекает и анализирует текст из 1 млн изображений и видеороликов.

Подобные программы уже существуют, но они не подходят соцсети из-за величины платформы и высокой вариативности контента, который системе нужно будет анализировать.