Компания MTS AI разработала решение для детекции дипфейков, запрещённого контента и материалов, сгенерированных искусственным интеллектом. ИИ-сервис анализирует видео, аудио или изображения с помощью нейросетей, обученных на специальных наборах данных. В случае с дипфейками нейросети способны выявлять несоответствия, которые обычно не видны человеку — неправильные тени или неестественные движения лицевых мышц, особенности тембра голоса или шумы. Нейросеть также понимает, как один фрагмент видео- или аудиозаписи связан с другими, и учитывает интонацию голоса, паузы или длительность звуков. Сервис позволяет находить сцены с демонстрацией алкоголя, наркотиков, оружия и экстремистской символики. Как отмечают разработчики, важно постоянное дообучение сетей, чтобы они могли адаптироваться к всё более сложным дипфейкам или новому виду запрещённого контента.
В MTS AI сообщают, что сервис может быть использован в социальных сетях и медиаплатформах для автоматической модерации пользовательского контента, выявления поддельных аккаунтов, борьбы с дезинформацией и фейками, а также для защиты несовершеннолетних от неприемлемого контента. Кроме того, его можно применить в корпоративном секторе — для проверки подлинности участников видеоконференций, защиты топ-менеджмента от манипуляций с корпоративными коммуникациями, для проверки подлинности видеоинтервью и документов кандидатов, а также для защиты от мошенничества при удаленном найме, при сдаче онлайн-экзаменов.