Обнаружение синтетического контента: битва технологий
Новые инструменты для борьбы с дипфейками и ИИ-манипуляциями
Google анонсировала SynthID Detector - портал для идентификации ИИ-сгенерированного контента. Система может обнаруживать водяные знаки в изображениях, аудио, видео и тексте, созданных с помощью Google AI.
Более 10 миллиардов единиц контента уже помечены водяными знаками SynthID. Однако исследования показывают ограничения современных детекторов: они эффективны только при анализе пиксельных несоответствий и аномалий метаданных. В течение 1-3 лет развитие GenAI-моделей может снизить надежность существующих методов обнаружения, смещая акцент с детекции подделок на верификацию подлинности.