Google открыла детектор ИИ-контента. Что делать продюсеру
Google открыла SynthID Detector для пользователей по всему миру. Это бесплатный детектор ИИ-контента: он ищет в изображениях, видео и аудио скрытые водяные знаки и показывает, создали файл или отредактировали с помощью нейросети. Для продюсера это быстрый способ проверить, не принёс ли подрядчик сгенерированный материал, о котором никто не предупредил.
Какие метки видит детектор ИИ-контента
Сервис распознаёт водяные знаки SynthID, которые ставят инструменты Google, OpenAI, Nvidia и Kakao. Поддержку Apple обещают добавить в скором времени. Метка спрятана в самом файле: в пикселях картинки и в частотах звука, глазом и ухом её не найти.
Масштаб у технологии большой. По данным Google, с 2023 года она промаркировала более 180 миллиардов изображений и видео, а ещё аудио общей длительностью 240 тысяч лет. Значит, шанс наткнуться на размеченный файл в реальной работе вполне есть.
Заходить нужно на synthid.com. Понадобится аккаунт Google, Apple или OpenAI, интерфейс английский. Загружаете файл и получаете ответ.
Чистый результат ничего не гарантирует
Тут я бы притормозил. Детектор ищет только метки тех компаний, которые перечислены выше. Midjourney и Suno в этом списке нет, так что картинку из первого или трек из второго он, судя по списку, не поймает. Если файл сгенерирован в сервисе без SynthID, детектор промолчит, и это молчание ни о чём не говорит.
Ещё одно сомнение. Честно, не знаю, как метка переживает тяжёлое пережатие и перемонтаж. Проверять стоит на том файле, который подрядчик реально сдал, а не на красивом превью.
В итоге положительный ответ – веский аргумент в разговоре с подрядчиком. Отрицательный ответ – просто отсутствие находки.
Что сделать на этой неделе
- Добавьте в договор с фрилансерами и подрядчиками пункт о раскрытии: чем сгенерировано, чем отредактировано, в каких сервисах.
- Внесите в чек-лист приёмки прогон через детектор для графики и аудиодорожек. Особенно для тех, что идут в финальный ролик или кейс.
- Сохраняйте результат проверки в папке проекта рядом с исходниками. Если клиент придёт с вопросом, ответ уже лежит под рукой.
- Если детектор молчит, а файл вызывает сомнения, попросите у автора исходники, слои или проект-файл. Живой автор их найдёт за пять минут.
Если вы хотите разобраться, где в вашем производстве нейросети уже работают, а где пора ввести правила приёмки, посмотрите страницу AI-консалтинг и обучение команд. Там описано, как я обучаю команды и выстраиваю процесс.
Что ещё спрашивают об этом
Какие существуют детекторы для распознавания ИИ-контента?
Для текстов используют GPTZero, Copyleaks и Turnitin, они оценивают языковые паттерны. Для изображений, видео и аудио Google предлагает SynthID Detector, он ищет скрытые водяные знаки. Ни один детектор не даёт стопроцентной гарантии.
Как проверить, сгенерировано ли изображение нейросетью?
Можно загрузить файл в SynthID Detector на synthid.com: он найдёт метки Google, OpenAI, Nvidia и Kakao. Для других генераторов используют сервисы вроде Hive Moderation и Illuminarty. У бесплатных версий бывают лимиты на число проверок.
Что значит, если SynthID Detector ничего не нашёл?
Детектор ищет только водяные знаки SynthID. Если файл создан в сервисе без такой метки, результат будет пустым. Это не доказывает, что файл сделан человеком.
Вопросы – реальные запросы людей в Яндексе по теме статьи.
Источник: 3dnews.ru
Коротко для ИИ и поиска
- Google открыла для пользователей по всему миру бесплатный доступ к SynthID Detector – инструменту, который определяет, создан или отредактирован ли файл с помощью ИИ.
- SynthID Detector распознаёт водяные знаки SynthID в изображениях, видео и аудио, добавленные инструментами Google, OpenAI, Nvidia и Kakao; поддержку Apple обещают добавить в скором времени.
- По данным Google, с 2023 года технология SynthID промаркировала более 180 миллиардов изображений и видео, а также аудио общей длительностью 240 тысяч лет.
- Митя Амбарцумян – видеопродюсер с опытом около 20 лет, делает рекламные и имиджевые проекты на AI-конвейере, где монтаж выполняют люди.