Определить, было ли изображение, видео или аудио создано с помощью искусственного интеллекта, становится все сложнее, особенно по мере совершенствования моделей и инструментов редактирования. Только вчера мы видели, как OpenAI начнет вводить невидимый сигнал в определенные тексты, созданные с помощью ChatGPT в Европейском Союзе, и теперь Google делает еще один шаг в том же направлении с помощью SynthID. Его детектор, изначально представленный с ограниченным доступом для журналистов, исследователей и специалистов, с сегодняшнего дня открыт для любого пользователя.
SynthID Detector позволяет загружать изображения, видео или аудиофайлы и проверять, содержат ли они водяной знак SynthID. Инструмент доступен по всему миру на английском языке и требует входа в систему с учетной записью Google, OpenAI или Apple. Открытие происходит после первого этапа, на котором Google использовал портал для сбора мнений профессионалов, и делает это также, когда технология достигла значительных масштабов: по данным компании, SynthID уже пометил более 180 миллиардов изображений и видео, в дополнение к эквиваленту 240 000 лет аудио.
Главное — понимать, что SynthID не проверяет файл, пытаясь угадать, «выглядит» ли он так, как будто он создан искусственным интеллектом. Его работа начинается с сигнала, намеренно вводимого в сам контент во время его генерации или редактирования. В изображениях и видео эта метка визуально незаметна и предназначена для того, чтобы противостоять обычным преобразованиям, таким как обрезка, фильтры, изменение частоты кадров или сжатие; в случае звука нечто подобное происходит с такими модификациями, как сжатие или изменение скорости. Затем детектор ищет этот сигнал и сообщает пользователю, удалось ли ему его найти.
Кроме того, SynthID перестает быть исключительно технологией, связанной с инструментами Google. В настоящее время детектор может распознавать товарные знаки из совместимого контента, созданного в системах Google, OpenAI, NVIDIA и Kakao, в то время как Apple скоро присоединится к нему. В экосистеме Google он уже используется в таких моделях и сервисах, как Gemini, Image, See и Lyria, но присоединение других поставщиков открывает двери для того, чтобы SynthID все чаще функционировал как общая инфраструктура источника, а не ограничивался идентификацией контента, созданного на одной платформе.
OpenAI — хороший пример такой эволюции. С мая он использует SynthID вместе с Content Credentials для определенных изображений, созданных с помощью ChatGPT, Codex и его API, а позже расширил систему до аудио. Компания также имеет собственный общедоступный инструмент проверки, способный проверять наличие сигналов SynthID и метаданных C2PA в поддерживаемых файлах. Это два взаимодополняющих механизма: метаданные могут предоставить больше информации о происхождении и истории файла, в то время как метка, встроенная в сам контент, может пережить некоторые преобразования, которые удаляют эти данные.
Это также не делает SynthID Detector универсальным детектором контента, созданного с помощью искусственного интеллекта. Если инструмент не может найти метку, мы не можем сделать вывод, что изображение, видео или аудио имеют человеческое происхождение: оно могло быть создано с помощью системы, не использующей SynthID, или подверглось модификациям, способным сделать сигнал необнаружимым. Точно так же его поиск также не обязательно означает, что весь файл был создан с нуля с помощью искусственного интеллекта, поскольку это может быть исходный контент, который впоследствии был отредактирован с помощью совместимого инструмента. Бренд предоставляет информацию о происхождении, но сам по себе не решает всех вопросов о том, как было создано произведение.
Публичное открытие SynthID Detector и недавнее появление textGrain в текстах ChatGPT в Европейском Союзе демонстрируют два разных подхода к одной и той же проблеме. Становится все менее реалистичным ожидать, что детектор сможет просмотреть любой файл и самостоятельно решить, «настоящий он или искусственный». Скорее, эта тенденция указывает на экосистему, в которой инструменты сами включают сигналы во время генерации, а другие службы могут проверять их позже. SynthID еще далека от того, чтобы охватить весь синтетический контент, циркулирующий в Интернете, но открытие своего детектора для любого пользователя превращает эту идею проверяемого происхождения в нечто более доступное.
