Как проверить, сделано ли фото нейросетью: что реально работает
Запрос «как проверить фото на нейросеть» обычно приводит к онлайн-детекторам, которые обещают распознать генерацию по пикселям. Универсального детектора не существует: модели генерации обновляются быстрее, чем детекторы учатся их ловить, а на пересжатых картинках из мессенджеров ошибаются даже лучшие из них, причём в обе стороны: настоящее фото объявляют сгенерированным и наоборот.
Самый проверяемый сигнал
Сильнее всего работает механизм, при котором сам генератор записывает в файл заявление о генерации. Так делают Adobe Firefly, DALL-E в ChatGPT, Bing Image Creator и другие сервисы, присоединившиеся к стандарту C2PA. Это не детектор: это подписанное заявление создателя, которое можно криптографически проверить.
Внутри файла появляется манифест с полем digitalSourceType. Значение
trainedAlgorithmicMedia означает «создано обученной моделью»,
а compositeWithTrainedAlgorithmicMedia относится к редактированию с участием
генеративных инструментов, например дорисовке. Незаявленное изменение защищённых
данных файла обнаруживается при проверке: сохранить метку и незаметно подменить
картинку не выйдет.
C2PA не единственный слой: OpenAI и Google дополняют маркировку невидимыми водяными знаками (например, SynthID), у которых свои детекторы. Слои дополняют друг друга, а не заменяют.
Как посмотреть заявление в маркировке
- Откройте проверку C2PA-манифеста онлайн.
- Перетащите файл в окно проверки. Файл не загружается на сервер: чтение происходит в вашем браузере.
- Смотрите строку «Заявление об ИИ» в отчёте: там будет либо заявление о генерации или ИИ-редактировании, либо пометка, что заявления нет.
Заодно отчёт покажет заявленные сведения манифеста: кем подписан файл, когда, каким инструментом и из каких исходников собран.
Что означает пустой результат
- Метки нет, маркировки нет вовсе. Это ничего не доказывает. Генераторы старых версий, обычные скриншоты и почти все фото со смартфонов маркировки не имеют. Файл может быть и настоящим, и сгенерированным.
- Маркировка есть, заявления об ИИ нет. Создатель не заявил генерацию. Подпись камеры в момент съёмки — веский довод, но и он не доказывает реальность сцены: сфотографировать можно и экран с чужим изображением. Если подпись поставил только редактор, маркировка описывает лишь тот отрезок жизни файла, который она застала.
- Заявление об ИИ есть. Самый информативный случай: генерацию заявил сам инструмент, и проверка подтверждает целостность этого заявления. Учтите: наша проверка не подключает списки доверенных издателей, поэтому личность подписанта остаётся неподтверждённой.
Чего делать не стоит
Не стоит выносить вердикт по «шести пальцам» и артефактам: современные модели делают такие ошибки всё реже, а люди начали видеть «признаки ИИ» в настоящих фотографиях. Не стоит доверять и единственному детектору: перепроверяйте источник, ищите первоисточник изображения через обратный поиск, смотрите маркировку. Комбинация этих способов работает лучше любого из них по отдельности. Если маркировки в файле не оказалось, начните со статьи о том, что означает её отсутствие.