В мае Google дополнила свою модель искусственного интеллекта Gemini инструментом SynthID — набором средств для встраивания в контент, сгенерированный ИИ, водяных знаков, которые, по заявлению компании, «незаметны для людей», но могут быть легко и надёжно обнаружены с помощью специального алгоритма.
Согласно отчету Ars Technica, Google теперь предлагает SynthID в качестве бесплатного инструмента с открытым исходным кодом. Это решение может существенно повлиять на то, как мы будем идентифицировать контент, созданный искусственным интеллектом, в будущем.
«Невидимые» водяные знаки уже среди нас
Хотя новость о SynthID появилась относительно недавно, «водяные знаки» для изображений, созданных ИИ, уже некоторое время используются. Многие люди даже не подозревают об их существовании, принимая изображения, сгенерированные ИИ, за реальные фотографии. Текстовые водяные знаки, судя по всему, более незаметны, однако, зная алгоритм их обнаружения, можно легко идентифицировать текст, созданный искусственным интеллектом.
Преимущества и недостатки открытого исходного кода
Решение Google сделать SynthID инструментом с открытым исходным кодом имеет как преимущества, так и недостатки.
Преимущества:
- Доступность: Бесплатный доступ к технологии позволит большему числу разработчиков и организаций использовать её для маркировки контента, созданного ИИ.
- Совершенствование: Открытый код способствует улучшению алгоритма сообществом разработчиков.
- Прозрачность: Открытый исходный код делает процесс внедрения и обнаружения водяных знаков более прозрачным, что повышает доверие к технологии.
Недостатки:
- Злоупотребление: Злоумышленники могут использовать открытый код для обхода технологии и создания контента, который будет сложно идентифицировать как созданный ИИ.
- «Гонка вооружений»: Открытый код может привести к «гонке вооружений» между разработчиками, стремящимися создавать всё более изощрённые методы обхода технологии и обнаружения водяных знаков.
Будущее водяных знаков для ИИ
Технология водяных знаков для ИИ всё ещё находится на ранней стадии развития. Тем не менее, решение Google сделать SynthID инструментом с открытым исходным кодом — это важный шаг, который может оказать существенное влияние на будущее идентификации контента, созданного искусственным интеллектом.
В будущем мы, вероятно, увидим более широкое использование водяных знаков для ИИ, а также разработку новых методов их внедрения и обнаружения. Важно, чтобы развитие этой технологии происходило ответственно и этично, с учётом как её потенциальных преимуществ, так и рисков.
