Новый бесплатный инструмент Nightshade, помогающий художникам «отравлять мозг» искусственного интеллекта, если тот использует их изображения без их согласия, демонстрирует колоссальный спрос. Менее чем за неделю после запуска программное обеспечение было скачано более 250‘000 раз.
Для создания изображений искусственному интеллекту (ИИ) требуются примеры — фотографии и картины — которые он анализирует, находит закономерности и повторяет их в своих произведениях. Однако многие исходные изображения являются объектом эксклюзивного авторского права. И разработчики ИИ должны получать разрешение на пользование ими в своих продуктах, но в подавляющей своей массе hi-tech-компании этого не делают. Разработчик таких ИИ-инструментов, как ChatGPT и DALL-E, — OpenAI недавно созналась, что без такого воровства, а иначе это не назвать, технология не могла бы развиваться.
Не подумайте, что эти признания — акт раскаяния. Нет. Это торг с правительствами, которые запугивают тем, что их страна отстанет в новой гонке вооружений.
Россия здесь тоже не отстаёт. Сбер, который трудится над своей системой Кандинский, также обходит тему авторских отчислений стороной. Некоторые его западные коллеги, понимая шаткость бизнес-модели, начинают сотрудничать с музеями, получая доступ к их коллекциям изображений на платной основе. В связи с этим неудивительно, что недавно мы услышали об инициативе Сбера оцифровать коллекцию ГМИИ им. А.С. Пушкина. Правда, думается, что тут музей будет платить банку, а не наоборот.
Пока власти стран смотрят на эту практику сквозь пальцы, энтузиасты берут дело в свои руки — появляются такие продукты защиты авторских работ, как Glaze и Nightshade.
Спустя неделю, как на сайте Чикагского университета появился доступный для свободного скачивания Nightshade, он тут же обрёл огромную популярность.
Руководитель проекта Бен Чжао говорит, что рекордное количество загрузок было достигнуто всего за пять дней. Хотя разработчики и предполагали, что их инструмент будет пользоваться спросом, но результаты превзошли все их ожидания.
«Я все же недооценивал потребность, — говорит Чжао. — Отклик просто превосходит все, что мы себе представляли».
«Спрос на Nightshade зашкаливает, — говорится публикации заявления команды в социальных сетях. — Глобальные запросы фактически перенасытили нашу сеть кампуса. Никакой DOS-атаки, только загрузки по-делу».
Принцип работы Nightshade заключается в «затенении» изображений на уровне пикселей, в результате чего любые изображения, сгенерированные ИИ, будут испорчены и повлияют на то, как алгоритм машинного обучения их изучает. Он может использоваться с другим аналогичным инструментом защиты — Glaze, цель которого — заставить модели искусственного интеллекта неправильно идентифицировать художественный стиль и некорректно его воспроизводить. Сейчас чикагская команда работает над объединением инструментов.
«Если вы художник, чей художественный стиль можно имитировать, мы рекомендуем вам не публиковать изображения, которые только «затенены», но не «заглазированы», — пишут разработчики у себя на сайте. — Мы все ещё проводим тесты, чтобы понять, как Glaze взаимодействует с Nightshade на одном и том же изображении».
Пока художникам рекомендуется сначала использовать Nightshade, а затем Glaze для защиты. Однако этот может увеличить уровень видимых артефактов в работе.
Команда сделала ещё пару предупреждений, в том числе о том, что «вероятно, это не лучшая идея — объявлять изображение отравленным, так как это противоречит цели».
Интерфейс программы визуально не впечатляет, но интуитивно понятен. Пользователю легко сориентироваться, как выбрать изображение для затенения с помощью двух обязательных настроек и необязательной третьей, прежде чем результат будет отрисован за 30-180 минут в зависимости от выбранных настроек. Программа также требует много памяти.
Некоторые авторы в социальных сетях предлагают отравлять все, что человек публикует в Интернете, включая «ежедневные фотографии о вашей еде, семье, щенках, котятах, случайные селфи и уличные снимки».
Инициативу поддерживают некоторые другие платформы, такие как приложение для социальных сетей и портфолио Cara, которое в настоящее время находится в открытой бета-версии. Они обещают скоро интегрировать Nightshade в свой функционал.
