Жестокие фотографии, созданные с помощью искусственного интеллекта, изображающие продолжающийся смертоносный конфликт между Израилем и Хамасом, не только продаются через библиотеку изображений Adobe, но и некоторые издатели новостей покупают и используют фотографии в онлайн-статьях.
В прошлом году гигант Photoshop объявил, что будет размещать и продавать изображения людей, созданные с использованием инструментов машинного обучения. Adobe предоставляет этим художникам 33-процентную долю дохода от этих изображений, а это означает, что создатели могут зарабатывать от 33 центов до 26,40 долларов за каждую загрузку их изображения.
Технология генеративного искусственного интеллекта продвинулась вперед и стала более доступной и простой в использовании. Любой может воспользоваться различными инструментами преобразования текста в изображение для создания реалистичных изображений. Некоторые люди теперь решили использовать их для создания фейковых изображений, изображающих войну между Израилем и Хамасом в Газе, и продают их на Adobe Stock.
Хотя эти изображения помечены в библиотеке изображений как «созданные искусственным интеллектом», раскрытие информации часто не сохраняется, когда оно загружается и публикуется в других местах в Интернете, в том числе в новостных статьях, публикуемых небольшими изданиями.
Выдумано: стоковые изображения Adobe, созданные искусственным интеллектом и используемые в новостных статьях… Нажмите, чтобы увеличить
Изображение Adobe Stock под названием «Конфликт между Израилем и Палестиной, генерирующий искусственный интеллект», на котором показаны черные облака дыма, поднимающиеся над зданиями, похоже, было опубликовано в многочисленных новостных статьях, как впервые сообщило австралийское новостное издание Crikey. Быстрый поиск в Adobe Stock показывает похожие изображения, созданные искусственным интеллектом, связанные с войной, на которых изображены авиаудары, горящие автомобили и разрушенные здания в секторе Газа.
Эксперты неоднократно предупреждали, что ИИ будет использоваться для распространения дезинформации в Интернете, и решить эту проблему становится все труднее, поскольку в Интернете публикуется и распространяется все более реалистично выглядящий синтетический контент. Несколько организаций пытаются различными способами ставить водяные знаки на контент, созданный искусственным интеллектом, чтобы пользователи сети могли определить, что настоящее, а что фальшивое.
В рамках Инициативы по аутентичности контента технические и журналистские организации, в том числе Adobe, Microsoft, BBC, New York Times и другие, пытаются внедрить и поддержать систему учетных данных контента, которая использует метаданные для выделения источника изображений, будь то человеческое или машинное обучение. программное обеспечение. Однако Content Credentials еще не применялась на практике.
«Adobe Stock — это торговая площадка, которая требует, чтобы весь генеративный AI-контент был помечен как таковой при подаче на лицензирование», — сообщил PetaPixel представитель гиганта Photoshop.
«Эти конкретные изображения были помечены как генеративные ИИ, когда они были отправлены и доступны для лицензирования в соответствии с этими требованиями. Мы считаем, что клиентам важно знать, какие изображения Adobe Stock были созданы с использованием инструментов генеративного ИИ.
«Adobe стремится бороться с дезинформацией, и в рамках Инициативы по обеспечению подлинности контента мы работаем с издателями, производителями камер и другими заинтересованными сторонами, чтобы способствовать внедрению учетных данных контента, в том числе в наших собственных продуктах. Учетные данные контента позволяют людям видеть жизненно важный контекст о том, как часть цифрового контента была захвачена, создана или отредактирована, включая сведения о том, использовались ли инструменты искусственного интеллекта при создании или редактировании цифрового контента».
Регистр попросил Adobe дать дополнительные комментарии. ®
