Midjourney планирует выпустить инструмент для редактирования изображений с помощью ИИ

Компания Midjourney анонсировала новый веб-инструмент. Он позволит редактировать любые изображения, загруженные из интернета, с использованием генеративного искусственного интеллекта. Новый инструмент сможет изменять текстуры объектов и перекрашивать их в соответствии с запросами пользователей.

Как быть с дипфейками?

При этом компания осознаёт, что с появлением подобного графического редактора могут возникнуть потенциальные злоупотребления вроде создания дипфейков и нарушений авторских прав. В США несколько штатов уже приняли меры против ИИ-имитаций. Их примеру хотят последовать и остальные.

Гендиректор Midjourney Дэвид Хольц осознаёт возможные риски. Он сообщил, что доступ к инструменту на начальном этапе получит лишь небольшая группа пользователей. Сейчас компания разрабатывает системы мониторинга для минимизации нарушений, включающие как ИИ, так и человеческий контроль. Однако четкого регламента действий пока нет, поэтому компания собирает обратную связь для формирования группы пользователей для тест-драйва.

Ранее компанию критиковали за возможное использование контента, защищённого авторским правом, при обучении своих ИИ-моделей. Однако сейчас Midjourney пытается бороться с распространением дипфейков. Так, перед президентскими выборами в США она установила фильтры для предотвращения создания изображений с политическими деятелями.

Отставание от конкурентов

Ранее Midjourney сообщила о внедрении стандарта IPTC, который добавляет метаданные в изображения для их маркировки о генерации с помощью ИИ. Однако компания пока не внедрила более продвинутую технологию C2PA, которая позволяет отслеживать происхождение изображения и включает данные об инструментах и оборудовании, использованных для его создания. Подобную технологию используют лидеры рынка вроде Adobe, в то время как Midjourney занимает позицию догоняющего.

* Решением суда запрещена «деятельность компании Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram на территории Российской Федерации по основаниям осуществления экстремистской деятельности».