Новости DALL-E 2 интегрировали в программу составления фотороботов

Разработчики Артур Фортунато и Филипе Рейно создали программу на базе ИИ-генератора изображений DALL-E 2 для составления фотороботов подозреваемых. Эксперты заявили, что технология может усугубить существующие расовые и гендерные предубеждения, пишет Motherboard.

Инженеры разработали программу Forensic Sketch AI-rtist в рамках хакатона в декабре 2022 года.

По их словам, цель системы — сократить время, затрачиваемое на создание фоторобота подозреваемого в преступлении.

Разработчики пока не выпустили продукт, поэтому у программы нет активных пользователей.

«Мы все еще пытаемся проверить жизнеспособность проекта в реальных сценариях. Необходимо связаться с полицейскими управлениями и получить от них данные, которые позволят протестировать технологию», — заявили инженеры.
​

ИИ-исследователи и эксперты по этике считают, что время не является проблемой традиционного способа создания фотороботов.

«Любой криминалистический эскиз подозреваемого уже подвержен человеческим предубеждениям и ненадежности памяти. Нейросети не решат подобных проблем, а эта программа ввиду своего дизайна может только усугубить их», — сказала директор по судебным разбирательствам в Electronic Frontier Foundation Дженнифер Линч.
​

Forensic Sketch AI-rtist предлагает два способа взаимодействия. Первый включает шаблон для ручного ввода таких данных, как пол, возраст, оттенок кожи, наличие бороды, цвет глаз, форма бровей, носа и челюсти.


Интерфейс Forensic Sketch AI-rtist. Данные: Саша Лучони.

Второй предлагает пользователю описать подозреваемого в форме текстового запроса для ИИ-генератора.

После нажатия на кнопку «создать профиль» DALL-E 2 сгенерирует соответствующий описанию портрет.

«Исследования показали, что люди помнят лица целостно, а не по чертам. Созданный на основе отдельных характеристик фоторобот, как предлагает эта программа, может привести к разительному отличию сгенерированного подозреваемого от фактического», — сказала Линч.
​

Эксперт по этике из Hugging Face Саша Лучони заявила, что в случае обнародования ИИ-фотороботы способны укрепить стереотипы и расовые предубеждения. Также они могут затруднить расследование, привлекая внимание полиции к людям с эскизов, а не к настоящим преступникам, добавила она.

Напомним, в июле 2022 года OpenAI заявила о снижении предвзятости и улучшении безопасности генератора изображений DALL-E 2.

Новость DALL-E 2 интегрировали в программу составления фотороботов на сайте CoinProject.info.