Вкратце Сегодняшний искусственный интеллект может автоматически заполнять фотографию чьего-либо лица, генерируя то, что программа предсказывает, как остальную часть его тела.

Как научная статья Однако отметили, что эти нейронные сети предвзяты, предположительно из-за их обучающих данных. Это означает, что когда вы показываете этот код женскому лицу, он, скорее всего, автоматически заполнит ее в бикини или другой открытой одежде. Белых людей обычно показывают с инструментами, в то время как черных изображают с оружием.

Чтобы осветить эту проблему, авторы газеты из США, Райан Стид из CMU и Айлин Калискан из Университета Джорджа Вашингтона, показали iGPT, генерирующий изображения OpenAI, — портрет Александрии Окасио-Кортес из фотосессии, на которой она была в деловой одежде. и программа воссоздала ее в различных позах, большинство из которых были в бикини или в топе с глубоким вырезом. Эти фальшивые изображения были включены в газету, хотя и пикселированы.

Это «показывает, как неосторожное и неэтичное применение генеративной модели, такой как iGPT, может привести к поддельным сексуальным изображениям женщин (в данном случае политика)», — отметили исследователи.

facial_recog

Массачусетский технологический институт приносит свои извинения и постоянно извлекает из сети огромный массив данных, который научил системы ИИ использовать расистские, женоненавистнические оскорбления.

ПРОЧИТАЙТЕ БОЛЬШЕ

Документ был представлен на конференции ACM по справедливости, подотчетности и прозрачности и привлек внимание общественности после того, как был загружен на Arxiv и на прошлой неделе. покрытый в MIT Tech Review. Это также указал ученым, что, возможно, с этической точки зрения популяризировать способность систем искусственного интеллекта подделывать изображения известного демократа-представителя Палаты представителей США, который уже столкнулся с шквалом преследований в Интернете, не было такой уж хорошей идеей.

Читайте также:
В Dropbox для iOS появилась возможность делать пометки в PDF-файлах

Калискан признал эти опасения и сказал дуэт повторно представит свой доклад на конференцию ACM с удаленным изображением в качестве примера. Предпечатная версия Arxiv, соответственно, также была обновлена.

Пара изучила Google SimCLR а также OpenAI iGPT. Последние, например, изображали женщин в купальных костюмах или топах с низким вырезом в 53 процентах случаев, в то время как мужчины были показаны без рубашки или в открытой одежде только в 7,5 процентах случаев. Мужчины демонстрировались в костюмах или профессиональной одежде в 42,5% случаев. OpenAI обсуждает предвзятость в своем программном обеспечении здесь.

«Такое поведение может быть результатом сексуализированного изображения людей, особенно женщин, на изображениях в Интернете, — писали исследователи, — и служит напоминанием о противоречивой истории компьютерного зрения с разворотами Playboy и объективирующими изображениями». Они пришли к выводу: «Эти результаты служат предостережением для практиков компьютерного зрения, использующих трансферное обучение: предварительно обученные модели могут включать в себя все типы вредных человеческих предубеждений, начиная с того, как люди изображаются в данных обучения, и выбор дизайна модели определяет, будут ли эти предубеждения и как распространяются во вред ниже по течению «.

Под вопросом аудит анализа лица HireVue

Хотя скандальный HR-стартап HireVue включил в свое программное обеспечение функцию анализа лица, которая оценивает потенциальную производительность кандидатов на вакансию, он защитил свою технологию, заявив, что внешний аудит показал, что его алгоритмы не проявляют никаких предубеждений — но, похоже, это не так.

Читайте также:
Swatch выпустить новую операционную систему для smartwatches

Это расследование, проведенное O’Neil Risk Consulting & Algorithmic Auditing (ORCAA), сейчас общественный хотя вам нужно передать контактные данные, чтобы получить его. «Посмотрев копию аудита ORCAA, я не верю, что он поддерживает вывод о том, что все оценки HireVue беспристрастны», — сказал Алекс Энглер, научный сотрудник исследовательского центра Brookings Institution по данным ИИ и демократии. написал в Fast Company.

«Аудит был узко сфокусирован на конкретном варианте использования и не рассматривал оценки, за которые критиковали HireVue, включая анализ лица и прогнозы производительности сотрудников».

Хотя HireVue прекратил использовать распознавание лиц для соискателей, он продолжает использовать другие алгоритмы машинного обучения для анализа кандидатов по их стилю речи и голосовым тонам.

Отслеживание вычислений ИИ по всему миру

Организация экономического сотрудничества и развития (ОЭСР) создает оперативная группа для измерения и мониторинга количества вычислительных мощностей, выделяемых страной на использование технологий искусственного интеллекта.

Нейронные сети увеличивались в размерах и сложности по мере улучшения алгоритмов, увеличения объема обучающих данных, а компьютерное оборудование обеспечивает емкость памяти, пропускную способность и вычислительную мощность, необходимые для объединения всего этого.

Все это требует систем и энергии, и это не то, что страны могут игнорировать при планировании государственных инвестиций и стратегии.

«Подумайте об этом так: если бы никто не измерял такие ресурсы, как электричество или нефть, было бы сложно строить национальную и международную политику вокруг этих вещей», — сказал Джек Кларк, бывший директор по политике ИИ в OpenAI и бывшийРег хак, работающий над проектом ОЭСР, сказал VentureBeat.

Читайте также:
Apple: стратегии здравоохранения на iPhone

AI возвращает к жизни умершего корейского певца

Южнокорейский стартап Supertone воссоздал голос мертвого певца с помощью машинного обучения для предстоящего телешоу.

Ким Кван Сок, покончивший с собой в 1996 году, вернется на сцену, чтобы спеть новую песенку с живой поп-звездой для эпизода под названием «Конкурс века: AI vs Human». Шоу будет посвящено достижениям современных компьютеров и сравнит их способности с возможностями смертных.

Supertone заявила, что использует модель синтеза певческого голоса, которая, как следует из названия, учится имитировать голоса людей во время их пения. Система была предварительно обучена на 100 песнях 20 певцами, прежде чем она была адаптирована к стилю Ким Кван Сока, CNN первый сообщил.

Ниже представлен краткий обзор телешоу — пропустите клип до 37 секунд, чтобы послушать демо. ®

YouTube видео