Реклама
Home Softnews Утечка мозгов от искусственного интеллекта в Google и друзьям угрожает способности государственного...

Утечка мозгов от искусственного интеллекта в Google и друзьям угрожает способности государственного сектора смягчить предвзятость машинного обучения • The Register

Реклама


Боффинс из Дании и Великобритании измерил утечку мозгов искусственного интеллекта и обнаружил, что частный сектор действительно поглощает технические таланты за счет академических кругов и общественных организаций.

Реклама

В газете [PDF] Распространяется через ArXiv, авторы Роман Юровецки и Даниэль Хейн из бизнес-школы Университета Ольборга и Хуан Матеос-Гарсия и Константинос Статхулопулос из британской благотворительной организации Nesta описывают, как они проанализировали более 786000 исследований ИИ, опубликованных в период с 2000 по 2020 год, чтобы проследить карьерные сдвиги от от академических кругов к промышленности и менее частые обратные миграции.

«В целом, наши результаты, основанные на всестороннем анализе библиографических данных, подтверждают идею о растущем потоке талантов из академических кругов в промышленность, который может потребовать внимания со стороны политиков», — заключают четыре исследователя.

Причина, по которой разработчики политики могут беспокоиться о таких изменениях, заключается в том, что частные компании не могут уделять первоочередное внимание этическим и социальным проблемам, связанным с системами искусственного интеллекта и машинного обучения.

Пророки или прибыль?

В качестве примера проблем, связанных с системами искусственного интеллекта, авторы статьи указывают на вызывающее споры увольнение исследователя искусственного интеллекта Тимнит Гебру в Google с должности соруководителя по этике в Google Brain, исследовательском подразделении Google по искусственному интеллекту, в декабре 2020 года.

Гебру не согласилась с менеджерами Google по поводу доклада на конференции, который она написала с коллегами об экологических и этических проблемах, связанных с большими языковыми моделями на основе искусственного интеллекта, от которых Google стал зависеть в своих основных услугах.

уволенный

Читайте также:
Windows 10 завершает год с более чем половиной ПК в версии 2020 • Реестр

Со-босс Google по этике искусственного интеллекта заблокирован для работы с учетной записью во время расследования скандального увольнения коллеги

ПРОЧИТАЙТЕ БОЛЬШЕ

Решение веб-гиганта выгнать Гебру, которое побудило широко распространенная критика в академическом сообществе «подчеркивает риск того, что эти лаборатории могут оттолкнуть сотрудников от выполнения исследовательских программ, которые не соответствуют их коммерческим интересам, что может привести к развитию технологий искусственного интеллекта, которые являются несправедливыми, небезопасными или неподходящими за пределами вариантов использования компании, которые их строят », — утверждают авторы статьи.

Утечка мозгов искусственным интеллектом была задокументирована другими исследователями. В газета 2019 годаНапример, руководители бизнеса из Рочестерского университета Майкл Гофман и Чжао Цзинь сообщили, что «утечка мозгов профессоров ИИ в отрасль беспрецедентна». Они даже создали Индекс утечки мозгов чтобы проиллюстрировать свои выводы.

Авторы отмечают, что поток исследователей имеет тенденцию к развитию промышленности, но отражает некоторое движение в другом направлении. Они предполагают, что одним из объяснений этого может быть то, что некоторые академические исследователи могут не заботиться о среде частного сектора — и, судя по опыту Гебру, есть очевидные недостатки.

Они также отмечают, что, когда учитываются все изменения карьеры среди типов ИИ, большинство ходов остается в академических кругах.

Графика из приватизации исследований в области ИИ: причины и потенциальные последствия

Из бумаги … график, показывающий движение сотрудников в промышленность и научные круги и обратно. нажмите, чтобы увеличить

Они обнаружили, что переход от академических кругов к промышленности наиболее заметен среди исследователей, связанных с престижными учреждениями, такими как Карнеги-Меллон, Стэнфорд, Принстон и Массачусетский технологический институт. И больше всего привлекает тех, кто совершает переход, — это Google, особенно после 2015 года.

Читайте также:
Исправлена ​​ошибка chkdsk в обновлении Windows, которая приводила к сбоям загрузки и повреждению файловых систем

Шоколадная фабрика

«Во многих случаях на Google приходится более 10% всех переходов исследователей в отрасль из ведущих организаций», — говорится в документе, отмечая, что Facebook также стал популярным направлением за последние пять лет.

В документе затрагиваются некоторые различия между исследованиями в частном и государственном секторах. Специалистов по ИИ, работающих в промышленности, как правило, цитируют в два раза чаще и публикуют меньше, чем тех, кто работает в академических кругах. В то же время эти отраслевые исследователи ИИ демонстрируют признаки академической стагнации, предполагая, что их работодатели могут быть больше заинтересованы в реализации устоявшихся идей, чем в расширении границ с помощью новых методов.

Но четыре исследователя оставляют исследование последствий утечки мозгов ИИ в сторону, чтобы сосредоточиться на политических последствиях ИИ, преследуемой в первую очередь для коммерции, при этом не уделяя внимания таким соображениям, как этика, устойчивость и общественное благо.

«Растущая сфера общественных интересов, проводящая это исследование без необходимости уравновешивать академическую честность с коммерческими интересами, является, как и дело Timnit Gebru, с которого мы начали эту статью, критически важным требованием к этому пространству, которому может угрожать устойчивый поток исследователи от академических кругов до промышленных предприятий, о чем мы свидетельствуют в этой статье », — утверждают авторы. ®

Реклама

NO COMMENTS