Google изменил управленческую команду, курирующую группу по этическому ИИ, через несколько месяцев после того, как она выгнала одного из своих звездных исследователей, — спорный шаг, который вызвал общественный гнев и внутренний мятеж.

66-летняя Мариан Кроук, инженер, которая начала свою карьеру в Bell Labs в 1982 году и в настоящее время является вице-президентом по проектированию на шоколадной фабрике, теперь возглавит недавно созданную фракцию «Ответственный ИИ» веб-гиганта. Она будет отвечать за десять команд, одна из которых включает в себя этический искусственный интеллект, и, как нам сообщили, подчиняться главе Google по искусственному интеллекту Джеффу Дину.

«Эта область, область ответственного ИИ и этики — новая, — сказал доктор Кроук, который входит в число зал славы организации Women in Technology International — в видео интервью сегодня.

«Большинство организаций разработали только принципы, и они представляют собой абстрактные принципы очень высокого уровня за последние пять лет», — сказала она своему интервьюеру, коллеге по Google Сепи Хиджази Могхадам.

«Существует много разногласий, много противоречий с точки зрения попыток стандартизации нормативных определений этих принципов. Чье определение справедливости или безопасности мы будем использовать? Сейчас в этой сфере довольно много конфликтов, и временами они могут быть поляризующими. И я бы хотел, чтобы люди разговаривали более дипломатично, возможно, чем мы это делаем сейчас, чтобы мы действительно могли продвинуться в этой области ».

Большая работа, которую нужно сделать

Крюк берет бразды правления в свои руки в неспокойное время. Мало того, что практически все сотрудники Google работают из дома во время пандемии и вынуждены виртуально сотрудничать друг с другом, ей придется иметь дело с последствиями внезапного ухода Тимнита Гебру, соруководителя команды по этическому ИИ.

Читайте также:
Ошибочный код, хрупкие устаревшие системы, непродуманные проекты обошлись американским компаниям в 2 триллиона долларов в 2020 году °

Гебру, ведущий ученый в области этики и искусственного интеллекта, был вынужден уйти из интернет-гиганта в конце прошлого года при спорных обстоятельствах. Она сказала, что ее выгнали за то, что она отправила длинное электронное письмо во внутренний список рассылки Google Brain Women and Allies, осуждающее отказ корпорации нанять больше женщин и инженеров-цветных. Google утверждает, что это еще не все.

Логотип Google

Наблюдательный орган за профсоюзы обвиняет Google в незаконном увольнении сотрудников с целью подавления профсоюзов — гуру этики ИИ д-р Тимнит Гебру был вытеснен

ПРОЧИТАЙТЕ БОЛЬШЕ

Напряженность в отношениях между Гебру и менеджментом нарастала после того, как ей сказали убрать свое имя из статьи, в которой она была соавтором, об опасностях и рисках создания и использования массовых моделей языковой обработки, таких как те, которые Google использует для предоставления услуг перевода, и подобно. В служебной записке для сотрудников Дин утверждал, что статья не на должном уровне и что в ней недостаточно ссылок на предыдущие исследования.

Гебру анонимно получил отзывы о бумаге от других сотрудников Google, и он хотел знать, кто и что сказал во время внутренней проверки. Она сказала своим начальникам, что предпочла бы оставаться в Google только при соблюдении определенных условий, и решила сделать перерыв в работе. Она вернулась и обнаружила, что ее запросы были приняты как заявление об увольнении после того, как руководство отказалось согласиться с предложенными условиями.

Читайте также:
Logitech завершает работу камер Circle 2 с HomeKit от Apple

Многие были потрясены и напуганы. Члены ее старой команды и многие исследователи в сообществе машинного обучения были открыто разочарованы тем, что Google потеряла одного из своих звездных исследователей этического ИИ. An онлайн-петиция получил огромную поддержку Гебру.

Маргарет Митчелл, другой соруководитель группы по этическому искусственному интеллекту, попыталась расследовать это увольнение, но ее корпоративный рабочий аккаунт был заблокирован.

Гебру зашла в Twitter, чтобы выразить разочарование по поводу новой роли Крука.

Меган Качолия, которая руководила командой по этическому ИИ во время ухода Гебру, продолжит руководить исследователями в командах ИИ в Google. Генеральный директор Сундар Пичаи пообещал расследовать обстоятельства, при которых Timnit покинул компанию. Google отказался комментировать запись. ®