Реклама
Home Softnews Исследования и мероприятия Big Tech, финансирующие этику ИИ, кажутся очень знакомыми. ...

Исследования и мероприятия Big Tech, финансирующие этику ИИ, кажутся очень знакомыми. Ах да, Big Tobacco снова и снова • The Register

Реклама


Анализ + обновление Подход Big Tech к предотвращению регулирования ИИ очень похож на кампанию Big Tobacco по формированию правил курения, согласно академикам, которые считают, что стандарты этики машинного обучения должны разрабатываться вне влияния корпоративных спонсоров.

Реклама

В бумага включены в Материалы конференции AAAI / ACM 2021 года по ИИ, этике и обществу (AIES ’21) в следующем месяце Мохамед Абдалла, докторант по информатике в Университете Торонто, и Мустафа Абдалла, докторант, отстраненный от Гарвардской медицинской школы, исследуют, как Big Tech приняла стратегии, аналогичные тем, которые используются Big Tobacco.

Аналогия «не идеальна», признают два брата, но предназначена для того, чтобы дать исторический пробный камень и «усилить негативную внутреннюю реакцию на финансирование Big Tobacco академических кругов, чтобы дать возможность более критически изучить большие технологии». Это сравнение также не является утверждением, что большие технологии намеренно подкупают исследователей; скорее, исследователи утверждают, что «отраслевое финансирование искажает академические круги независимо от намерений из-за порочных стимулов».

Авторы отмечают, что Google сказал то же самое о нежелательных исследованиях, настаивая на том, что критику со стороны спонсируемой Oracle правозащитной группы Campaign for Accountability следует не принимать во внимание, поскольку она финансируется враждебным конкурентом. Так совпало, что Кампания за подотчетность в 2017 г. Почта начинается так: «Google заплатила ученым миллионы, чтобы они выпустили сотни статей в поддержку своих политических интересов, следуя по стопам нефтяной и табачной промышленности».

Читайте также:
Скоро никаких анализов крови или зондирования на рак простаты? AI утверждает, что 99% успеха добиваются более расслабляющих методов • The Register

В данном случае под крупными технологиями понимаются: Google, Amazon, Facebook, Microsoft, Apple, Nvidia, Intel, IBM, Huawei, Samsung, Uber, Alibaba, Element AI и OpenAI. Но аргумент боффинов применим к гораздо большему количеству компаний, которые имеют коммерческий интерес к системам на базе искусственного интеллекта.

Вздох, о нулевых

Братья Абдалла называют середину 2010-х моментом, когда отношение общества к большим технологиям начало ухудшаться. И они видят сходство в признании генерального директора Facebook Марка Цукерберга в 2018 году того, что «теперь ясно, что мы сделали недостаточно», чтобы предотвратить вмешательство в выборы в США в 2016 году, в «Откровенное заявление курильщикам сигарет», опубликованное компанией Big Tobacco в 1954 году. подтверждение что курение имеет последствия для здоровья.

«Как и Big Tobacco, в ответ на ухудшение общественного имиджа, Big Tech начали финансировать различные учреждения и инициативы, чтобы« обеспечить этическое развитие ИИ »и сосредоточиться на« ответственном развитии », — заявляют они в своей статье.

найм

Меня уволили: искусственный интеллект Google терпит крах из-за того, что со-руководитель подразделения по этике был вынужден уйти через несколько недель после увольнения коллеги

ЧИТАТЬ ДАЛЕЕ

«Facebook пообещал« приверженность этичному развитию и внедрению ИИ ». Google опубликовал свои лучшие практики для «этичного» развития ИИ. Microsoft заявила, что разрабатывает этический контрольный список, и это утверждение недавно было поставлено под сомнение. Amazon вместе с Национальным научным фондом спонсировала программу стоимостью 20 млн долларов на «справедливость в искусственном интеллекте».

Читайте также:
Pawn Storm: Украина, НАТО и США под прицелом российских хакеров

Исследователи видят параллели между тем, как Big Tech финансирует академические исследования и конференции, и тем, как Big Tobacco финансирует Комитет по исследованиям табачной промышленности, позже названный Советом по исследованиям табака.

Они утверждают, что Big Tech получает влияние на специалистов по этике ИИ за счет выборочного финансирования исследовательских проектов. И они показывают, что 58% факультетов этики ИИ получали финансирование от крупных технологий, что, по их словам, может повлиять на их работу.

«Это связано с тем, что для привлечения финансирования исследований преподаватели будут вынуждены изменить свою работу, чтобы они больше соответствовали взглядам Big Tech», — заявляют они в своей статье. «Это влияние может иметь место даже без явного намерения манипуляции, если те, кто подает заявку на награды, и те, кто решает, кто заслуживает финансирования, не разделяют одинаковых основных взглядов на то, что такое этика или как она« должна быть решена »».

Они указывают на Партнерство по ИИ, основанное в 2016 году Amazon, Facebook, Google и Microsoft, среди прочих, с целью формулирования передовых практик ИИ как группы. Они говорят, что она не проявляет особого интереса к взаимодействию с гражданским обществом, ссылаясь на уход правозащитной группы Access Now из организации как признак того, что она сосредоточена исключительно на корпоративных проблемах.

Исследователи также указывают на проблемный характер финансирования конференций, отмечая, что у NeurIPS, ведущей конференции по машинному обучению, с 2015 года было как минимум два спонсора Big Tech на самом высоком уровне финансирования, а в последнее время их стало еще больше.

«При рассмотрении семинаров, касающихся этики или справедливости, у всех, кроме одного, есть по крайней мере один организатор, который связан или недавно был связан с Big Tech», — говорится в документе. «Например, был семинар на тему« Ответственный и воспроизводимый ИИ », спонсируемый исключительно Facebook».

Читайте также:
Nexus 6P и 5X обзавелись «ночными» сборками CyanogenMod 13

Братья Абдалла признают, что было предложено много средств борьбы с влиянием больших технологий на общество, и оставляют их на усмотрение политиков. Но они просят ученых рассмотреть возможность принятия более строгого этического кодекса для исследований ИИ и работы отдельно от традиционного отдела информатики.

«Такое разделение позволило бы установить отношения между научным сообществом и промышленностью для решения технических проблем, где такое финансирование, вероятно, более приемлемо, и в то же время гарантирует, что наше развитие этики останется свободным от влияния денег больших технологий», — утверждают они.

Использование неопределенности

В телефонном интервью с Реестр, Фрэнк Паскуале, профессор права Бруклинской школы права и автор книги Общество черного ящика: секретные алгоритмы, управляющие деньгами и информацией, предположил, что сравнение между Big Tobacco и Big Tech, хотя и провокационное, имеет определенные достоинства.

«Я думаю, что действительно важно найти конкретные метафоры, которые представляют для людей тот тип вреда, который поставлен на карту в Интернете», — сказал он, отметив, что трудно продемонстрировать людям влияние безответственных или злонамеренных решений технологических компаний.

Паскуале сказал, что видел черновик документа и заметил, что параллель, которая его действительно поразила, — это то, как табачные компании и технологические компании превратили неопределенность в оружие.

По его словам, табачные компании вызовут сомнения, говоря: «Кто знает, действительно ли курение вызывает рак?»

Я думаю, что подход «сомневающихся торговцев» успешно отклонил многие законодательные акты.

«Я думаю, что подход сомневающихся торговцев успешно отклонил многие законодательные акты», — сказал он, отметив, что сегодня многие ученые говорят то же самое о потенциальном вреде со стороны YouTube и других онлайн-платформ в качестве оправдания для дальнейшего финансирования и изучения. .

Читайте также:
Полиция Нью-Йорка подписала контракт с роботом-собакой на 94 тыс. Долларов после протестов • The Register

Паскуале утверждает, что ключ к успеху — в большей поддержке исследователей из государственного и частного секторов, чтобы им не приходилось зависеть от финансирования со стороны фирм, которые они исследуют. Он также подчеркнул важность предоставления данных этих фирм неаффилированным, независимым исследователям.

Никто в Amazon, Facebook и Microsoft не хотел комментировать.

«Академическое сотрудничество всегда было частью ДНК Google», — сказал представитель интернет-гиганта. Реестр. «За последние 15 лет мы предоставили более 6500 грантов академическим и сторонним исследовательским сообществам, и мы стремимся продолжать это важное сотрудничество.

«Партнерство с внешней исследовательской экосистемой позволяет по-новому взглянуть на общие проблемы, а поддержка их исследований помогает продвигать важнейшие области информатики. Мы поддерживаем это сотрудничество с помощью различных программ с открытыми приложениями, в том числе программы Google Faculty Research Award, программы PhD Fellowship, программы для приглашенных исследователей, программы для научных сотрудников и программы Award for Inclusion Research, которые предоставляют неограниченное финансирование преподавателям и аспирантам. ” ®

Обновлено, чтобы добавить

После того, как эта статья была подана, Мохамед Абдалла из Университета Торонто связался с нами, чтобы сказать нам, что трудно сказать, хотят ли другие ученые переосмыслить, как происходит финансирование исследований в области ИИ.

«Хотя есть некоторые исследователи, которые откликнулись на наш призыв к большему вниманию, мы считаем, что многие из них также принципиально не согласны с тезисом статьи (или отказываются говорить об этом)», — сказал он. «Документ явно вызывает разногласия; мы отправили его в FAccT и получил самые низкие из возможных оценок от всех рецензентов (довольно редко, учитывая обычную вариацию обзоров), в то время как 2/3 наших обзоров в AIES получили максимально возможные оценки (оставшийся получил один из лучших).

Читайте также:
Теперь интерактивную доску можно обновить с помощью специального инструмента • Регистр

«За исключением Макса Тегмарка (профессора Массачусетского технологического института) и наших руководителей, мы не получали напрямую никаких подтверждений работы в отношении наших идей (от профессоров). Однако некоторые исследователи (как профессора, так и студенты) выразили согласие в социальных сетях. Мы считаем что, учитывая деликатную тему, некоторые могут с осторожностью высказывать свое мнение ».

Мохамед добавил, что социальные сети и академический Twitter имеют тенденцию к негативному влиянию, что затрудняет оценку того, как статья была принята. Он также выразил скептицизм по поводу того, что регулирующие органы обладают техническими ресурсами, чтобы должным образом заниматься регулированием ИИ.

«Я не верю, что существующих структур управления достаточно для того, чтобы правительства могли выполнять свою работу», — сказал он. «Это утверждение, я считаю, справедливо для США, Канады и ЕС.

«Таким образом, я считаю, что новый регулирующий орган, обладающий экспертными знаниями и способностью (со стороны правительств) требовать от компаний открытия своих секретных алгоритмов (как кода, так и данных) для расследования, — это то, что в конечном итоге произойдет. что такой регулирующий орган будет неэффективен в продвижении к реальным изменениям из-за промышленной кооптации ».

Более того, хотя он считает, что законодатели ЕС действительно могут быть готовы решить эту проблему, он выразил сомнение в том, что регуляторы в США и Канаде будут иметь желание взяться за большие технологии.

«Я не вижу, чтобы регулирующие органы Канады или США были готовы заняться этим», — сказал он. «Мне кажется (хотя я не самый политически информированный аналитик), что регулирующие органы в этих двух странах боятся негативно повлиять на технологический сектор, чтобы не потерять свое золотое яйцо (отдавая приоритет росту / ВВП / деньгам над общественным благом) .

Читайте также:
SAP exec дает понять, что Microsoft является клиентом • Реестр

«Более того, эти компании могут проводить очень масштабные пропагандистские кампании против любых политиков, которые могут захотеть выставить против них счета, тем самым отговаривая от действий всех, кроме самых преданных политиков».

Реклама

NO COMMENTS