Вкратце Машины похожи на людей — они ленивы. Когда им будет предоставлена ​​возможность выбрать легкий путь для выполнения легкой задачи, они это сделают.

Ученые из Вашингтонского университета обнаружили, что алгоритмы, обученные диагностировать COVID-19 с помощью рентгеновских снимков грудной клетки, часто учитывают второстепенные характеристики, такие как возраст пациента, а не сосредотачиваются на самих изображениях — так называемое быстрое обучение.

Яндекс

«Врач обычно ожидает, что обнаружение COVID-19 с помощью рентгеновского снимка будет основано на определенных образцах изображения, отражающих процессы заболевания», — сказал Алекс ДеГрейв, студент-медик из американского университета и соавтор статья, опубликованная на этой неделе в Nature Intelligence.

«Но вместо того, чтобы полагаться на эти шаблоны, система, использующая ускоренное обучение, может, например, сделать вывод о том, что кто-то является пожилым, и, таким образом, сделать вывод о том, что у него больше шансов заболеть этим заболеванием, потому что оно чаще встречается у пожилых пациентов. Само по себе ярлык не является неправильным, но ассоциация неожиданна и непрозрачна. И это может привести к неправильному диагнозу «.

Быстрое обучение делает модели менее надежными, что делает их менее надежными, и это, возможно, объясняет, почему производительность обычно снижается в клинических условиях. Вы можете найти код из исследовательского проекта здесь, на GitHub.

Действительно ли автономные дроны-убийцы охотились на своих первых людей на войне?

Возможно, вы видели заголовки, в которых говорилось, что автономные роботы-убийцы, возможно, атаковали и, возможно, убили своих первых людей на войне. Откуда это пришло?

Читайте также:
Uber отправляет свои беспилотные автомобили по дороге в никуда, с бессрочной остановкой у претендента на создание автоматизированных грузовиков Аврора • Регистр

В марте был опубликован отчет ООН объемом 550 с лишним страниц, в котором рассказывается об окончании Второй гражданской войны в Ливии, которая длилась с 2019 по 2021 год. За последние несколько дней он привлек внимание сообщества машинного обучения, экспертов по политике и журналистов. В небольшом абзаце документа описывается нападение на солдат с использованием беспилотных летательных аппаратов с дистанционным управлением и автономного оружия.

«Логистические конвои и отступление [Haftar-affiliated forces] впоследствии были выслежены и дистанционно поражены беспилотными боевыми летательными аппаратами или смертоносными автономными системами вооружения, такими как СТМ «Каргу-2» и другими барражирующими боеприпасами », — говорится в досье ООН. «Летальные автономные системы оружия были запрограммированы для атаки целей без необходимости передачи данных между оператором и боеприпасом: по сути, настоящая способность« выстрелить, забыть и найти »».

Силы, связанные с Хафтаром, являются бойцами, объединенными с ренегатским военным командиром Халифой Хафтаром, который атаковал столицу Ливии Триполи в начале 2020 года, и STM Kargu-2, созданный Турцией смертоносный дрон с пикированием. Это устройство, как и другие барражирующие боеприпасы, можно рассматривать как терпеливые крылатые ракеты, которые надолго остаются в заданном районе и атакуют все, что приближается, что они запрограммированы для уничтожения.

В сообщении добавлено, что эти поддерживающие Хафтара силы «подвергались постоянному преследованию со стороны беспилотных боевых летательных аппаратов и летальных автономных систем вооружения» и «понесли значительные потери».

Но, как отметил Джеймс Винсент из The Verge, в отчете конкретно не говорится, что солдаты были убиты автономным оружием, работающим исключительно под их собственным искусственным инстинктом.

Более того, вышеупомянутые барражирующие боеприпасы существуют уже много лет, так что это действительно первый раз так называемые роботы-убийцы напали на людей? Как отмечает Ульрике Франке, старший научный сотрудник Европейского совета по международным отношениям, положи это: «Мне кажется, что здесь нового не в событии, а в том, что в докладе ООН они называются летальными автономными системами оружия».

Другими словами: нужна более подробная информация. И это не первый раз, когда автономные роботы убивают людей на поле боя, это ООН наклеивает ярлык на беспорядочные боеприпасы.

DARPA хочет профинансировать исследования ИИ, изучающие информационную войну

DARPA, главный нервный центр Пентагона, стремится профинансировать проект, который создаст систему на основе машинного обучения с открытым исходным кодом, которая сможет измерить, как авторитарные режимы контролируют свои уголки Интернета.

Предлагаемая система, получившая название «Измерение среды контроля информации» (MICE), «будет измерять, как страны цензурируют, блокируют или ограничивают определенные действия в Интернете. [and] также попытается определить технические возможности, которые страны используют для проведения подобных репрессивных действий ».

Ожидается, что алгоритмы будут отслеживать изменения в контенте, совместно используемом в Интернете в форме текста, изображений, аудио и видео, и проверять такие вещи, как маршрутизация пакетов, фильтрация IP-адресов и разрешение доменных имен, чтобы выяснить, кто контролирует информацию.

Согласно MeriTalk, правительственному ИТ-блогу, DARPA планирует выделить на проект в общей сложности 1 миллион долларов. Возможность заключения контракта была опубликована в этом месяце, и вы можете узнать о ней больше здесь. Крайний срок подачи предложения MICE — 30 июня.

Читайте также:
Windows 10 установила очередной рекорд