Члены Палаты лордов изучают роль таких технологий, как искусственный интеллект и распознавание лиц, в современных методах полицейской деятельности и правоохранительной деятельности.
Комитет юстиции и внутренних дел объявил в мае, что он планирует расследовать этот вопрос и уже заслушал один раунд устных показаний в июне от юридических экспертов, поскольку он знакомится с предметом.
Сегодня настала очередь профессора Майкла Вулдриджа, главы отдела компьютерных наук Оксфордского университета, которого опрашивали коллеги.
Он повторил многие из ранее высказанных опасений и привел в пример компьютерную систему, которая сообщает сотрудникам мест содержания под стражей, следует ли задерживать кого-либо в полицейском участке или освобождать на основании большого количества данных, включая его криминальное прошлое.
Его опасения не обязательно связаны с технологиями, но они могут привести к тому, что некоторые офицеры «откажутся от престола». [their] ответственность », чрезмерно полагаясь на нее.
Вулдридж предупредил, что необходимо больше узнать об ИИ и о том, что он может – и не может – делать. И он призвал сверстников не «очеловечивать».
«Это не похоже на человеческий разум», – сказал он. Затем он пошел дальше, добавив, что технология «хрупкая» и может неожиданно выйти из строя.
ИИ может неправильно маркировать или неправильно идентифицировать изображения, например, добавил он. Хотя это может не создавать проблемы для социальных сетей, это может иметь серьезные последствия для системы уголовного правосудия в таких областях, как распознавание лиц.
На этой ранней стадии комитет просто собирает доказательства, но с самого начала очевидна сложность того, с чем они сталкиваются.
Выступая в июне, когда расследование начало заслушивать устные показания [PDF], Профессор Кэрол Маккартни, профессор права и уголовного правосудия в Нортумбрийском университете, объяснила, что «одна из самых серьезных критических замечаний в отношении технологий … – это отсутствие научной основы» и важность надлежащего изучения.
«Палата лордов недавно сделала отчет о том, что фундаментальные исследования часто отсутствуют, и в этом нет ничего нового; очень часто многие из этих технологий будут основаны на очень схематичных научных основаниях, и это опасно », – сказала она.
Она подтвердила свою точку зрения, коснувшись примера технологии автоматического распознавания лиц, используемой полицией Южного Уэльса.
«По сути, они выпускают технологию на рынок и просто следят за ней, и они называют это« испытанием ». Научные исследования работают не так », – сказала она.
На вопрос, перевешивают ли преимущества технологий недостатки, профессор Маккартни ответил: «Это зависит от обстоятельств».
«Одна из трудностей в этой области заключается в том, что не существует серебряной пули, – добавила она. – Нет технологии, которая поможет решить проблему домашнего насилия или позволит нам успешно предсказывать кражи со взломом в 100% случаев».
На отдельном брифинге в прошлом месяце комитет также заслушал мнение сотрудников полиции Уэст-Мидлендса, которые рассказали о том, как технологии могут помочь правоохранительным органам и раскрытию преступлений. Выступая за закрытыми дверями, офицеры предоставили обновленную информацию о проектах из National Data Analytics Solution, в котором используется расширенная аналитика, которая может быть использована правоохранительными органами.
На прошлой неделе роль технологии распознавания лиц была в центре внимания в США после того, как Комитет Палаты представителей по делам судебной власти заслушал доказательства того, как она используется правоохранительными органами.
Доктор Седрик Александер, бывший член Целевой группы президента Барака Обамы по полицейской деятельности 21-го века, подчеркнул минное поле, с которым сталкиваются законодатели, объяснив, как, с одной стороны, FRT может способствовать правосудию и «даже спасать жизни», но не в том случае, если это означает принесение в жертву конституционным нормам. прав.
Слушание совпало с участием борцов за гражданские права в США, которые призвали розничных продавцов прекратить использование технологии распознавания лиц на фоне тревожных опасений по поводу конфиденциальности и опасений, что это может привести к неправомерному аресту людей. ®
