Чернокожему подростку в США запретили заходить на роликовый каток после того, как система распознавания лиц ошибочно определила ее как человека, которого ранее забанили за то, что он начал там драку.
14-летняя Ламия Робинсон была доставлена ее родителями на Риверсайд Арена, крытый каток на роликах в Ливонии, штат Мичиган, на выходных, чтобы провести время со своими друзьями. Камеры с распознаванием лиц, установленные внутри помещения, сопоставили ее лицо с фотографией кого-то еще, по-видимому, запрещенной после стычки с другими фигуристами.
Таким образом, сотрудники приказали Робинсону покинуть помещение. Она сказала, что человек на изображении не может быть ею, потому что она никогда раньше не была на катке. Ее родители, Джулия и Деррик, сейчас думают, стоит ли подавать в суд на «Риверсайд Арена» или нет.
«Для меня это в основном расовое профилирование, – сказала мать Ламии Fox 2 Detroit. – Вы просто говорите, что каждая молодая черная, смуглая девушка в очках соответствует ее профилю, а это неправильно».
Позже один из менеджеров арены позвонил матери Лами, чтобы обсудить этот вопрос. В заявлении компании говорится: «Программное обеспечение дочери соответствовало 97%. Это то, на что мы смотрели … Если произошла ошибка, мы приносим извинения за это “.
Нужно найти много ошибок
Технология распознавания лиц вызывает споры. Эксперты в сообществе исследователей ИИ, юристы и даже правоохранительные органы призвали Конгресс наложить мораторий на использование программного обеспечения в реальном мире. Несколько проектов показали, что задействованные алгоритмы, как правило, затрудняют точное определение цветных женщин и людей, таких как Ламия.
Судебный комитет Палаты представителей только на этой неделе провел слушания о последствиях использования распознавания лиц в правоохранительных органах. Свидетели дал Роберт Уильямс, человек из Детройта, который был ошибочно арестован и задержан на 30 часов.
«Я вырос в Детройте, и по этому опыту знаю, что дело в том, что люди, похожие на меня, долгое время более подвергались слежке, усиленному полицейскому надзору и массовым заключениям, чем некоторые другие группы населения», – сказал он. «Я беспокоюсь, что технология распознавания лиц, даже если она работает лучше, чем в моем случае, усугубит эти проблемы».
Однако в Америке нет регулирования технологий на федеральном уровне, и Конгресс вряд ли примет меры по этому вопросу. Вместо этого в отдельных штатах и городах действуют свои правила, которые различаются в зависимости от того, как и где можно использовать камеры распознавания лиц.
В штате Мэн, например, государственные чиновники не могут использовать эту технологию и не могут нанимать для этого третьи стороны. Программное обеспечение нельзя использовать, за исключением случаев, связанных с серьезными преступлениями или для поиска зарегистрированных транспортных средств. В других местах, в Портленде, штат Орегон, камеры с распознаванием лиц не разрешается использовать в каких-либо общественных или частных местах, от продуктовых магазинов до вокзалов.
Однако многие штаты довольно небрежно относятся к этому. Банки во Флориде и Северной Каролине используют системы для отслеживания клиентов и, в некоторых случаях, отгоняют бездомных, слоняющихся на улице. ®
