Вскоре в алгоритм Google AI будут внесены некоторые изменения. До сих пор Cloud Vision API распознавал пол человека на картинке. Теперь вместо ярлыка «женщина» или «мужчина» мы увидим подпись «человек». Почему такие изменения?
Из новостей, появившихся у разработчиков, работающих над инструментами Google, мы узнали, что компания решила внести изменения в свой алгоритм искусственного интеллекта. Благодаря этому он должен избегать «предвзятости» и не руководствоваться предрассудками.
Google AI больше не будет оценивать пол
До недавнего времени алгоритм Google AI распознавал, была ли картинка женщиной или мужчиной. Эта функция может показаться очень крутой.
Правда в том, что эффективность этого решения была не очень хорошей. Конечно, каждая проанализированная фотография впоследствии может быть проверена независимо. Кроме того, алгоритм также показал процентную вероятность.
Однако компания решила удалить информацию о поле человека, показанном на фотографии. Вскоре мы не увидим подписи «женщина» или «мужчина». Это будет заменено очень общей подписью: «человек».
Рис. Шона Гош / Business Insider
Компания осознает, что алгоритмы ИИ иногда могут ошибаться. Однако Google хочет избежать результатов, которые могут быть несовместимы с культурными и социальными нормами. Так что речь идет не о распознавании пола человека на фотографиях, но и о сексуальной ориентации, национальности, политических и религиозных убеждениях.
По мнению американцев, это нельзя определить только по внешнему виду человека на картине, а изменение поможет избежать недоразумений.
Хорошо, что Google все еще работает над своими алгоритмами и работает над их улучшением. Изменение не заставит никого чувствовать себя обиженным.
источник
