Новый искусственный интеллект инструмента (АИ) для выявления несправедливой дискриминации, например по признаку расы или пола, был создан исследователями в Университете штата Пенсильвания и Университета Колумбии.
Предотвращение несправедливого обращения физических лиц по признаку расы, пола или этнической принадлежности, например, уже давно вызывают обеспокоенность цивилизованного общества. Однако обнаружение такой дискриминации в результате принятия решений, будь то директивными органами человека или автоматизированных систем ИИ, может быть чрезвычайно сложным. Эта проблема усугубляется широкое внедрение систем искусственного интеллекта для автоматизации принятия решений во многих сферах-в том числе полиции, потребительского кредитования, высшего образования и бизнеса.
«Системы искусственного интеллекта — такие, как те, кто участвует в отборе кандидатов на работу или для поступления в вуз … подготовлены на большие объемы данных», — сказал Васант Honavar, профессор и Эдвард Frymoyer кафедры информационных наук и технологий штата Пенсильвания. «Но если эти данные необъективны, они могут повлиять на рекомендации системы ИИ.»
Например, он сказал, что, если компания исторически никогда не наняла женщину для конкретного типа работы, то ИИ обучение на этом исторические данные не будут рекомендовать женщине на новую работу.
«Там нет ничего плохого с машинного обучения алгоритма», — сказал Honavar. «Он делает то, что он должен делать, который заключается в определении хороших кандидатов на работу на основе определенных желательных характеристик. Но так как он прошел обучение на исторических, необъективные данные, он имеет потенциал, чтобы сделать несправедливые рекомендации».
Команда создала ИИ инструмент для выявления дискриминации в отношении защищенных атрибутов, таких как раса или пол, на человека ответственными лицами или системы искусственного интеллекта, которая основана на концепции причинно-следственной связи, в которой одно явление-причина-вызывает, другое дело-эффект.
«Например, на вопрос, существует ли дискриминации по гендерному признаку в зарплатах? могут быть переформулированы как, ‘пол не имеет причинное влияние на зарплату?,’ или другими словами, Будет ли женщина быть заплатил больше, если бы она была мужчиной? — спросила Ария Khademi, аспирант в области информационных наук и технологии, Университет штата Пенсильвания.
Поскольку это не возможно, чтобы непосредственно знать ответ на такой гипотетический вопрос, инструмент команда использует сложные алгоритмы обратного вывода, чтобы прибыть на лучшее предположение.
«Например», — сказал Khademi, «один интуитивный способ достижения наиболее вероятное предположение, что справедливую зарплату для работницы найти служащего, который похож на женщину с учетом квалификации, производительности и опыта. Мы можем минимизировать гендерной дискриминации в зарплате, если мы гарантируем, что похожие мужчины и женщины получают одинаковые зарплаты».
Исследователи проверили свой метод, используя различные типы доступных данных, таких как данные о доходах от Бюро переписи населения США, чтобы определить, существует ли дискриминации по гендерному признаку в зарплатах. Также они проверили свой метод, используя Нью-Йоркской городской полиции стоп-и-Фриск программы данные, чтобы определить, существует ли дискриминация в отношении людей с другим цветом кожи в аресты произведены после остановки. Результаты появились в мае в работе Web-конференции 2019.
«Мы проанализировали данные о доходах взрослый набор, содержащий заработной платы, демографической и сведения по вопросам занятости, около 50 000 человек», — сказал Honavar. «Мы нашли доказательства гендерной дискриминации в зарплате. В частности, мы обнаружили, что шансы женщины иметь зарплату больше чем 50 000 $в год только на одну треть, что для человека. Это означает, что работодатели должны искать и исправлять, когда это уместно, гендерного неравенства в зарплатах.»
Хотя анализ в Нью-Йорке стоп-и-Фриск набор-который содержит демографические и другие сведения о драйверах остановился в Нью-Йорке полицию, выявлены факты, свидетельствующие о возможных расовых предрассудков против латиносов и афро-американских лиц, он не нашел признаков дискриминации в отношении них в среднем в группе.
«Вы не можете исправить проблемы, если вы не знаете, что проблема существует», — сказал Honavar. «Чтобы избежать дискриминации по признаку расы, пола или другие атрибуты, которые нужны эффективные инструменты для выявления дискриминации. Наш инструмент может помочь с этим».
Honavar добавил, что в данных системах искусственного интеллекта все в большей степени определяют как компании целевой рекламы для потребителей, как полицейские департаменты мониторинга отдельных лиц или групп для преступной деятельности, как банки решают, кто получает кредит, который работодатели решают нанять, и как колледжи и университеты, решать, кто будет допущен или получает финансовую помощь, существует настоятельная потребность в таких средствах, как он и его коллеги разработали.
«Наш инструмент», — сказал он, «может помочь гарантировать, что такие системы не стать орудием дискриминации, барьеры на пути к равенству, угрозы социальной справедливости и источники несправедливости.»
Национальные институты здравоохранения и Национальный научный фонд поддержал это исследование.
сделать разницу: спонсорские возможности
Ответить
Хотите присоединиться к обсуждению?Не стесняйтесь вносить свой вклад!