Семьдесят лет назад писатель-фантаст Айзек Азимов вообразил мир, в котором роботы будут обслуживать людей бесчисленными способами, и он оснащен встроенным гарантии, теперь известный как Азимова три закона робототехники, чтобы предотвратить их, среди других целей, не причиняя вреда человеку.
Гарантирует безопасное и честное поведение машины по-прежнему сегодня проблема, говорит машинного обучения исследователь и ведущий автор статьи Филипп Томас в Университете штата Массачусетс Амхерст. «Когда кто-то применяет алгоритмы машинного обучения, трудно контролировать свое поведение», — отмечает он. Это может привести к нежелательным последствиям из алгоритмов, которые управляют всем от самостоятельного вождения транспортных средств на инсулиновые помпы для уголовного наказания, сказать, что он и соавторы.
Пишу в науку, Томас и его коллеги Юрий Брюн, Эндрю Барто и аспирантом Стивена Giguere в Университете Массачусетса Амхерст, Бруно Кастро Силва в федеральном университете Рио-Гранде-дель-Соль, Бразилия, и Эмма Brunskill в Стэнфордском университете на этой неделе представит новые платформы для разработки алгоритмов машинного обучения, которые делают его проще для пользователей алгоритм, чтобы определить безопасность и честность ограничений.
«Мы называем алгоритмов, созданных с Seldonian нашу новую систему » после того, как персонаж Азимова Хари Селдон,» Томас объясняет. «Если я использую алгоритм Seldonian для лечения сахарного диабета, можно ли указать, что нежелательное поведение означает, опасно низкий уровень сахара в крови, или гипогликемии. Я могу сказать, к машине, в то время как вы пытаетесь улучшить контроллер в инсулиновой помпе, не вносить изменения, что бы увеличить частоту гипогликемии’. Большинство алгоритмов не позволяют поставить этот тип ограничения на поведение, не включенными в ранних образцов.»
«Но что делает его легче обеспечить справедливость и избежать вреда приобретают все большее значение как алгоритмы машинного обучения влияют на нашу жизнь все больше и больше», — говорит он.
Тем не менее, «в недавней статье перечислены 21 различных определений справедливости в машинном обучении. Важно, что мы позволяем пользователю выбрать то определение, которое подходит для их предполагаемого использования», — добавляет он. «Интерфейс, который поставляется с Seldonian алгоритм позволяет пользователю сделать именно это: чтобы определить, что нежелательное поведение означает для их применения.»
В серии основание Азимова, Селдон находится в той же вселенной, как и его серия робот. Томас объясняет: «все развалилось, Галактическая империя рушится, отчасти потому, что три закона робототехники требуют определенности. С этого уровня требуемой безопасности, роботы парализованный нерешительностью, потому что они не могут действовать с уверенностью и гарантирует, что ни один человек не пострадает от их действий».
Селдон предлагает исправить это, обратившись к вероятностно рассуждения о безопасности. «Это хорошо подходит к тому, что мы делаем, — сказал Томас. Новый подход он и его коллеги, предоставляемых для вероятностных ограничений и требует алгоритм, чтобы определить стороны пользователя могу сказать, что для ограничения. Он говорит: «эта система является инструментом для исследователь машинного обучения. Она направляет их к созданию алгоритмов, которые легче для пользователей, чтобы применить ответственно реальных проблем».
Для тестирования новой платформы, они применяются для прогнозирования средний балл в наборе данных 43,000 студентов в Бразилии путем создания алгоритма Seldonian с ограничениями. Он успешно избежал нескольких видов нежелательных гендерной предвзятости. В другом тесте, они показывают, как алгоритм может улучшить контроллер в инсулиновая помпа при этом гарантируя, что она не будет увеличить частоту гипогликемии.
Томас говорит: «Мы считаем, что есть огромная комната для улучшения в этой области. Даже с нашими алгоритмами из простых компонентов, мы получили впечатляющие результаты. Мы надеемся, что исследователи машинного обучения будут осваивать новые и более сложные алгоритмы, используя наши базы, которые могут быть использованы ответственно для приложений, где обучение машина используется для считается слишком рискованным. Это призыв к другим исследователям для проведения исследований в этом пространстве».
сделать разницу: спонсорские возможности
Ответить
Хотите присоединиться к обсуждению?Не стесняйтесь вносить свой вклад!