Что же необходимо для человека, чтобы доверять роботу? Это то, что исследователи армия открываем в новом исследовании того, как люди и роботы работают вместе.
Исследование человека-агент объединяется, или шляпу, проверил, как прозрачность агентов, таких как роботы, беспилотные аппараты или программные агенты — влияние человеческого доверия, производительности, нагрузки и восприятия агента. Агент прозрачности понимается его способность донести до людей свое намерения, процесс рассуждения и планы на будущее.
Новой армии-вел исследования показывают, что уверенность человека в роботов уменьшается после того, как робот ошибается, даже когда он прозрачен в процессе рассуждения. В статье, «агент прозрачности и надежности в человека-робота взаимодействия: влияние на доверие пользователей и авторитетность,» была опубликована в августовском номере стандарт IEEE-операции на человеко-машинных систем.
На сегодняшний день, исследования в значительной степени сосредоточены на шляпе с абсолютно надежным интеллектуальные агенты, т. е. агенты не ошибаются-но это одно из немногих исследований, в которых рассматривались как агент прозрачности взаимодействует с надежностью агента. В этом последнем исследовании, люди стали свидетелями робот совершает ошибку, и исследователи сосредоточены на том, что люди воспринимают робота, менее надежны, даже когда человек был представлен экскурс в процесс рассуждения робота.
«Понимание того, как робот поведение влияет на их человеческие партнеры по команде имеет решающее значение для разработки эффективных роботов и людей команды, а также Дизайн интерфейсов и методов коммуникации между членами команды,» сказал д-р Джулия Райт, руководитель проекта и исследователь в армии США боевые возможности развития Командование Армии научно-исследовательской лаборатории, также известный как АРЛ. «Это исследование способствует многодоменной армии усилия операции по обеспечению overmatch в области искусственного интеллекта-возможности. Но это также междисциплинарная, так как ее результаты будут использованы в работе психологов, робототехников, инженеров и системных дизайнеров, которые работают в направлении содействия лучшему пониманию между людьми и автономные агенты в стремлении сделать автономный команде, а не просто инструменты.
Это исследование стало результатом совместных усилий между АРЛ и Университета Центральной Флориды Институт моделирования и обучения, и является третьей и заключительной изучения в автономных член отряда (ПКР) проекта, финансируемого управлением министра обороны автономии исследования экспериментальной инициативы. В asm-это небольшие наземные робота, который взаимодействует и общается с пехотного отряда.
До начала исследования АСМ исследовали, как робот будет взаимодействовать с человеческим партнером. Используя ситуацию-модель, основанная на прозрачности агента в качестве руководства, различные методы визуализации, чтобы передать цели агента, намерений, рассуждений, ограничения и прогнозируемые результаты были изучены и протестированы. На-а-взгляд иконографический модуль разработан на основе этих выводов в начале исследования, а затем был использован в последующих исследованиях для изучения эффективности агента прозрачности в шляпе.
Ученые провели это исследование в искусственной среде, в которой участники почтили человека-агента, солдата команды, которая включала АСМ прохождении курса обучения. Задача участников заключалась в том, чтобы следить за командой и оценивать робота. Солдат-робот команды встречаются различные события по ходу и ответил соответственно. В то время как солдат всегда правильно реагируют на события, иногда робота разобрался в ситуации, ведущие к неправильным действиям. Количество информации, робота общая варьировались от испытаний. В то время как робот всегда объяснял свои действия, причины его действия и ожидаемые результаты ее действия в некоторых испытаниях робота также поделился обоснование своего решения, его логику. Участники рассматривали несколько солдат-робот команды, и их оценки роботы были по сравнению.
Исследование показало, что независимо от прозрачности робота в объяснении своих рассуждениях, надежность робота был конечной определяющим фактором, влияющим на прогнозы участников будущей надежности робота, доверие к роботу и восприятие робота. То есть, после того, как участники стали свидетелями ошибку, они продолжали оценить надежность робота более низких, даже когда робот не делает никаких последующих ошибок. Хотя эти оценки постепенно улучшалась до тех пор, пока робот не совершил никакого заблуждения, уверенность участников в своих оценках надежности робота оставалась пониженной на протяжении оставшейся части судебных процессов, по сравнению с участниками, которые никогда не видел ошибку. Кроме того, участники, которые стали свидетелями ошибка робот сообщила о снижении доверия в робота, по сравнению с теми, кто никогда не был свидетелем ошибка робота.
Повышение прозрачности агент был найден, чтобы повысить доверие участников в робота, но только когда робот был сбор и фильтрация информации. Это может означать, что обмен в-глубина информация может смягчить некоторые последствия недостоверной автоматизации для решения конкретных задач, — сказал Райт. Кроме того, участники оценили ненадежный робот как менее живой, симпатичный, умный и безопасный, чем надежный робот.
«Более ранние исследования показали, что контекст имеет значение при определении полезности информационной прозрачности», — сказал Райт. «Мы должны лучше понять, какие задачи требуют более глубокого понимания рассуждений агента, и как распознать, что это повлечет за собой глубина. Будущие исследования должны изучить способы доставки информационной прозрачности на основе требований задачи».
сделать разницу: спонсорские возможности
Ответить
Хотите присоединиться к обсуждению?Не стесняйтесь вносить свой вклад!