Слово «робот» восходит к знаменитой чехословацкой научно-фантастической пьесе «Универсальные роботы Россума» Карела Чапека, где механизмы в человекоподобной форме, наделённые неким разумом, должны были заменить все действия человека в качестве рабочих. Примечательно, что, обсуждая юридические, моральные, этические и деловые аргументы в пользу прав роботов, первая история, в которой используется термин «робот», разворачивается на фоне офисного здания — что отражает деловую сферу взаимодействия.
В последние годы роботы стали более распространены в сфере услуг, что привело к увеличению их взаимодействия с людьми. Уже раздаются голоса неких организаций и учёных, которые призывают учитывать права (и обязанности) роботов в аспекте моральной дилеммы этических обязанностей и юридической ответственности, обосновывающие необходимость соблюдения прав сервисных роботов в секторах гостиничного бизнеса и туризма. Данная дискуссия актуальна в свете того, что сервисные антропоморфные механические системы всё чаще используются в индустрии гостеприимства и общественного питания. Это обстоятельство символизирует растущую тенденцию автоматизации в ресторанной индустрии, которая уже оказывает влияние на наше общество в целом и будет продолжать оказывать его.
Переподготовка и переобучение сотрудников для альтернативных возможностей трудоустройства должны стать чьей-то или общей ответственностью, стимулируемой изобретением новых технологий. Со времени создания фантастического произведения, о котором говорилось в начале статьи, произошло всё-таки много изменений концепции управления роботизированными системами – поэтому персоналу новой формации придётся взаимодействовать с роботами через сервера, установленные не в ближайшей условной «подсобке», а в удалённых современных дата-центрах. Для осуществления таких полномочий, сотрудники должны стать квалифицированными компьютерными специалистами. Поэтому эффект экономической выгоды от внедрения автоматизации просчитать пока очень сложно.
Однако есть и другие факторы — многие роботы постепенно выводятся из эксплуатации из-за жалоб гостей, что подчёркивает необходимость большей прозрачности и надёжности функционирования. Кроме того, отсутствие человеческого контакта демонстрирует пределы ответственности, которую можно возложить на роботизированных агентов. Это также подчёркивает важность понимания того, что эти ограничения будут существовать и в ближайшем будущем. Остаётся открытым также вопрос, как отрасли будут управлять ограничениями в отношении обязанностей, возложенных на роботизированных агентов, стремясь при этом к большей автоматизации и эффективности. Растёт обеспокоенность по поводу того, могут ли роботы заменить роль человека-помощника на нынешнем уровне функциональности и возможностей.
Большинство роботов в мире являются сервисными, но не обязательно социальными. Автономия же подразумевает, что робот может принимать ограниченные решения на основе «восприятия и внутренних состояний», а не выполнять предварительно запрограммированные последовательности действий. Уже сейчас наблюдается изменение уровня автономности у роботизированных агентов, связанной с обслуживанием и взаимодействие с клиентами. Но автономный агент не обязательно является интеллектуальным. Принятие решений на основе восприятия ставит под сомнение способность таких роботов демонстрировать сознание, пусть и более низкого порядка. Хотя идея эмоций и сознания у роботов носит спекулятивный характер, исследования все чаще показывают, что реакции человека на роботов с человекоподобными чертами существуют, и эти реакции не обязательно линейны.
Антропоморфная форма механизмов связана с восприятием наличия разума, что, таким образом, влияет на восприятие людьми прав и обязанностей роботов — то есть, если они демонстрируют субъектность и опыт, то становятся более похожими на людей при наличии надлежащих правил социального взаимодействия. Именно эти характеристики — автономность, сходство с человеком и повышенная интерактивность — будут впредь вызывать моральные, этические и правовые опасения у всех заинтересованных сторон — вопрос о том, должны ли роботы обладать правами, рассматривается, как с нормативной, так и с описательной точки зрения. Эта проблема также вплетена в более широкий вопрос о правах нечеловеческих существ, что может в конечном итоге открыть путь для операционализации этого понятия с целью исследования его роли в выборе и принятии решений о более широком внедрении. Ещё более уместным подходом, с точки зрения контекста, является рассмотрение роли человекоподобных сервисных роботов, как сотрудников.
Моральное право не обязательно является юридическим правом, основанным на современных социальных нормах, однако они должны быть теоретически обоснованы и легитимны. Для высокоинтеллектуальных систем уже разрабатывают концепцию системы моральных убеждений, которая помогает роботу определять правильное и неправильное поведение. Тем не менее, существуют противоположные точки зрения, которые утверждают, что роботы не обладают моральным статусом, чтобы заслуживать прав, и должны рассматриваться как собственность, права которой предоставляются владельцу. Это выглядит немного иронично, поскольку людям, выполняющим задачи, аналогичные задачам робота, во многих странах не предоставляются соразмерные права. Скорее всего, истина находится где-то посередине, так как мораль здесь следует рассматривать не как внутреннее понятие, а как внешнее, обусловленное социальными отношениями и контекстом этих интеллектуальных машин.
Широко известно, что люди могут приписывать разум не только отдельным личностям, но и нечеловеческим сущностям. Люди могут задаваться вопросом, обладает ли нечеловеческая сущность разумом, в каком состоянии этот разум находится, каковы поведенческие последствия его наличия и как это повлияет на их «чувства» и «действия». Восприятие разума мотивировано потребностью в социальной связи и желанием влиять на поведение другой сущности или контролировать его, создавая смысл для самих людей через ощущение себя моральным субъектом.
Надо чётко помнить, что понятие сознания в робототехнике не является абсолютным, а представляет собой явление, обусловленное контекстом. Но излишняя дегуманизация тоже может привести к социальной депривации во взаимодействии с клиентами. Ярким примером может служить расширение использования сервисных роботов в медицинских учреждениях, где уже назревают вопросы о том, как депривация человеческого общения может лишить пациентов социальной и эмоциональной привязанности к обслуживающим роботам. Бездушное отношение уже всерьёз собираются рассматривать, как форму жестокости, поскольку она изолирует людей от социальных связей.
Наряду с моральными и этическими аргументами, существуют прецеденты обсуждения прав и обязанностей общества, включая разработку концептуальной основы для регулирования. Логично, что юридические и нормативные вопросы в основном связаны с медицинскими рисками, возникающими при использовании роботов в контексте здравоохранения. Но расширение внедрения в других индустриях неизбежно будут рассматриваться в обновлённых контекстах. Здравой мыслью является выдача каждой модели социальной лицензии на деятельность, так как вопросы двойного использования требуют оценки ситуации в каждом конкретном случае. Тем более, что многие страны, включая Россию, вынуждены разрабатывать системы оценки для высокорисковых систем искусственного интеллекта (включая автономных сервисных роботов). Нормативы пока предписывают соблюдать требования прозрачности, управления данными и безопасности, но недалёк тот день, когда их список будет расширен до регулирования этических и юридических коллизий.