Карпов Валерий Эдуардович, Королева Мария Николаевна

НИЦ «Курчатовский институт», МГТУ им. Н.Э. Баумана

В работе рассматриваются вопросы создания механизмов, позволяющих коллаборативному роботу считаться моральным агентом. Показано, что в условиях принципиально неустранимых противоречий и неполноты использование логических схем и различных неклассических логик не решают проблему формализации моральных учений и этики поведения. На примере показано, что задача моральных схем или систем суждений заключается не только и не столько в том, чтобы определить или оценить действие (поведение) агента, а в том, чтобы реализовывать объяснительный компонент поведения. В качестве этических теорий, закладываемых в основу поведения робота, рассматриваются утилитаризм в понимании И. Бентама и Дж. С. Милля в комбинации с аксиологической системой правил гедонизма. Для качественного анализа применяются когнитивные карты. В работе сформулированы три фундаментальные утверждения морального поведения робота: 1) поведение (выбор действия, реализация поведенческой процедуры) агента определяется текущими актуальными потребностями и состоянием его системы восприятия; 2) в основе моральности поведения лежит результат сопоставления конспецификов с «Я», т.е. определение степени «свой-чужой»; 3) схема моральных представлений нужна для того, чтобы определить значимость потребностей и особенности системы восприятия, а главное – обосновать (оправдать) выбранное агентом поведение.

этика, коллаборативный робот, неклассические логики, моральный агент, анимат, эмоционально-потребностная архитектура, эмпатия