Соображения совести: ученые из МФТИ представили концепцию этических паспортов для систем искусственного интеллекта

Авторы инициативы уверены: этический паспорт должен стать своего рода страховкой для разработчиков при внедрении систем ИИ в чувствительных областях. Концепцию проекта исследователи из МФТИ представили на Форуме этики искусственного интеллекта в Москве. 

По словам уполномоченного по этике ИИ ИЦ прикладных систем ИИ МФТИ Андрея Кулешова, человек имеет право знать, что он взаимодействует с системой ИИ, поскольку система ИИ может не соответствовать человеческим ожиданиям в вопросах морали и нравственности. Необходимость информирования связана с такими принципиальными вопросами, как защита приватной информации, возможная предвзятость систем ИИ и право человека на личную автономию в принятии решений.

«‎Современные системы ИИ уже способны взаимодействовать с человеком таким образом, что их участие практически неотличимо от реального человека. Если человек не знает, что его «собеседник» — система ИИ, он может, стать жертвой свойств ИИ, которые для реального человека были бы неприемлемы по морально-этическим соображениям. Например, известен случай с голосовым помощником Алиса, когда мультфильм «Маша и медведь» был представлен, как мрачная история о призраке девочки, убитой медведем», — уточнил уполномоченный по этике ИИ ИЦ прикладных систем ИИ МФТИ Андрей Кулешов.

При этом, уточняют авторы концепции этических паспортов для ИИ, предвидеть все потенциально опасные ситуации взаимодействия с интеллектуальными системами невозможно. Именно поэтому взаимодействия должно быть максимально прозрачным: пользователи должны понимать, какими  свойствами обладает ИИ, в каких целях его можно использовать. В противном случае не удастся избежать юридических последствий. К примеру, когда система ИИ  используется для имперсонации человека для защиты