Этические проблемы искусственного интеллекта

25 сентября 2026 г., г. Екатеринбург.
Этические стандарты IEEE: как должна выглядеть этика глазами инженеров

Докладчики:
Томильцева Д.А., к. филос. наук, доцент, доцент кафедры социальной философии УрФУ, руководитель образовательной программы магистратуры «Этика в сфере искусственного интеллекта»

Аннотация: В 2016 году Институтом инженеров электротехники и электроники (IEEE) началась работа по созданию системы этического регулирования автономных/интеллектуальных систем, результатом чего стало появление десяти стандартов IEEE серии 7000, охватывающих различные аспекты проектирования и внедрения А/И систем. Объёмные по содержанию, различающиеся друг от друга по форме, данные стандарты призваны согласовать технические требования с основаниями этических теорий и управленческими задачами. Этика в инженерных стандартах присутствует в двух аспектах: «операционный» описывает причины и методику внедрения этического проектирования в инженерную деятельность; теоретический объясняет базовые теории и задействованный понятийный аппарат. Такое видение в целом отражает представления инженеров о назначении этического знания и характере моральных проблем: знание контекстно, проблемы утилитарны. Также в части этического содержания все стандарты объединены общим концептуальным подходом, сочетающем в себе нормативную этику, теорию ценностей и (местами) этику разнообразия и принятия. Особенность стандартов серии IEEE 7000 заключается в том, что они сосредоточены на решении управленческих задач: организации человеческих отношений – работы инженерных команд, взаимодействия с заинтересованными сторонами, учёта потребностей пользователей и т.д.; выстраивании бизнес-процессов; рекомендации по обращению с конкретными объектами деятельности, такими, например, как базы данных, благополучие пользователей, информационное согласие и др. Единым концептуальным основанием для принятия управленческих решений становится риск-ориентированный подход: этическая, и шире, гуманитарная проблематика описывается в стандартах исходя из него. Опора на риск-ориентированный подход, таким образом, отвечала управленческим, а не техническим задачам, и способствовала укреплению тенденции стандартизации мета-технологий (из десяти действующих стандартов только три касаются конкретных технических вопросов). Отдельный интерес вызывает вопрос об участии заинтересованных сторон в принятии за основу риск-ориентированного подхода. Возможно ли, что через присутствие в рабочих группах IEEE представителей крупных IT-компаний, разработка стандартов могла стать каналом лоббирования «виртуальных» продуктов? Тогда основной задачей такого лоббирования могло бы стать формирование посредством стандартизации общественного мнения в отношении технологий ИИ, основанных прежде всего на больших языковых моделях. В июле 2026 г. была анонсирована «Глобальная инициатива IEEE 2.0 по этике автономных и интеллектуальных систем», в которой на смену прежней ориентации на риски приходит ориентация на безопасность. Следствием этого станет пересмотр системы моральных ориентиров, развивавшейся на протяжении последних десяти лет.

Необходима регистрация по адресу: phil.urfu@yandex.ru

Материалы семинара