Различия

Здесь показаны различия между двумя версиями данной страницы.

--- prog_materials [2026/04/13 22:18]
platonova
+++ prog_materials [2026/10/16 15:40] (текущий)
platonova
@@ Строка 1: / Строка 1: @@
 ==== Материалы семинара====
+**21 октября 2026 г., г. Москва.** \\
+// Модель мира анимата, способного к планированию поведения. // \\
+Докладчик: \\
+Карпов В.Э., д.т.н, начальник лаборатории робототехники НИЦ "Курчатовский институт". \\
+Аннотация:
+В докладе рассматриваются результаты очередного этапа проекта по созданию робота-партнера, связанные с решением задачи планирования поведения.
+Семиотическая модель мира (ММ) агента-анимата, представляющая его знания о мире в виде множества понятий и отношений между ними, обычно декларативна. Ее основная задача – систематизация и структуризация сущностей мира анимата. Вместе с тем, классическое или символьное планирование поведения в ИИ является хорошо разработанным механизмом, в основе которого обычно лежит множество т.н. STRIPS-правил, использующих формализм логики предикатов. Отсюда возникает вопрос об интеграции декларативной ММ анимата и процедуры символьного планирования поведения. Показано, как описание действий в стиле STRIPS в виде списков условий выполнимости, добавления и удаления фактов декомпозируется в множество элементов семиотической ММ. При этом понятие семиотической ММ дополняется элементами-слотами на компонентах знаков, а также множеством отношений между слотами и соответствующими семантическими сетями. Показано, что реализация компонентов STRIPS-правил требует наличия в модели знаков, представляющих собой абстрактные сущности ("вещь", "место" и т.п.). В качестве примера рассмотрена задача планирования поведения агента, оперирующего множеством объектов для движения между помещениями и выполнения целевой задачи. Построенная ММ определяет компоненты STRIPS-правил, при этом формулировки условий, цели и вид правил относят задачу к категории "тяжелых": целевые условия включают правило вида "все вещи должны быть на своих местах", а в ходе планирования происходит удаление текущего состояния от цели. Планирование – это сложная вычислительная процедура, поэтому были рассмотрены вопросы поэтапного планирования, при котором единая процедура построения плана как поиск оптимального пути в пространстве состояний заменяется на этапы. Показано, что такое разбиение на этапы позволяет построить итоговый план действий, пусть и не оптимальный.
+В докладе обсуждается роль эмоционально-потребностного (ЭП) и "этического" уровней системы управления анимата в процессе планирования поведения. Если "этический" уровень определяет целеполагание, т.е. задает целевое состояние системы, то ЭП-уровень требует совершенно иной интерпретации STRIPS-правил. Уровень ММ не отвечает за реализацию поведения, его задача – определять состояния элементов ЭП-уровня – актуальных потребностей и виртуальной сенсорики.
+----
+**25 сентября 2026 г., г. Екатеринбург.** \\
+// Этические стандарты IEEE: как должна выглядеть этика глазами инженеров // \\
+Докладчики: \\
+Томильцева Д.А., к. филос. наук, доцент, доцент кафедры социальной философии УрФУ, руководитель образовательной программы магистратуры «Этика в сфере искусственного интеллекта» \\
+Аннотация: В 2016 году Институтом инженеров электротехники и электроники (IEEE) началась работа по созданию системы этического регулирования автономных/интеллектуальных систем, результатом чего стало появление десяти стандартов IEEE серии 7000, охватывающих различные аспекты проектирования и внедрения А/И систем. Объёмные по содержанию, различающиеся друг от друга по форме, данные стандарты призваны согласовать технические требования с основаниями этических теорий и управленческими задачами.
+Этика в инженерных стандартах присутствует в двух аспектах: «операционный» описывает причины и методику внедрения этического проектирования в инженерную деятельность; теоретический объясняет базовые теории и задействованный понятийный аппарат. Такое видение в целом отражает представления инженеров о назначении этического знания и характере моральных проблем: знание контекстно, проблемы утилитарны. Также в части этического содержания все стандарты объединены общим концептуальным подходом, сочетающем в себе нормативную этику, теорию ценностей и (местами) этику разнообразия и принятия.
+Особенность стандартов серии IEEE 7000 заключается в том, что они сосредоточены на решении управленческих задач: организации человеческих отношений – работы инженерных команд, взаимодействия с заинтересованными сторонами, учёта потребностей пользователей и т.д.; выстраивании бизнес-процессов; рекомендации по обращению с конкретными объектами деятельности, такими, например, как базы данных, благополучие пользователей, информационное согласие и др. Единым концептуальным основанием для принятия управленческих решений становится риск-ориентированный подход: этическая, и шире, гуманитарная проблематика описывается в стандартах исходя из него. Опора на риск-ориентированный подход, таким образом, отвечала управленческим, а не техническим задачам, и способствовала укреплению тенденции стандартизации мета-технологий (из десяти действующих стандартов только три касаются конкретных технических вопросов).
+Отдельный интерес вызывает вопрос об участии заинтересованных сторон в принятии за основу риск-ориентированного подхода. Возможно ли, что через присутствие в рабочих группах IEEE представителей крупных IT-компаний, разработка стандартов могла стать каналом лоббирования «виртуальных» продуктов? Тогда основной задачей такого лоббирования могло бы стать формирование посредством стандартизации общественного мнения в отношении технологий ИИ, основанных прежде всего на больших языковых моделях.
+В июле 2026 г. была анонсирована «Глобальная инициатива IEEE 2.0 по этике автономных и интеллектуальных систем», в которой на смену прежней ориентации на риски приходит ориентация на безопасность. Следствием этого станет пересмотр системы моральных ориентиров, развивавшейся на протяжении последних десяти лет.
+----
+**16 сентября 2026 г.**
+// Функции "сверх-разума" в моделях интеллекта. // \\
+Докладчики: \\
+Гафитулин Тимур Маратович, кандидат философских наук. \\
+Аннотация: Тема «сверх-разума» («сверх-интеллекта», «Superintelligence») не нова. Например, Н. Бостром в книге "Superintelligence: Paths, Dangers, Strategies" (в русском переводе книга вышла с названием «Искусственный интеллект. Этапы. Угрозы. Стратегии») смотрит на «сверх-разум» с футурологических и этических позиций. Нам же важен взгляд с точки зрения философии техники. В развитии технологий есть устойчивая тенденция к созданию «супер-систем» и «над-систем». Это и мега-машины, и инфраструктуры, и платформенные, и сетевые решения. Контроль этих супер-решений и их безопасность - не только этическая, но и чисто прикладная, инженерная задача. Чтобы её решить, необходимо ввести в систему как обычные функции регулирования, блокировки и торможения, так и средства экстренной остановки, спасения, отката к предыдущей версии. Для проектирования этих средств и их испытаний нужен или опыт катастроф, или система, превосходящая по своим возможностям регулируемую. В докладе рассматриваются вопросы проектирования Супер-ИИ систем для выполнения этих функций относительно моделей Искусственного Интеллекта. В чём они должны превосходить «обычный ИИ»? В скорости? В объёме данных? В коллективности? В полномочиях? Может ли эта система превосходить «человеческий» интеллект, и что в этом случае будет тем «сверх-разумом», который будет контролировать эту систему? Ответы на эти вопросы лежат в направлении технической «социопроекции», то есть проецирования на технические устройства не органов, а социальных ролей и институтов.
+----
+**10 июня 2026 г.**
+// Когда этика ИИ становится вопросом инфраструктуры: распределение ответственности в регулировании интеллектуальных и робототехнических систем // \\
+Докладчики: \\
+Карташева Анна Александровна, кандидат философских наук, научный сотрудник Международной лаборатории прикладного сетевого анализа НИУ ВШЭ \\
+Аннотация: В докладе предлагается рассматривать этику ИИ как организационное поле, где встречаются разные типы участников: государственные структуры, технологические компании, университеты, исследовательские центры, профессиональные ассоциации, экспертные группы, НКО, международные организации, бизнес-заказчики и конечные пользователи. У каждого из них свои интересы, язык описания рисков, степень влияния и доступ к принятию решений. Поэтому этическое регулирование нельзя свести к декларации общих принципов. Важно понять, кто именно превращает эти принципы в процедуры, стандарты, образовательные практики, инженерные решения и механизмы контроля.  Сетевой анализ необходимо соединять с тематическим анализом: если сетевой подход помогает увидеть конфигурацию поля (акторов, связи, центры влияния и периферийные зоны), то тематический анализ позволяет понять, какие проблемы называются ключевыми.
+----
 **29 апреля 2026 г.**

Этические проблемы искусственного интеллекта

Инструменты пользователя

Инструменты сайта

Различия

Инструменты страницы