Различия

Здесь показаны различия между двумя версиями данной страницы.

--- prog_materials [2026/01/14 16:15]
platonova
+++ prog_materials [2026/09/03 10:52] (текущий)
platonova
@@ Строка 1: / Строка 1: @@
 ==== Материалы семинара====
+**16 сентября 2026 г.**
+// Функции "сверх-разума" в моделях интеллекта. // \\
+Докладчики: \\
+Гафитулин Тимур Маратович, кандидат философских наук. \\
+Аннотация: Тема «сверх-разума» («сверх-интеллекта», «Superintelligence») не нова. Например, Н. Бостром в книге "Superintelligence: Paths, Dangers, Strategies" (в русском переводе книга вышла с названием «Искусственный интеллект. Этапы. Угрозы. Стратегии») смотрит на «сверх-разум» с футурологических и этических позиций. Нам же важен взгляд с точки зрения философии техники. В развитии технологий есть устойчивая тенденция к созданию «супер-систем» и «над-систем». Это и мега-машины, и инфраструктуры, и платформенные, и сетевые решения. Контроль этих супер-решений и их безопасность - не только этическая, но и чисто прикладная, инженерная задача. Чтобы её решить, необходимо ввести в систему как обычные функции регулирования, блокировки и торможения, так и средства экстренной остановки, спасения, отката к предыдущей версии. Для проектирования этих средств и их испытаний нужен или опыт катастроф, или система, превосходящая по своим возможностям регулируемую. В докладе рассматриваются вопросы проектирования Супер-ИИ систем для выполнения этих функций относительно моделей Искусственного Интеллекта. В чём они должны превосходить «обычный ИИ»? В скорости? В объёме данных? В коллективности? В полномочиях? Может ли эта система превосходить «человеческий» интеллект, и что в этом случае будет тем «сверх-разумом», который будет контролировать эту систему? Ответы на эти вопросы лежат в направлении технической «социопроекции», то есть проецирования на технические устройства не органов, а социальных ролей и институтов.
+----
+**10 июня 2026 г.**
+// Когда этика ИИ становится вопросом инфраструктуры: распределение ответственности в регулировании интеллектуальных и робототехнических систем // \\
+Докладчики: \\
+Карташева Анна Александровна, кандидат философских наук, научный сотрудник Международной лаборатории прикладного сетевого анализа НИУ ВШЭ \\
+Аннотация: В докладе предлагается рассматривать этику ИИ как организационное поле, где встречаются разные типы участников: государственные структуры, технологические компании, университеты, исследовательские центры, профессиональные ассоциации, экспертные группы, НКО, международные организации, бизнес-заказчики и конечные пользователи. У каждого из них свои интересы, язык описания рисков, степень влияния и доступ к принятию решений. Поэтому этическое регулирование нельзя свести к декларации общих принципов. Важно понять, кто именно превращает эти принципы в процедуры, стандарты, образовательные практики, инженерные решения и механизмы контроля.  Сетевой анализ необходимо соединять с тематическим анализом: если сетевой подход помогает увидеть конфигурацию поля (акторов, связи, центры влияния и периферийные зоны), то тематический анализ позволяет понять, какие проблемы называются ключевыми.
+----
+**29 апреля 2026 г.**
+// Личностно-адаптируемые интеллектуальные агенты в управлении сложными техническим системами: проблема доверия оператора // \\
+Докладчики: \\
+Дозорцев Виктор Михайлович, д.т.н., директор по развитию бизнеса Центра цифровых технологий (Группа компаний Рубитех); \\
+Венгер Александр Леонидович, д.псх.н., профессор Государственного университета «Дубна». \\
+Аннотация: Проникновение ИИ в управление сложными техническим системами в потенциально опасных ситуациях не только обещает существенные выгоды (предиктивная диагностика состояния дорогостоящего оборудования, оценка рисков, оптимизация режима), но и выявляет неготовность как операторов, так и искусственных агентов (ИА) к продуктивному взаимодействию. Помимо технических факторов (непрозрачность, необъяснимость, коммуникативные ошибки ИА), это объясняется недоучетом личностных особенностей оператора, определяющих его доверие ИА (локус контроля, экстра-/интроверсия, личностная тревожность). Исследование включает ряд экспериментов. В имитационном эксперименте выявляются возможные операторские стратегии взаимодействия с ИА в ситуациях с высоким риском, зависящие от индивидуальных личностных особенностей. В психологическом эксперименте проверяется устойчивость стратегий и способность испытуемого их перестроить при изменении условий работы. Предлагается и обосновывается архитектура системы взаимной адаптации, которая предназначена для повышения уровня операторского доверия ИА и будет проверена в специально созданной компьютерной тренажерной среде.
+----
+**18 марта 2026 г.**
+// Сознание у животных: современная наука в поиске критериев сознания // \\
+Докладчик: Маланчук Ирина Григорьевна, доцент, старший научный сотрудник, канд. психол. наук, НИЦ "Курчатовский институт". \\
+Аннотация: При всей трудности проблемы сознания, при всем многообразии и малоупорядоченном использовании терминов, смежных или в  конкретных исследованиях синонимизированных с термином «сознание», следует признать, что почти 70 назад сознание человека было хорошо определено в отечественной психологии.
+Существеннейшей проблемой остается экстраполяция сознания на ранний онтогенез человека, но активнее всего – на типы и классы животных. С 1940-х гг. о сознании животных написано более 4,5 млн научных работ, в 2025 году – 3,5 тыс., проект «Ландшафт сознания» содержит сведения о 350 концепциях сознания. Подписаны 2 декларации о сознании животных. Существует и радикальная установка признать феномен сознания у животных вообще и по мере развития методологического, экспериментального и инструментального аппаратов «отсекать» тех, кто не отвечает разработанным критериям обладания сознанием.
+----
+**25 февраля 2026 г.**
+// Быть или не быть… на сервере? Этика цифровой смерти в проекте вечной жизни //
+Докладчик: Перова Нина Вадимовна, Институт философии РАН, аспирант.\\
+Аннотация: В докладе рассматриваются ключевые этические проблемы, связанные с развитием технологий цифровых двойников, цифровой смерти и цифрового бессмертия в условиях стремительного прогресса искусственного интеллекта. Особое внимание уделяется созданию цифровых репрезентаций личности на основе больших данных, нейросетевых моделей и генеративных ИИ-систем, способных воспроизводить поведение, речь и стиль мышления человека. Анализируются вопросы идентичности и аутентичности цифрового двойника, границы согласия и посмертного использования данных, проблемы приватности и цифрового наследия, а также риски манипуляции, коммерциализации и подмены личности. Отдельно рассматривается феномен «цифрового бессмертия» как социокультурный и философский вызов: трансформация представлений о смерти, памяти и ответственности в цифровую эпоху.
+----
 **21 января 2026 г.**
 // Этика и математика в искусственном интеллекте. //
-Докладчик: \\
+Докладчик: Юрий Юрьевич Петрунин, доктор философских наук, профессор, заведующий кафедрой «Математических методов и информационных технологий в управлении» факультета государственного управления МГУ имени М.В. Ломоносова, руководитель секции «Управление знаниями» Научного совета при Президиуме РАН по методологии искусственного интеллекта и когнитивных исследований.\\
-Юрий Юрьевич Петрунин, доктор философских наук, профессор, заведующий кафедрой «Математических методов и информационных технологий в управлении» факультета государственного управления МГУ имени М.В. Ломоносова, руководитель секции «Управление знаниями» Научного совета при Президиуме РАН по методологии искусственного интеллекта и когнитивных исследований.\\
-Аннотация: Проблема взаимоотношений математики и этики рассматривается в докладе как значимая для развития искусственного интеллекта и способов его регулирования. Искусственный интеллект (ИИ) является междисциплинарным научным направлением. Активное участие в создании и применении ИИ принимало множество наук: от математики и логики до лингвистики и юриспруденции. Можно отметить, что с развитием исследований в области ИИ важность вклада конкретной науки могла как возрастать, так и уменьшаться. Важны также взаимоотношения между разными науками, которые влияют на эффективность ИИ и его адаптацию в обществе.  С учетом данного контекста заслуживают внимания следующие этапы в истории взимоотношений математики и этики: 1) эпоха античной гармонии, когда математические и этические принципы рассматривались в единой системе (Пифагор, Платон); 2) длительный период «математизации этики» (от Спинозы и Бентама до применения теории игр и нечеткой логики в моральных дилеммах), характеризующийся экспансией математических методов в сферу нравственности; 3) становящийся этап «этики в математике» (Ethics in Mathematics), который предполагает осознание социальной ответственности математиков и этическую рефлексию их деятельности (особенно в контексте больших данных, алгоритмов и искусственного интеллекта). В чем причина «нестабильности» союза математики и этики? Можно ли найти более органические связи между ними? От ответа на эти вопросы зависит не только разработка благожелательного ИИ, но и решение многих других актуальных проблем современности.
+Аннотация: Проблема взаимоотношений математики и этики рассматривается в докладе как значимая для развития искусственного интеллекта и способов его регулирования. Искусственный интеллект (ИИ) является междисциплинарным научным направлением. Активное участие в создании и применении ИИ принимало множество наук: от математики и логики до лингвистики и юриспруденции. Можно отметить, что с развитием исследований в области ИИ важность вклада конкретной науки могла как возрастать, так и уменьшаться. Важны также взаимоотношения между разными науками, которые влияют на эффективность ИИ и его адаптацию в обществе.  С учетом данного контекста заслуживают внимания следующие этапы в истории взаимоотношений математики и этики: 1) эпоха античной гармонии, когда математические и этические принципы рассматривались в единой системе (Пифагор, Платон); 2) длительный период «математизации этики» (от Спинозы и Бентама до применения теории игр и нечеткой логики в моральных дилеммах), характеризующийся экспансией математических методов в сферу нравственности; 3) становящийся этап «этики в математике» (Ethics in Mathematics), который предполагает осознание социальной ответственности математиков и этическую рефлексию их деятельности (особенно в контексте больших данных, алгоритмов и искусственного интеллекта). В чем причина «нестабильности» союза математики и этики? Можно ли найти более органические связи между ними? От ответа на эти вопросы зависит не только разработка благожелательного ИИ, но и решение многих других актуальных проблем современности.
 ----
 **10 декабря 2025 г.**
@@ Строка 20: / Строка 71: @@
 Презентация {{ :karpov-tomiltseva-sorokoumov-2025-12-1.pdf |}}
+Ссылка на запись семинара [[https://rutube.ru/video/a82a0d1722d8ceaddfc21f3cdf3cd918/]]
 ----

Этические проблемы искусственного интеллекта

Инструменты пользователя

Инструменты сайта

Различия

Инструменты страницы