Различия

Здесь показаны различия между двумя версиями данной страницы.

--- prog_materials [2025/04/18 12:15]
platonova
+++ prog_materials [2026/09/03 10:52] (текущий)
platonova
@@ Строка 1: / Строка 1: @@
 ==== Материалы семинара====
+**16 сентября 2026 г.**
+// Функции "сверх-разума" в моделях интеллекта. // \\
+Докладчики: \\
+Гафитулин Тимур Маратович, кандидат философских наук. \\
+Аннотация: Тема «сверх-разума» («сверх-интеллекта», «Superintelligence») не нова. Например, Н. Бостром в книге "Superintelligence: Paths, Dangers, Strategies" (в русском переводе книга вышла с названием «Искусственный интеллект. Этапы. Угрозы. Стратегии») смотрит на «сверх-разум» с футурологических и этических позиций. Нам же важен взгляд с точки зрения философии техники. В развитии технологий есть устойчивая тенденция к созданию «супер-систем» и «над-систем». Это и мега-машины, и инфраструктуры, и платформенные, и сетевые решения. Контроль этих супер-решений и их безопасность - не только этическая, но и чисто прикладная, инженерная задача. Чтобы её решить, необходимо ввести в систему как обычные функции регулирования, блокировки и торможения, так и средства экстренной остановки, спасения, отката к предыдущей версии. Для проектирования этих средств и их испытаний нужен или опыт катастроф, или система, превосходящая по своим возможностям регулируемую. В докладе рассматриваются вопросы проектирования Супер-ИИ систем для выполнения этих функций относительно моделей Искусственного Интеллекта. В чём они должны превосходить «обычный ИИ»? В скорости? В объёме данных? В коллективности? В полномочиях? Может ли эта система превосходить «человеческий» интеллект, и что в этом случае будет тем «сверх-разумом», который будет контролировать эту систему? Ответы на эти вопросы лежат в направлении технической «социопроекции», то есть проецирования на технические устройства не органов, а социальных ролей и институтов.
+----
+**10 июня 2026 г.**
+// Когда этика ИИ становится вопросом инфраструктуры: распределение ответственности в регулировании интеллектуальных и робототехнических систем // \\
+Докладчики: \\
+Карташева Анна Александровна, кандидат философских наук, научный сотрудник Международной лаборатории прикладного сетевого анализа НИУ ВШЭ \\
+Аннотация: В докладе предлагается рассматривать этику ИИ как организационное поле, где встречаются разные типы участников: государственные структуры, технологические компании, университеты, исследовательские центры, профессиональные ассоциации, экспертные группы, НКО, международные организации, бизнес-заказчики и конечные пользователи. У каждого из них свои интересы, язык описания рисков, степень влияния и доступ к принятию решений. Поэтому этическое регулирование нельзя свести к декларации общих принципов. Важно понять, кто именно превращает эти принципы в процедуры, стандарты, образовательные практики, инженерные решения и механизмы контроля.  Сетевой анализ необходимо соединять с тематическим анализом: если сетевой подход помогает увидеть конфигурацию поля (акторов, связи, центры влияния и периферийные зоны), то тематический анализ позволяет понять, какие проблемы называются ключевыми.
+----
+**29 апреля 2026 г.**
+// Личностно-адаптируемые интеллектуальные агенты в управлении сложными техническим системами: проблема доверия оператора // \\
+Докладчики: \\
+Дозорцев Виктор Михайлович, д.т.н., директор по развитию бизнеса Центра цифровых технологий (Группа компаний Рубитех); \\
+Венгер Александр Леонидович, д.псх.н., профессор Государственного университета «Дубна». \\
+Аннотация: Проникновение ИИ в управление сложными техническим системами в потенциально опасных ситуациях не только обещает существенные выгоды (предиктивная диагностика состояния дорогостоящего оборудования, оценка рисков, оптимизация режима), но и выявляет неготовность как операторов, так и искусственных агентов (ИА) к продуктивному взаимодействию. Помимо технических факторов (непрозрачность, необъяснимость, коммуникативные ошибки ИА), это объясняется недоучетом личностных особенностей оператора, определяющих его доверие ИА (локус контроля, экстра-/интроверсия, личностная тревожность). Исследование включает ряд экспериментов. В имитационном эксперименте выявляются возможные операторские стратегии взаимодействия с ИА в ситуациях с высоким риском, зависящие от индивидуальных личностных особенностей. В психологическом эксперименте проверяется устойчивость стратегий и способность испытуемого их перестроить при изменении условий работы. Предлагается и обосновывается архитектура системы взаимной адаптации, которая предназначена для повышения уровня операторского доверия ИА и будет проверена в специально созданной компьютерной тренажерной среде.
+----
+**18 марта 2026 г.**
+// Сознание у животных: современная наука в поиске критериев сознания // \\
+Докладчик: Маланчук Ирина Григорьевна, доцент, старший научный сотрудник, канд. психол. наук, НИЦ "Курчатовский институт". \\
+Аннотация: При всей трудности проблемы сознания, при всем многообразии и малоупорядоченном использовании терминов, смежных или в  конкретных исследованиях синонимизированных с термином «сознание», следует признать, что почти 70 назад сознание человека было хорошо определено в отечественной психологии.
+Существеннейшей проблемой остается экстраполяция сознания на ранний онтогенез человека, но активнее всего – на типы и классы животных. С 1940-х гг. о сознании животных написано более 4,5 млн научных работ, в 2025 году – 3,5 тыс., проект «Ландшафт сознания» содержит сведения о 350 концепциях сознания. Подписаны 2 декларации о сознании животных. Существует и радикальная установка признать феномен сознания у животных вообще и по мере развития методологического, экспериментального и инструментального аппаратов «отсекать» тех, кто не отвечает разработанным критериям обладания сознанием.
+----
+**25 февраля 2026 г.**
+// Быть или не быть… на сервере? Этика цифровой смерти в проекте вечной жизни //
+Докладчик: Перова Нина Вадимовна, Институт философии РАН, аспирант.\\
+Аннотация: В докладе рассматриваются ключевые этические проблемы, связанные с развитием технологий цифровых двойников, цифровой смерти и цифрового бессмертия в условиях стремительного прогресса искусственного интеллекта. Особое внимание уделяется созданию цифровых репрезентаций личности на основе больших данных, нейросетевых моделей и генеративных ИИ-систем, способных воспроизводить поведение, речь и стиль мышления человека. Анализируются вопросы идентичности и аутентичности цифрового двойника, границы согласия и посмертного использования данных, проблемы приватности и цифрового наследия, а также риски манипуляции, коммерциализации и подмены личности. Отдельно рассматривается феномен «цифрового бессмертия» как социокультурный и философский вызов: трансформация представлений о смерти, памяти и ответственности в цифровую эпоху.
+----
+**21 января 2026 г.**
+// Этика и математика в искусственном интеллекте. //
+Докладчик: Юрий Юрьевич Петрунин, доктор философских наук, профессор, заведующий кафедрой «Математических методов и информационных технологий в управлении» факультета государственного управления МГУ имени М.В. Ломоносова, руководитель секции «Управление знаниями» Научного совета при Президиуме РАН по методологии искусственного интеллекта и когнитивных исследований.\\
+Аннотация: Проблема взаимоотношений математики и этики рассматривается в докладе как значимая для развития искусственного интеллекта и способов его регулирования. Искусственный интеллект (ИИ) является междисциплинарным научным направлением. Активное участие в создании и применении ИИ принимало множество наук: от математики и логики до лингвистики и юриспруденции. Можно отметить, что с развитием исследований в области ИИ важность вклада конкретной науки могла как возрастать, так и уменьшаться. Важны также взаимоотношения между разными науками, которые влияют на эффективность ИИ и его адаптацию в обществе.  С учетом данного контекста заслуживают внимания следующие этапы в истории взаимоотношений математики и этики: 1) эпоха античной гармонии, когда математические и этические принципы рассматривались в единой системе (Пифагор, Платон); 2) длительный период «математизации этики» (от Спинозы и Бентама до применения теории игр и нечеткой логики в моральных дилеммах), характеризующийся экспансией математических методов в сферу нравственности; 3) становящийся этап «этики в математике» (Ethics in Mathematics), который предполагает осознание социальной ответственности математиков и этическую рефлексию их деятельности (особенно в контексте больших данных, алгоритмов и искусственного интеллекта). В чем причина «нестабильности» союза математики и этики? Можно ли найти более органические связи между ними? От ответа на эти вопросы зависит не только разработка благожелательного ИИ, но и решение многих других актуальных проблем современности.
+----
+**10 декабря 2025 г.**
+// Робот-партнер: по образу и подобию собаки. //
+Докладчики: \\
+Карпов В. Э., д.т.н., начальник лаборатории робототехники НИЦ «Курчатовский институт»;\\
+Томильцева Д. А., к.ф.н., доцент кафедры социальной философии Уральский федеральный университет;\\
+Сорокоумов П. С., научный сотрудник лаборатории робототехники НИЦ «Курчатовский институт»\\
+Аннотация: В работе рассматривается возможность создания робота-партнёра, основанного на восприятии человеком его поведения, как служебной собаки. Исходными установками исследование является: 1) оценка поведения робота-партнера с моральной позиции обусловлена психологией восприятия человека; 2) моральный уровень системы управления может воздействовать на поведение искусственного агента, не влияя на работоспособность базовых уровней управления, устойчивость и целостность поведения робота; 3) робот-партнёр должен выполнять функционал собаки и демонстрировать её уникальные поведенческие черты; 4) робот-партнёр, в котором проявлены черты собаки, ограничен в своих когнитивных возможностях. В рамках исследования был произведён отбор ограниченного ряда поведенческих особенностей собаки, связанных с коллаборативными возможностями. Наиболее важные характеристики собаки, такие как строение тела, психология, идеализированные человеческие представления были типизированы по ряду параметров. При разработке модели за характеристикой "строение тела" была оставлена такая функция как способность отображать эмоциональное состояние агента. В качестве теоретической основы для морального уровня системы управления была выбрана концепция количественного эгоистического гедонизма Г. Сиджвика. Разработанная модель была протестирована в ряде экспериментов, представленных в двух ситуациях взаимодействия робота и человека, каждая из которых предполагала несколько поведенческих сценариев, воспроизводящих поведение собак и людей в аналогичной ситуации. В результате проведённых экспериментов была подтверждена работоспособность трехуровневой системы управления: эмоционально-потребностный, когнитивный и оценочный (моральный) уровни. При этом выяснилось, что ряд поведенческих сценариев, внешне выглядевших как результат сложных когнитивных процессов, на самом деле реализуется базовым условно-рефлекторным механизмом (сценарии с "оценкой" ситуации и осцилляциями поведения). Вместе с тем, что внешне казалось простым рефлекторным поведением, требовало привлечения когнитивного уровня управления (сценарии с переориентацией базовых реакций).
+Презентация {{ :karpov-tomiltseva-sorokoumov-2025-12-1.pdf |}}
+Ссылка на запись семинара [[https://rutube.ru/video/a82a0d1722d8ceaddfc21f3cdf3cd918/]]
+----
+**14 ноября 2025 г.**
+//Моральный тест Тьюринга: иллюзия этичности или инструмент для безопасности ИИ?//
+Докладчик: Антипов Алексей Владимирович, к. филос. н., ст. н. с. сектора гуманитарных экспертиз и биоэтики Института философии РАН
+Аннотация:
+Распространение роботов с социальными обязательствами, например, ухаживающими за пожилым человеком, или автономных хирургических систем, принимающих решение в критический момент, поднимает вопрос об их «моральной» надежности. Один из возможных ответов — «моральный тест Тьюринга». В рамках доклада будет представлена эволюция этой идеи: от исходного теста Тьюринга к его специализированным модификациям для оценки этики ИИ. Мы кратко рассмотрим ключевые версии, такие как тест на этическую компетентность и тест Тьюринга на распределение приоритетов. Будут также обозначены ограничения этих подходов. Я выделю главные методологические трудности: риск простого «подражания» морали, проблема отсутствия у ИИ понимания и фундаментальные философские возражения, представленные, например, в работах таких исследователей как Дж. Серл и Х. Дрейфус. Моральный тест Тьюринга является полезным функциональным инструментом для проверки безопасности систем, но не доказательством их моральной субъектности, что может иметь решающее значение в чувствительной сфере биоэтических исследований.
+----
+**28 мая 2025 г.**
+//Искусственный интеллект и сознание: проблема квалиа//
+Докладчик: Разин Александр Владимирович, доктор философских наук, профессор, заведующий кафедрой этики философского факультета МГУ имени М. В. Ломоносова.
+Аннотация: Сейчас много говорится о создании альфа искусственного интеллекта, который, по мнению некоторых исследователей способен далеко обойти человеческий интеллект по своим возможностям.
+В настоящем докладе мы собираемся показать какие ограничения могут возникнуть на этом пути, даже применительно к моделированию отдельных возможностей деятельности человеческого интеллекта. Известно, что искусственные интеллектуальные системы работают на уровне синтаксиса и не выходят на семантический уровень отношения к действительности, связанный с пониманием, субъективной интерпретацией событий.
+Мы неоднократно писали, какие условия надо выполнить для того, чтобы искусственный интеллект приобрел способности сознания и самосознания. Это: \\
+- Наличие у машины феноменального опыта. \\
+- Связанное с этим наличие тела, параметры которого постоянно контролируются, связываются с временными интервалами бытия. \\
+- Наличие сообщества машин способных на коммуникацию и учет взаимно значимых оценок. \\
+- Развитая эмоциональная жизнь, которая не сводится просто к возбуждению при достижении результата (конечного или промежуточных, но и дает человеку ощущение постоянной радости бытия. \\
+- Связь эмоциональной жизни с возможностью классификацией событий на значимые и не значимые. \\
+Чтобы более глубоко рассмотреть эти вопросы надо показать, что такое сознание, что означают его квалиативные состояния, что такое предметное изучение мира, что такое потребности человека, почему они принципиально отличаются от потребностей животного. \\
+Основные разделы доклада: \\
+Почему возникает психика и сознание \\
+Гипотезотворческая работа мозга и "квалиа" \\
+Какое "квалиа" может быть у искусственного интеллекта?
+Ссылка на запись семинара [[https://rutube.ru/video/c88a00c9a1989dbf380fc1fd07a5f367/?r=wd]]
+----
 **16 апреля 2025 г.**
 //Проблема понимания и искусственный интеллект//
@@ Строка 9: / Строка 113: @@
 Презентация {{ :о.п._кузнецов_понимание.pdf |}}
+Ссылка на запись семинара [[https://rutube.ru/video/9f8f371442151b79755b705880e28c77/?r=wd]]
 ----
@@ Строка 27: / Строка 133: @@
 Аннотация:
 Появление новых и особых сфер знания и практик с необходимостью ставит вопрос о критическом переосмыслении соответствующего понятийно- категориального аппарата. Не является исключением и этика в сфере искусственного интеллекта, развитие которой не оставила без внимания базовые этические понятия добра и зла. Обсуждение проблемы зла в современных этических теориях обычно начинается со ставшего традиционным рассмотрения видов зла: моральное зло (зависящее от деятельности людей, их свободы, сознательности и т.д.) и физическое зло (природные явления, физиология людей и т.д.). Появление технологий, основанных на алгоритмах искусственного интеллекта, создание автономных интеллектуальных систем и проекты создания на их основе Искусственных Моральных Агентов обусловило возникновение идей существования в качестве самостоятельного «искусственного зла». В докладе анализируются возможные способы понимания и интерпретации концепта «искусственное зло». Особое внимание уделено проблемам, связанным с возможностью алгоритмам искусственного интеллекта быть «злыми» в строгом «аморальном» смысле. Показано, что Искусственный Моральный Агент не способен отклоняться от алгоритмически правильного поведения и нарушать «правила добра», поэтому «искусственное зло» может рассматриваться только как метафора.
+Ссылка на запись семинара [[https://rutube.ru/video/87cd42505f77ce3a4fa23266e3d40c7b/]]
 ----

Этические проблемы искусственного интеллекта

Инструменты пользователя

Инструменты сайта

Различия

Инструменты страницы