Различия

Здесь показаны различия между двумя версиями данной страницы.

--- prog_materials [2024/10/06 10:25]
rootecai создано
+++ prog_materials [2025/04/18 12:15] (текущий)
platonova
@@ Строка 1: / Строка 1: @@
 ==== Материалы семинара====
+**16 апреля 2025 г.**
+//Проблема понимания и искусственный интеллект//
+Докладчик: Кузнецов Олег Петрович, доктор технических наук, профессор, академик РАЕН, заведующий лабораторией Института проблем управления РАН
+Аннотация: В докладе понимание рассматривается в рамках новой концепции когнитивной семантики, в центре которой лежит понятие картины мира человека. Утверждается, что понимание – это интерпретация в терминах картины мира; значения (смыслы) формируются раньше, чем формируются концептуальные структуры; в основе значений лежат биологические и социальные цели; понимание связано с действиями в среде, формирующими картину мира. Обсуждается связь этой проблемы  с перспективами создания сильного ИИ.
+Презентация {{ :о.п._кузнецов_понимание.pdf |}}
+----
+**19 марта 2025 г.**
+//Методологические и мировоззренческие программы в этике искусственного интеллекта//
+Докладчик: Алексеева Ирина Юрьевна, доктор философских наук, доцент, ведущий научный сотрудник сектора философских проблем социальных и гуманитарных наук Института философии РАН
+Аннотация:
+В докладе представлена попытка использовать в этике ИИ тот опыт прояснения мировоззренческих и методологических программ, который накоплен к настоящему времени в теории познания. Рассматривается ряд методологических программ, представленных в современных исследованиях этических проблем ИИ и в обсуждениях перспектив  интеллекта. Оцениваются возможности и ограничения регуляционных, технократических, «мереократических», футурологических программ. Автор ставит вопрос об отношениях религиозной и секулярной (светской) философии в новом технологическом контексте и предлагает секулярный вариант метафизики хозяйства С. Н Булгакова как мировоззренческую программу этики искусственного интеллекта.
+----
+**05 февраля 2025 г.**
+//Проблема «искусственного зла»//
+Докладчик: Перов Вадим Юрьевич, кандидат философских, доцент, зав.каф.этики, Институт философии, Санкт-Петербургский государственный университет
+Аннотация:
+Появление новых и особых сфер знания и практик с необходимостью ставит вопрос о критическом переосмыслении соответствующего понятийно- категориального аппарата. Не является исключением и этика в сфере искусственного интеллекта, развитие которой не оставила без внимания базовые этические понятия добра и зла. Обсуждение проблемы зла в современных этических теориях обычно начинается со ставшего традиционным рассмотрения видов зла: моральное зло (зависящее от деятельности людей, их свободы, сознательности и т.д.) и физическое зло (природные явления, физиология людей и т.д.). Появление технологий, основанных на алгоритмах искусственного интеллекта, создание автономных интеллектуальных систем и проекты создания на их основе Искусственных Моральных Агентов обусловило возникновение идей существования в качестве самостоятельного «искусственного зла». В докладе анализируются возможные способы понимания и интерпретации концепта «искусственное зло». Особое внимание уделено проблемам, связанным с возможностью алгоритмам искусственного интеллекта быть «злыми» в строгом «аморальном» смысле. Показано, что Искусственный Моральный Агент не способен отклоняться от алгоритмически правильного поведения и нарушать «правила добра», поэтому «искусственное зло» может рассматриваться только как метафора.
+----
+**11 декабря 2024 г.**
+//Человек-оператор и искусственный интеллект: навязанное сосуществование или выгодное партнерство?//
+Докладчики: \\
+Дозорцев Виктор Михайлович, д.т.н., директор по развитию бизнеса Центра цифровых технологий (МФТИ, Группа компаний Рубитех);\\
+Венгер Александр Леонидович, д.псх.н., профессор Государственного университета «Дубна».
+Аннотация: Эффективность взаимодействия человека-оператора и искусственного интеллекта – продолжение непреходящей темы доверия/недоверия технике, усугубляемой особенностями современных ИИ-инструментов. Такой ИИ, пока «слабый», в составе рекомендательных систем все шире проникает в промышленную практику, опережая его осмысление, теоретическое обоснование и подготовку операторов к работе в новых условиях. Помимо известных мер повышения доверия (прозрачность, объяснимость, коммуникативность, мотивированность, пр.) все актуальней становится учет индивидуально-психологических характеристик операторов («большая пятерка», атрибутивный стиль, стратегия принятия решений в ответственных ситуациях). В докладе обосновывается модель принятия/отклонения советов ИИ, позволяющая оценить предпочитаемые оператором стратегии в зависимости от уровня субъективной тревожности и использовать эти оценки для взаимоадаптации Ч-О и ИИ в задачах управления сложными и потенциально опасными техническими системами. Излагаются исследовательский ландшафт проблемы, имеющиеся экспериментальные результаты и направления будущих разработок.
+Презентация {{ :дозорцев-венгер_11_12_24.pdf |}}
+Ссылка на запись семинара [[https://rutube.ru/video/2bcfde20db0ee40f8a1e7d89a912118a/]]
+----
+**23 октября 2024 г.**
+//Законы робототехники: о чем на самом деле говорил Азимов//
+Докладчик: Карпов Валерий Эдуардович, д.т.н., доцент, начальник Лаборатории робототехники НИЦ «Курчатовский институт»
+Аннотация:
+Работа посвящена обсуждению некоторых аспектов известных законов робототехники Азимова. Раскрыто утверждение о том, что рассуждения о противоречиях законов, их критика не являются конструктивными, и что сам автор этих законов понимал существующие коллизии формулировок крайне глубоко. В работе показано, что поведение азимовских роботов определяются не столько этими законами, сколько особенностями их эмоционально-потребностной архитектуры. При этом сами законы тесно связаны с вопросами этики автономных/интеллектуальных систем. Кроме того, азимовские законы вскрывают ряд сугубо технических проблем, которые не решены до сих пор. В частности, не решенным остается вопрос о том, на каком уровне должны быть реализованы этические императивы поведения робота.
+Презентация В.Э. Карпова {{ :karpov-asimov-full.pdf |}}
+Ссылка на запись семинара [[https://rutube.ru/video/bcb9619555d111626a31625c54a74e19/?r=wd]]
+----
 **25 сентября 2024 г.**
@@ Строка 350: / Строка 406: @@
 **01 октября 2019 г.**
-//Теоретические и методологические предпосылки обсуждения проблем этики искусственного интеллекта.//\\ Докладчики – [[https://iphras.ru/apressyan.htm | Р.Г. Апресян]] (Институт философии РАН), [[ http://raai.org/about/persons/karpov/ | В.Э. Карпов ]] (НИЦ «Курчатовский институт», МФТИ).
+//Теоретические и методологические предпосылки обсуждения проблем этики искусственного интеллекта.//\\ Докладчики – [[https://iphras.ru/apressyan.htm | Р.Г. Апресян *]] (Институт философии РАН), [[ http://raai.org/about/persons/karpov/ | В.Э. Карпов ]] (НИЦ «Курчатовский институт», МФТИ).
-Резюме выступления Р.Г. Апресяна {{ :апресян_резюме_выступления.pdf |}} \\
+Резюме выступления Р.Г. Апресяна * {{ :апресян_резюме_выступления.pdf |}} \\
 Резюме выступления В.Э.Капова {{ :karpov-text-2.pdf |}}
@@ Строка 362: / Строка 418: @@
 {{ :karpov-2019-10-01.pptx |}} Презентация семинара, формат pptx
+----
-октября 2019 г. в Институте философии РАН (Москва) состоялось первое заседание ежемесячного исследовательского семинара **«Этические проблемы искусственного интеллекта»**.
+**1 октября 2019 г.** в Институте философии РАН (Москва) состоялось первое заседание ежемесячного исследовательского семинара **«Этические проблемы искусственного интеллекта»**.
 Исследовательский семинар организован сектором этики Института философии РАН совместно с Российской ассоциацией искусственного интеллекта (РАИИ) и кафедрой этики философского факультета МГУ им. М.В. Ломоносова под эгидой Научного совета РАН по методологии искусственного интеллекта и когнитивных исследований (НСМИИ РАН).
 Задача семинара – обсуждение теоретических условий междисциплинарного синтеза этики и технологии ИИ, проблем формализации этических принципов в приложении к ИИ, этических аспектов применения интеллектуальных и автономных систем и др.
-Руководители семинара:
-  * Апресян Рубен Грантович, доктор философских наук, профессор, руководитель сектора этики ИФРАН
-  * Карпов Валерий Эдуардович, к.т.н., доцент, начальник Лаборатории робототехники НИЦ «Курчатовский институт», вице-президент РАИИ
-  * Разин Александр Владимирович, доктор философских наук, профессор, заведующий Кафедрой этики философского факультета МГУ им. М.В. Ломоносова
-Ученый секретарь:
-  * Платонова Мария Валерьевна, хранитель Политехнического музея
 Первое заседание семинара было посвящено теме **«Теоретические и методологические предпосылки обсуждения проблем этики искусственного интеллекта»**.
 С докладами выступили:
-  * Р.Г. Апресян (Институт философии РАН)
+  * Р.Г. Апресян * (Институт философии РАН)
   * В.Э. Карпов (НИЦ «Курчатовский институт», МФТИ)
@@ Строка 396: / Строка 445: @@
 {{:karpov-2019-10-01.pptx |}} Презентация семинара, формат pptx
+*   Р.Г. Апресян признан иноагентом 9 декабря 2022 г.

Этические проблемы искусственного интеллекта

Инструменты пользователя

Инструменты сайта

Различия

Инструменты страницы