Этические проблемы искусственного интеллекта

Эта страница только для чтения. Вы можете посмотреть её исходный текст, но не можете его изменить. Сообщите администратору, если считаете, что это неправильно.
==== Материалы семинара====

**16 апреля 2025 г.**
//Проблема понимания и искусственный интеллект//

Докладчик: Кузнецов Олег Петрович, доктор технических наук, профессор, академик РАЕН, заведующий лабораторией Института проблем управления РАН
 
Аннотация: В докладе понимание рассматривается в рамках новой концепции когнитивной семантики, в центре которой лежит понятие картины мира человека. Утверждается, что понимание – это интерпретация в терминах картины мира; значения (смыслы) формируются раньше, чем формируются концептуальные структуры; в основе значений лежат биологические и социальные цели; понимание связано с действиями в среде, формирующими картину мира. Обсуждается связь этой проблемы  с перспективами создания сильного ИИ.

Презентация {{ :о.п._кузнецов_понимание.pdf |}}

----
**19 марта 2025 г.**
//Методологические и мировоззренческие программы в этике искусственного интеллекта//

Докладчик: Алексеева Ирина Юрьевна, доктор философских наук, доцент, ведущий научный сотрудник сектора философских проблем социальных и гуманитарных наук Института философии РАН

Аннотация:
В докладе представлена попытка использовать в этике ИИ тот опыт прояснения мировоззренческих и методологических программ, который накоплен к настоящему времени в теории познания. Рассматривается ряд методологических программ, представленных в современных исследованиях этических проблем ИИ и в обсуждениях перспектив  интеллекта. Оцениваются возможности и ограничения регуляционных, технократических, «мереократических», футурологических программ. Автор ставит вопрос об отношениях религиозной и секулярной (светской) философии в новом технологическом контексте и предлагает секулярный вариант метафизики хозяйства С. Н Булгакова как мировоззренческую программу этики искусственного интеллекта. 
----

**05 февраля 2025 г.**
//Проблема «искусственного зла»//

Докладчик: Перов Вадим Юрьевич, кандидат философских, доцент, зав.каф.этики, Институт философии, Санкт-Петербургский государственный университет

Аннотация:
Появление новых и особых сфер знания и практик с необходимостью ставит вопрос о критическом переосмыслении соответствующего понятийно- категориального аппарата. Не является исключением и этика в сфере искусственного интеллекта, развитие которой не оставила без внимания базовые этические понятия добра и зла. Обсуждение проблемы зла в современных этических теориях обычно начинается со ставшего традиционным рассмотрения видов зла: моральное зло (зависящее от деятельности людей, их свободы, сознательности и т.д.) и физическое зло (природные явления, физиология людей и т.д.). Появление технологий, основанных на алгоритмах искусственного интеллекта, создание автономных интеллектуальных систем и проекты создания на их основе Искусственных Моральных Агентов обусловило возникновение идей существования в качестве самостоятельного «искусственного зла». В докладе анализируются возможные способы понимания и интерпретации концепта «искусственное зло». Особое внимание уделено проблемам, связанным с возможностью алгоритмам искусственного интеллекта быть «злыми» в строгом «аморальном» смысле. Показано, что Искусственный Моральный Агент не способен отклоняться от алгоритмически правильного поведения и нарушать «правила добра», поэтому «искусственное зло» может рассматриваться только как метафора.

----
**11 декабря 2024 г.**
//Человек-оператор и искусственный интеллект: навязанное сосуществование или выгодное партнерство?//

Докладчики: \\
Дозорцев Виктор Михайлович, д.т.н., директор по развитию бизнеса Центра цифровых технологий (МФТИ, Группа компаний Рубитех);\\
Венгер Александр Леонидович, д.псх.н., профессор Государственного университета «Дубна».

Аннотация: Эффективность взаимодействия человека-оператора и искусственного интеллекта – продолжение непреходящей темы доверия/недоверия технике, усугубляемой особенностями современных ИИ-инструментов. Такой ИИ, пока «слабый», в составе рекомендательных систем все шире проникает в промышленную практику, опережая его осмысление, теоретическое обоснование и подготовку операторов к работе в новых условиях. Помимо известных мер повышения доверия (прозрачность, объяснимость, коммуникативность, мотивированность, пр.) все актуальней становится учет индивидуально-психологических характеристик операторов («большая пятерка», атрибутивный стиль, стратегия принятия решений в ответственных ситуациях). В докладе обосновывается модель принятия/отклонения советов ИИ, позволяющая оценить предпочитаемые оператором стратегии в зависимости от уровня субъективной тревожности и использовать эти оценки для взаимоадаптации Ч-О и ИИ в задачах управления сложными и потенциально опасными техническими системами. Излагаются исследовательский ландшафт проблемы, имеющиеся экспериментальные результаты и направления будущих разработок.     

Презентация {{ :дозорцев-венгер_11_12_24.pdf |}} 

Ссылка на запись семинара [[https://rutube.ru/video/2bcfde20db0ee40f8a1e7d89a912118a/]]

----
**23 октября 2024 г.**
//Законы робототехники: о чем на самом деле говорил Азимов//

Докладчик: Карпов Валерий Эдуардович, д.т.н., доцент, начальник Лаборатории робототехники НИЦ «Курчатовский институт»

Аннотация: 
Работа посвящена обсуждению некоторых аспектов известных законов робототехники Азимова. Раскрыто утверждение о том, что рассуждения о противоречиях законов, их критика не являются конструктивными, и что сам автор этих законов понимал существующие коллизии формулировок крайне глубоко. В работе показано, что поведение азимовских роботов определяются не столько этими законами, сколько особенностями их эмоционально-потребностной архитектуры. При этом сами законы тесно связаны с вопросами этики автономных/интеллектуальных систем. Кроме того, азимовские законы вскрывают ряд сугубо технических проблем, которые не решены до сих пор. В частности, не решенным остается вопрос о том, на каком уровне должны быть реализованы этические императивы поведения робота.


Презентация В.Э. Карпова {{ :karpov-asimov-full.pdf |}}

Ссылка на запись семинара [[https://rutube.ru/video/bcb9619555d111626a31625c54a74e19/?r=wd]]
----

**25 сентября 2024 г.**
//Человеческое регулирование искусственных интеллектуальных систем: вопросы философского обеспечения//

1. Вступительное слово И.Ю. Алексеевой. \\
2. Обсуждение статьи Валерия Зорькина, главы Конституционного суда «Право и вызовы искусственного интеллекта» (Российская газета, 27.06.2024). \\
[[https://rg.ru/2024/06/27/pravo-i-vyzovy-iskusstvennogo-intellekta.html]]

Ссылка на запись семинара [[https://disk.yandex.ru/i/bPcwFSU8A6L1mw]]

----

**26 июня 2024 г.**
//Обзор подходов к валидации интеллектуальных систем на этичность: от научных исследований до нормативной документации//

Докладчик: Готовцев Павел Михайлович, к.т.н., НИЦ «Курчатовский институт»
 
В настоящее время активно обсуждается огромное количество рекомендаций, нормативных документов, дорожных карт и т.д. о том, какими этичными должны быть современные интеллектуальные и автономные системы. Значительная часть этих бумаг не представляет ничего более чем пожелания о том, чего хотелось бы достичь в данной области. В тоже время серьезных научных исследований, привязанных к реальным возможностям тех систем, которые уже есть на практике или активно разрабатываются на сегодняшний день не так уж и много. Таким образом, сегодня складывается парадоксальная ситуация когда ведутся многочисленные обсуждения и написание регламентирующих отрасль документов, которые практически не подтверждены научными исследованиями. Целью данного доклада является обзор того, как сегодня обсуждается валидация интеллектуальных систем на этичность в различных документах, какие научные исследования были проведены в данной области и на что необходимо обратить внимание, чтобы разрабатываемые нормативные и регуляторные документы как можно быстрее получили основу в виде реальных научных результатов.

Презентация П.М. Готовцева   {{ :валидация_иас_2024.pdf |}}

Презентация содокладчика Леушиной Валды Вячеславовны   {{ :леушина_вв_-_этика_в_стандартах_и_рекомендациях_2024.pdf |}}

----


**22 мая 2024 г.**
//"Миф об искусственном интеллекте». Обсуждение книги Э.Ларсона.//

Докладчик: д.т.н., проф. Кузнецов Олег Петрович
 
Аннотация: Заседание посвящено базовому вопросу семинара Этические проблемы искусственного интеллекта — понятию машинного интеллекта, а основным предметом обсуждения является 
книга Э.Ларсона «Миф об искусственном интеллекте», редактор перевода — О.П. Кузнецов.
В книге, вышедшей в 2021 году, ее автор американский ученый и предприниматель Эрик Ларсон обсуждает и обстоятельно критикует существующие уже более 60 лет представления о том, что в скором времени возникнет машинный интеллект, который превзойдет человеческий интеллект. Эти представления автор называет мифами и показывает их нежелательные последствия как для науки, так и для общества в целом.

Ссылка на запись семинара [[https://youtu.be/n5h44CkpoYw?si=QS4uNUBk3-j9Q7uK]]

----

**24 апреля 2024 г.**
//Правовое регулирование искусственного интеллекта: состояние и перспективы//

Докладчики: 

Синицын Сергей Андреевич, доктор юридических наук, профессор РАН, главный научный сотрудник Института законодательства и сравнительного правоведения при Правительстве РФ (ИЗиСП),

Нанба Сариа Беслановна, кандидат юридических наук., ведущий научный сотрудник Института законодательства и сравнительного правоведения при Правительстве РФ (ИЗиСП).

Аннотация: Сегодня возможности, риски искусственного интеллекта находятся в эпицентре обсуждений и дискуссий ученых в различных отраслях знания, включая психологию, философию, культурологию, технические науки. Парадоксально, но роль права оказывается неопределенной, поскольку юристы не только не предлагают рациональных решений, но и дают собственную нередко иррациональную и ложную картину роли техники в развитии общества. В результате создаются технологические казусы в законодательстве (например, определение искусственного интеллекта).
 
В действительности юридические решения должны отражать технологическую реальность и созидать новый формат общественных отношений в цифровом обществе. Проблема актуальна не только для российского, зарубежного, но и международного права. Именно от права зависит облик новой технологической цивилизации: соотношение и мера прогресса в общественном развитии, обеспечение прав человека, открытие новых возможностей в освоении техники, допустимые границы использования технологий.


Презентация {{ :ии_в_фокусе_права.pdf |}}
----

**27 марта 2024 г.**
//Эмоции в коммуникации с искусственным интеллектом: этико-психологические аспекты//

Докладчик:  Майленова Фарида Габделхаковна, доктор философских наук, ведущий научный сотрудник сектора гуманитарных экспертиз и биоэтики Института философии РАН, г. Москва, Россия 
\\ farida.mailenova@gmail.com

Аннотация: В дискуссиях о роботах с искусственным интеллектом практически всегда возникает вопрос, будут ли роботы будущего сами обладать эмоциями. Роль эмоций в коммуникации сложно переоценить, и образ будущего, в котором мы сможем общаться с эмоциональными роботами, является одновременно привлекательным и пугающим. В произведениях научной фантастики, где роботы-андроиды имеют не только разум, но и эмоции, возможные этические коллизии такого взаимодействия Рассматривая тему «эмоциональность роботов», которая непосредственно связана с вопросом о возможностях и пределах обучения роботов эмоциям, я предлагаю разделить ее на несколько аспектов: 1) проявление эмоций; 2) считывание эмоций у собеседника (по голосу, позам, выражению глаз, мимике); 3) способность учитывать и предсказывать эмоции собеседника; 4) способность испытывать эмоции; 5) способность рефлексировать и осознавать свои эмоции. Если первые два пункта почти не вызывают вопросов, ИИ уже сегодня обучают распознавать эмоции и имитировать их, то последние три способности предполагают высокий уровень сознания и нравственного развития. Вопрос о том, можно ли научить робота ощущать эмоции, рефлексировать их и учитывать эмоции при общении, остается открыт. Между тем люди, будучи чувствительны к проявлениям эмоций, способны реагировать не только на их искренние проявления, но в том числе и на их качественную имитацию - а это современным роботам вполне по силам. Так что опасность, что роботы смогут манипулировать человеком и его эмоциями, актуальна уже сегодня.


Презентация {{ :слайды_доклада_эмоции_ии_.pdf |}}


Ссылка на запись семинара [[https://youtu.be/GeqdK4o3wPQ?si=nKnr2qlm-Iyb5QmN]]
----

**14 февраля 2024 г.**
//Искусственный интеллект VS языковые модели GPT//

Докладчик: Шалак Владимир Иванович (д. филос. н., руководитель сектора логики ИФ РАН)

Аннотация: В докладе еще раз будет поставлен вопрос о том, что можно считать искусственными
интеллектуальными системами. В самом общем виде – это системы, обладающие
характеристиками, отличающими Homo sapiens от всего остального мира живой природы.
Самообучение и распознавание образов не являются такими отличительными признаками. Одна
из главных характеристик – способность к понятийному мышлению. В результате анализа простых
примеров, с которыми не справляются нейросети, будет показано, что никакое дообучение на
больших объемах текстов не позволит улучшить их работу по причине определенных
теоретических ограничений. Будет объяснено, в чем заключаются эти ограничения. Языковые
модели порождения текстов нейросетями GPT являются тупиковым направлением в
моделировании ИИ. Поскольку в настоящее время начинается бездумное внедрение нейросетей в
самые разные области человеческой деятельности, обретает актуальность понятие нейрохакинга –
принуждения нейросетей принимать нужные пользователю решения, например, в
судопроизводстве. Это будет продемонстрировано на примере принуждения трех сетей принять в
качестве истинного утверждение: «Если некоторый объект обладает свойством P, то всякий объект
обладает свойством P». Его частным случаем будет утверждение: «Если некоторый человек
бородат, то все люди бородаты». Будут предложены общие методы нейрохакинга.


Ссылка на запись семинара [[https://youtu.be/5-7DCkMBHrE?si=eU8HwWa4iFsQTkde]]

----

**20 декабря 2023 г.**
//Универсальная шкала интеллектуальных систем: от медузы до суперкомпьютера и человека//

Докладчики:
\\ Oлег Витальевич Кубряк (НИУ "МЭИ", Институт нормальной физиологии им. Анохина РАН)
\\ Сергей Валерьевич Ковальчук (ИТМО)
\\ Надежда Гегамовна Багдасарьян (МГТУ им. Н.Э.Баумана)

Kubryak OV, Kovalchuk SV, Bagdasaryan NG. Assessment of Cognitive Behavioral Characteristics in Intelligent Systems with Predictive Ability and Computing Power. Philosophies. 2023; 8(5):75. https://doi.org/10.3390/philosophies8050075

Презентация {{ :kubryak_bagdasaryan_kovalchuk_20122023.pdf |}}

Ссылка на запись семинара [[https://youtu.be/15A8HG-3kis?si=l72mPBec7IfaZroU]]

----

**11 октября 2023 г.**
//Субъектность ИИ с позиций квантовой когнитивистики//

Докладчик:
Суров Илья Алексеевич, кандидат физико-математических наук, доцент факультета цифровых трансформаций ИТМО.
Профессиональная деятельность: с 2017 г. – Университет ИТМО, Лаборатория квантовой когнитивистики и интеллектуальных систем.
2013 – 2016 гг. – Российский квантовый центр, лаборатория квантовой оптики.
Профессиональные интересы: принятие решений, коллективное поведение, поведенческая семантика, семантика естественного языка.

Аннотация: В докладе будет представлен взгляд на вопрос о субъектности ИИ с позиций квантовой теории. Подход строится на уточнении понятия неопределённости, под которым обычно понимают отсутствие информации о чём-либо. Такая неопределённость может быть двух принципиально разных типов: классической и квантовой. Классическая неопределённость вызвана недоступностью информации о фактическом состояния предмета, тогда как квантовая неопределённость состоит в отсутствии такой информации где бы то ни было. Согласно интерпретации квантовой теории, используемой в задачах когнитивно-поведенческого моделирования, квантовая неопределённость снимается в актах свободного выбора. Способность к таким актам характерна для живого поведения и отсутствует у машин, включая все системы классического ИИ. Следующее отсюда определение принятия решений уточняет критерии правосубъектности в современной юридической практике и расширяет область их применимости на робототехнические системы. Будут рассмотрены следствия этих результатов для этики современного ИИ.

Презентация {{ :2023_субъектность_этикаии.pdf |}}

Статьи \\
{{ :melnikova_surov_-_2023_-_legal_status_of_artificial_intelligence_from_quantum-theoretic_perspective.pdf |}}
\\ {{ :суров_-_2023_-_квантовая_концепция_свободы_выбора.pdf |}}

Ссылка на запись семинара [[https://youtu.be/hmaGXcSklHY?si=FAt2iBEOlX9HNtSQ]]

----

**20 сентября 2023 г.**
//Круглый стол "К проблеме междисциплинарного понимания: глоссарий семинара"//

Аннотация: Многолетний опыт проведения междисциплинарного семинара "Этические проблемы искусственного интеллекта" (ЭПИИ) показывает, что представители "технических" и "гуманитарных" наук по-прежнему продолжают говорить на разных 
языках, вкладывая свое понимание в одни и те же термины. Исходя из этого, предлагается создать некую онтологию семинара. В начальном варианте – в виде некоторого глоссария.
Глоссарий семинара не будет претендовать на полноту, глубину и фундаментальность. Тем более что таких словарей имеется великое множество – и современных (зачастую весьма поверхностных, написанных людьми, далекими от ИИ), и "классических" (например, таких как [Аверкин А. Н., Гаазе-Рапопорт М. Г., Поспелов Д.А. Толковый словарь по искусственному интеллекту. М.: Радио и связь, 1992. 256 с.]). В глоссарии будут представлены лишь некоторые термины, единое толкование которых сможет лучше помочь взаимопониманию в рамках задач семинара ЭПИИ.
Круглый стол посвящен обсуждению базового набора терминов, а также форме подачи материала.

----

**25 мая 2023 г.**
//Болталка GPT. От имитации диалога к имитации разумности//\\ Докладчик – Карпов Валерий Эдуардович, к.т.н., доцент, начальник Лаборатории робототехники НИЦ “Курчатовский институт”, вице-президент РАИИ

Аннотация: Сейчас, когда накал страстей по поводу ChatGPT несколько угас, возникла иная проблема – устойчивое и широко распространенное представление о том, что подобного рода системы и есть ИИ. В докладе обсуждается устройство ChatGPT-подобных систем и имитаторов осмысленных диалогов. Сначала рассказывается о системах фатического диалога – нашумевших в 60-гг программах Дж.Вейенбаума "Элиза" и "Доктор", опровергающих тезис Тьюринга, затем – вкратце о сути того, что такое искусственные нейронные сети как универсальные аппроксиматоры. Основная часть доклада построена по принципу разъяснения того, как можно было бы построить ChatGPT. Такой подход, по мнению автора, поможет лучше понять суть таких систем, избавив от ложных представлений о них.

Презентация {{ :gptn.pdf |}}

Ссылка на запись семинара [[https://www.youtube.com/watch?v=kxv9AdHWBAg]]


Карпов В.Э.
ChatGPT и аналогичные “болталки”: от имитации диалога к
имитации разумности

{{ :karpov-gpt.pdf |}}
----

**2 марта 2023 г.**
//Концепты естественного и искусственного интеллекта (два контура развития интеллекта в современной цивилизации)//\\ Докладчик – Розин Вадим Маркович, гл.н.с. Института философии РАН.

Аннотация: В сообщении будут разведены представления естественного и искусственного интеллекта, а также интеллекта и мышления. Высказана гипотеза о двух способах развития современного мышления и интеллекта - чисто естественном (традиционном) и естественно-искусственном, включающем технику ИИ.

Ссылка на запись семинара [[https://youtu.be/BL4zxWQ8bQU]]

----

**15 декабря 2022 г.**  Два доклада:\\
//1. К вопросу о формализации этических учений для коллаборативного «понимающего» робота//\\ Докладчики –\\
Леушина Влада Вячеславовна, лаборант-исследователь лаборатории робототехники, Национальный исследовательский центр «Курчатовский институт» \\
Королева Мария Николаевна, к.т.н., доцент кафедры «Компьютерные системы автоматизации производства» МГТУ им. Н.Э. Баумана

Аннотация {{ :этика_ии_15.12.2022_леушина_в.в._королева_м.н..pdf |}}

//2. Этическая валидация автономных и интеллектуальных систем – нормативное регулирование и современное состояние исследований» //\\ Докладчик – Готовцев Павел Михайловичк.т.н., доцент, заместитель начальника отдела биотехнологий и биоэнергетики, НИЦ «Курчатовский институт» \\

Аннотация. В докладе рассмотрены основные подходы к валидации автономных и интеллектуальных систем, которые отражены сегодня в нормативно-технической и научной литературе. Выделены основные сложности подобной валидации и показаны перспективные направления исследований в данной области. 

Ссылка на запись семинара [[https://cloud.mail.ru/public/uWBB/pMHwzzZxU]]

----
**16 ноября 2022 г.**
//Связь робоэтики с теорией интеллекта//\\ Докладчик – Алексеева Ирина Юрьевна, д. филос. н.,
вед. н. с. сектора философских проблем социальных и гуманитарных наук Института философии РАН.

Аннотация {{ :alekseeva_iy.pdf |}}

Презентация {{ :связь_робоэтики_с_теорией_интеллекта.pdf |}}

Ссылка на запись семинара [[https://cloud.mail.ru/public/RFnt/M1kpG4uu7]]
----

**20-21 сентября 2022 г., г. Переславль-Залесский, Институт программных систем им. А. К. Айламазяна Российской академии наук**\\
\\
1-е информационное письмо: {{ :1е_инф._письмо_-_этические_проблемы_ии_2022.pdf |}}

\\ Научная программа семинара
\\ \\ **20 сентября**
\\ \\ Доклады
\\ **1. Разин Александр Владимирович** "Естественная эволюция и компьютерная революция" (д.филос.н., профессор, заведующий Кафедрой этики философского факультета МГУ им. М.В. Ломоносова)
\\ __Аннотация.__ В докладе показывается принципиальная разница процессов творчества на естественной основе, которые осуществляются без заранее определенной цели и имеют характер небольших приращений, случайных приобретений, и творчества, которое осуществляется как целевое, происходит на основе концепций и искусственно изобретенных средств. Деннет отражает эти процессы в терминах творчество по восходящей и по нисходящей. С его точки зрения творчество по нисходящей содержит такие инструменты, которые упрощают условия творческого процесса, и, в то же время, делают его гораздо более эффективным по сравнению с эволюцией в природе.
Деннет называет несколько видов инверсий, в которых  были осуществлены принципиальные изменения представлений об условиях творчества и отношении человека к творческому процессу: инверсия Дарвина (можно создавать новое не имея цели), инверсия Тьюринга (реальность может быть редуцирована до таких простых элементов, которые могут быть заменены машиной, в результате возникает возможность умения без разумения), инверсия Юма (причинность как иллюзия нашего разума).
Компьютеру не нужно доходить до понимания конечных причин, к чему стремится человек. Он работает по принципу сравнения информации в смысле теории смены состояний (неклассические виды детерминации). Это определяет эффективность и быстроту его работы, но это же означает отсутствие понимания тех операций, которые он совершает.
Далее, важно подчеркнуть, что детали компьютера (транзисторы) не имеют собственных целей, в отличие от нейронов головного мозга, которые представляют собой клетки, деятельность которых имеет целевую направленность, и которые способны объединяться друг с другом по принципу сетевых связей. Возможно именно с этим связаны те способности мозга, которые мы пока не можем эмитировать в искусственном интеллекте, скажем - свобода воли. Деннет показывает, что создание чего-то подобного нейрону на кремниевом носителе в принципе возможно, но крайне сложно и дорого.
Здесь возникает интересный вопрос: а не можем ли мы создать нечто лучшее, чем нейрон, ведь культурно опосредованное творчество уже создало то, что природа в принципе создать никогда бы не смогла, например - колесо, реактивный двигатель, в котором используется топливо и окислитель, и т.д. Для подобных созданий нужны такие качественные скачки, на которые природа неспособна. А каковы в этом плане будущие возможности искусственного интеллекта?
\\ **2. Готовцев Павел Михайлович** "Этическая валидация автономных и интеллектуальных систем – нормативное регулирование и современное состояние исследований" (к.т.н., доцент, заместитель начальника отдела биотехнологий и биоэнергетики, НИЦ «Курчатовский институт»)
\\ __Аннотация.__ В докладе рассмотрены основные подходы к валидации автономных и интеллектуальных систем, которые отражены сегодня в нормативно-технической и научной литературе. Выделены основные сложности подобной валидации и показаны перспективные направления исследований в данной области.
\\ **3. Карпов Валерий Эдуардович 1, Королева Мария Николаевна 2** "Этика поведения коллаборативного робота" (1 к.т.н., доцент, заведующий Лабораторией робототехники НИЦ “Курчатовский институт”, вице-президент РАИИ; 2 к.т.н., доцент кафедры “Компьютерные системы автоматизации производства” МГТУ им. Н.Э. Баумана, ученый секретарь РАИИ)
\\ __Аннотация.__ Поведение робота должно отвечать этическим представлениям человека-оператора. Это связано с необходимостью решения роботом проблемы выбора, а также субъективизмом оценок поведения робота-партнера человеком. Рассматриваются некоторые проблемы при формализации этических аспектов поведения. Делается вывод, что в условиях принципиально неустранимых противоречий и неполноты при формализации моральных учений, основная задача этических схем – быть основой для объяснения постфактум, а вовсе не являться мотивирующим фактором.
\\ **4. Леушина Влада Вячеславовна** "Онтология гедонизма" (лаборант-исследователь лаборатории робототехники НИЦ “Курчатовский институт”)
\\ **5. Асеева Ирина Александровна** "Социальные роли искусственного интеллекта: этика человеко-машинного взаимодействия" (д-р.филос.наук, проф., в.н.с. ИНИОН РАН)
\\ **6. Буданов Владимир Григорьевич** "Интегральная этика и перспективы формирование антропоморфного ИИ" (д-р.филос.наук, к.ф.-м.н., г.н.с., Заведующий сектором междисциплинарных проблем научно-технического развития. Институт философии РАН)
\\ **7. Шелекета Владислав Олегович** "Проблема определения природы нарративов сознания и принципы объективной нравственности в методологическом ракурсе теории сознания Д. Деннета" (д-р.филос.наук, профессор кафедры теории и методологии науки БГТУ им. В. Г. Шухова, заместитель председателя Белгородского регионального отделения Научный совет РАН по методологии искусственного интеллекта и когнитивных исследований, член-корреспондент РАЕН) 
\\ **8. Гаврилина Елена Александровна** "Делегирование действия интеллектуальным автономным системам и редукция человеческой агентности" (к.ф.н., доцент, ИНИОН РАН)
\\ 
\\ **21 сентября**
\\ 
\\ **Круглый стол: «Обсуждение книги Дэниела Деннета "Разум от начала до конца: новый взгляд на эволюцию сознания от ведущего мыслителя современности"»**
\\ **Ведущий круглого стола – Разин Александр Владимирович**
\\ **Вопросы для обсуждения:**
\\ Как пребиотики влияют на возникновение многоклеточных организмов?
\\ Чем путь эволюции отличается от культурно-исторического творчества?
\\ Какие уровни активного взаимодействия организмов со средой можно выделить?
\\ В чем различие сознания и психики?
\\ Каково влияние культурных мемов на развитие сознания?
\\ Какова роль языка в развитии сознания?
\\ Чем отличается мозг от компьютера?
\\ Что такое квалио, как это объясняет Деннет, какие есть другие объяснения?
\\ Можно ли создать что-то лучшее по интеллектуальным способностям, чем создала эволюция?
\\ Можем ли мы успешно пользоваться такими вещами, принципы работы которых не понимаем?
\\ Способен ли искусственный интеллект к реальному творчеству?
\\ Обретет ли в обозримом или далеком будущем искусственный интеллект качество свободы воли?
\\ Можно ли дублировать мозг на кремниевом носителе?
\\ Творческая среда, можно ли ее смоделировать, создав сообщество машин?

----
**04 апреля 2022 г.**
//Методы анализа рисков: проблемы и перспективы.//\\ Докладчик – Ройзензон Григорий Владимирович (к.т.н., старший научный сотрудник отдела «Имитационное моделирование» Института системного анализа Федерального исследовательского центра «Информатика и управление» РАН, доцент кафедр «Логистические системы и технологии» и «Системные исследования» МФТИ  и кафедры «Прикладная математика и искусственный интеллект» МЭИ .

Аннотация. {{ :гвройзензон_аннотация_доклада.pdf |}}

Презентация. {{ :ethicsai_risk-1.pdf |}}

Ссылка на запись семинара [[https://youtu.be/h2KCm6vzTAw]]
----

**09 февраля 2022 г.**
//Этика искусственного интеллекта в стандартах и рекомендациях.//\\ Докладчик – Леушина Влада Вячеславовна (НИЦ «Курчатовский институт», НИУ "Высшая школа экономики").

Аннотация. {{ :ввлеушина_аннотация_доклада.pdf |}}

Презентация. {{ :leushina.pdf |}}

Ссылка на запись семинара [[https://www.youtube.com/watch?v=-aJ2NGmODHA]]

----

**07 мая 2021 г.**
//Агентность интеллектуальных автономных систем в этическом ракурсе: эмпирические и теоретические аспекты.//\\ Докладчик – Гаврилина Елена Александровна (к.ф.н., доцент кафедры "Социология и культурология" МГТУ им. Н.Э. Баумана).

Аннотация. {{ :еагаврилина_аннотация_доклада.pdf |}}

Ссылка на запись семинара [[https://youtu.be/dc9wh-H7ujg]]

----

**23 апреля 2021 г.**
//Ценностно-ориентированное проектирование в сервисной робототехнике//
\\ Докладчики – \\
Середкина Елена Владимировна (доцент кафедры философии и права Пермского национального исследовательского политехнического университета (ПНИПУ), директор НИЦ «Центр оценки технологий», руководитель отдела человеко-машинного взаимодействия в компании «Промобот»),\\
Безукладников Игорь Игоревич (доцент кафедры автоматики и телемеханики ПНИПУ, директор Инжинирингового центра по IT и робототехники ПНИПУ),\\


Аннотация. {{ :середкина_безукладников.pdf |}}

Презентация.{{ :семинар_этика_ии_23_апреля_2021_2_.pptx |}}

Ссылка на запись семинара [[https://youtu.be/0_9zDGNrIUo]]

----

**09 апреля 2021 г.**
//Этика искусственного интеллекта: философия, право или политика? //\\ Докладчик – Огородов Дмитрий Владимирович (к.ю.н., член рабочей группы по этике искусственного интеллекта (ECAI/EAD IEEE), член РАИИ, арбитр Международного коммерческого арбитражного суда при Торгово-промышленной палате РФ).

Аннотация. {{ :ogorodov_ethic_ai.pdf |}}

Презентация. {{ :ogorodovdv_ethics_ai.pdf |}}

Ссылка на запись семинара [[https://youtu.be/InKnk0OIt4c]]

----


**26 марта 2021 г.**
//О моральных аспектах адаптивного поведения искусственных агентов.//
\\ Докладчик – Карпов Валерий Эдуардович (НИЦ "Курчатовский институт").

Аннотация. {{ :karpov_ethic_ai.pdf |}}

Презентация. {{ :karpov-2021-03-26.pdf |}}

----

**26 февраля 2021 г.**
//Этические возможности искусственного интеллекта.//\\ Докладчик - Разин Александр Владимирович (доктор философских наук, профессор, зав. Кафедрой этики философского факультета МГУ)

Аннотация. {{ :razin_ethic_ai.pdf |}}

Ссылка на запись семинара [[https://youtu.be/ewz7b7M7LPo]]

----

**18 февраля 2020 г.**
//Социально-психологические и этические аспекты внедрения автономных интеллектуальных систем в повседневную жизнь общества.//\\ Докладчик – Т.А. Нестик (Институт психологии РАН, МГУ им. М.А. Ломоносова)

Аннотация. {{ :nestik.pdf |}}

----

**17 декабря 2019 г.**
//Применимо ли понятие морали к отношениям между искусственными агентами?//\\ Докладчик – В.Э. Карпов (НИЦ «Курчатовский институт», МФТИ).

Аннотация {{ :karpov-2019-12-17.pdf |}}\\
Презентация {{ :karpov-2019-12-17-pr.pdf |}} {{ :karpov-2019-12-17.pptx |}}\\

----

**19 ноября 2019 г.**
//Формализация понятия этики в ИИ.//\\ Докладчик – Г.В. Ройзензон (Институт системного анализа РАН).

Аннотация {{ :royzenson.pdf |}}

{{ :rgv_ethics_form_2019.pdf |}}  Презентация семинара, формат pdf

----

**29 октября 2019 г.**
//Интеллектуальные автономные системы – этические аспекты применения.//\\ Докладчик – П.М. Готовцев (НИЦ «Курчатовский институт»).

Аннотация {{ :gotovtsev.pdf |}}

{{ :gotovtsev_ai_ethics_29_10_2019.pdf |}} Презентация семинара, формат pdf

----

**01 октября 2019 г.**
//Теоретические и методологические предпосылки обсуждения проблем этики искусственного интеллекта.//\\ Докладчики – [[https://iphras.ru/apressyan.htm | Р.Г. Апресян *]] (Институт философии РАН), [[ http://raai.org/about/persons/karpov/ | В.Э. Карпов ]] (НИЦ «Курчатовский институт», МФТИ).


Резюме выступления Р.Г. Апресяна * {{ :апресян_резюме_выступления.pdf |}} \\
Резюме выступления В.Э.Капова {{ :karpov-text-2.pdf |}}

[[https://www.youtube.com/watch?v=35pmjBga-R0|Видеозапись семинара «Теоретические и методологические предпосылки обсуждения проблем этики искусственного интеллекта»]]

{{:karpov-2019-10-01.pdf |}} Презентация семинара, формат pdf

{{ :karpov-2019-10-01.pptx |}} Презентация семинара, формат pptx

----

**1 октября 2019 г.** в Институте философии РАН (Москва) состоялось первое заседание ежемесячного исследовательского семинара **«Этические проблемы искусственного интеллекта»**.

Исследовательский семинар организован сектором этики Института философии РАН совместно с Российской ассоциацией искусственного интеллекта (РАИИ) и кафедрой этики философского факультета МГУ им. М.В. Ломоносова под эгидой Научного совета РАН по методологии искусственного интеллекта и когнитивных исследований (НСМИИ РАН). 

Задача семинара – обсуждение теоретических условий междисциплинарного синтеза этики и технологии ИИ, проблем формализации этических принципов в приложении к ИИ, этических аспектов применения интеллектуальных и автономных систем и др. 

Первое заседание семинара было посвящено теме **«Теоретические и методологические предпосылки обсуждения проблем этики искусственного интеллекта»**. 

С докладами выступили:
  * Р.Г. Апресян * (Институт философии РАН)
  * В.Э. Карпов (НИЦ «Курчатовский институт», МФТИ) 

Развернувшаяся дискуссия завершила успешную работу первого заседания.

Материалы семинара:

[[http://ethicsai.raai.org/lib/exe/fetch.php?media=%D0%B0%D0%BF%D1%80%D0%B5%D1%81%D1%8F%D0%BD_%D0%BA%D0%B0%D1%80%D0%BF%D0%BE%D0%B2_%D1%82%D0%B5%D0%B7%D0%B8%D1%81%D1%8B_%D0%BA_1.10.pdf|Апресян, Карпов - Тезисы семинара 01-10-2019]]

[[https://www.youtube.com/watch?v=35pmjBga-R0|Видеозапись семинара «Теоретические и методологические предпосылки обсуждения проблем этики искусственного интеллекта»]]

{{::karpov-2019-10-01.pdf |}} Презентация семинара, формат pdf


{{:karpov-2019-10-01.pptx |}} Презентация семинара, формат pptx

*   Р.Г. Апресян признан иноагентом 9 декабря 2022 г.
Этические проблемы искусственного интеллекта

Инструменты пользователя

Инструменты сайта

Инструменты страницы
