Инструменты пользователя
Боковая панель
Материалы семинара
24 апреля 2024 г. Правовое регулирование искусственного интеллекта: состояние и перспективы
Докладчики:
Синицын Сергей Андреевич, доктор юридических наук, профессор РАН, главный научный сотрудник Института законодательства и сравнительного правоведения при Правительстве РФ (ИЗиСП),
Нанба Сариа Беслановна, кандидат юридических наук., ведущий научный сотрудник Института законодательства и сравнительного правоведения при Правительстве РФ (ИЗиСП).
Аннотация: Сегодня возможности, риски искусственного интеллекта находятся в эпицентре обсуждений и дискуссий ученых в различных отраслях знания, включая психологию, философию, культурологию, технические науки. Парадоксально, но роль права оказывается неопределенной, поскольку юристы не только не предлагают рациональных решений, но и дают собственную нередко иррациональную и ложную картину роли техники в развитии общества. В результате создаются технологические казусы в законодательстве (например, определение искусственного интеллекта).
В действительности юридические решения должны отражать технологическую реальность и созидать новый формат общественных отношений в цифровом обществе. Проблема актуальна не только для российского, зарубежного, но и международного права. Именно от права зависит облик новой технологической цивилизации: соотношение и мера прогресса в общественном развитии, обеспечение прав человека, открытие новых возможностей в освоении техники, допустимые границы использования технологий.
27 марта 2024 г. Эмоции в коммуникации с искусственным интеллектом: этико-психологические аспекты
Докладчик: Майленова Фарида Габделхаковна, доктор философских наук, ведущий научный сотрудник сектора гуманитарных экспертиз и биоэтики Института философии РАН, г. Москва, Россия
farida.mailenova@gmail.com
Аннотация: В дискуссиях о роботах с искусственным интеллектом практически всегда возникает вопрос, будут ли роботы будущего сами обладать эмоциями. Роль эмоций в коммуникации сложно переоценить, и образ будущего, в котором мы сможем общаться с эмоциональными роботами, является одновременно привлекательным и пугающим. В произведениях научной фантастики, где роботы-андроиды имеют не только разум, но и эмоции, возможные этические коллизии такого взаимодействия Рассматривая тему «эмоциональность роботов», которая непосредственно связана с вопросом о возможностях и пределах обучения роботов эмоциям, я предлагаю разделить ее на несколько аспектов: 1) проявление эмоций; 2) считывание эмоций у собеседника (по голосу, позам, выражению глаз, мимике); 3) способность учитывать и предсказывать эмоции собеседника; 4) способность испытывать эмоции; 5) способность рефлексировать и осознавать свои эмоции. Если первые два пункта почти не вызывают вопросов, ИИ уже сегодня обучают распознавать эмоции и имитировать их, то последние три способности предполагают высокий уровень сознания и нравственного развития. Вопрос о том, можно ли научить робота ощущать эмоции, рефлексировать их и учитывать эмоции при общении, остается открыт. Между тем люди, будучи чувствительны к проявлениям эмоций, способны реагировать не только на их искренние проявления, но в том числе и на их качественную имитацию - а это современным роботам вполне по силам. Так что опасность, что роботы смогут манипулировать человеком и его эмоциями, актуальна уже сегодня.
Презентация слайды_доклада_эмоции_ии_.pdf
Ссылка на запись семинара https://youtu.be/GeqdK4o3wPQ?si=nKnr2qlm-Iyb5QmN
14 февраля 2024 г. Искусственный интеллект VS языковые модели GPT
Докладчик: Шалак Владимир Иванович (д. филос. н., руководитель сектора логики ИФ РАН)
Аннотация: В докладе еще раз будет поставлен вопрос о том, что можно считать искусственными интеллектуальными системами. В самом общем виде – это системы, обладающие характеристиками, отличающими Homo sapiens от всего остального мира живой природы. Самообучение и распознавание образов не являются такими отличительными признаками. Одна из главных характеристик – способность к понятийному мышлению. В результате анализа простых примеров, с которыми не справляются нейросети, будет показано, что никакое дообучение на больших объемах текстов не позволит улучшить их работу по причине определенных теоретических ограничений. Будет объяснено, в чем заключаются эти ограничения. Языковые модели порождения текстов нейросетями GPT являются тупиковым направлением в моделировании ИИ. Поскольку в настоящее время начинается бездумное внедрение нейросетей в самые разные области человеческой деятельности, обретает актуальность понятие нейрохакинга – принуждения нейросетей принимать нужные пользователю решения, например, в судопроизводстве. Это будет продемонстрировано на примере принуждения трех сетей принять в качестве истинного утверждение: «Если некоторый объект обладает свойством P, то всякий объект обладает свойством P». Его частным случаем будет утверждение: «Если некоторый человек бородат, то все люди бородаты». Будут предложены общие методы нейрохакинга.
Ссылка на запись семинара https://youtu.be/5-7DCkMBHrE?si=eU8HwWa4iFsQTkde
20 декабря 2023 г. Универсальная шкала интеллектуальных систем: от медузы до суперкомпьютера и человека
Докладчики:
Oлег Витальевич Кубряк (НИУ «МЭИ», Институт нормальной физиологии им. Анохина РАН)
Сергей Валерьевич Ковальчук (ИТМО)
Надежда Гегамовна Багдасарьян (МГТУ им. Н.Э.Баумана)
Kubryak OV, Kovalchuk SV, Bagdasaryan NG. Assessment of Cognitive Behavioral Characteristics in Intelligent Systems with Predictive Ability and Computing Power. Philosophies. 2023; 8(5):75. https://doi.org/10.3390/philosophies8050075
Презентация kubryak_bagdasaryan_kovalchuk_20122023.pdf
Ссылка на запись семинара https://youtu.be/15A8HG-3kis?si=l72mPBec7IfaZroU
11 октября 2023 г. Субъектность ИИ с позиций квантовой когнитивистики
Докладчик: Суров Илья Алексеевич, кандидат физико-математических наук, доцент факультета цифровых трансформаций ИТМО. Профессиональная деятельность: с 2017 г. – Университет ИТМО, Лаборатория квантовой когнитивистики и интеллектуальных систем. 2013 – 2016 гг. – Российский квантовый центр, лаборатория квантовой оптики. Профессиональные интересы: принятие решений, коллективное поведение, поведенческая семантика, семантика естественного языка.
Аннотация: В докладе будет представлен взгляд на вопрос о субъектности ИИ с позиций квантовой теории. Подход строится на уточнении понятия неопределённости, под которым обычно понимают отсутствие информации о чём-либо. Такая неопределённость может быть двух принципиально разных типов: классической и квантовой. Классическая неопределённость вызвана недоступностью информации о фактическом состояния предмета, тогда как квантовая неопределённость состоит в отсутствии такой информации где бы то ни было. Согласно интерпретации квантовой теории, используемой в задачах когнитивно-поведенческого моделирования, квантовая неопределённость снимается в актах свободного выбора. Способность к таким актам характерна для живого поведения и отсутствует у машин, включая все системы классического ИИ. Следующее отсюда определение принятия решений уточняет критерии правосубъектности в современной юридической практике и расширяет область их применимости на робототехнические системы. Будут рассмотрены следствия этих результатов для этики современного ИИ.
Презентация 2023_субъектность_этикаии.pdf
Статьи
melnikova_surov_-_2023_-_legal_status_of_artificial_intelligence_from_quantum-theoretic_perspective.pdf
суров_-_2023_-_квантовая_концепция_свободы_выбора.pdf
Ссылка на запись семинара https://youtu.be/hmaGXcSklHY?si=FAt2iBEOlX9HNtSQ
20 сентября 2023 г. Круглый стол «К проблеме междисциплинарного понимания: глоссарий семинара»
Аннотация: Многолетний опыт проведения междисциплинарного семинара «Этические проблемы искусственного интеллекта» (ЭПИИ) показывает, что представители «технических» и «гуманитарных» наук по-прежнему продолжают говорить на разных языках, вкладывая свое понимание в одни и те же термины. Исходя из этого, предлагается создать некую онтологию семинара. В начальном варианте – в виде некоторого глоссария. Глоссарий семинара не будет претендовать на полноту, глубину и фундаментальность. Тем более что таких словарей имеется великое множество – и современных (зачастую весьма поверхностных, написанных людьми, далекими от ИИ), и «классических» (например, таких как [Аверкин А. Н., Гаазе-Рапопорт М. Г., Поспелов Д.А. Толковый словарь по искусственному интеллекту. М.: Радио и связь, 1992. 256 с.]). В глоссарии будут представлены лишь некоторые термины, единое толкование которых сможет лучше помочь взаимопониманию в рамках задач семинара ЭПИИ. Круглый стол посвящен обсуждению базового набора терминов, а также форме подачи материала.
25 мая 2023 г.
Болталка GPT. От имитации диалога к имитации разумности
Докладчик – Карпов Валерий Эдуардович, к.т.н., доцент, начальник Лаборатории робототехники НИЦ “Курчатовский институт”, вице-президент РАИИ
Аннотация: Сейчас, когда накал страстей по поводу ChatGPT несколько угас, возникла иная проблема – устойчивое и широко распространенное представление о том, что подобного рода системы и есть ИИ. В докладе обсуждается устройство ChatGPT-подобных систем и имитаторов осмысленных диалогов. Сначала рассказывается о системах фатического диалога – нашумевших в 60-гг программах Дж.Вейенбаума «Элиза» и «Доктор», опровергающих тезис Тьюринга, затем – вкратце о сути того, что такое искусственные нейронные сети как универсальные аппроксиматоры. Основная часть доклада построена по принципу разъяснения того, как можно было бы построить ChatGPT. Такой подход, по мнению автора, поможет лучше понять суть таких систем, избавив от ложных представлений о них.
Презентация gptn.pdf
Ссылка на запись семинара https://www.youtube.com/watch?v=kxv9AdHWBAg
2 марта 2023 г.
Концепты естественного и искусственного интеллекта (два контура развития интеллекта в современной цивилизации)
Докладчик – Розин Вадим Маркович, гл.н.с. Института философии РАН.
Аннотация: В сообщении будут разведены представления естественного и искусственного интеллекта, а также интеллекта и мышления. Высказана гипотеза о двух способах развития современного мышления и интеллекта - чисто естественном (традиционном) и естественно-искусственном, включающем технику ИИ.
Ссылка на запись семинара https://youtu.be/BL4zxWQ8bQU
15 декабря 2022 г. Два доклада:
1. К вопросу о формализации этических учений для коллаборативного «понимающего» робота
Докладчики –
Леушина Влада Вячеславовна, лаборант-исследователь лаборатории робототехники, Национальный исследовательский центр «Курчатовский институт»
Королева Мария Николаевна, к.т.н., доцент кафедры «Компьютерные системы автоматизации производства» МГТУ им. Н.Э. Баумана
Аннотация этика_ии_15.12.2022_леушина_в.в._королева_м.н..pdf
2. Этическая валидация автономных и интеллектуальных систем – нормативное регулирование и современное состояние исследований»
Докладчик – Готовцев Павел Михайловичк.т.н., доцент, заместитель начальника отдела биотехнологий и биоэнергетики, НИЦ «Курчатовский институт»
Аннотация. В докладе рассмотрены основные подходы к валидации автономных и интеллектуальных систем, которые отражены сегодня в нормативно-технической и научной литературе. Выделены основные сложности подобной валидации и показаны перспективные направления исследований в данной области.
Ссылка на запись семинара https://cloud.mail.ru/public/uWBB/pMHwzzZxU
16 ноября 2022 г.
Связь робоэтики с теорией интеллекта
Докладчик – Алексеева Ирина Юрьевна, д. филос. н.,
вед. н. с. сектора философских проблем социальных и гуманитарных наук Института философии РАН.
Аннотация alekseeva_iy.pdf
Презентация связь_робоэтики_с_теорией_интеллекта.pdf
Ссылка на запись семинара https://cloud.mail.ru/public/RFnt/M1kpG4uu7
20-21 сентября 2022 г., г. Переславль-Залесский, Институт программных систем им. А. К. Айламазяна Российской академии наук
1-е информационное письмо: 1е_инф._письмо_-_этические_проблемы_ии_2022.pdf
Научная программа семинара
20 сентября
Доклады
1. Разин Александр Владимирович «Естественная эволюция и компьютерная революция» (д.филос.н., профессор, заведующий Кафедрой этики философского факультета МГУ им. М.В. Ломоносова)
Аннотация. В докладе показывается принципиальная разница процессов творчества на естественной основе, которые осуществляются без заранее определенной цели и имеют характер небольших приращений, случайных приобретений, и творчества, которое осуществляется как целевое, происходит на основе концепций и искусственно изобретенных средств. Деннет отражает эти процессы в терминах творчество по восходящей и по нисходящей. С его точки зрения творчество по нисходящей содержит такие инструменты, которые упрощают условия творческого процесса, и, в то же время, делают его гораздо более эффективным по сравнению с эволюцией в природе.
Деннет называет несколько видов инверсий, в которых были осуществлены принципиальные изменения представлений об условиях творчества и отношении человека к творческому процессу: инверсия Дарвина (можно создавать новое не имея цели), инверсия Тьюринга (реальность может быть редуцирована до таких простых элементов, которые могут быть заменены машиной, в результате возникает возможность умения без разумения), инверсия Юма (причинность как иллюзия нашего разума).
Компьютеру не нужно доходить до понимания конечных причин, к чему стремится человек. Он работает по принципу сравнения информации в смысле теории смены состояний (неклассические виды детерминации). Это определяет эффективность и быстроту его работы, но это же означает отсутствие понимания тех операций, которые он совершает.
Далее, важно подчеркнуть, что детали компьютера (транзисторы) не имеют собственных целей, в отличие от нейронов головного мозга, которые представляют собой клетки, деятельность которых имеет целевую направленность, и которые способны объединяться друг с другом по принципу сетевых связей. Возможно именно с этим связаны те способности мозга, которые мы пока не можем эмитировать в искусственном интеллекте, скажем - свобода воли. Деннет показывает, что создание чего-то подобного нейрону на кремниевом носителе в принципе возможно, но крайне сложно и дорого.
Здесь возникает интересный вопрос: а не можем ли мы создать нечто лучшее, чем нейрон, ведь культурно опосредованное творчество уже создало то, что природа в принципе создать никогда бы не смогла, например - колесо, реактивный двигатель, в котором используется топливо и окислитель, и т.д. Для подобных созданий нужны такие качественные скачки, на которые природа неспособна. А каковы в этом плане будущие возможности искусственного интеллекта?
2. Готовцев Павел Михайлович «Этическая валидация автономных и интеллектуальных систем – нормативное регулирование и современное состояние исследований» (к.т.н., доцент, заместитель начальника отдела биотехнологий и биоэнергетики, НИЦ «Курчатовский институт»)
Аннотация. В докладе рассмотрены основные подходы к валидации автономных и интеллектуальных систем, которые отражены сегодня в нормативно-технической и научной литературе. Выделены основные сложности подобной валидации и показаны перспективные направления исследований в данной области.
3. Карпов Валерий Эдуардович 1, Королева Мария Николаевна 2 «Этика поведения коллаборативного робота» (1 к.т.н., доцент, заведующий Лабораторией робототехники НИЦ “Курчатовский институт”, вице-президент РАИИ; 2 к.т.н., доцент кафедры “Компьютерные системы автоматизации производства” МГТУ им. Н.Э. Баумана, ученый секретарь РАИИ)
Аннотация. Поведение робота должно отвечать этическим представлениям человека-оператора. Это связано с необходимостью решения роботом проблемы выбора, а также субъективизмом оценок поведения робота-партнера человеком. Рассматриваются некоторые проблемы при формализации этических аспектов поведения. Делается вывод, что в условиях принципиально неустранимых противоречий и неполноты при формализации моральных учений, основная задача этических схем – быть основой для объяснения постфактум, а вовсе не являться мотивирующим фактором.
4. Леушина Влада Вячеславовна «Онтология гедонизма» (лаборант-исследователь лаборатории робототехники НИЦ “Курчатовский институт”)
5. Асеева Ирина Александровна «Социальные роли искусственного интеллекта: этика человеко-машинного взаимодействия» (д-р.филос.наук, проф., в.н.с. ИНИОН РАН)
6. Буданов Владимир Григорьевич «Интегральная этика и перспективы формирование антропоморфного ИИ» (д-р.филос.наук, к.ф.-м.н., г.н.с., Заведующий сектором междисциплинарных проблем научно-технического развития. Институт философии РАН)
7. Шелекета Владислав Олегович «Проблема определения природы нарративов сознания и принципы объективной нравственности в методологическом ракурсе теории сознания Д. Деннета» (д-р.филос.наук, профессор кафедры теории и методологии науки БГТУ им. В. Г. Шухова, заместитель председателя Белгородского регионального отделения Научный совет РАН по методологии искусственного интеллекта и когнитивных исследований, член-корреспондент РАЕН)
8. Гаврилина Елена Александровна «Делегирование действия интеллектуальным автономным системам и редукция человеческой агентности» (к.ф.н., доцент, ИНИОН РАН)
21 сентября
Круглый стол: «Обсуждение книги Дэниела Деннета «Разум от начала до конца: новый взгляд на эволюцию сознания от ведущего мыслителя современности»»
Ведущий круглого стола – Разин Александр Владимирович
Вопросы для обсуждения:
Как пребиотики влияют на возникновение многоклеточных организмов?
Чем путь эволюции отличается от культурно-исторического творчества?
Какие уровни активного взаимодействия организмов со средой можно выделить?
В чем различие сознания и психики?
Каково влияние культурных мемов на развитие сознания?
Какова роль языка в развитии сознания?
Чем отличается мозг от компьютера?
Что такое квалио, как это объясняет Деннет, какие есть другие объяснения?
Можно ли создать что-то лучшее по интеллектуальным способностям, чем создала эволюция?
Можем ли мы успешно пользоваться такими вещами, принципы работы которых не понимаем?
Способен ли искусственный интеллект к реальному творчеству?
Обретет ли в обозримом или далеком будущем искусственный интеллект качество свободы воли?
Можно ли дублировать мозг на кремниевом носителе?
Творческая среда, можно ли ее смоделировать, создав сообщество машин?
04 апреля 2022 г.
Методы анализа рисков: проблемы и перспективы.
Докладчик – Ройзензон Григорий Владимирович (к.т.н., старший научный сотрудник отдела «Имитационное моделирование» Института системного анализа Федерального исследовательского центра «Информатика и управление» РАН, доцент кафедр «Логистические системы и технологии» и «Системные исследования» МФТИ и кафедры «Прикладная математика и искусственный интеллект» МЭИ .
Аннотация. гвройзензон_аннотация_доклада.pdf
Презентация. ethicsai_risk-1.pdf
Ссылка на запись семинара https://youtu.be/h2KCm6vzTAw
09 февраля 2022 г.
Этика искусственного интеллекта в стандартах и рекомендациях.
Докладчик – Леушина Влада Вячеславовна (НИЦ «Курчатовский институт», НИУ «Высшая школа экономики»).
Аннотация. ввлеушина_аннотация_доклада.pdf
Презентация. leushina.pdf
Ссылка на запись семинара https://www.youtube.com/watch?v=-aJ2NGmODHA
07 мая 2021 г.
Агентность интеллектуальных автономных систем в этическом ракурсе: эмпирические и теоретические аспекты.
Докладчик – Гаврилина Елена Александровна (к.ф.н., доцент кафедры «Социология и культурология» МГТУ им. Н.Э. Баумана).
Аннотация. еагаврилина_аннотация_доклада.pdf
Ссылка на запись семинара https://youtu.be/dc9wh-H7ujg
23 апреля 2021 г.
Ценностно-ориентированное проектирование в сервисной робототехнике
Докладчики –
Середкина Елена Владимировна (доцент кафедры философии и права Пермского национального исследовательского политехнического университета (ПНИПУ), директор НИЦ «Центр оценки технологий», руководитель отдела человеко-машинного взаимодействия в компании «Промобот»),
Безукладников Игорь Игоревич (доцент кафедры автоматики и телемеханики ПНИПУ, директор Инжинирингового центра по IT и робототехники ПНИПУ),
Аннотация. середкина_безукладников.pdf
Презентация.семинар_этика_ии_23_апреля_2021_2_.pptx
Ссылка на запись семинара https://youtu.be/0_9zDGNrIUo
09 апреля 2021 г.
Этика искусственного интеллекта: философия, право или политика?
Докладчик – Огородов Дмитрий Владимирович (к.ю.н., член рабочей группы по этике искусственного интеллекта (ECAI/EAD IEEE), член РАИИ, арбитр Международного коммерческого арбитражного суда при Торгово-промышленной палате РФ).
Аннотация. ogorodov_ethic_ai.pdf
Презентация. ogorodovdv_ethics_ai.pdf
Ссылка на запись семинара https://youtu.be/InKnk0OIt4c
26 марта 2021 г.
О моральных аспектах адаптивного поведения искусственных агентов.
Докладчик – Карпов Валерий Эдуардович (НИЦ «Курчатовский институт»).
Аннотация. karpov_ethic_ai.pdf
Презентация. karpov-2021-03-26.pdf
26 февраля 2021 г.
Этические возможности искусственного интеллекта.
Докладчик - Разин Александр Владимирович (доктор философских наук, профессор, зав. Кафедрой этики философского факультета МГУ)
Аннотация. razin_ethic_ai.pdf
Ссылка на запись семинара https://youtu.be/ewz7b7M7LPo
18 февраля 2020 г.
Социально-психологические и этические аспекты внедрения автономных интеллектуальных систем в повседневную жизнь общества.
Докладчик – Т.А. Нестик (Институт психологии РАН, МГУ им. М.А. Ломоносова)
Аннотация. nestik.pdf
17 декабря 2019 г.
Применимо ли понятие морали к отношениям между искусственными агентами?
Докладчик – В.Э. Карпов (НИЦ «Курчатовский институт», МФТИ).
Аннотация karpov-2019-12-17.pdf
Презентация karpov-2019-12-17-pr.pdf karpov-2019-12-17.pptx
19 ноября 2019 г.
Формализация понятия этики в ИИ.
Докладчик – Г.В. Ройзензон (Институт системного анализа РАН).
Аннотация royzenson.pdf
rgv_ethics_form_2019.pdf Презентация семинара, формат pdf
29 октября 2019 г.
Интеллектуальные автономные системы – этические аспекты применения.
Докладчик – П.М. Готовцев (НИЦ «Курчатовский институт»).
Аннотация gotovtsev.pdf
gotovtsev_ai_ethics_29_10_2019.pdf Презентация семинара, формат pdf
01 октября 2019 г.
Теоретические и методологические предпосылки обсуждения проблем этики искусственного интеллекта.
Докладчики – Р.Г. Апресян (Институт философии РАН), В.Э. Карпов (НИЦ «Курчатовский институт», МФТИ).
Резюме выступления Р.Г. Апресяна апресян_резюме_выступления.pdf
Резюме выступления В.Э.Капова karpov-text-2.pdf
karpov-2019-10-01.pdf Презентация семинара, формат pdf
karpov-2019-10-01.pptx Презентация семинара, формат pptx
Инструменты страницы
