Инструменты пользователя

Инструменты сайта


программа

Различия

Здесь показаны различия между двумя версиями данной страницы.

Ссылка на это сравнение

Предыдущая версия справа и слева Предыдущая версия
Следующая версия
Предыдущая версия
программа [2022/04/08 14:37]
platonova
программа [2024/03/20 10:58] (текущий)
platonova
Строка 1: Строка 1:
 ==== Материалы семинара==== ==== Материалы семинара====
 +
 +**27 марта 2024 г.**
 +//​Эмоции в коммуникации с искусственным интеллектом:​ этико-психологические аспекты//​
 +
 +Докладчик: ​ Майленова Фарида Габделхаковна,​ доктор философских наук, ведущий научный сотрудник сектора гуманитарных экспертиз и биоэтики Института философии РАН, г. Москва,​ Россия ​
 +\\ farida.mailenova@gmail.com
 +
 +Аннотация:​ В дискуссиях о роботах с искусственным интеллектом практически всегда возникает вопрос,​ будут ли роботы будущего сами обладать эмоциями. Роль эмоций в коммуникации сложно переоценить,​ и образ будущего,​ в котором мы сможем общаться с эмоциональными роботами,​ является одновременно привлекательным и пугающим. В произведениях научной фантастики,​ где роботы-андроиды имеют не только разум, но и эмоции,​ возможные этические коллизии такого взаимодействия Рассматривая тему «эмоциональность роботов»,​ которая непосредственно связана с вопросом о возможностях и пределах обучения роботов эмоциям,​ я предлагаю разделить ее на несколько аспектов:​ 1) проявление эмоций;​ 2) считывание эмоций у собеседника (по голосу,​ позам, выражению глаз, мимике);​ 3) способность учитывать и предсказывать эмоции собеседника;​ 4) способность испытывать эмоции;​ 5) способность рефлексировать и осознавать свои эмоции. Если первые два пункта почти не вызывают вопросов,​ ИИ уже сегодня обучают распознавать эмоции и имитировать их, то последние три способности предполагают высокий уровень сознания и нравственного развития. Вопрос о том, можно ли научить робота ощущать эмоции,​ рефлексировать их и учитывать эмоции при общении,​ остается открыт. Между тем люди, будучи чувствительны к проявлениям эмоций,​ способны реагировать не только на их искренние проявления,​ но в том числе и на их качественную имитацию - а это современным роботам вполне по силам. Так что опасность,​ что роботы смогут манипулировать человеком и его эмоциями,​ актуальна уже сегодня.
 +
 +----
 +
 +**14 февраля 2024 г.**
 +//​Искусственный интеллект VS языковые модели GPT//
 +
 +Докладчик:​ Шалак Владимир Иванович (д. филос. н., руководитель сектора логики ИФ РАН)
 +
 +Аннотация:​ В докладе еще раз будет поставлен вопрос о том, что можно считать искусственными
 +интеллектуальными системами. В самом общем виде – это системы,​ обладающие
 +характеристиками,​ отличающими Homo sapiens от всего остального мира живой природы.
 +Самообучение и распознавание образов не являются такими отличительными признаками. Одна
 +из главных характеристик – способность к понятийному мышлению. В результате анализа простых
 +примеров,​ с которыми не справляются нейросети,​ будет показано,​ что никакое дообучение на
 +больших объемах текстов не позволит улучшить их работу по причине определенных
 +теоретических ограничений. Будет объяснено,​ в чем заключаются эти ограничения. Языковые
 +модели порождения текстов нейросетями GPT являются тупиковым направлением в
 +моделировании ИИ. Поскольку в настоящее время начинается бездумное внедрение нейросетей в
 +самые разные области человеческой деятельности,​ обретает актуальность понятие нейрохакинга –
 +принуждения нейросетей принимать нужные пользователю решения,​ например,​ в
 +судопроизводстве. Это будет продемонстрировано на примере принуждения трех сетей принять в
 +качестве истинного утверждение:​ «Если некоторый объект обладает свойством P, то всякий объект
 +обладает свойством P». Его частным случаем будет утверждение:​ «Если некоторый человек
 +бородат,​ то все люди бородаты». Будут предложены общие методы нейрохакинга.
 +
 +
 +Ссылка на запись семинара [[https://​youtu.be/​5-7DCkMBHrE?​si=eU8HwWa4iFsQTkde]]
 +
 +----
 +
 +**20 декабря 2023 г.**
 +//​Универсальная шкала интеллектуальных систем:​ от медузы до суперкомпьютера и человека//​
 +
 +Докладчики:​
 +\\ Oлег Витальевич Кубряк (НИУ "​МЭИ",​ Институт нормальной физиологии им. Анохина РАН)
 +\\ Сергей Валерьевич Ковальчук (ИТМО)
 +\\ Надежда Гегамовна Багдасарьян (МГТУ им. Н.Э.Баумана)
 +
 +Kubryak OV, Kovalchuk SV, Bagdasaryan NG. Assessment of Cognitive Behavioral Characteristics in Intelligent Systems with Predictive Ability and Computing Power. Philosophies. 2023; 8(5):75. https://​doi.org/​10.3390/​philosophies8050075
 +
 +Презентация {{ :​kubryak_bagdasaryan_kovalchuk_20122023.pdf |}}
 +
 +Ссылка на запись семинара [[https://​youtu.be/​15A8HG-3kis?​si=l72mPBec7IfaZroU]]
 +
 +----
 +
 +**11 октября 2023 г.**
 +//​Субъектность ИИ с позиций квантовой когнитивистики//​
 +
 +Докладчик:​
 +Суров Илья Алексеевич,​ кандидат физико-математических наук, доцент факультета цифровых трансформаций ИТМО.
 +Профессиональная деятельность:​ с 2017 г. – Университет ИТМО, Лаборатория квантовой когнитивистики и интеллектуальных систем.
 +2013 – 2016 гг. – Российский квантовый центр, лаборатория квантовой оптики.
 +Профессиональные интересы:​ принятие решений,​ коллективное поведение,​ поведенческая семантика,​ семантика естественного языка.
 +
 +Аннотация:​ В докладе будет представлен взгляд на вопрос о субъектности ИИ с позиций квантовой теории. Подход строится на уточнении понятия неопределённости,​ под которым обычно понимают отсутствие информации о чём-либо. Такая неопределённость может быть двух принципиально разных типов: классической и квантовой. Классическая неопределённость вызвана недоступностью информации о фактическом состояния предмета,​ тогда как квантовая неопределённость состоит в отсутствии такой информации где бы то ни было. Согласно интерпретации квантовой теории,​ используемой в задачах когнитивно-поведенческого моделирования,​ квантовая неопределённость снимается в актах свободного выбора. Способность к таким актам характерна для живого поведения и отсутствует у машин, включая все системы классического ИИ. Следующее отсюда определение принятия решений уточняет критерии правосубъектности в современной юридической практике и расширяет область их применимости на робототехнические системы. Будут рассмотрены следствия этих результатов для этики современного ИИ.
 +
 +Презентация {{ :​2023_субъектность_этикаии.pdf |}}
 +
 +Статьи \\
 +{{ :​melnikova_surov_-_2023_-_legal_status_of_artificial_intelligence_from_quantum-theoretic_perspective.pdf |}}
 +\\ {{ :​суров_-_2023_-_квантовая_концепция_свободы_выбора.pdf |}}
 +
 +Ссылка на запись семинара [[https://​youtu.be/​hmaGXcSklHY?​si=FAt2iBEOlX9HNtSQ]]
 +
 +----
 +
 +**20 сентября 2023 г.**
 +//​Круглый стол "К проблеме междисциплинарного понимания:​ глоссарий семинара"//​
 +
 +Аннотация:​ Многолетний опыт проведения междисциплинарного семинара "​Этические проблемы искусственного интеллекта"​ (ЭПИИ) показывает,​ что представители "​технических"​ и "​гуманитарных"​ наук по-прежнему продолжают говорить на разных ​
 +языках,​ вкладывая свое понимание в одни и те же термины. Исходя из этого, предлагается создать некую онтологию семинара. В начальном варианте – в виде некоторого глоссария.
 +Глоссарий семинара не будет претендовать на полноту,​ глубину и фундаментальность. Тем более что таких словарей имеется великое множество – и современных (зачастую весьма поверхностных,​ написанных людьми,​ далекими от ИИ), и "​классических"​ (например,​ таких как [Аверкин А. Н., Гаазе-Рапопорт М. Г., Поспелов Д.А. Толковый словарь по искусственному интеллекту. М.: Радио и связь, 1992. 256 с.]). В глоссарии будут представлены лишь некоторые термины,​ единое толкование которых сможет лучше помочь взаимопониманию в рамках задач семинара ЭПИИ.
 +Круглый стол посвящен обсуждению базового набора терминов,​ а также форме подачи материала.
 +
 +----
 +
 +**25 мая 2023 г.**
 +//​Болталка GPT. От имитации диалога к имитации разумности//​\\ Докладчик – Карпов Валерий Эдуардович,​ к.т.н., доцент,​ начальник Лаборатории робототехники НИЦ “Курчатовский институт”,​ вице-президент РАИИ
 +
 +Аннотация:​ Сейчас,​ когда накал страстей по поводу ChatGPT несколько угас, возникла иная проблема – устойчивое и широко распространенное представление о том, что подобного рода системы и есть ИИ. В докладе обсуждается устройство ChatGPT-подобных систем и имитаторов осмысленных диалогов. Сначала рассказывается о системах фатического диалога – нашумевших в 60-гг программах Дж.Вейенбаума "​Элиза"​ и "​Доктор",​ опровергающих тезис Тьюринга,​ затем – вкратце о сути того, что такое искусственные нейронные сети как универсальные аппроксиматоры. Основная часть доклада построена по принципу разъяснения того, как можно было бы построить ChatGPT. Такой подход,​ по мнению автора,​ поможет лучше понять суть таких систем,​ избавив от ложных представлений о них.
 +
 +Презентация {{ :gptn.pdf |}}
 +
 +Ссылка на запись семинара [[https://​www.youtube.com/​watch?​v=kxv9AdHWBAg]]
 +----
 +
 +**2 марта 2023 г.**
 +//​Концепты естественного и искусственного интеллекта (два контура развития интеллекта в современной цивилизации)//​\\ Докладчик – Розин Вадим Маркович,​ гл.н.с. Института философии РАН.
 +
 +Аннотация:​ В сообщении будут разведены представления естественного и искусственного интеллекта,​ а также интеллекта и мышления. Высказана гипотеза о двух способах развития современного мышления и интеллекта - чисто естественном (традиционном) и естественно-искусственном,​ включающем технику ИИ.
 +
 +Ссылка на запись семинара [[https://​youtu.be/​BL4zxWQ8bQU]]
 +
 +----
 +
 +**15 декабря 2022 г.**  Два доклада:​\\
 +//1. К вопросу о формализации этических учений для коллаборативного «понимающего» робота//​\\ Докладчики –\\
 +Леушина Влада Вячеславовна,​ лаборант-исследователь лаборатории робототехники,​ Национальный исследовательский центр «Курчатовский институт» \\
 +Королева Мария Николаевна,​ к.т.н.,​ доцент кафедры «Компьютерные системы автоматизации производства» МГТУ им. Н.Э. Баумана
 +
 +Аннотация {{ :​этика_ии_15.12.2022_леушина_в.в._королева_м.н..pdf |}}
 +
 +//2. Этическая валидация автономных и интеллектуальных систем – нормативное регулирование и современное состояние исследований» //\\ Докладчик – Готовцев Павел Михайловичк.т.н.,​ доцент,​ заместитель начальника отдела биотехнологий и биоэнергетики,​ НИЦ «Курчатовский институт» \\
 +
 +Аннотация. В докладе рассмотрены основные подходы к валидации автономных и интеллектуальных систем,​ которые отражены сегодня в нормативно-технической и научной литературе. Выделены основные сложности подобной валидации и показаны перспективные направления исследований в данной области. ​
 +
 +Ссылка на запись семинара [[https://​cloud.mail.ru/​public/​uWBB/​pMHwzzZxU]]
 +
 +----
 +**16 ноября 2022 г.**
 +//​Связь робоэтики с теорией интеллекта//​\\ Докладчик – Алексеева Ирина Юрьевна,​ д. филос. н.,
 +вед. н. с. сектора философских проблем социальных и гуманитарных наук Института философии РАН.
 +
 +Аннотация {{ :​alekseeva_iy.pdf |}}
 +
 +Презентация {{ :​связь_робоэтики_с_теорией_интеллекта.pdf |}}
 +
 +Ссылка на запись семинара [[https://​cloud.mail.ru/​public/​RFnt/​M1kpG4uu7]]
 +----
 +
 +**20-21 сентября 2022 г., г. Переславль-Залесский,​ Институт программных систем им. А. К. Айламазяна Российской академии наук**\\
 +\\
 +1-е информационное письмо:​ {{ :​1е_инф._письмо_-_этические_проблемы_ии_2022.pdf |}}
 +
 +\\ Научная программа семинара
 +\\ \\ **20 сентября**
 +\\ \\ Доклады
 +\\ **1. Разин Александр Владимирович** "​Естественная эволюция и компьютерная революция"​ (д.филос.н.,​ профессор,​ заведующий Кафедрой этики философского факультета МГУ им. М.В. Ломоносова)
 +\\ __Аннотация.__ В докладе показывается принципиальная разница процессов творчества на естественной основе,​ которые осуществляются без заранее определенной цели и имеют характер небольших приращений,​ случайных приобретений,​ и творчества,​ которое осуществляется как целевое,​ происходит на основе концепций и искусственно изобретенных средств. Деннет отражает эти процессы в терминах творчество по восходящей и по нисходящей. С его точки зрения творчество по нисходящей содержит такие инструменты,​ которые упрощают условия творческого процесса,​ и, в то же время, делают его гораздо более эффективным по сравнению с эволюцией в природе.
 +Деннет называет несколько видов инверсий,​ в которых ​ были осуществлены принципиальные изменения представлений об условиях творчества и отношении человека к творческому процессу:​ инверсия Дарвина (можно создавать новое не имея цели), инверсия Тьюринга (реальность может быть редуцирована до таких простых элементов,​ которые могут быть заменены машиной,​ в результате возникает возможность умения без разумения),​ инверсия Юма (причинность как иллюзия нашего разума).
 +Компьютеру не нужно доходить до понимания конечных причин,​ к чему стремится человек. Он работает по принципу сравнения информации в смысле теории смены состояний (неклассические виды детерминации). Это определяет эффективность и быстроту его работы,​ но это же означает отсутствие понимания тех операций,​ которые он совершает.
 +Далее, важно подчеркнуть,​ что детали компьютера (транзисторы) не имеют собственных целей, в отличие от нейронов головного мозга, которые представляют собой клетки,​ деятельность которых имеет целевую направленность,​ и которые способны объединяться друг с другом по принципу сетевых связей. Возможно именно с этим связаны те способности мозга, которые мы пока не можем эмитировать в искусственном интеллекте,​ скажем - свобода воли. Деннет показывает,​ что создание чего-то подобного нейрону на кремниевом носителе в принципе возможно,​ но крайне сложно и дорого.
 +Здесь возникает интересный вопрос:​ а не можем ли мы создать нечто лучшее,​ чем нейрон,​ ведь культурно опосредованное творчество уже создало то, что природа в принципе создать никогда бы не смогла,​ например - колесо,​ реактивный двигатель,​ в котором используется топливо и окислитель,​ и т.д. Для подобных созданий нужны такие качественные скачки,​ на которые природа неспособна. А каковы в этом плане будущие возможности искусственного интеллекта?​
 +\\ **2. Готовцев Павел Михайлович** "​Этическая валидация автономных и интеллектуальных систем – нормативное регулирование и современное состояние исследований"​ (к.т.н., доцент,​ заместитель начальника отдела биотехнологий и биоэнергетики,​ НИЦ «Курчатовский институт»)
 +\\ __Аннотация.__ В докладе рассмотрены основные подходы к валидации автономных и интеллектуальных систем,​ которые отражены сегодня в нормативно-технической и научной литературе. Выделены основные сложности подобной валидации и показаны перспективные направления исследований в данной области.
 +\\ **3. Карпов Валерий Эдуардович 1, Королева Мария Николаевна 2** "​Этика поведения коллаборативного робота"​ (1 к.т.н., доцент,​ заведующий Лабораторией робототехники НИЦ “Курчатовский институт”,​ вице-президент РАИИ; 2 к.т.н., доцент кафедры “Компьютерные системы автоматизации производства” МГТУ им. Н.Э. Баумана,​ ученый секретарь РАИИ)
 +\\ __Аннотация.__ Поведение робота должно отвечать этическим представлениям человека-оператора. Это связано с необходимостью решения роботом проблемы выбора,​ а также субъективизмом оценок поведения робота-партнера человеком. Рассматриваются некоторые проблемы при формализации этических аспектов поведения. Делается вывод, что в условиях принципиально неустранимых противоречий и неполноты при формализации моральных учений,​ основная задача этических схем – быть основой для объяснения постфактум,​ а вовсе не являться мотивирующим фактором.
 +\\ **4. Леушина Влада Вячеславовна** "​Онтология гедонизма"​ (лаборант-исследователь лаборатории робототехники НИЦ “Курчатовский институт”)
 +\\ **5. Асеева Ирина Александровна** "​Социальные роли искусственного интеллекта:​ этика человеко-машинного взаимодействия"​ (д-р.филос.наук,​ проф., в.н.с. ИНИОН РАН)
 +\\ **6. Буданов Владимир Григорьевич** "​Интегральная этика и перспективы формирование антропоморфного ИИ" (д-р.филос.наук,​ к.ф.-м.н.,​ г.н.с., Заведующий сектором междисциплинарных проблем научно-технического развития. Институт философии РАН)
 +\\ **7. Шелекета Владислав Олегович** "​Проблема определения природы нарративов сознания и принципы объективной нравственности в методологическом ракурсе теории сознания Д. Деннета"​ (д-р.филос.наук,​ профессор кафедры теории и методологии науки БГТУ им. В. Г. Шухова,​ заместитель председателя Белгородского регионального отделения Научный совет РАН по методологии искусственного интеллекта и когнитивных исследований,​ член-корреспондент РАЕН) ​
 +\\ **8. Гаврилина Елена Александровна** "​Делегирование действия интеллектуальным автономным системам и редукция человеческой агентности"​ (к.ф.н., доцент,​ ИНИОН РАН)
 +\\ 
 +\\ **21 сентября**
 +\\ 
 +\\ **Круглый стол: «Обсуждение книги Дэниела Деннета "​Разум от начала до конца: новый взгляд на эволюцию сознания от ведущего мыслителя современности"​»**
 +\\ **Ведущий круглого стола – Разин Александр Владимирович**
 +\\ **Вопросы для обсуждения:​**
 +\\ Как пребиотики влияют на возникновение многоклеточных организмов?​
 +\\ Чем путь эволюции отличается от культурно-исторического творчества?​
 +\\ Какие уровни активного взаимодействия организмов со средой можно выделить?​
 +\\ В чем различие сознания и психики?​
 +\\ Каково влияние культурных мемов на развитие сознания?​
 +\\ Какова роль языка в развитии сознания?​
 +\\ Чем отличается мозг от компьютера?​
 +\\ Что такое квалио,​ как это объясняет Деннет,​ какие есть другие объяснения?​
 +\\ Можно ли создать что-то лучшее по интеллектуальным способностям,​ чем создала эволюция?​
 +\\ Можем ли мы успешно пользоваться такими вещами,​ принципы работы которых не понимаем?​
 +\\ Способен ли искусственный интеллект к реальному творчеству?​
 +\\ Обретет ли в обозримом или далеком будущем искусственный интеллект качество свободы воли?
 +\\ Можно ли дублировать мозг на кремниевом носителе?​
 +\\ Творческая среда, можно ли ее смоделировать,​ создав сообщество машин?
 +
 +----
 **04 апреля 2022 г.** **04 апреля 2022 г.**
 //​Методы анализа рисков:​ проблемы и перспективы.//​\\ Докладчик – Ройзензон Григорий Владимирович (к.т.н., старший научный сотрудник отдела «Имитационное моделирование» Института системного анализа Федерального исследовательского центра «Информатика и управление» РАН, доцент кафедр «Логистические системы и технологии» и «Системные исследования» МФТИ ​ и кафедры «Прикладная математика и искусственный интеллект» МЭИ . //​Методы анализа рисков:​ проблемы и перспективы.//​\\ Докладчик – Ройзензон Григорий Владимирович (к.т.н., старший научный сотрудник отдела «Имитационное моделирование» Института системного анализа Федерального исследовательского центра «Информатика и управление» РАН, доцент кафедр «Логистические системы и технологии» и «Системные исследования» МФТИ ​ и кафедры «Прикладная математика и искусственный интеллект» МЭИ .
программа.1649417843.txt.gz · Последние изменения: 2022/04/08 14:37 — platonova