Здесь показаны различия между двумя версиями данной страницы.
Предыдущая версия справа и слева Предыдущая версия Следующая версия | Предыдущая версия Следующая версия Следующая версия справа и слева | ||
программа [2022/09/28 10:25] platonova |
программа [2024/04/09 12:36] platonova |
||
---|---|---|---|
Строка 1: | Строка 1: | ||
==== Материалы семинара==== | ==== Материалы семинара==== | ||
+ | |||
+ | **27 марта 2024 г.** | ||
+ | //Эмоции в коммуникации с искусственным интеллектом: этико-психологические аспекты// | ||
+ | |||
+ | Докладчик: Майленова Фарида Габделхаковна, доктор философских наук, ведущий научный сотрудник сектора гуманитарных экспертиз и биоэтики Института философии РАН, г. Москва, Россия | ||
+ | \\ farida.mailenova@gmail.com | ||
+ | |||
+ | Аннотация: В дискуссиях о роботах с искусственным интеллектом практически всегда возникает вопрос, будут ли роботы будущего сами обладать эмоциями. Роль эмоций в коммуникации сложно переоценить, и образ будущего, в котором мы сможем общаться с эмоциональными роботами, является одновременно привлекательным и пугающим. В произведениях научной фантастики, где роботы-андроиды имеют не только разум, но и эмоции, возможные этические коллизии такого взаимодействия Рассматривая тему «эмоциональность роботов», которая непосредственно связана с вопросом о возможностях и пределах обучения роботов эмоциям, я предлагаю разделить ее на несколько аспектов: 1) проявление эмоций; 2) считывание эмоций у собеседника (по голосу, позам, выражению глаз, мимике); 3) способность учитывать и предсказывать эмоции собеседника; 4) способность испытывать эмоции; 5) способность рефлексировать и осознавать свои эмоции. Если первые два пункта почти не вызывают вопросов, ИИ уже сегодня обучают распознавать эмоции и имитировать их, то последние три способности предполагают высокий уровень сознания и нравственного развития. Вопрос о том, можно ли научить робота ощущать эмоции, рефлексировать их и учитывать эмоции при общении, остается открыт. Между тем люди, будучи чувствительны к проявлениям эмоций, способны реагировать не только на их искренние проявления, но в том числе и на их качественную имитацию - а это современным роботам вполне по силам. Так что опасность, что роботы смогут манипулировать человеком и его эмоциями, актуальна уже сегодня. | ||
+ | |||
+ | |||
+ | Презентация {{ :слайды_доклада_эмоции_ии_.pdf |}} | ||
+ | ---- | ||
+ | |||
+ | **14 февраля 2024 г.** | ||
+ | //Искусственный интеллект VS языковые модели GPT// | ||
+ | |||
+ | Докладчик: Шалак Владимир Иванович (д. филос. н., руководитель сектора логики ИФ РАН) | ||
+ | |||
+ | Аннотация: В докладе еще раз будет поставлен вопрос о том, что можно считать искусственными | ||
+ | интеллектуальными системами. В самом общем виде – это системы, обладающие | ||
+ | характеристиками, отличающими Homo sapiens от всего остального мира живой природы. | ||
+ | Самообучение и распознавание образов не являются такими отличительными признаками. Одна | ||
+ | из главных характеристик – способность к понятийному мышлению. В результате анализа простых | ||
+ | примеров, с которыми не справляются нейросети, будет показано, что никакое дообучение на | ||
+ | больших объемах текстов не позволит улучшить их работу по причине определенных | ||
+ | теоретических ограничений. Будет объяснено, в чем заключаются эти ограничения. Языковые | ||
+ | модели порождения текстов нейросетями GPT являются тупиковым направлением в | ||
+ | моделировании ИИ. Поскольку в настоящее время начинается бездумное внедрение нейросетей в | ||
+ | самые разные области человеческой деятельности, обретает актуальность понятие нейрохакинга – | ||
+ | принуждения нейросетей принимать нужные пользователю решения, например, в | ||
+ | судопроизводстве. Это будет продемонстрировано на примере принуждения трех сетей принять в | ||
+ | качестве истинного утверждение: «Если некоторый объект обладает свойством P, то всякий объект | ||
+ | обладает свойством P». Его частным случаем будет утверждение: «Если некоторый человек | ||
+ | бородат, то все люди бородаты». Будут предложены общие методы нейрохакинга. | ||
+ | |||
+ | |||
+ | Ссылка на запись семинара [[https://youtu.be/5-7DCkMBHrE?si=eU8HwWa4iFsQTkde]] | ||
+ | |||
+ | ---- | ||
+ | |||
+ | **20 декабря 2023 г.** | ||
+ | //Универсальная шкала интеллектуальных систем: от медузы до суперкомпьютера и человека// | ||
+ | |||
+ | Докладчики: | ||
+ | \\ Oлег Витальевич Кубряк (НИУ "МЭИ", Институт нормальной физиологии им. Анохина РАН) | ||
+ | \\ Сергей Валерьевич Ковальчук (ИТМО) | ||
+ | \\ Надежда Гегамовна Багдасарьян (МГТУ им. Н.Э.Баумана) | ||
+ | |||
+ | Kubryak OV, Kovalchuk SV, Bagdasaryan NG. Assessment of Cognitive Behavioral Characteristics in Intelligent Systems with Predictive Ability and Computing Power. Philosophies. 2023; 8(5):75. https://doi.org/10.3390/philosophies8050075 | ||
+ | |||
+ | Презентация {{ :kubryak_bagdasaryan_kovalchuk_20122023.pdf |}} | ||
+ | |||
+ | Ссылка на запись семинара [[https://youtu.be/15A8HG-3kis?si=l72mPBec7IfaZroU]] | ||
+ | |||
+ | ---- | ||
+ | |||
+ | **11 октября 2023 г.** | ||
+ | //Субъектность ИИ с позиций квантовой когнитивистики// | ||
+ | |||
+ | Докладчик: | ||
+ | Суров Илья Алексеевич, кандидат физико-математических наук, доцент факультета цифровых трансформаций ИТМО. | ||
+ | Профессиональная деятельность: с 2017 г. – Университет ИТМО, Лаборатория квантовой когнитивистики и интеллектуальных систем. | ||
+ | 2013 – 2016 гг. – Российский квантовый центр, лаборатория квантовой оптики. | ||
+ | Профессиональные интересы: принятие решений, коллективное поведение, поведенческая семантика, семантика естественного языка. | ||
+ | |||
+ | Аннотация: В докладе будет представлен взгляд на вопрос о субъектности ИИ с позиций квантовой теории. Подход строится на уточнении понятия неопределённости, под которым обычно понимают отсутствие информации о чём-либо. Такая неопределённость может быть двух принципиально разных типов: классической и квантовой. Классическая неопределённость вызвана недоступностью информации о фактическом состояния предмета, тогда как квантовая неопределённость состоит в отсутствии такой информации где бы то ни было. Согласно интерпретации квантовой теории, используемой в задачах когнитивно-поведенческого моделирования, квантовая неопределённость снимается в актах свободного выбора. Способность к таким актам характерна для живого поведения и отсутствует у машин, включая все системы классического ИИ. Следующее отсюда определение принятия решений уточняет критерии правосубъектности в современной юридической практике и расширяет область их применимости на робототехнические системы. Будут рассмотрены следствия этих результатов для этики современного ИИ. | ||
+ | |||
+ | Презентация {{ :2023_субъектность_этикаии.pdf |}} | ||
+ | |||
+ | Статьи \\ | ||
+ | {{ :melnikova_surov_-_2023_-_legal_status_of_artificial_intelligence_from_quantum-theoretic_perspective.pdf |}} | ||
+ | \\ {{ :суров_-_2023_-_квантовая_концепция_свободы_выбора.pdf |}} | ||
+ | |||
+ | Ссылка на запись семинара [[https://youtu.be/hmaGXcSklHY?si=FAt2iBEOlX9HNtSQ]] | ||
+ | |||
+ | ---- | ||
+ | |||
+ | **20 сентября 2023 г.** | ||
+ | //Круглый стол "К проблеме междисциплинарного понимания: глоссарий семинара"// | ||
+ | |||
+ | Аннотация: Многолетний опыт проведения междисциплинарного семинара "Этические проблемы искусственного интеллекта" (ЭПИИ) показывает, что представители "технических" и "гуманитарных" наук по-прежнему продолжают говорить на разных | ||
+ | языках, вкладывая свое понимание в одни и те же термины. Исходя из этого, предлагается создать некую онтологию семинара. В начальном варианте – в виде некоторого глоссария. | ||
+ | Глоссарий семинара не будет претендовать на полноту, глубину и фундаментальность. Тем более что таких словарей имеется великое множество – и современных (зачастую весьма поверхностных, написанных людьми, далекими от ИИ), и "классических" (например, таких как [Аверкин А. Н., Гаазе-Рапопорт М. Г., Поспелов Д.А. Толковый словарь по искусственному интеллекту. М.: Радио и связь, 1992. 256 с.]). В глоссарии будут представлены лишь некоторые термины, единое толкование которых сможет лучше помочь взаимопониманию в рамках задач семинара ЭПИИ. | ||
+ | Круглый стол посвящен обсуждению базового набора терминов, а также форме подачи материала. | ||
+ | |||
+ | ---- | ||
+ | |||
+ | **25 мая 2023 г.** | ||
+ | //Болталка GPT. От имитации диалога к имитации разумности//\\ Докладчик – Карпов Валерий Эдуардович, к.т.н., доцент, начальник Лаборатории робототехники НИЦ “Курчатовский институт”, вице-президент РАИИ | ||
+ | |||
+ | Аннотация: Сейчас, когда накал страстей по поводу ChatGPT несколько угас, возникла иная проблема – устойчивое и широко распространенное представление о том, что подобного рода системы и есть ИИ. В докладе обсуждается устройство ChatGPT-подобных систем и имитаторов осмысленных диалогов. Сначала рассказывается о системах фатического диалога – нашумевших в 60-гг программах Дж.Вейенбаума "Элиза" и "Доктор", опровергающих тезис Тьюринга, затем – вкратце о сути того, что такое искусственные нейронные сети как универсальные аппроксиматоры. Основная часть доклада построена по принципу разъяснения того, как можно было бы построить ChatGPT. Такой подход, по мнению автора, поможет лучше понять суть таких систем, избавив от ложных представлений о них. | ||
+ | |||
+ | Презентация {{ :gptn.pdf |}} | ||
+ | |||
+ | Ссылка на запись семинара [[https://www.youtube.com/watch?v=kxv9AdHWBAg]] | ||
+ | ---- | ||
+ | |||
+ | **2 марта 2023 г.** | ||
+ | //Концепты естественного и искусственного интеллекта (два контура развития интеллекта в современной цивилизации)//\\ Докладчик – Розин Вадим Маркович, гл.н.с. Института философии РАН. | ||
+ | |||
+ | Аннотация: В сообщении будут разведены представления естественного и искусственного интеллекта, а также интеллекта и мышления. Высказана гипотеза о двух способах развития современного мышления и интеллекта - чисто естественном (традиционном) и естественно-искусственном, включающем технику ИИ. | ||
+ | |||
+ | Ссылка на запись семинара [[https://youtu.be/BL4zxWQ8bQU]] | ||
+ | |||
+ | ---- | ||
+ | |||
+ | **15 декабря 2022 г.** Два доклада:\\ | ||
+ | //1. К вопросу о формализации этических учений для коллаборативного «понимающего» робота//\\ Докладчики –\\ | ||
+ | Леушина Влада Вячеславовна, лаборант-исследователь лаборатории робототехники, Национальный исследовательский центр «Курчатовский институт» \\ | ||
+ | Королева Мария Николаевна, к.т.н., доцент кафедры «Компьютерные системы автоматизации производства» МГТУ им. Н.Э. Баумана | ||
+ | |||
+ | Аннотация {{ :этика_ии_15.12.2022_леушина_в.в._королева_м.н..pdf |}} | ||
+ | |||
+ | //2. Этическая валидация автономных и интеллектуальных систем – нормативное регулирование и современное состояние исследований» //\\ Докладчик – Готовцев Павел Михайловичк.т.н., доцент, заместитель начальника отдела биотехнологий и биоэнергетики, НИЦ «Курчатовский институт» \\ | ||
+ | |||
+ | Аннотация. В докладе рассмотрены основные подходы к валидации автономных и интеллектуальных систем, которые отражены сегодня в нормативно-технической и научной литературе. Выделены основные сложности подобной валидации и показаны перспективные направления исследований в данной области. | ||
+ | |||
+ | Ссылка на запись семинара [[https://cloud.mail.ru/public/uWBB/pMHwzzZxU]] | ||
+ | |||
+ | ---- | ||
+ | **16 ноября 2022 г.** | ||
+ | //Связь робоэтики с теорией интеллекта//\\ Докладчик – Алексеева Ирина Юрьевна, д. филос. н., | ||
+ | вед. н. с. сектора философских проблем социальных и гуманитарных наук Института философии РАН. | ||
+ | |||
+ | Аннотация {{ :alekseeva_iy.pdf |}} | ||
+ | |||
+ | Презентация {{ :связь_робоэтики_с_теорией_интеллекта.pdf |}} | ||
+ | |||
+ | Ссылка на запись семинара [[https://cloud.mail.ru/public/RFnt/M1kpG4uu7]] | ||
+ | ---- | ||
**20-21 сентября 2022 г., г. Переславль-Залесский, Институт программных систем им. А. К. Айламазяна Российской академии наук**\\ | **20-21 сентября 2022 г., г. Переславль-Залесский, Институт программных систем им. А. К. Айламазяна Российской академии наук**\\ |