Различия

Здесь показаны различия между двумя версиями данной страницы.

--- start [2026/01/14 17:28]
platonova
+++ start [2026/09/03 10:51] (текущий)
platonova
@@ Строка 1: / Строка 1: @@
 ====Ближайшее заседание====
-**21 января 2026 г.**
+**16 сентября 2026 г.**
-// Этика и математика в искусственном интеллекте. //
+// Функции "сверх-разума" в моделях интеллекта. // \\
-Докладчик: \\
+Докладчики: \\
-Юрий Юрьевич Петрунин, доктор философских наук, профессор, заведующий кафедрой «Математических методов и информационных технологий в управлении» факультета государственного управления МГУ имени М.В. Ломоносова, руководитель секции «Управление знаниями» Научного совета при Президиуме РАН по методологии искусственного интеллекта и когнитивных исследований.\\
+Гафитулин Тимур Маратович, кандидат философских наук. \\
-Аннотация: Проблема взаимоотношений математики и этики рассматривается в докладе как значимая для развития искусственного интеллекта и способов его регулирования. Искусственный интеллект (ИИ) является междисциплинарным научным направлением. Активное участие в создании и применении ИИ принимало множество наук: от математики и логики до лингвистики и юриспруденции. Можно отметить, что с развитием исследований в области ИИ важность вклада конкретной науки могла как возрастать, так и уменьшаться. Важны также взаимоотношения между разными науками, которые влияют на эффективность ИИ и его адаптацию в обществе.  С учетом данного контекста заслуживают внимания следующие этапы в истории взаимоотношений математики и этики: 1) эпоха античной гармонии, когда математические и этические принципы рассматривались в единой системе (Пифагор, Платон); 2) длительный период «математизации этики» (от Спинозы и Бентама до применения теории игр и нечеткой логики в моральных дилеммах), характеризующийся экспансией математических методов в сферу нравственности; 3) становящийся этап «этики в математике» (Ethics in Mathematics), который предполагает осознание социальной ответственности математиков и этическую рефлексию их деятельности (особенно в контексте больших данных, алгоритмов и искусственного интеллекта). В чем причина «нестабильности» союза математики и этики? Можно ли найти более органические связи между ними? От ответа на эти вопросы зависит не только разработка благожелательного ИИ, но и решение многих других актуальных проблем современности.
+Аннотация: Тема «сверх-разума» («сверх-интеллекта», «Superintelligence») не нова. Например, Н. Бостром в книге "Superintelligence: Paths, Dangers, Strategies" (в русском переводе книга вышла с названием «Искусственный интеллект. Этапы. Угрозы. Стратегии») смотрит на «сверх-разум» с футурологических и этических позиций. Нам же важен взгляд с точки зрения философии техники. В развитии технологий есть устойчивая тенденция к созданию «супер-систем» и «над-систем». Это и мега-машины, и инфраструктуры, и платформенные, и сетевые решения. Контроль этих супер-решений и их безопасность - не только этическая, но и чисто прикладная, инженерная задача. Чтобы её решить, необходимо ввести в систему как обычные функции регулирования, блокировки и торможения, так и средства экстренной остановки, спасения, отката к предыдущей версии. Для проектирования этих средств и их испытаний нужен или опыт катастроф, или система, превосходящая по своим возможностям регулируемую. В докладе рассматриваются вопросы проектирования Супер-ИИ систем для выполнения этих функций относительно моделей Искусственного Интеллекта. В чём они должны превосходить «обычный ИИ»? В скорости? В объёме данных? В коллективности? В полномочиях? Может ли эта система превосходить «человеческий» интеллект, и что в этом случае будет тем «сверх-разумом», который будет контролировать эту систему? Ответы на эти вопросы лежат в направлении технической «социопроекции», то есть проецирования на технические устройства не органов, а социальных ролей и институтов.
 Необходима регистрация по адресу: ethicsai@yandex.ru
-[[программа|Материалы семинара]]
+[[prog_materials|Материалы семинара]]

Этические проблемы искусственного интеллекта

Инструменты пользователя

Инструменты сайта

Различия

Инструменты страницы