Различия

Здесь показаны различия между двумя версиями данной страницы.

--- start [2025/01/10 11:23]
platonova
+++ start [2026/09/03 10:51] (текущий)
platonova
@@ Строка 1: / Строка 1: @@
 ====Ближайшее заседание====
-**05 февраля 2025 г.**
+**16 сентября 2026 г.**
-//Проблема «искусственного зла»?//
+// Функции "сверх-разума" в моделях интеллекта. // \\
-Докладчик: Перов Вадим Юрьевич, кандидат философских, доцент, зав.каф.этики, Институт философии, Санкт-Петербургский государственный университет
+Докладчики: \\
+Гафитулин Тимур Маратович, кандидат философских наук. \\
-Аннотация:
+Аннотация: Тема «сверх-разума» («сверх-интеллекта», «Superintelligence») не нова. Например, Н. Бостром в книге "Superintelligence: Paths, Dangers, Strategies" (в русском переводе книга вышла с названием «Искусственный интеллект. Этапы. Угрозы. Стратегии») смотрит на «сверх-разум» с футурологических и этических позиций. Нам же важен взгляд с точки зрения философии техники. В развитии технологий есть устойчивая тенденция к созданию «супер-систем» и «над-систем». Это и мега-машины, и инфраструктуры, и платформенные, и сетевые решения. Контроль этих супер-решений и их безопасность - не только этическая, но и чисто прикладная, инженерная задача. Чтобы её решить, необходимо ввести в систему как обычные функции регулирования, блокировки и торможения, так и средства экстренной остановки, спасения, отката к предыдущей версии. Для проектирования этих средств и их испытаний нужен или опыт катастроф, или система, превосходящая по своим возможностям регулируемую. В докладе рассматриваются вопросы проектирования Супер-ИИ систем для выполнения этих функций относительно моделей Искусственного Интеллекта. В чём они должны превосходить «обычный ИИ»? В скорости? В объёме данных? В коллективности? В полномочиях? Может ли эта система превосходить «человеческий» интеллект, и что в этом случае будет тем «сверх-разумом», который будет контролировать эту систему? Ответы на эти вопросы лежат в направлении технической «социопроекции», то есть проецирования на технические устройства не органов, а социальных ролей и институтов.
-Появление новых и особых сфер знания и практик с необходимостью ставит вопрос о критическом переосмыслении соответствующего понятийно- категориального аппарата. Не является исключением и этика в сфере искусственного интеллекта, развитие которой не оставила без внимания базовые этические понятия добра и зла. Обсуждение проблемы зла в современных этических теориях обычно начинается со ставшего традиционным рассмотрения видов зла: моральное зло (зависящее от деятельности людей, их свободы, сознательности и т.д.) и физическое зло (природные явления, физиология людей и т.д.). Появление технологий, основанных на алгоритмах искусственного интеллекта, создание автономных интеллектуальных систем и проекты создания на их основе Искусственных Моральных Агентов обусловило возникновение идей существования в качестве самостоятельного «искусственного зла». В докладе анализируются возможные способы понимания и интерпретации концепта «искусственное зло». Особое внимание уделено проблемам, связанным с возможностью алгоритмам искусственного интеллекта быть «злыми» в строгом «аморальном» смысле. Показано, что Искусственный Моральный Агент не способен отклоняться от алгоритмически правильного поведения и нарушать «правила добра», поэтому «искусственное зло» может рассматриваться только как метафора.
 Необходима регистрация по адресу: ethicsai@yandex.ru
-[[программа|Материалы семинара]]
+[[prog_materials|Материалы семинара]]

Этические проблемы искусственного интеллекта

Инструменты пользователя

Инструменты сайта

Различия

Инструменты страницы