Инструменты пользователя
start
Различия
Здесь показаны различия между двумя версиями данной страницы.
| Предыдущая версия справа и слева Предыдущая версия | |||
|
start [2026/10/16 15:38] platonova |
start [2026/11/05 13:06] (текущий) platonova |
||
|---|---|---|---|
| Строка 1: | Строка 1: | ||
| ====Ближайшее заседание==== | ====Ближайшее заседание==== | ||
| - | **21 октября 2026 г., г. Москва.** \\ | + | **5 ноября 2026 г., г. Екатеринбург.** \\ |
| - | // Модель мира анимата, способного к планированию поведения. // \\ | + | // Какие когнитивные и психологические механизмы нужны этичному искусственному интеллекту и можно ли их создать? // \\ |
| Докладчик: \\ | Докладчик: \\ | ||
| - | Карпов В.Э., д.т.н, начальник лаборатории робототехники НИЦ "Курчатовский институт". \\ | + | Александр Игоревич Котюсов, к. психол. наук, Заведующий Учебно-научной лабораторией нейротехнологий УГИ УрФУ \\ |
| - | + | ||
| - | Аннотация: | + | |
| - | В докладе рассматриваются результаты очередного этапа проекта по созданию робота-партнера, связанные с решением задачи планирования поведения. | + | |
| - | Семиотическая модель мира (ММ) агента-анимата, представляющая его знания о мире в виде множества понятий и отношений между ними, обычно декларативна. Ее основная задача – систематизация и структуризация сущностей мира анимата. Вместе с тем, классическое или символьное планирование поведения в ИИ является хорошо разработанным механизмом, в основе которого обычно лежит множество т.н. STRIPS-правил, использующих формализм логики предикатов. Отсюда возникает вопрос об интеграции декларативной ММ анимата и процедуры символьного планирования поведения. Показано, как описание действий в стиле STRIPS в виде списков условий выполнимости, добавления и удаления фактов декомпозируется в множество элементов семиотической ММ. При этом понятие семиотической ММ дополняется элементами-слотами на компонентах знаков, а также множеством отношений между слотами и соответствующими семантическими сетями. Показано, что реализация компонентов STRIPS-правил требует наличия в модели знаков, представляющих собой абстрактные сущности ("вещь", "место" и т.п.). В качестве примера рассмотрена задача планирования поведения агента, оперирующего множеством объектов для движения между помещениями и выполнения целевой задачи. Построенная ММ определяет компоненты STRIPS-правил, при этом формулировки условий, цели и вид правил относят задачу к категории "тяжелых": целевые условия включают правило вида "все вещи должны быть на своих местах", а в ходе планирования происходит удаление текущего состояния от цели. Планирование – это сложная вычислительная процедура, поэтому были рассмотрены вопросы поэтапного планирования, при котором единая процедура построения плана как поиск оптимального пути в пространстве состояний заменяется на этапы. Показано, что такое разбиение на этапы позволяет построить итоговый план действий, пусть и не оптимальный. | + | |
| - | В докладе обсуждается роль эмоционально-потребностного (ЭП) и "этического" уровней системы управления анимата в процессе планирования поведения. Если "этический" уровень определяет целеполагание, т.е. задает целевое состояние системы, то ЭП-уровень требует совершенно иной интерпретации STRIPS-правил. Уровень ММ не отвечает за реализацию поведения, его задача – определять состояния элементов ЭП-уровня – актуальных потребностей и виртуальной сенсорики. | + | |
| - | Необходима регистрация по адресу: ethicsai@yandex.ru | + | Аннотация: С точки зрения психологии у человека есть определённые механизмы, лежащие в основе этичного поведения: эмпатия, моральная идентичность, групповая принадлежность и готовые когнитивные схемы. Один из путей для того, чтоб сделать системы искусственного интеллекта более этичными не за счёт внешних рамок в виде компонентов системных промтов или контролирующих модулей, заключается в создании для них новых психологических компонентов, в той или иной степени воспроизводящих механизмы, присущие человеку. В рамках семинара мы обсудим как изучается "психика" систем ИИ, а также какие есть подходы для добавления новых психических модулей. Кроме этого, обсудим, как возможность описания психических процессов как универсальных закономерностей, позволяет по новому взглянуть на разработку этичных ИИ систем. |
| + | |||
| + | |||
| + | Необходима регистрация по адресу: phil.urfu@yandex.ru | ||
| [[prog_materials|Материалы семинара]] | [[prog_materials|Материалы семинара]] | ||
start.txt · Последние изменения: 2026/11/05 13:06 — platonova
Инструменты страницы
Если не указано иное, содержимое этой вики предоставляется на условиях следующей лицензии: CC Attribution-Share Alike 4.0 International
