Инструменты пользователя
Боковая панель
Это старая версия документа!
Ближайшее заседание
14 февраля 2024 г. Искусственный интеллект VS языковые модели GPT
Докладчик: Шалак Владимир Иванович (д. филос. н., руководитель сектора логики ИФ РАН)
Аннотация: В докладе еще раз будет поставлен вопрос о том, что можно считать искусственными интеллектуальными системами. В самом общем виде – это системы, обладающие характеристиками, отличающими Homo sapiens от всего остального мира живой природы. Самообучение и распознавание образов не являются такими отличительными признаками. Одна из главных характеристик – способность к понятийному мышлению. В результате анализа простых примеров, с которыми не справляются нейросети, будет показано, что никакое дообучение на больших объемах текстов не позволит улучшить их работу по причине определенных теоретических ограничений. Будет объяснено, в чем заключаются эти ограничения. Языковые модели порождения текстов нейросетями GPT являются тупиковым направлением в моделировании ИИ. Поскольку в настоящее время начинается бездумное внедрение нейросетей в самые разные области человеческой деятельности, обретает актуальность понятие нейрохакинга – принуждения нейросетей принимать нужные пользователю решения, например, в судопроизводстве. Это будет продемонстрировано на примере принуждения трех сетей принять в качестве истинного утверждение: «Если некоторый объект обладает свойством P, то всякий объект обладает свойством P». Его частным случаем будет утверждение: «Если некоторый человек бородат, то все люди бородаты». Будут предложены общие методы нейрохакинга.
Необходима регистрация по адресу: ethicsai@yandex.ru
Инструменты страницы
