В России недавно была издана книга под названием «Этика искусственного интеллекта». Это первое пособие в стране, объединяющее традиционную философскую этику с инженерными методами формализации моральных норм в архитектуре искусственного интеллекта. Авторами данного издания стали Екатерина Тихомирова, профессор кафедры философии, онтологии и теории познания НИЯУ МИФИ, и Роман Душкин, старший преподаватель кафедры кибернетики этого же учебного заведения. Подробности можно найти на сайте СарФТИ НИЯУ МИФИ.
Вопрос о том, кто несет ответственность за решения, принимаемые алгоритмами, стал особенно актуален в свете быстрого внедрения больших языковых моделей в различные сферы, включая бизнес, медицину и государственное управление. В то же время наблюдается рост числа деклараций и этических кодексов, посвященных ИИ, которые редко преобразуются в реальные инженерные решения. Эксперты, занимающиеся регулированием технологий, подчеркивают нехватку специалистов, способных работать на стыке философии и технических инструментов для согласования (alignment) поведения моделей с человеческими ценностями.
Россия активно развивает нормативную базу в области искусственного интеллекта, что делает подготовку кадров с междисциплинарными навыками не только актуальной, но и практической задачей. Соиздателями книги стали Издательство МНИИПУ (Международный научно-исследовательский институт проблем управления) и компания «Экосистемные цифровые решения» (ООО «ЭЦР»).
Предисловие к учебнику написано академиком РАН, доктором экономических наук Сергеем Глазьевым, а послесловие — генеральным директором МНИИПУ и заведующим кафедрой управления бизнес-проектами НИЯУ МИФИ Александром Агеевым. Компания ЭЦР не только выступила соиздателем, но и разработала цифровое сопровождение пособия; в учебном центре этой компании книга уже включена в программу подготовки специалистов.
В книге авторы четко разграничивают понятия, которые часто смешиваются в публичной дискуссии: этика как наука, мораль как система культурных норм, нравственность как личное освоение этих норм и право как формализованный, институционально закрепленный аспект. Авторы предупреждают, что подмена этики правом может привести к технократическому минимализму — состоянию, когда допустимо все, что не запрещено законом.
Кроме того, в книге рассматривается культурная вариативность моральных категорий. Авторы анализируют, как универсальные понятия добра и справедливости могут по-разному интерпретироваться в китайской, японской, российской и западной традициях, и почему это имеет критическое значение для разработки ИИ-систем, которые функционируют в различных культурных контекстах.
Инженерная часть учебника охватывает историю формализации морали от экспертных систем советского периода до современных методов работы с большими языковыми моделями. Включены такие темы, как RLHF, Constitutional AI, red teaming и governance pipeline. Также в книге представлены типологии сбоев и злоупотреблений в ИИ-системах, а также критика декларативных этических кодексов, которые создают иллюзию контроля без реальной инженерной реализации.
Издание «Этика искусственного интеллекта» открывает новый цикл публикаций НИЯУ МИФИ, посвященных философскому осмыслению технологий. Следующими в этой серии станут книги «Эстетика искусственного интеллекта», «Антропология искусственного интеллекта» и «Философия искусственного интеллекта». Авторы нацелены на то, чтобы системно описать, как технологические изменения влияют на культурные основы и представления о человеке.
Учебник предназначен для студентов и аспирантов, изучающих IT и философские дисциплины, а также для разработчиков ИИ-систем, правоведов и исследователей, работающих на стыке технологий и гуманитарных наук. Книга рекомендована как основной материал для курса «Философия науки и этика ИИ» и смежных дисциплин в вузах.