В России появилось пособие пособие по этике искусственного интеллекта
В НИЯУ МИФИ выпустили учебное пособие «Этика искусственного интеллекта» — о том, как перевести философские представления о морали на язык разработки ИИ-систем. Его написали профессор кафедры философии, онтологии и теории познания Екатерина Тихомирова и старший преподаватель кафедры кибернетики Роман Душкин.
В центре книги — вопрос о том, кто отвечает за последствия решений, принятых с помощью алгоритмов. По мере того как большие языковые модели входят в бизнес, медицину и государственное управление, общие этические принципы приходится переводить в конкретные технические требования к ИИ-системам — именно этому стыку философии и инженерии посвящено пособие.
Авторы разграничивают понятия этики, морали, нравственности и права и показывают, почему их нельзя считать взаимозаменяемыми. По их мнению, если свести этические вопросы к соблюдению закона, возникнет логика «разрешено все, что прямо не запрещено». Отдельный блок посвящен тому, как культурные различия влияют на представления о добре и справедливости: в книге сопоставляются китайская, японская, российская и западная традиции.
В инженерной части авторы начинают с экспертных систем советского периода и доходят до современных способов согласования поведения ИИ с человеческими ценностями. Они разбирают обучение с подкреплением на основе обратной связи от человека (RLHF), конституционный ИИ (Constitutional AI), тестирование моделей с имитацией атак и злоупотреблений (red teaming), а также выстраивание процессов управления ИИ.
Отдельные главы посвящены тому, как ИИ-системы дают сбои и как их могут использовать во вред. Авторы также критикуют формальные этические кодексы: по их мнению, без технических механизмов, которые воплощают заявленные принципы в самих системах, такие документы не обеспечивают реального контроля над технологиями, а лишь создают его видимость.
Книгу совместно издали Издательство МНИИПУ и компания «Экосистемные цифровые решения» (ЭЦР). Компания также подготовила цифровое сопровождение пособия и включила его в программу подготовки специалистов в своем учебном центре. Предисловие написал академик РАН Сергей Глазьев, а послесловие — генеральный директор МНИИПУ и заведующий кафедрой управления бизнес-проектами НИЯУ МИФИ Александр Агеев.
«Этика искусственного интеллекта» открывает цикл НИЯУ МИФИ о философском осмыслении технологий и их влиянии на человека и культуру. Следом в серии заявлены книги «Эстетика искусственного интеллекта», «Антропология искусственного интеллекта» и «Философия искусственного интеллекта».
Пособие рассчитано на студентов и аспирантов ИТ- и философских направлений, разработчиков ИИ-систем, правоведов и исследователей. В релизе МИФИ его рекомендуют использовать как базовый материал для курса «Философия науки и этика ИИ» и смежных вузовских дисциплин.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
