DOI: 10.17587/prin.16.603-611

УДК: 004.89

Метод объяснений результатов моделей машинного обучения в виде нечетких логических правил для систем поддержки принятия решений

А. И. Хальясмаа, канд. техн. наук, зав. науч. лаб. цифровых двойников в электроэнергетике, a.i.khaliasmaa@urfu.ru, Уральский федеральный университет имени первого Президента России Б. Н. Ельцина, Екатеринбург

Внедрение моделей машинного обучения в системы поддержки принятия решений требует совершенствования методов объяснимого искусственного интеллекта, особенно в задачах с высокой ценой ошибочных решений. Предложен новый метод формирования понятных для пользователей объяснений выводов и прогнозов, формируемых моделями машинного обучения. Основная идея метода заключается в преобразовании вектора локальных вкладов признаков, полученного с использованием алгоритма локального апостериорного объяснения, в нечетко-логическое правило с лингвистическими переменными. Представление объяснений в виде правил позволяет повысить объяснимость и прозрачность модели для пользователей систем поддержки принятия решений. Метод апробирован в задаче технической диагностики трансформаторного оборудования на реальных данных.

Ключевые слова: объяснимый искусственный интеллект, человеко-машинный интерфейс, нечеткая логика, интеллектуальные программные комплексы, техническая диагностика, высоковольтное оборудование

Стр. 603—611

Работа выполнена в рамках государственного задания при финансовой поддержке Министерства науки и высшего образования Российской Федерации (тема № FEUZ-2025-0005 Разработка моделей и методов объяснимого искусственного интеллекта для повышения надежности и безопасности внедрения распределенных интеллектуальных систем на объектах электроэнергетики).

Ссылка для цитирования:
Хальясмаа А. И. Метод объяснений результатов моделей машинного обучения в виде нечетких логических правил для систем поддержки принятия решений // Программная инженерия. 2025. Том 16, № 12. С. 603—611. DOI: 10.17587/prin.16.603-611.

Полный текст на eLIBRARY