DOI: 10.17587/prin.16.470-479

УДК: 004.51 + 004.89

Метод объяснения прогнозов моделей искусственного интеллекта на основе алгоритма Шепли и генеративной языковой модели

П. В. Матренин, канд. техн. наук, вед. науч. сотр. научной лаборатории цифровых двойников в электроэнергетике, p.v.matrenin@urfu.ru, Уральский федеральный университет имени первого Президента России Б. Н. Ельцина, Екатеринбург

Рассмотрена задача совершенствования человеко-машинных интерфейсов интеллектуальных систем в отраслях с высокой ответственностью за принимаемые решения, таких как электроэнергетика. Описан разработанный автором метод, основанный на алгоритме аддитивного объяснения Шепли. Предложена его комплексная модификация с нормализацией вектора вкладов признаков, семантической группировкой взаимосвязанных признаков, визуализацией вкладов, отличающейся от используемой в настоящее время способом расположения элементов, а также генерацией текстовых объяснений с помощью языковой модели. Представленный метод направлен на снижение когнитивной нагрузки на пользователя при анализе рекомендаций и прогнозов, формируемых интеллектуальными системами поддержки принятия решений, а также повышение доверия отраслевых специалистов к таким системам. В качестве примера рассмотрена задача краткосрочного прогноза электропотребления промышленного предприятия.

Ключевые слова: объяснимый искусственный интеллект, человеко-машинный интерфейс, система поддержки принятия решений, языковая модель, прогнозирование временных рядов

Стр. 470—479

Работа выполнена в рамках государственного задания при финансовой поддержке Министерства науки и высшего образования Российской Федерации (тема № FEUZ-2025-0005 Разработка моделей и методов объяснимого искусственного интеллекта для повышения надежности и безопасности внедрения распределенных интеллектуальных систем на объектах электроэнергетики).

Ссылка для цитирования:
Матренин П. В. Метод объяснения прогнозов моделей искусственного интеллекта на основе алгоритма Шепли и генеративной языковой модели // Программная инженерия. 2025. Том 16, № 9. С. 470—479. DOI: 10.17587/prin.16.470-479.

Полный текст на eLIBRARY