DOI: 10.17587/prin.15.578-588

УДК: 004.896

О возможности применения механизма внимания при распознавании заболеваний сердечно-сосудистой системы

М. Р. Богданов, канд. биол. наук, доц. кафедры вычислительной математики и кибернетики, bogdanov_marat@mail.ru, Г. Р. Шахмаметова, д-р техн. наук, зав. каф. вычислительной математики и кибернетики, shakhgouzel@mail.ru, Уфимский университет науки и технологий, Н. Н. Оськин, директор, nonik2@mail.ru, Сибирская телеметрическая компания, Пенза

Работа посвящена изучению возможности применения механизма внимания при диагностике различных заболеваний сердечно-сосудистой системы. Биомедицинские данные были представлены в разных модальностях (текст, изображения и временные ряды). Было проведено сравнение эффективности пяти трансформеров, основанных на механизме внимания (трансформер Досовицкого, компактный сверточный трансформер, трансформер с внешним вниманием, трансформер, основанный на токенизации со сдвигом патчей и локальным внутренним вниманием, трансформер, основанный на множественном глубоком внимании) со сверточной нейронной сетью Exception, тремя полносвязными нейронными сетями (MLP-Mixer, Fnet и gMLP) и архитектурой YOLO на задаче многоклассовой классификации (16 классов опасных аритмий). Показана высокая эффективность трансформеров при диагностике кардиологических заболеваний. Наибольшую эффективность показал трансформер, основанный на токенизации со сдвигом патчей и локальным внутренним вниманием.

Ключевые слова: механизм внимания, медицинская диагностика, электрокардиограмма, сверточные нейронные сети, трансформеры, полносвязные нейроные сети, рекуррентные нейронные сети

Стр. 578—588

Исследование поддержано грантом Российского Научного Фонда № 22-19-00471.

Ссылка для цитирования:
Богданов М. Р., Шахмаметова Г. Р., Оськин Н. Н. О возможности применения механизма внимания при распознавании заболеваний сердечно-сосудистой системы