DOI: 10.17587/prin.16.190-198

УДК: 004.852

Состязательное тестирование моделей сегментации изображений

Е. А. Воробьев, студент, voro6yov.egor@gmail.com, Д. Е. Намиот, д-р техн. наук, вед. науч. сотр., dnamiot@gmail.com, МГУ имени М. В. Ломоносова

Сегментация изображений — одна из наиболее часто решаемых задач в обработке изображений. При этом модели сегментации изображений, как и любые другие модели глубокого обучения, подвержены состязательным атакам — специальным модификациям данных на разных этапах стандартного конвейера машинного обучения, которые препятствуют правильной работе модели и являются проблемным вопросом для практического использования моделей глубокого обучения. Рассмотрены так называемые атаки уклонения, когда модифицируются входные данные на этапе исполнения (вывода). Представлено оригинальное инструментальное средство — Segmentation Robustness Framework (SRF), предназначенное для тестирования устойчивости моделей сегментации к цифровым состязательным атакам.

Ключевые слова: машинное обучение, глубокое обучение, сегментация изображений, состязательные атаки

Стр. 190—198

Авторы благодарны сотрудникам лаборатории Открытых информационных технологий кафедры Информационной безопасности факультета ВМК МГУ имени М. В. Ломоносова за обсуждения и ценные замечания. Статья выполнена в рамках развития направления «Искусственный интеллект в кибербезопасности» на факультете ВМК МГУ имени М. В. Ломоносова [16] и является продолжением серии работ, начатой публикацией статьи [17].

Ссылка для цитирования:
Воробьев Е. А., Намиот Д. Е. Состязательное тестирование моделей сегментации изображений // Программная инженерия. 2025. Том 16, № 4. С. 190—198. DOI: 10.17587/prin.16.190-198.

Полный текст на eLIBRARY