Капустин Илья Сергеевич (РАНХиГС г. Москва, Россия)
Ромашкова Оксана Николаевна (Доктор технических наук, профессор,
профессор, ФГБОУ ВО «Российская академия народного хозяйства и государственной службы при Президенте РФ (РАНХиГС)»
г. Москва, Россия
)
| |
В статье исследуется проблема интерпретируемости моделей компьютерного зрения. Автор отмечает, что хотя существует множество методов, предназначенных для объяснения принимаемых глубокими нейронными сетями решений, мало усилий было приложено для обеспечения объективной релевантности этих объяснений. В статье доказана корреляция между качеством модели и качеством ее интерпретации, рассмотрены метрики для оценки интерпретаций, взятые из области алгоритмической стабильности: среднее обобщение (MeGe) и относительная согласованность (ReCo), а также предложена новая метрика для оценки качества интерпретаций моделей компьютерного зрения, учитывающая качество работы исходной модели.
Ключевые слова:интерпретация, машинное обучение, корреляция, MeGe, ReCo, качество интерпретации, оценка модели
|
|
| |
|
Читать полный текст статьи …
|
Ссылка для цитирования:
Капустин И. С., Ромашкова О. Н. МЕТОДЫ ОЦЕНКИ ИНТЕРПРЕТАЦИЙ МОДЕЛЕЙ КОМПЬЮТЕРНОГО ЗРЕНИЯ // Современная наука: актуальные проблемы теории и практики. Серия: Естественные и Технические Науки. -2024. -№01/2. -С. 29-35 DOI 10.37882/2223-2966.2024.1-2.05 |
|
|
ПРАВОВАЯ
ИНФОРМАЦИЯ:
