Журнал «Современная Наука»

АЛГОРИТМ ЗАЩИТЫ СИСТЕМ МАШИННОГО ОБУЧЕНИЯ ОТ УГРОЗЫ МОДИФИКАЦИИ МОДЕЛИ ПУТЕМ ВЫЯВЛЕНИЯ ВНЕДРЕННЫХ ВРЕДОНОСНЫХ ДАННЫХ

Чекмарев Максим Алексеевич (Адъюнкт, Краснодарское высшее военное училище им. С.М. Штеменко)

В работе рассмотрены основные угрозы безопасности для систем машинного обучения и, в частности, угрозы модификации модели путем внедрения вредоносных данных. Предложен алгоритм защиты, основанный на применении технологии развертывающихся искусственных нейронных сетей. Проведено тестирование работы алгоритма с использованием разработанной программы для ЭВМ и получен набор низкоуровневых признаков объекта обучения, позволяющий выявить внедренные вредоносные данные. Сделаны выводы о необходимости проведения дальнейших исследований по данному направлению.

Ключевые слова:машинное обучение, искусственный интеллект, нарушение безопасности, атака отравления, искусственные нейронные сети, низкоуровневые признаки

Читать полный текст статьи …

Ссылка для цитирования:
Чекмарев М. А. АЛГОРИТМ ЗАЩИТЫ СИСТЕМ МАШИННОГО ОБУЧЕНИЯ ОТ УГРОЗЫ МОДИФИКАЦИИ МОДЕЛИ ПУТЕМ ВЫЯВЛЕНИЯ ВНЕДРЕННЫХ ВРЕДОНОСНЫХ ДАННЫХ // Современная наука: актуальные проблемы теории и практики. Серия: Естественные и Технические Науки. -2023. -№07/2. -С. 160-164 DOI 10.37882/2223-2966.2023.7-2.34

ПРАВОВАЯ ИНФОРМАЦИЯ:
Перепечатка материалов допускается только в некоммерческих целях со ссылкой на оригинал публикации. Охраняется законами РФ. Любые нарушения закона преследуются в судебном порядке.
© ООО "Научные технологии"