ГОСТ Р 70462.1—2022
меняя нелинейную функцию к своим входным значениям, и передает его другим элементам или пред
ставляет его в качестве выходного значения.
П р и м е ч а н и я
1 В то время как некоторые нейронные сети предназначены для моделирования функционирования нейро
нов в нервной системе, большинство нейронных сетей используются в ИИ в качестве реализаций нейросетевой
модели.
2 Примерами нелинейных функций являются пороговая функция, сигмоидальная функция и полиномиаль
ная функция.
[ИСО/МЭК 2382:2015, 2120625, изменено — добавлены сокращенные термины, а примеча
ния 3— 5 удалены]
3.5
требование
(requirement): Заявление, которое обозначает или выражает необходимость, а
также связанные с ней ограничения и условия.
[ISO/IEC/IEEE 15288:2015, 4.1.37]
3.6
робастность
(robustness): Способность системы ИИ поддерживать качество работы алгорит
мов машинного обучения при любых условиях.
П р и м е ч а н и е — В настоящем стандарте главным образом описываются условия, связанные со вход
ными данными, такими как их спектр и характеристики. Но это определение представлено более широко, чтобы не
исключать аппаратный сбой и другие виды условий.
3.7
тестирование
(testing): Деятельность, в которой система или компонент выполняется в опре
деленных условиях, результаты наблюдают или фиксируют, а также проводят оценку какого-либо аспек та
системы или компонента.
[ISO/IEC/IEEE 26513:2017, 3.42]
3.8
тестовые данные
(test data): Подмножество выборок входных данных (см. 3.3), используе
мых для оценки ошибки обобщения окончательной модели машинного обучения, выбранной из набора
возможных моделей машинного обучения [2].
3.9
обучающие данные
(training dataset): Подмножество выборок, которые подаются в модель
машинного обучения.
3.10
валидация
(validation): Подтверждение посредством предоставления объективных доказа
тельств того, что требования (см. 3.5) для конкретного предполагаемого использования или примене ния
выполнены.
[ИСО/МЭК 25000:2014, 4.41, изменено — примечание 1 удалено]
3.11
валидационные данные
(validation data): Подмножество выборок входных данных (3.3), ис
пользуемых для оценки ошибки прогнозирования возможной модели машинного обучения [2].
П р и м е ч а н и е — Валидация (3.10) модели машинного обучения может быть использована для выбора
модели машинного обучения.
3.12
верификация
(verification): Подтверждение посредством предоставления объективных до
казательств того, что указанные требования выполнены.
[ИСО/МЭК 25000:2014, 4.43, изменено — примечание 1 удалено]
4 Обзор существующих методов оценки робастности нейронных сетей
4.1 Общие положения
4.1.1 Концепция робастности
Цели обеспечения робастности направлены на то, чтобы ответить на вопросы «Какая степень ро
бастности требуется системе?» или «Какие свойства робастности представляют интерес?». Свойства
робастности показывают, насколько четко система обрабатывает новые данные по сравнению с резуль
татами обработки данных, ожидаемых в типовых операциях.
4.1.2 Типичный рабочий процесс для оценки робастности
В настоящем пункте рассмотрено проведение оценки робастности нейронных сетей в различных
задачах ИИ, таких как классификация, интерполяция и другие сложные задачи.
2