Vérification

Entraîner des réseaux robustes et vérifier la robustesse des réseaux

La vérification du Deep Learning est un ensemble de techniques d’évaluation des propriétés des réseaux de neurones profonds. Par exemple, vous pouvez vérifier les propriétés de robustesse d’un réseau, calculer les limites de valeur de la sortie du réseau, trouver des exemples contradictoires, détecter les données hors distribution et vérifier la conformité aux normes de l’industrie.

Le support package Deep Learning Toolbox Verification Library permet de tester les propriétés de robustesse des réseaux de Deep Learning.

Utilisez la fonction verifyNetworkRobustness pour vérifier la robustesse du réseau par rapport à des exemples contradictoires. Un réseau est robuste par rapport à des entrées contradictoires si la classe prédite du réseau ne change pas lorsque l’entrée est perturbée entre les limites d'entrée inférieures et supérieures spécifiées. Pour un ensemble de limites d’entrée, la fonction vérifie si le réseau est robuste par rapport aux exemples contradictoires entre ces limites d’entrée et renvoie verified, violated ou unproven.
Utilisez la fonction estimateNetworkOutputBounds pour estimer la plage de valeurs de sortie que le réseau renvoie lorsque l’entrée est entre les limites inférieures et supérieures spécifiées. Utilisez cette fonction pour estimer dans quelle mesure les prédictions du réseau sont sensibles aux perturbations en entrée.
Utilisez la fonction networkDistributionDiscriminator pour créer un discriminateur de distribution qui distingue les données appartenant ou non à la distribution.

Fonctions

`estimateNetworkOutputBounds`	Estimate output bounds of deep learning network (depuis R2022b)
`verifyNetworkRobustness`	Verify adversarial robustness of deep learning network (depuis R2022b)
`networkDistributionDiscriminator`	Deep learning distribution discriminator (depuis R2023a)
`isInNetworkDistribution`	Determine whether data is within the distribution of the network (depuis R2023a)
`distributionScores`	Distribution confidence scores (depuis R2023a)
`drise`	Explain object detection network predictions using D-RISE (depuis R2024a)

Objets

`BaselineDistributionDiscriminator`	Baseline distribution discriminator (depuis R2023a)
`EnergyDistributionDiscriminator`	Energy distribution discriminator (depuis R2023a)
`ODINDistributionDiscriminator`	ODIN distribution discriminator (depuis R2023a)
`HBOSDistributionDiscriminator`	HBOS distribution discriminator (depuis R2023a)

Rubriques

Verification of Neural Networks
Learn about verification of neural networks using Deep Learning Toolbox™ Verification Library.
Verify Robustness of Deep Learning Neural Network
This example shows how to verify the adversarial robustness of a deep learning neural network.
Verify Robustness of ONNX Network
This example shows how to verify the adversarial robustness of an imported ONNX™ deep neural network. (depuis R2024a)
Deep Learning Visualization Methods
Learn about and compare deep learning visualization methods.
Out-of-Distribution Detection for Deep Neural Networks
This example shows how to detect out-of-distribution (OOD) data in deep neural networks.
Verify an Airborne Deep Learning System
This example shows how to verify a deep learning system for airborne applications and is based on the work in [5,6,7], which includes the development and verification activities required by DO-178C [1], ARP4754A [2], and prospective EASA and FAA guidelines [3,4]. (depuis R2023b)

Exemples présentés

Generate Untargeted and Targeted Adversarial Examples for Image Classification

Use the fast gradient sign method (FGSM) and the basic iterative method (BIM) to generate adversarial examples for a pretrained neural network.

Ouvrir le live script

Train Image Classification Network Robust to Adversarial Examples

Train a neural network that is robust to adversarial examples using fast gradient sign method (FGSM) adversarial training.

Ouvrir le live script

Train Robust Deep Learning Network with Jacobian Regularization

Train a neural network that is robust to adversarial examples using a Jacobian regularization scheme.

Ouvrir le live script

Generate Adversarial Examples for Semantic Segmentation

Generate adversarial examples for a semantic segmentation network using the basic iterative method (BIM).

Ouvrir le live script

Explore Semantic Segmentation Network Using Grad-CAM

Explore the predictions of a pretrained semantic segmentation network using Grad-CAM.

Ouvrir le live script

Interpret Deep Network Predictions on Tabular Data Using LIME

Use the locally interpretable model-agnostic explanations (LIME) technique to understand the predictions of a deep neural network classifying tabular data. You can use the LIME technique to understand which predictors are most important to the classification decision of a network.

Ouvrir le live script

Out-of-Distribution Data Discriminator for YOLO v4 Object Detector

Detect out-of-distribution (OOD) data in a YOLO v4 object detector.

Ouvrir le live script

Out-of-Distribution Detection for LSTM Document Classifier

Detect out-of-distribution (OOD) data in an LSTM document classifier.

Ouvrir le live script