relu

Appliquer une activation ReLU (Rectified Linear Unit)

Syntaxe

Y = relu(X)

Description

L’opération d’activation ReLU (Rectified Linear Unit) effectue une opération de seuil non linéaire où toute valeur en entrée inférieure à zéro est définie à zéro.

Cette opération est équivalente à :

$$\text{ReLU}(x)=\{\begin{array}{cc}x,& x>0\\ 0,& x\le 0\end{array}$$

Remarque

Cette fonction applique l’opération ReLU aux données dlarray. Si vous voulez appliquer l’activation ReLU dans un objet dlnetwork, utilisez reluLayer.

Y = relu(X) calcule l’activation ReLU de l’entrée X en appliquant une opération de seuil. Toutes les valeurs de X inférieures à zéro sont définies à zéro.

Exemples

Appliquer une opération ReLU

Créez un objet dlarray formaté contenant un batch de 128 images en 28 x 28 avec 3 canaux. Spécifiez le format 'SSCB' (spatial, spatial, channel, batch).

miniBatchSize = 128;
inputSize = [28 28];
numChannels = 3;
X = rand(inputSize(1),inputSize(2),numChannels,miniBatchSize);
X = dlarray(X,"SSCB");

Affichez la taille et le format des données d’entrée.

size(X)

ans = 1×4

    28    28     3   128

dims(X)

ans = 
'SSCB'

Appliquez l’opération ReLU avec la fonction relu.

Y = relu(X);

Affichez la taille et le format de la sortie.

size(Y)

ans = 1×4

    28    28     3   128

dims(Y)

ans = 
'SSCB'

Arguments d'entrée

X — Données en entrée

Objet dlarray

Données en entrée, définies par un objet dlarray formaté ou non formaté.

Arguments de sortie

Y — Activations ReLU

dlarray

Activations ReLU, renvoyées en tant que dlarray. La sortie Y a le même type de données sous-jacentes que l’entrée X.

Si les données en entrée X sont un dlarray formaté, Y a le même format de dimension que X. Si les données en entrée sont un dlarray non formaté, Y est un dlarray non formaté avec le même ordre de dimension que les données en entrée.

Capacités étendues

Génération de code C/C++
Générez du code C et C++ avec MATLAB® Coder™.

Génération de code GPU
Générez du code CUDA® pour les GPU NVIDIA® avec GPU Coder™.

GPU Arrays

Accélérez le code en exécutant les calculs sur une unité de traitement graphique (GPU) avec Parallel Computing Toolbox™.

La fonction relu supporte une entrée GPU array selon ces notes d’usage et limitations :

• Lorsque l’argument d’entrée X est un dlarray avec des données sous-jacentes de type gpuArray, cette fonction s’exécute sur le GPU.

Pour plus d’informations, veuillez consulter Exécuter les fonctions MATLAB sur un GPU (Parallel Computing Toolbox).

Historique des versions

Introduit dans R2019b

Voir aussi

dlarray | dlconv | batchnorm | leakyrelu | gelu | dlgradient | dlfeval

Rubriques

• Define Custom Training Loops, Loss Functions, and Networks
• Train Network Using Model Function
• List of Functions with dlarray Support