La traduction de cette page n'est pas à jour. Cliquez ici pour voir la dernière version en anglais.

softmaxLayer

Couche softmax

Description

Une couche softmax applique une fonction softmax à l’entrée.

Création

Syntaxe

layer = softmaxLayer

layer = softmaxLayer(Name=name)

Description

layer = softmaxLayer crée une couche softmax.

layer = softmaxLayer(Name=name) crée une couche softmax et définit la propriété optionnelle Name avec une paire nom-valeur. Par exemple, softmaxLayer(Name="sm1") crée une couche softmax avec le nom "sm1".

Propriétés

Name — Nom de la couche

"" (par défaut) | vecteur de caractères | string scalar

Nom de la couche, défini par un vecteur de caractères ou un string scalar. Pour le tableau de Layer en entrée, les fonctions trainnet et dlnetwork attribuent automatiquement des noms aux couches avec le nom "".

L’objet SoftmaxLayer stocke cette propriété comme un vecteur de caractères.

Types de données : char | string

NumInputs — Nombre d’entrées

Lecture seule : 1 (par défaut)

Ce propriété est en lecture seule.

Nombre d’entrées de la couche, renvoyé comme étant 1. Cette couche accepte seulement une entrée unique.

Types de données : double

InputNames — Noms des entrées

Lecture seule : {'in'} (par défaut)

Ce propriété est en lecture seule.

Noms des entrées, renvoyés comme étant {'in'}. Cette couche accepte seulement une entrée unique.

Types de données : cell

NumOutputs — Nombre de sorties

Lecture seule : 1 (par défaut)

Ce propriété est en lecture seule.

Nombre de sorties de la couche, renvoyé comme étant 1. Cette couche a seulement une sortie unique.

Types de données : double

OutputNames — Noms des sorties

Lecture seule : {'out'} (par défaut)

Ce propriété est en lecture seule.

Noms des sorties, renvoyés comme étant {'out'}. Cette couche a seulement une sortie unique.

Types de données : cell

Exemples

Créer une couche softmax

Créez une couche softmax nommée "sm1".

layer = softmaxLayer(Name="sm1")

layer = 
  SoftmaxLayer with properties:

    Name: 'sm1'

Ajoutez une couche softmax dans un tableau de Layer.

layers = [ ...
    imageInputLayer([28 28 1])
    convolution2dLayer(5,20)
    reluLayer
    maxPooling2dLayer(2,Stride=2)
    fullyConnectedLayer(10)
    softmaxLayer]

layers = 
  6x1 Layer array with layers:

     1   ''   Image Input       28x28x1 images with 'zerocenter' normalization
     2   ''   2-D Convolution   20 5x5 convolutions with stride [1  1] and padding [0  0  0  0]
     3   ''   ReLU              ReLU
     4   ''   2-D Max Pooling   2x2 max pooling with stride [2  2] and padding [0  0  0  0]
     5   ''   Fully Connected   10 fully connected layer
     6   ''   Softmax           softmax

Algorithmes

Couche softmax

Une couche softmax applique une fonction softmax à l’entrée.

Pour des problèmes de classification, une couche softmax puis une couche de classification suivent généralement la couche entièrement connectée finale.

La fonction d’activation de l’unité de sortie est la fonction softmax :

$$y_r\left(x\right)=\frac{\exp \left(a_r\left(x\right)\right)}{{\displaystyle \sum _{j=1}^k\exp \left(a_j\left(x\right)\right)}},$$

où $$0\le y_r\le 1$$ et $${\displaystyle \sum _{j=1}^k{y}_j=1}$$.

La fonction softmax est la fonction d’activation de l’unité de sortie après la dernière couche entièrement connectée pour les problèmes de classification multiclasse :

$$P\left(c_r|x,\theta \right)=\frac{P\left(x,\theta |c_r\right)P\left(c_r\right)}{{\displaystyle \sum _{j=1}^{k}P\left(x,\theta |c_j\right)P\left(c_j\right)}}=\frac{\exp \left(a_r\left(x,\theta \right)\right)}{{\displaystyle \sum _{j=1}^k\exp \left(a_j\left(x,\theta \right)\right)}},$$

où $$0\le P\left(c_r|x,\theta \right)\le 1$$ et $${\displaystyle \sum _{j=1}^{k}P\left(c_j|x,\theta \right)=1}$$. De plus, $$a_r=\ln \left(P\left(x,\theta |c_r\right)P\left(c_r\right)\right)$$, $$P\left(x,\theta |c_r\right)$$ est la probabilité conditionnelle de l’échantillon selon la classe r et $$P\left(c_r\right)$$ est la probabilité a priori de la classe.

La fonction softmax est également appelée fonction exponentielle normalisée et peut être considérée comme la généralisation multiclasse de la fonction sigmoïde [1].

Formats des entrées et des sorties des couches

Les couches d’un tableau de couches ou d’un graphe de couches transmettent des données aux couches suivantes sous forme d’objets dlarray. Le format d’un objet dlarray est une chaîne de caractères où chaque caractère décrit la dimension correspondante des données. Les formats se composent d’un ou plusieurs des caractères suivants :

• "S" — Spatial

• "C" — Channel (canal)

• "B" — Batch

• "T" — Time (temps)

• "U" — Unspecified (Non spécifié)

Par exemple, vous pouvez décrire les données d’image 2D représentées par un tableau 4D dont les deux premières dimensions correspondent aux dimensions spatiales des images, la troisième dimension correspond aux canaux (channels) des images et la quatrième dimension correspond à la dimension du batch, selon le format "SSCB" (spatial, spatial, channel, batch).

Vous pouvez interagir avec ces objets dlarray dans des workflows de différenciation automatiques comme ceux permettant de développer une couche personnalisée en utilisant un objet functionLayer ou en utilisant les fonctions forward et predict avec des objets dlnetwork.

Le tableau suivant indique les formats d’entrée supportés pour les objets SoftmaxLayer et le format de sortie correspondant. Si le software passe la sortie de la couche à une couche personnalisée qui n’hérite pas de la classe nnet.layer.Formattable ou à un objet FunctionLayer dont la propriété Formattable est définie à 0 (false), la couche reçoit un objet dlarray non formaté dont les dimensions sont ordonnées conformément aux formats de ce tableau. Les formats répertoriés ici ne sont qu’un sous-ensemble. La couche peut supporter d’autres formats comportant par exemple des dimensions "S" (spatial) ou "U" (undefined) supplémentaires.

Format d’entrée	Format de sortie
"CB" (channel, batch)	"CB" (channel, batch)
"SCB" (spatial, channel, batch)	"SCB" (spatial, channel, batch)
"SSCB" (spatial, spatial, channel, batch)	"SSCB" (spatial, spatial, channel, batch)
"SSSCB" (spatial, spatial, spatial, channel, batch)	"SSSCB" (spatial, spatial, spatial, channel, batch)
"CBT" (channel, batch, time)	"CBT" (channel, batch, time)
"SCBT" (spatial, channel, batch, time)	"SCBT" (spatial, channel, batch, time)
"SSCBT" (spatial, spatial, channel, batch, time)	"SSCBT" (spatial, spatial, channel, batch, time)
"SSSCBT" (spatial, spatial, spatial, channel, batch, time)	"SSSCBT" (spatial, spatial, spatial, channel, batch, time)
"CU" (channel, undefined)	"CU" (channel, undefined)
"SC" (spatial, channel)	"SC" (spatial, channel)
"SSC" (spatial, spatial, channel)	"SSC" (spatial, spatial, channel)
"SSSC" (spatial, spatial, spatial, channel)	"SSSC" (spatial, spatial, spatial, channel)

Dans les objets dlnetwork, les objets SoftmaxLayer supportent également les combinaisons de formats d'entrée et de sortie suivantes.

Format d’entrée	Format de sortie
"CT" (channel, time)	"CT" (channel, time)
"SCT" (spatial, channel, time)	"SCT" (spatial, channel, time)
"SSCT" (spatial, spatial, channel, time)	"SSCT" (spatial, spatial, channel, time)
"SSSCT" (spatial, spatial, spatial, channel, time)	"SSSCT" (spatial, spatial, spatial, channel, time)

Références

[1] Bishop, C. M. Pattern Recognition and Machine Learning. Springer, New York, NY, 2006.

Capacités étendues

Génération de code C/C++
Générez du code C et C++ avec MATLAB® Coder™.

Génération de code GPU
Générez du code CUDA® pour les GPU NVIDIA® avec GPU Coder™.

Historique des versions

Introduit dans R2016a

Voir aussi

trainnet | trainingOptions | dlnetwork | convolution2dLayer | fullyConnectedLayer | exportNetworkToSimulink | Softmax Layer

Rubriques

• Créer un réseau de neurones simple de Deep Learning pour la classification
• Entraîner un réseau de neurones à convolution pour la régression
• Deep Learning in MATLAB
• List of Deep Learning Layers