gpuDevice
Interroger ou sélectionner un dispositif GPU
Description
Un objet GPUDevice représente une unité de traitement graphique (GPU) dans votre ordinateur. Vous pouvez utiliser le GPU pour exécuter du code MATLAB® qui prend en charge les variables gpuArray ou exécuter des noyaux CUDA® à l'aide d'objets CUDAKernel.
Vous pouvez utiliser un objet GPUDevice pour inspecter les propriétés de votre dispositif GPU, réinitialiser le dispositif GPU ou attendre que votre GPU termine l'exécution d'un calcul. Pour obtenir un objet GPUDevice, utilisez la fonction gpuDevice. Vous pouvez également sélectionner ou désélectionner votre dispositif GPU à l'aide de la fonction gpuDevice. Si vous avez accès à plusieurs GPU, utilisez la fonction gpuDevice pour choisir un dispositif GPU spécifique sur lequel exécuter votre code.
Vous n'avez pas besoin d'utiliser un objet GPUDevice pour exécuter des fonctions sur un GPU. Pour plus d'informations sur l'utilisation des fonctions compatibles GPU, voir Exécuter les fonctions MATLAB sur un GPU .
Création
Description
gpuDevice affiche les propriétés du dispositif GPU actuellement sélectionné. S'il n'y a aucun périphérique actuellement sélectionné, gpuDevice sélectionne le périphérique par défaut sans l'effacer. Utilisez cette syntaxe lorsque vous souhaitez inspecter les propriétés de votre dispositif GPU.
D = gpuDevice renvoie un objet GPUDevice représentant le périphérique actuellement sélectionné. S'il n'y a aucun périphérique actuellement sélectionné, gpuDevice sélectionne le périphérique par défaut et renvoie un objet GPUDevice représentant ce périphérique sans l'effacer.
D = gpuDevice( sélectionne le dispositif GPU spécifié par l'index ind)ind . Si le dispositif GPU spécifié n'est pas pris en charge, une erreur se produit. Cette syntaxe réinitialise le périphérique spécifié et efface sa mémoire, même si le périphérique est déjà actuellement sélectionné (équivalent à la fonction reset). Toutes les variables de l'espace de travail représentant les variables gpuArray ou CUDAKernel sont désormais invalides et doivent être supprimées de l'espace de travail ou redéfinies.
Dans gpuDevice([]), avec un argument vide (par opposition à aucun argument), désélectionne le dispositif GPU et efface sa mémoire des variables gpuArray et CUDAKernel. Cette syntaxe ne laisse aucun dispositif GPU sélectionné comme périphérique actuel.
Arguments d'entrée
Propriétés
Fonctions d'objet
reset | Réinitialiser le dispositif GPU et effacer sa mémoire |
wait (GPUDevice) | Wait for GPU calculation to complete |
Les fonctions suivantes sont également disponibles :
parallel.gpu.GPUDevice.isAvailable(ind) | Renvoie 1 ou true logique si le GPU spécifié par l'index ind est pris en charge et peut être sélectionné. ind peut être un entier ou un vecteur d'entiers ; l'index par défaut est le périphérique actuel. |
parallel.gpu.GPUDevice.getDevice(ind) | Renvoie un objet GPUDevice sans le sélectionner. |
Pour une liste complète des fonctions, utilisez la fonction methods sur l'objet GPUDevice :
methods('parallel.gpu.GPUDevice')Vous pouvez obtenir de l'aide sur n'importe quelle fonction d'objet avec la commande suivante
help parallel.gpu.GPUDevice.functionname
où functionname est le nom de la fonction. Par exemple, pour obtenir de l'aide sur isAvailable, tapez :
help parallel.gpu.GPUDevice.isAvailable
Exemples
Cet exemple montre comment utiliser gpuDevice pour identifier et sélectionner le périphérique que vous souhaitez utiliser.
Pour déterminer le nombre de dispositifs GPU disponibles sur votre ordinateur, utilisez la fonction gpuDeviceCount.
gpuDeviceCount("available")ans = 2
Lorsqu'il y a plusieurs appareils, le premier est celui par défaut. Vous pouvez examiner ses propriétés avec la fonction gpuDeviceTable pour déterminer si c'est celle que vous souhaitez utiliser.
gpuDeviceTable
ans=2×5 table
Index Name ComputeCapability DeviceAvailable DeviceSelected
_____ __________________ _________________ _______________ ______________
1 "NVIDIA RTX A5000" "8.6" true false
2 "Quadro P620" "6.1" true false
Si le premier appareil est celui que vous souhaitez utiliser, vous pouvez continuer. Pour exécuter des calculs sur le GPU, utilisez les fonctions activées gpuArray. Pour plus d'informations, voir Exécuter les fonctions MATLAB sur un GPU.
Pour vérifier que MATLAB ® peut utiliser votre GPU, utilisez la fonction canUseGPU. La fonction renvoie 1 (true) s'il y a un GPU disponible pour le calcul et 0 (false) sinon.
canUseGPU
ans = logical
1
Pour diagnostiquer un problème avec la configuration de votre GPU, par exemple si canUseGPU renvoie 0 (false), utilisez la fonction validateGPU. La validation de votre GPU est facultative.
validateGPU
# Beginning GPU validation # Performing system validation # CUDA-supported platform .................................................PASSED # CUDA-enabled graphics driver exists .....................................PASSED # Version: 537.70 # CUDA-enabled graphics driver load .......................................PASSED # CUDA environment variables ..............................................PASSED # CUDA device count .......................................................PASSED # Found 2 devices. # GPU libraries load ......................................................PASSED # # Performing device validation for device index 1 # Device exists ...........................................................PASSED # NVIDIA RTX A5000 # Device supported ........................................................PASSED # Device available ........................................................PASSED # Device is in 'Default' compute mode. # Device selectable .......................................................PASSED # Device memory allocation ................................................PASSED # Device kernel launch ....................................................PASSED # # Finished GPU validation with no failures.
Pour utiliser un autre périphérique, appelez gpuDevice avec l'index de l'autre périphérique.
gpuDevice(2)
ans =
CUDADevice with properties:
Name: 'Quadro P620'
Index: 2 (of 2)
ComputeCapability: '6.1'
DriverModel: 'WDDM'
TotalMemory: 2147352576 (2.15 GB)
AvailableMemory: 1596066816 (1.60 GB)
DeviceAvailable: true
DeviceSelected: true
Show all properties.
Vous pouvez également déterminer le nombre de dispositifs GPU disponibles, inspecter certaines de leurs propriétés et sélectionner un dispositif à utiliser à partir du bureau MATLAB®. Dans l'onglet Accueil, dans la zone Environnement, sélectionnez Parallèle > Sélectionner l'environnement GPU.
Créez un objet représentant le dispositif GPU par défaut et interrogez sa capacité de calcul.
D = gpuDevice; D.ComputeCapability
ans = '8.6'
Interrogez les capacités de calcul de tous les dispositifs GPU disponibles.
for idx = 1:gpuDeviceCount D = gpuDevice(idx); fprintf(1,"Device %i has ComputeCapability %s \n", ... D.Index,D.ComputeCapability) end
Device 1 has ComputeCapability 8.6 Device 2 has ComputeCapability 6.1
Comparez les capacités de calcul et la disponibilité des dispositifs GPU de votre système à l'aide de gpuDeviceTable.
gpuDeviceTable
ans=2×5 table
Index Name ComputeCapability DeviceAvailable DeviceSelected
_____ __________________ _________________ _______________ ______________
1 "NVIDIA RTX A5000" "8.6" true false
2 "Quadro P620" "6.1" true true
Modifiez la politique de mise en cache de votre GPU.
Créez un objet représentant le dispositif GPU par défaut.
D = gpuDevice
D =
CUDADevice with properties:
Name: 'NVIDIA RTX A5000'
Index: 1 (of 2)
ComputeCapability: '8.6'
DriverModel: 'TCC'
TotalMemory: 25544294400 (25.54 GB)
AvailableMemory: 25120866304 (25.12 GB)
DeviceAvailable: true
DeviceSelected: true
Show all properties.
Accédez à la propriété CachePolicy du dispositif GPU.
D.CachePolicy
ans = 'balanced'
Modifiez la politique de mise en cache pour permettre au GPU de mettre en cache la quantité maximale de mémoire pour accélérer le calcul.
D.CachePolicy = "maximum";
D.CachePolicyans = 'maximum'
Réinitialisez la politique de mise en cache sur la politique par défaut en définissant la propriété sur [] .
D.CachePolicy = [];
L'appel de reset(D) ou la sélection d'un autre périphérique avec gpuDevice réinitialise également la politique de mise en cache à sa valeur par défaut.
Si vous avez accès à plusieurs GPU, vous pouvez effectuer vos calculs sur plusieurs GPU en parallèle à l'aide d'un pool parallèle.
Pour déterminer le nombre de GPU disponibles pour une utilisation dans MATLAB, utilisez la fonction gpuDeviceCount.
availableGPUs = gpuDeviceCount("available")availableGPUs = 3
Démarrez un pool parallèle avec autant de workers que de GPU disponibles. Pour de meilleures performances, MATLAB attribue par défaut un GPU différent à chaque worker.
parpool("Processes",availableGPUs);Starting parallel pool (parpool) using the 'Processes' profile ... Connected to the parallel pool (number of workers: 3).
Pour identifier quel GPU chaque worker utilise, appelez gpuDevice à l'intérieur d'un bloc spmd. Le bloc spmd exécute gpuDevice sur chaque worker.
spmd gpuDevice end
Utilisez des fonctionnalités de langage parallèle, telles que parfor ou parfeval, pour distribuer vos calculs aux workers du pool parallèle. Si vous utilisez des fonctions activées gpuArray dans vos calculs, ces fonctions s'exécutent sur le GPU du worker. Pour plus d'informations, voir Exécuter les fonctions MATLAB sur un GPU. Pour un exemple, voir Run MATLAB Functions on Multiple GPUs .
Lorsque vous avez terminé vos calculs, fermez le pool parallèle. Vous pouvez utiliser la fonction gcp pour obtenir le pool parallèle actuel.
delete(gcp("nocreate"));Si vous souhaitez utiliser un choix différent de GPU, vous pouvez utiliser gpuDevice pour sélectionner un GPU particulier sur chaque nœud de calcul, en utilisant l'indice du dispositif GPU. Vous pouvez obtenir l'index de chaque dispositif GPU de votre système en utilisant la fonction gpuDeviceCount.
Supposons que vous ayez trois GPU disponibles dans votre système, mais que vous souhaitiez n'en utiliser que deux pour un calcul. Obtenir les indices des dispositifs.
[availableGPUs,gpuIndx] = gpuDeviceCount("available")availableGPUs = 3
gpuIndx = 1×3
1 2 3
Définissez les indices des appareils que vous souhaitez utiliser.
useGPUs = [1 3];
Démarrez votre pool parallèle. Utilisez un bloc spmd et gpuDevice pour associer chaque worker à l’un des GPU que vous souhaitez utiliser, à l’aide de l’index du périphérique. La fonction spmdIndex identifie l'index de chaque worker.
parpool("Processes",numel(useGPUs));Starting parallel pool (parpool) using the 'Processes' profile ... Connected to the parallel pool (number of workers: 2).
spmd gpuDevice(useGPUs(spmdIndex)); end
En tant que bonne pratique et pour de meilleures performances, attribuez un GPU différent à chaque worker.
Lorsque vous avez terminé vos calculs, fermez le pool parallèle.
delete(gcp("nocreate"));Capacités étendues
Historique des versions
Introduit dans R2010bVoir aussi
gpuArray | gpuDeviceTable | gpuDeviceCount | canUseGPU | validateGPU | arrayfun | reset | wait (GPUDevice) | GPUDeviceManager
