La liste suivante fournit des informations sur les commandes vSphere Bitfusion les plus importantes et leurs tâches. Si nécessaire, des commandes d'interface de ligne de commande supplémentaires peuvent être fournies par l'équipe du support VMware.
Allouer des GPU dans vSphere Bitfusion
Pour allouer plusieurs GPU pour une seule application, exécutez la commande bitfusion run.
Pour allouer plusieurs GPU et démarrer une session, où vous pouvez exécuter plusieurs applications sur les mêmes GPU, exécutez bitfusion request_gpus.
Exécuter des applications dans vSphere Bitfusion
Pour démarrer une seule application, exécutez la commande bitfusion run.
Pour démarrer plusieurs applications dans une session démarrée avec la commande bitfusion request_gpus, exécutez la commande bitfusion client.
Annuler l'allocation de GPU dans vSphere Bitfusion
Pour annuler l'allocation des GPU dans une session démarrée avec la commande bitfusion request_gpus, exécutez la commande bitfusion release_gpus.
Répertorier les GPU disponibles dans vSphere Bitfusion
Pour vérifier l'installation d'un serveur vSphere Bitfusion et trouver la liste des GPU disponibles, exécutez la commande bitfusion list_gpus.
- server 0 [172.16.31.162:56001]: running 0 tasks |- GPU [0]: free memory (15109 / 15109MiB) Tesla T4 (7.5) - server 1 (leader) [172.16.31.156:56001]: running 0 tasks |- GPU [0]: free memory (15109 / 15109MiB) Tesla T4 (7.5)
Exécuter un contrôle de santé dans vSphere Bitfusion
- Pour contrôler la santé de tous les serveurs vSphere Bitfusion et du client Bitfusion, exécutez bitfusion health.
- Pour vérifier la santé d'un client ou d'un serveur vSphere Bitfusion unique, exécutez bitfusion localhealth.
Vérifier votre version de vSphere Bitfusion
Pour afficher la version installée de vSphere Bitfusion, exécutez la commande bitfusion version.
Bitfusion version: 4.0.0 release
Afficher les informations de GPU dans vSphere Bitfusion
Pour afficher les informations GPU, exécutez la commande bitfusion smi. Pour obtenir une sortie similaire, vous pouvez également démarrer l'application nvidia-smi avec la commande bitfusion run.
+----------------------------------------------------------------------------------------+ | 172.16.31.162:56001 Driver Version: 460.73.01 | +--------------------------------------+-------------------------+-----------------------+ | GPU Name Persistence-M | Virt Mem Alloc / All | BusId Vol Uncorr ECC | | Fan Temp Perf Pwr:Usage/Cap | Phy Mem Used / All | GPU-Util Compute M. | |======================================+=========================+=======================| | 0 Tesla T4 Enabled | 0 MB / 15109 MB | 00000000:13:00.0 0 | | 0 % 28C P8 10W / 70W | 3 MB / 15109 MB | 0% Default | +--------------------------------------+-------------------------+-----------------------+ +----------------------------------------------------------------------------------------+ | 172.16.31.156:56001 Driver Version: 460.73.01 | +--------------------------------------+-------------------------+-----------------------+ | GPU Name Persistence-M | Virt Mem Alloc / All | BusId Vol Uncorr ECC | | Fan Temp Perf Pwr:Usage/Cap | Phy Mem Used / All | GPU-Util Compute M. | |======================================+=========================+=======================| | 0 Tesla T4 Enabled | 0 MB / 15109 MB | 00000000:13:00.0 0 | | 0 % 34C P8 10W / 70W | 3 MB / 15109 MB | 0% Default | +--------------------------------------+-------------------------+-----------------------+
Tester la bande passante dans vSphere Bitfusion
Pour tester la bande passante et la latence entre le client et les serveurs vSphere Bitfusion, exécutez la commande bitfusion net_perf.
Displayed results are calculated from round-trip measurements BW(1MB) = 1000/(LAT(1MB) - LAT(1B)) [ <client>] ens160 => [10.202.8.169] net1 ( tcp) Single packet lat = 51 us, bw(1MB) = 1.71 GB/s [ <client>] ens160 => [10.202.8.185] net1 ( tcp) Single packet lat = 48 us, bw(1MB) = 1.09 GB/s [ <client>] ens160 => [10.202.8.233] net1 ( tcp) Single packet lat = 50 us, bw(1MB) = 0.87 GB/s
Displayed results are calculated from round-trip measurements BW(1MB) = 1000/(LAT(1MB) - LAT(1B)) [ <client>] ens160 => [10.202.8.169] net1 ( tcp) Single packet lat = 51 us, bw(1MB) = 1.71 GB/s [ <client>] ens160 => [10.202.8.185] net1 ( tcp) Single packet lat = 48 us, bw(1MB) = 1.09 GB/s [ <client>] ens160 => [10.202.8.233] net1 ( tcp) Single packet lat = 50 us, bw(1MB) = 0.87 GB/s [ <client>] ens192f0 => [10.202.8.169] net2 ( tcp) Single packet lat = 47 us, bw(1MB) = 2.14 GB/s [ <client>] ens192f0 => [10.202.8.185] net2 ( tcp) Single packet lat = 49 us, bw(1MB) = 1.11 GB/s [ <client>] ens192f0 => [10.202.8.233] net2 ( tcp) Single packet lat = 50 us, bw(1MB) = 1.15 GB/s [ <client>] vmw_pvrdma0 => [10.202.8.169] vmw_pvrdma0 (infiniband) Single packet lat = 19 us, bw(1MB) = 3.66 GB/s Single packet Write lat = 8 us, bw = 10.101 GB/s [ <client>] vmw_pvrdma0 => [10.202.8.185] vmw_pvrdma0 (infiniband) Single packet lat = 21 us, bw(1MB) = 3.45 GB/s Single packet Write lat = 8 us, bw = 10.5263 GB/s [ <client>] vmw_pvrdma0 => [10.202.8.233] vmw_pvrdma0 (infiniband) Single packet lat = 21 us, bw(1MB) = 3.46 GB/s Single packet Write lat = 8 us, bw = 10.4167 GB/s
Demander de l'aide dans vSphere Bitfusion
Pour obtenir la liste complète des commandes de l'interface de ligne de commande vSphere Bitfusion ou plus d'informations sur une commande spécifique, exécutez la commande bitfusion help.
NAME:
Bitfusion - Run application with VMware Bitfusion
USAGE:
bitfusion <command> <options> "application"
bitfusion <command> <options> -- [application]
bitfusion help [command]
For more information, system requirements, and advanced usage please visit docs.bitfusion.io
COMMANDS:
tls-certs, TC Manage TLS certificates used by bitfusion server. Requires root privileges.
version, v Display full Bitfusion version
localhealth, LH Run health check on current node only
dealloc Deallocate license certificate. Requires root priviledges.
crashreport Send crash report to bitfusion
list_gpus List the available GPUs in a shared pool
initdb Init database setup
token Fetch and manipulate tokens
register Register remote server as the plugin
unregister Unregister remote plugin
removenode Remove unavailable nodes
user Manage bitfusion users
help, h Shows a list of commands or help for one command
Client Commands:
client, c Run application
health, H Run health check on all specified servers and current node
request_gpus Request GPUs from a shared pool
release_gpus Release GPUs back into a shared pool. Options must match a previous request_gpus command
run Request GPUs from a shared pool, run a client command, then release the GPUs
stats Gather stats from all servers.
smi Display smi-like info for all servers.
local Run a CUDA application locally
net_perf Gather network performance data from all SRS servers.
Server Commands:
server, s Run dispatcher service - listens for 'bitfusion client' commands
resource_scheduler, srs Run Bitfusion resource scheduler (SRS) on GPU server
analytics Run Bitfusion analytics server
manager Run Bitfusion manager server
EXAMPLES:
$ bitfusion resource_scheduler --srs_port 50001
$ bitfusion run -n 4 -- <application>
$ bitfusion request_gpus -n 1 -p 0.25
