VMware vSphere Bitfusion은 GPU(그래픽 처리 장치)와 같은 하드웨어 가속기를 가상화하여 AI(인공 지능) 및 ML(기계 학습) 워크로드를 지원하는 네트워크 액세스 가능한 공유 리소스 풀을 제공합니다.
vSphere Bitfusion의 아키텍처란?
vSphere Bitfusion에는 클라이언트-서버 아키텍처가 있습니다. 이 제품을 사용하면 AI(인공 지능) 및 ML(기계 학습) 애플리케이션을 실행하는 여러 클라이언트 VM(가상 시스템)이 vSphere Bitfusion 서버 소프트웨어를 실행하는 가상 시스템에서 원격 GPU에 대한 액세스를 공유할 수 있습니다. 애플리케이션은 vSphere Bitfusion 클라이언트 시스템에서 실행하지만, 가속화를 제공하는 GPU는 네트워크를 통해 vSphere Bitfusion 서버 시스템에 설치됩니다. 애플리케이션은 로컬 GPU가 있는 시스템에서 작동하는 것처럼 파일을 열고 메모리를 할당하고, CUDA를 호출할 수 있습니다.
다음 그림은 일련의 vSphere Bitfusion 서버-클라이언트 시스템 및 스위치 네트워크의 vCenter Server와 같은 소규모 vSphere Bitfusion 클러스터의 예입니다. 최소 vSphere Bitfusion 클러스터 구성은 하나의 클라이언트, 하나의 서버 및 하나의 vCenter Server입니다. 여러 서버와 클라이언트로 대규모 클러스터를 생성할 수 있습니다.
vSphere Bitfusion 작동 방식
vSphere Bitfusion 클라이언트에서 AI 또는 ML 애플리케이션을 시작하면 vSphere Bitfusion은 애플리케이션의 CUDA 호출을 가로채서 호출의 데이터와 데이터 포인터를 확인합니다. vSphere Bitfusion 서버는 애플리케이션 데이터가 보관되는 스토리지에 대한 연결은 필요하지 않고 vSphere Bitfusion 클라이언트에 대한 연결만 필요합니다. 클라이언트는 데이터 및 나머지 CUDA 호출을 서버로 전송합니다. vSphere Bitfusion 서버는 호출을 처리하고 결과를 클라이언트에 반환합니다.
vSphere Bitfusion에서 AI 및 ML 애플리케이션을 시작하면 GPU 리소스를 공유할 수 있습니다.
- vSphere Bitfusion 서버에서 GPU 리소스를 동적으로 할당하고 액세스할 수 있습니다.
애플리케이션은 로컬 시스템에 설치되지 않은 GPU 리소스를 공유할 수 있으며 VM, 베어메탈 시스템 또는 컨테이너와 같은 구성된 vSphere Bitfusion 클라이언트의 적절한 환경에서 각 애플리케이션을 실행할 수 있습니다. 애플리케이션은 네트워크를 통해 vSphere Bitfusion 서버 풀의 GPU 가속화 서비스를 사용하고 애플리케이션이나 세션이 실행되는 시간 동안만 리소스를 사용합니다. 애플리케이션 또는 세션이 완료되면 GPU가 풀로 반환됩니다.
- 다른 애플리케이션과 동시 공유를 위해 GPU 리소스 파티션에 액세스할 수 있습니다.
물리적 GPU의 메모리는 임의 크기의 부분으로 나눌 수 있습니다. 각 부분은 동시에 다른 애플리케이션에 할당될 수 있습니다. vSphere Bitfusion은 삽입(interposition) 기술을 사용하여 공유를 수행합니다. vSphere Bitfusion은 일반적으로 PCIe 호스트 버스에서 로컬 가속기의 주소를 지정하는 API 호출을 가로채서 네트워크를 통해 API 호출 및 데이터를 보냅니다. vSphere Bitfusion은 AI 및 ML 애플리케이션에 대한 공유 서비스를 제공하고, NVIDIA GPU를 대상으로 하는 CUDA API를 지원합니다.
vSphere Bitfusion의 주요 구성 요소는 무엇입니까?
- vSphere Bitfusion 서버란?
- vSphere Bitfusion 서버는 로컬에 설치된 GPU가 있는 ESXi 호스트에서 패키지로 포함된 소프트웨어 및 서비스가 있는 미리 구성된 VM(가상 시스템)인 VMware 장치로 실행됩니다. 서버는 일반적으로 VMware vSphere ® DirectPath I/O™를 통해 로컬 GPU에 액세스할 수 있어야 합니다.
- vSphere Bitfusion 클라이언트란?
- vSphere Bitfusion 클라이언트는 AI 및 ML 애플리케이션을 실행하는 VM에서 실행됩니다.
- vSphere Bitfusion 플러그인이란?
- vSphere Bitfusion 서버는 VMware vCenter Server에 vSphere Bitfusion 플러그인을 등록합니다. 이 플러그인은 vSphere Bitfusion 클라이언트와 서버의 모니터링 및 관리를 제공합니다.
- vSphere Bitfusion 클러스터란?
- vSphere Bitfusion 클러스터는 vCenter Server 인스턴스에 있는 모든 vSphere Bitfusion 서버 및 클라이언트 집합입니다.
- vSphere Bitfusion Linux 사용자 그룹이란?
-
vSphere Bitfusion 클라이언트의 설치 프로세스 중에 클라이언트는
vSphere Bitfusion Linux 사용자 그룹
bitfusion을 생성합니다. 그룹의 멤버만 vSphere Bitfusion을 사용할 수 있습니다. 특정 구성 파일은 적절한 사용 권한으로 설정되고 그룹의 멤버는 vSphere Bitfusion에서 효과적으로 작업하도록 적절한 제한을 상속합니다. - vSphere Client란?
- vSphere Client를 사용하면 웹 브라우저를 통해 vCenter Server 인스턴스에 연결할 수 있어 vSphere 인프라를 관리할 수 있습니다. vSphere Client를 통해 vSphere Bitfusion 플러그인에 액세스합니다.
- CLI(명령줄 인터페이스)란?
- CLI(명령줄 인터페이스) 명령을 사용하여 vSphere Bitfusion 서버 및 클라이언트를 관리할 수 있습니다.
- vCenter Server란?
- vCenter Server는 vSphere 환경을 제어하기 위한 중앙 집중식 플랫폼을 제공하는 서버 관리 소프트웨어입니다.
vSphere Bitfusion FAQ
vSphere Bitfusion에 대한 자세한 내용은 "Cloud Platform Tech Zone" 의 FAQ(질문과 대답) 섹션을 참조하십시오.
