Re: [閒聊] 欸不是，買個顯卡還要買驅動= =

看到版上在討論vGPU
身為vGPU相關的工程師應該是有資格來討論(?

先來談談虛擬化這件事情
虛擬化就是透過hypervisor(如VMware,kvm)之類的平台
在單一主機的環境上面，虛擬出多個作業系統
單機版就如vmware workstation，或是各類模擬器也算是(bluestack)

了解玩虛擬化之後就可以往下討論
如何讓虛擬化之後的作業系統(guest os)拿到GPU
市面上有各種千奇百怪的方式，所以以下只探討N家有認證的方式

1.Passthrought/直通道/Diretch Path I/O
這三種名稱的意思都差不多
將整張GPU卡片直接分配給guest OS，這種方式嚴格說不是虛擬化
畢竟沒有虛擬化GPU的成分，將整張卡片丟給虛擬機，何來虛擬化GPU之稱
透過這種方式驅動程式是使用一般家用的驅動程式，所以可以直接使用

2.vGPU
看到前一種方式，有一個很大的限制，就是單一虛擬機單一卡片
這種方式以企業等級的方式來看是非常浪費資源的
Datacenter系列卡片通常都16GB up，並且效能也非常強大
單一虛擬機很難用光其效能
所以vGPU就是將GPU利用虛擬的方式，分給多台虛擬機
讓每一台虛擬機都可以有固定份額的GPU
切分方式就是透過GB的方式切分(xGB)
當然這種功能是面相企業的，所以當然會有收費的問題
所以N家就簡單粗暴地綁定驅動程式
要購買才能下載特定的驅動，並且驅動程式也會需要輸入授權

提完以上可以額外來講一下vGPU各種授權種類
其中有分成4+1種
vWs拿來做圖像運算(這種功能可以讓vGPU開啟圖像渲染、directx 相關功能)
vApp 利用做RDSH
vPC 跟vWs類似，但是關掉圖像進階功能，純顯示
vCs 純計算，拿來做計算相關
當然，費用不相同XDD


順便來討論一下看到文章內提到的有趣問題
1.NVIDIA早期有datacenter系列的卡片(k1/k2/m10)
這種卡片的驅動程式只能使用vGPU的驅動程式
簡單說，就算改成直通道模式，依然只能只用vGPU的驅動
沒辦法使用一般的驅動
印象中在V系列(對照20系列)之後再見過這種模式
P4印象中也是?

2.T4,A2,L4
印象中這幾張的效能差不多(明明不同世代，效能也可做得差不多
就我收到的消息時A2的產線大暴死，所以才T4繼續頂
應該不是市場接受度的問題，A2定價便宜很多呢XD

3.A100,MIG
MIG這項技術是否可以完全脫離vGPU呢
是，但也不是
MIG是驅動程式自帶的操作指令，可以切分成多張GPU
在監控介面下就是看到多張卡片
然後可以進行分配使用
但是前面提到，要在驅動程式的介面下操作
所以必須還是得使用前面提到的方式(直通道orvGPU)
1.直通道給虛擬機之後，再從虛擬機端操作
2.或是直接在hypervisor層進行MIG操作之後，再將切分出來的GPU打出來分配給虛擬機
第二種方式依然還是要購買授權呢

所以是但也不是


4.
這邊可以提到N家一個非常複雜的新授權NVIDIA AI Enterprise
嚴格來說它就是vcs+軟體服務的授權
他有著完全不同的驅動以及授權
但是使用方式還是跟vcs一樣
這刀法是真的強

以上，想到甚麼再補充