在AI和大數(shù)據(jù)時代到來之后，GPU單兵作戰(zhàn)就變成了奢望，以現(xiàn)在的數(shù)據(jù)中心和超算為例，動輒就是成千上萬張GPU，龐大的GPU網(wǎng)絡在交換機和光模塊的支持下代表了這個計算時代下最高的算力。但并非只有數(shù)據(jù)中心和超算里的GPU才需要這樣的擴展性，嵌入式GPU和專業(yè)GPU同樣如此。

物理限制的嵌入式GPU

隨著各種傳感器的性能持續(xù)走高，譬如多線激光雷達、高分辨率的圖像傳感器等，我們對邊緣計算單元尤其是GPU的需求也在持續(xù)增加。但在實現(xiàn)的過程中，我們還有一些物理限制沒法消除，像是尺寸、重量和功耗等。

為了解決這一系列問題，美國政府和行業(yè)方案提供商們成立了SOSA聯(lián)盟，以求開發(fā)開放的標準和最好的方案來實現(xiàn)高性價比、互操作性強的傳感器系統(tǒng)。如何克服這些負載計算工作量提升帶來的挑戰(zhàn)，又能不增加寶貴的物理資源呢？答案自然還是將GPU、DPU等技術集成到嵌入式結構中去。

這類嵌入式GPU并非用來單獨售賣，而是交給合作伙伴整合到不同的邊緣計算系統(tǒng)中，比如研華、凌華、EIZO、Mercury Systems等，然后交付給美國空軍、洛克希德·馬丁這類軍事、航空、工業(yè)客戶。

即便選擇了嵌入式結構，也還有著不少的路線，比如GPU、FPGA和ASIC等等。SOSA聯(lián)盟主席，來自美國空軍的Ilya Lipkin表示，如果想要更快的運行速度，快速部署軟件，自然是選擇GPU最好。但他們也面臨著空間的問題，因為嵌入式GPU往往會被塞到3U或者6U的服務器里，他們想要做到更小的體積，甚至是手掌大小，可這樣一來就不得不犧牲帶寬、容量。

所以，雖然嵌入式GPU仍然在這些嵌入式傳感系統(tǒng)中可以保持領先地位，但他們并沒有像獲得數(shù)據(jù)中心那樣不算嚴格的空間要求。目前的MXM嵌入式GPU可以做到PCIe GPU五分之一的尺寸，但這對于嵌入式GPU的擴展性來說還不算完美。在邊緣計算上，反倒是一些FPGA和ASIC方案在能耗比和擴展性上占優(yōu)，如果嵌入式GPU不能做到更強大的擴展性，很有可能會被后來者顛覆。

顯卡交火時代的結束

不管是最新發(fā)布的RTX4090消費級顯卡，還是RTX 6000這樣的專業(yè)顯卡，都象征了英偉達在新架構GPU上的又一次創(chuàng)新。在臺積電4N工藝的加持下，無論是晶體管數(shù)目還是CUDA核心都做到了極致。

然而，原本變成了專屬英偉達高端消費顯卡和專業(yè)顯卡的交火技術NVLink，在RTX4090和RTX 6000上卻無處可尋，難不成英偉達徹底放棄顯卡交火技術，也就此放棄NVLink了？根據(jù)英偉達CEO黃仁勛的說法，他們省下了NVLink連接器的空間，釋放了更多的空間來處理更多的AI計算。

在上一代顯卡的NVLink中，通過連接兩塊英偉達顯卡，使用高端顯卡和專業(yè)顯卡的專業(yè)系統(tǒng)能夠獲得更高的帶寬和雙倍的顯存容量。這樣的提升對于個人或專業(yè)用戶來說是極大的提升，那么為何英偉達會放棄NVLink呢？筆者也在英偉達GTC的一次分享會議上提出了這一問題。

英偉達方面表示，就RTX 6000這類專業(yè)顯卡而言，他們取消NVLink后省下了足夠的空間，塞入了更多的計算單元來提升單卡的性能。與此同時，雖然這些專業(yè)顯卡的NVLink支持被取消，不代表英偉達放棄了這一技術。英偉達決心將NVLink的重心放在數(shù)據(jù)中心產品上，比如Grace CPU、Hopper GPU，他們通過NVLink Die to Die和Chip to Chip的互聯(lián)可以實現(xiàn)更好的擴展性。

但這確實象征著一個時代的結束，過去AMD的交火和英偉達的SLI也是兩家競爭最火熱的一項技術，可隨著AMD放棄了交火支持，英偉達的SLI在換成NVLink后如今也迎來了終結。

但顯卡交火的落幕也情有可原，且不說這種互聯(lián)方式的受眾群體一再變少，要想享受到顯卡交火的性能也需要軟件追加更新支持。或許專業(yè)顯卡的目標還是追求單卡性能就好，多卡互聯(lián)的支持還是讓給數(shù)據(jù)中心吧。