超低延遲與可靠的數(shù)據(jù)包傳輸是金融服務(wù)、云游戲以及媒體和娛樂等現(xiàn)代應(yīng)用的關(guān)鍵需求。在這些領(lǐng)域中，微秒級的延誤或單個(gè)數(shù)據(jù)包的丟失都可能帶來顯著影響，導(dǎo)致經(jīng)濟(jì)損失、用戶體驗(yàn)下降或媒體流出現(xiàn)畫面故障。

低延遲和無丟包數(shù)據(jù)傳輸為何如此重要：對于需要低延遲解決方案的金融服務(wù)、云游戲、媒體和娛樂而言，實(shí)現(xiàn)超高數(shù)據(jù)包速率、以線速持續(xù)提供帶寬，并盡可能減少甚至消除丟包至關(guān)重要。傳統(tǒng)網(wǎng)絡(luò)棧難以滿足這些需求，尤其在網(wǎng)絡(luò)速率擴(kuò)展至 10/25/50/100/200 GbE 及更高速度時(shí)尤為明顯。

NVIDIA Rivermax 高性能流式傳輸解決方案：NVIDIA Rivermax 是一個(gè)基于 IP 的高性能跨平臺軟件庫，專為媒體和數(shù)據(jù)流應(yīng)用設(shè)計(jì)，旨在提供卓越的傳輸效率。借助先進(jìn)的 NVIDIA GPU 加速計(jì)算技術(shù)和高性能網(wǎng)卡（NIC），Rivermax 實(shí)現(xiàn)了超高吞吐量、硬件級數(shù)據(jù)包精確步控、極低延遲以及更低的 CPU 占用率。這些特性使其成為對效率和實(shí)時(shí)性要求較高的關(guān)鍵任務(wù)工作負(fù)載的理想選擇。

圖 1. Rivermax 軟件堆棧概述

圖 2. Rivermax 內(nèi)核旁路架構(gòu)

基于 Rivermax 技術(shù)的 NEIO FastSocket：隨著網(wǎng)絡(luò)速度的快速提升，傳統(tǒng)的 socket 的通信方式已難以滿足需求，尤其在 10/25 GbE 及更高速度的場景下。NEIO Systems Ltd. 推出的 FastSockets 是一個(gè)靈活的中間件，專為實(shí)現(xiàn)高性能的 UDP 和 TCP 通信而設(shè)計(jì)，有效克服了這些瓶頸。該技術(shù)致力于實(shí)現(xiàn)無丟包技術(shù)，并提供超低延遲和超高帶寬。

圖 3. 傳統(tǒng)網(wǎng)絡(luò)與 FastSockets 加速比較

確保用戶數(shù)據(jù)報(bào)協(xié)議（UDP）無丟包接收，實(shí)現(xiàn)高性能網(wǎng)絡(luò)：在現(xiàn)代網(wǎng)絡(luò)應(yīng)用中，速度與效率至關(guān)重要，可靠的數(shù)據(jù)傳輸也因此成為關(guān)鍵。UDP 因其低延遲特性，被廣泛應(yīng)用于對實(shí)時(shí)性要求較高的場景，如機(jī)器視覺中的視頻流傳輸和金融市場數(shù)據(jù)分發(fā)。

基準(zhǔn)測試：FastSockets 支持 Linux 和 Windows 系統(tǒng)，本文主要關(guān)注其在 Windows 平臺上的表現(xiàn)。由于 RIO 功能存在限制，無法開展全面的網(wǎng)絡(luò)性能評估，因此 RIO 的基準(zhǔn)測試范圍較為有限。

圖 4. 持續(xù)吞吐量比較

圖 5. 平均數(shù)據(jù)包速率比較

圖 6. 延遲比較

圖 7. 數(shù)據(jù)包序列化延遲比較

GPUDirect 技術(shù)應(yīng)用的下一步：GPUDirect 技術(shù)通過實(shí)現(xiàn)網(wǎng)卡與 GPU 之間的直接內(nèi)存訪問，繞過 CPU，有效降低數(shù)據(jù)傳輸延遲，從而提升交易系統(tǒng)的性能。該技術(shù)能夠?qū)慕灰姿邮盏母哳l市場數(shù)據(jù)直接流式傳輸至 GPU 顯存，便于快速運(yùn)行 AI 模型，識別關(guān)鍵市場模式，例如價(jià)格的突然波動或訂單簿的失衡情況。