谷歌云端可搶占GPU，普遍降價40%

谷歌表示，搶占式GPU（Preemptible GPUs）非常適合短期、容錯和批處理工作負載，比如機器學習（ML）和高性能計算（HPC）的客戶。使用搶占...

2018-06-20 標簽：谷歌GPU機器學習 4.3k 0

在AMD GPU上如何安裝和配置triton？

最近在整理python-based的benchmark代碼，反過來在NV的GPU上又把Triton裝了一遍，發(fā)現Triton的github repo已經...

2024-02-22 標簽：amdgpuTriton 4.2k 0

基因組重測序的應用領域有哪些

背景介紹 1.1 基因測序在癌癥領域上的應用 癌癥是目前人類所面臨的最大敵人，其發(fā)病率隨著年齡增長而升高，在人口老齡化加劇的當下，全社會的癌癥負擔也將愈...

2023-08-01 標簽：傳感器gpu基因 4.2k 0

NIVDIA和AMD GPU的LINUX電源管理框架講解

Management PCI-Express Runtime D3 (RTD3) Power Management是一種用于管理PCI-Express設...

2023-08-08 標簽：處理器電源管理gpu 4.2k 0

一文捋順千億模型訓練技術：流水線并行、張量并行和3D并行

整個樸素層并行前向傳播和后向傳播的過程如上圖所示。GPU1執(zhí)行前向傳播, 并將激活 (activations)緩存下來。然后將 層的輸出interme...

2023-09-08 標簽：3Dgpu流水線 4.2k 0

FPGA與GPU計算存儲加速對比：單位功耗性能考量因素

使用或者不使用機器學習輔助的分析以及驗證，都可以借助計算存儲器件進行加速。

2021-08-20 標簽：fpgagpuAI 4.2k 0

淺談GPU的Web化—WebGPU

2023年4月6日，歷經6年的標準制定與開發(fā)，chrome瀏覽器在其113版本正式發(fā)布了WebGPU，標志著Web端正式進入GPU的新時代，旨在提供“現...

2023-05-31 標簽：封裝Webgpu 4.2k 0

NVLink的演進

2014年，NVLink 1.0發(fā)布，并應用在P100芯片上，如下圖所示。兩顆GPU之間有4條NVlink, 每個link中包含8個lane, 每條la...

2023-10-11 標簽：gpuPCIePHY 4.1k 0

FPGA在做深度學習加速時需要的技能

前言 做深度學習加速器已經兩年了，從RTL設計到仿真驗證，以及相應的去了解了Linux驅動，深度學習壓縮方法等等。今天來捋一捋AI加速器都涉及到哪些領域...

2020-10-10 標簽：加速器gpuAI 4.1k 0

大模型部署框架FastLLM實現細節(jié)解析

接著 大模型部署框架 FastLLM 簡要解析 這篇文章首先梳理了一下FastLLM的調用鏈和關鍵的數據結構，然后解析了 FastLLM 的一些實現細節(jié)...

2023-07-27 標簽：cpugpu函數 4.1k 0

硬解之后，NVIDIA Ada架構GPU新增AV1編碼

AV1 是新的黃金標準視頻格式，與舊的 H.264 和 H.265 格式相比具有更高的效率和質量。它是開放媒體聯盟標準化的最新免版稅高效視頻編碼器。

2023-05-12 標簽：編碼器存儲器噪聲 4.1k 0

淺談GPU的渲染流水線實現

顏色表示了不同階段的可配置性或可編程性：綠色表示該流水線階段是完全可編程控制的，黃色表示該流水線階段可以配置但不是可編程的，藍色表示該流水線階段是由GP...

2018-05-04 標簽：cpugpu渲染 4.1k 0