1月12日消息,基于生成式AI的搜索引擎技術初創公司ExaAILabs首席執行官 Will Bryk于當地時間周五宣布,該公司已經部署了 Exacluster,這是業界首批基于英偉達(Nvidia)H200 GPU 的集群之一。該集群將用于構建一個AI搜索引擎,號稱可以比谷歌(Google)搜索更好地理解用戶需求,并返回更好的搜索結果。
據介紹,Exacluster采用了 18 個基于 NVIDIA H200 的 8卡服務器(exa 表示 Quintillion,或 10^18),即擁有 144 個 H200 GPU,具有 20TB HBM3E 內存(每個 GPU 141GB HBM3E),可提供 569958 TOPS(約 570 PetaTOPS)的組合計算性能。同時,該集群還集成了192 個 96 核CPU(共計 3456 個CPU內核),并配備了 36TB 的 DDR5 內存和 270TB 的 NVMe 固態存儲。該集群將被將用于訓練 ExaAI 的神經網絡,總體的功耗為 100kW。
該集群依然采用的是標準空氣冷卻方案,因此為了解決散熱問題,該集群當中的每個機架只安裝兩臺這樣的機器,以確保所有服務器都能得到足夠的冷卻。
據Will Bryk介紹,Exacluster的成本約為500萬美元,這也意味著其每臺服務器價格約為27.78萬美元。值得一提的是,英偉達也是ExaAILabs公司的主要投資者之一,此外Lightspeed 和 YCombinator也是其投資者。
本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。