3月11日消息,日前,有投資者在互動平臺向科大訊飛提問:貴公司目前擁有多少張算力卡?面對阿里千億級投資,公司將在算力競爭上如何應對?
對此,科大訊飛表示,過去幾年在受限的有限算力資源條件下,關于星火大模型訓練和推理成本效率的持續優化也做了大量投入,和直接使用英偉達卡上開展的各種工程優化不同,科大訊飛選擇了更難的全國產算力路線。
據介紹,大模型對算力的需求為訓練和推理兩個方面,而訓練實現的難度遠大于推理。
科大訊飛稱,這就是雖然陸續有公司宣布可以在國產算力平臺上提供大模型的推理服務,但仍只有訊飛星火一家是訓練和推理均在國產算力上進行的,并且僅用1萬張910B國產算力卡,科大訊飛用比友商少一個數量級的算力取得了大模型研發上的第一梯隊成果。
同時,科大訊飛還做了大量國產算力平臺上的無人區的適配和效率優化,追求國產算力的極致效率,這比在英偉達上的實現更需要技術實力和戰略勇氣。
據媒體報道,科大訊飛2月透露了其最新的研發進展:公司正在全力訓練的純國產算力平臺“星火X1”新版本,預計將在未來三個月內完成。
這一新版本的發布,預期就可以實現數學答題和過程思維鏈能力全面對標甚至超過OpenAI o1。
本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。