革命性提升AI效率:L-Mul算法的影響

星期三, 十一月 13, 2024 12:00 凌晨
2,639

人工智慧(AI)的快速發展在各個領域帶來了顯著的進步,但由於其高能耗,卻也付出了沉重的環境代價。AI模型,特別是那些使用神經網絡的模型,需要大量的計算能力,這轉化為巨大的電力消耗。例如,2023年初運行ChatGPT每天消耗約564 MWh的電力,相當於約18,000個美國家庭的能源需求。這一能源需求主要是由於神經網絡計算所需的複雜浮點運算驅動的,隨著AI系統的複雜性增長,尋找節能解決方案變得至關重要。

L-Mul(線性複雜度乘法)算法的出現是一項突破性發展,承諾顯著減少與AI計算相關的能源負擔。L-Mul通過用更簡單的整數加法來近似浮點乘法,這可以無需微調就整合到現有的AI模型中。這種創新方法已顯示出顯著的節能效果,對於元素級張量乘法可達到高達95%的能耗減少,對於點積計算則可達到80%。重要的是,這種能源效率並不妨礙AI模型的準確性,標誌著在追求可持續AI方面的重要進展。

L-Mul的影響不僅限於節能;它還提升了AI模型在各種應用中的性能,包括變壓器模型和大型語言模型(LLMs)。在GSM8k和視覺問答任務等基準測試中,L-Mul的表現超過了傳統的浮點格式如FP8,展示了其高效處理複雜計算的潛力。隨著對AI的需求不斷上升,L-Mul作為一個關鍵解決方案,不僅解決了與AI相關的能源危機,還為技術發展的可持續未來鋪平了道路。

Related News

Phala 網絡與 Streamr 聯手革新去中心化 AI cover
3 天前
Phala 網絡與 Streamr 聯手革新去中心化 AI
Phala 網絡與 Streamr 宣布了一項令人興奮的新合作夥伴關係,旨在革新去中心化 AI 的格局。這一合作將 Phala 的可信計算基礎設施與 Streamr 的去中心化實時數據流能力相結合。目標是創造一種新的 AI 代理類別,能夠安全和私密地處理實時數據,而不依賴於集中式中介。通過結合這些技術,實時去中心化 AI 的願景正在變為現實,為各個領域的創新應用鋪平道路。 Streamr 在一個專門為實時數據流設計的去中心化網絡上運行,利用點對點架構和發布/訂閱模型。這一結構允許數據生產者廣播可以被應用程序和節點立即消耗的流,顯著降低延遲並增強韌性。Streamr 中的區塊鏈技術集成支持通過其原生 DATA 代幣進行貨幣化和訪問控制,促進了一個強大的開放數據經濟,適用於 Web3 應用程序。這一合作夥伴關係強調了共同的使命,即創造一個更開放和用戶控制的網絡,擺脫對傳統雲服務的依賴。 這一合作利用了 Phala 的可信執行環境 (TEEs) 和 Phat 合約,為 AI 計算提供安全、加密的區域。這確保了即使是機器的擁有者也無法訪問數據或邏輯,為可驗證的 AI 計算奠定了堅實的基礎。通過將 Streamr 的實時數據交付與 Phala 的安全計算層集成,開發人員可以創建處理實時數據的 AI 系統,同時保護隱私並抵抗審查。這一合作不僅展示了去中心化基礎設施的潛力,還為開發人員開辟了新的途徑,以建立符合 Web3 核心價值觀的創新 AI 解決方案——隱私、透明和去中心化。
Fartcoin:在Solana的AI領域中意外崛起的Memecoin cover
5 天前
Fartcoin:在Solana的AI領域中意外崛起的Memecoin
在不斷演變的加密貨幣市場中,少數代幣能夠獲得像Fartcoin這樣的關注,這是一種基於Solana的AI Memecoin。儘管其尚處於初創階段,Fartcoin已在社交媒體平台上建立了顯著的存在,特別是在Twitter上,聰明的投資者將其視為購買信號。這種來自白俄羅斯的Memecoin迅速在Solana生態系統中定位為領跑者,超越了許多更成熟的競爭對手。Fartcoin的市值為4.552億美元,現在佔據了Solana上AI代幣總市值的32.1%,該總市值約為11.148億美元,涵蓋772個項目。 Fartcoin的崛起尤其引人注目,因為它缺乏許多AI代幣所具備的典型實用性或技術主張。相反,它利用了當前圍繞人工智慧的熱情,在市場中開創了一個重要的利基。它的表現超越了像#ai16z這樣的成熟代幣,Fartcoin的市值超過了其最近競爭對手近250%。這一意外的成功引發了對Solana區塊鏈上AI代幣未來的質疑,暗示著投資者的興趣可能轉向更輕便的、基於迷因的項目,而不是更傳統的技術重型解決方案。 Fartcoin在機構投資者中的吸引力,通常被稱為“智慧資金”,是其成功的關鍵驅動力。這些投資者被Fartcoin在市場中的獨特地位所吸引,其迷因文化和社區參與已被證明是強大的資產。隨著Fartcoin繼續吸引大量的投資和關注,其未來仍然不確定,但其當前的發展軌跡表明,它已經在Solana的AI領域中建立了自己強大的地位。最終,Fartcoin體現了加密貨幣世界的不可預測性,即使是一個Memecoin也能主導一個通常留給更嚴肅項目的市場細分。
專注於 AI 的加密貨幣在微軟數據中心擴張放緩中面臨重大下滑 cover
10 天前
專注於 AI 的加密貨幣在微軟數據中心擴張放緩中面臨重大下滑
最近加密貨幣市場的下滑,特別是專注於 AI 的代幣,受到微軟決定放緩數據中心擴張計劃的重大影響。在過去 24 小時內,Bittensor 的代幣暴跌 10%,在過去一周內更是驚人地下跌了 24%。Render Token (RNDR) 和 Grass 分別也面臨 10% 和 20% 的下滑,這導致 CoinGecko 追蹤的 AI 代幣的總市值下降了 10%。這一趨勢與主要 AI 相關股票的表現相呼應,NVIDIA 自 2024 年峰值以來下跌超過 30%,而 AMD 今年的高點則下跌了 47%。 微軟的公告影響,包含在多個國家停止或延遲數據中心的開發,讓人擔心 AI 部門的增長速度。這一消息尤其引人注目,因為微軟在通過與 ChatGPT 的創造者 OpenAI 的合作來商業化 AI 中扮演著關鍵角色。TD Cowen 的分析師對可能出現的數據中心供應過剩表示擔憂,認為需求可能無法跟上之前預期的快速擴張。 AI 的繁榮吸引了許多加密空間的開發者,像 Bittensor 這樣的項目提供去中心化的 AI 學習模型市場,礦工通過貢獻計算資源來賺取 TAO 代幣。Render 在 Solana 上運行,為用戶提供租用 GPU 功率的平台,而 Grass 則通過應用程序安裝來激勵用戶賺取代幣。此外,AI meme 代幣的下滑,特別是在 Virtuals Protocol 生態系統中,突顯了市場的更廣泛修正,像 GAME 這樣的代幣自一月以來其估值從 3.5 億美元暴跌至僅 1300 萬美元。
鳳凰網引領 DePIN-AI 領域的增長與創新 cover
17 天前
鳳凰網引領 DePIN-AI 領域的增長與創新
去中心化物理基礎設施網絡(DePIN)領域正在迅速發展,展示出在各種技術領域的重大潛力。根據 Messari 最近的報告,DePIN 目前正處於初期增長階段,市場份額不到 0.1%,但市值達到 500 億美元,並擁有超過 1300 萬個每日貢獻的設備。通過消除集中式中介,DePIN 促進了物理資產的更高效和包容性的共享,這對於計算、人工智能、無線技術和能源服務等關鍵基礎設施的發展和運營至關重要。 自成立以來,DePIN 吸引了主要科技公司的注意,特別是在 2023 年,全球製造商開始將區塊鏈整合到現實世界的基礎設施中。該領域可以分為物理資源網絡,專注於設備,以及數字資源網絡,強調計算資源,如 CDN 和 AI。這種二元性使得個別設備擁有者能夠共享數據並獲得獎勵,同時提供可訪問的計算資源。DePIN 的應用範圍擴展到電信、數據管理和雲存儲,提供可擴展的替代方案以取代傳統集中式系統,並增強 AI 功能。 在這一創新前沿的是鳳凰網,一個去中心化的 AI 計算網絡,利用 DePIN 基礎設施為 AI 應用提供可擴展的解決方案。鳳凰網的 SkyNet 平台利用全球分佈的高性能 GPU 網絡,包括 NVIDIA 和其他替代型號,以優化 AI 操作。他們與 TandemAI 和 Origin Quantum 等公司的合作旨在民主化對先進計算資源的訪問,使研究機構能以最低成本進行複雜分析。隨著 DePIN-AI 領域預計到 2028 年將達到 3.5 兆美元的市場規模,鳳凰網準備通過將去中心化基礎設施與尖端 AI 技術相結合,領導這一變革浪潮。
SFT 協議與 SOLPEN 合作推進 AI 驅動的去中心化基礎設施 cover
18 天前
SFT 協議與 SOLPEN 合作推進 AI 驅動的去中心化基礎設施
SFT 協議,作為 Web3 領域的一個重要參與者,已宣布與基於 Solana 區塊鏈的 AI 驅動 DePIN 生態系統 SOLPEN 建立戰略合作夥伴關係。這一合作旨在重新定義去中心化 AI 網絡與物聯網 (IoT) 之間的互動,從而加強 Web3 技術與實體基礎設施之間的聯繫。該倡議通過 SFT 協議的官方社交媒體渠道披露,突顯了這一合併在推進兩個平台能力方面的重要性。 該合作夥伴關係將 SFT 協議在 DePIN 基礎設施方面的強大解決方案與 SOLPEN 的尖端 AI 驅動可穿戴技術相結合。這一整合預計將創造一個低延遲、高效率運作的去中心化生態系統。通過利用去中心化數據處理和 AI 分析,這一合作承諾將顯著提升現實世界應用。SFT 協議已確立其在 DePIN 生態系統中的關鍵角色,專注於支持無縫現實世界應用的基於區塊鏈的基礎設施,從而推動 Web3 技術的更廣泛採用。 此外,這一合作受益於 Solana 的高性能區塊鏈,這促進了各種 Web3 平台之間無與倫比的整合。通過為去中心化基礎設施設立新標準,SFT 協議和 SOLPEN 正在提升其產品的實用性和可及性。隨著他們的持續發展,這一合作夥伴關係有望引領一個更智能的、集成 AI 的 Web3 網絡,為去中心化領域的創新解決方案鋪平道路。
新澤西惡魔隊推出AI聊天機器人「Bott Stevens」以增強粉絲互動 cover
25 天前
新澤西惡魔隊推出AI聊天機器人「Bott Stevens」以增強粉絲互動
新澤西惡魔隊推出了一款名為「Bott Stevens」的創新AI聊天機器人,旨在增強數位粉絲互動。這款創新的聊天機器人是以傳奇的惡魔隊球員Scott Stevens命名,並由Theta EdgeCloud的去中心化AI基礎設施提供支持。預計在2024-25 NHL賽季推出,Bott Stevens將在球隊的官方網站上提供服務,為粉絲提供有關比賽日程、票務銷售、統計數據和商品的即時資訊。利用Theta的檢索增強生成技術,該聊天機器人將通過從官方NHL渠道獲取信息來確保數據的準確性,從而減少來自未經驗證來源的錯誤信息風險。 Bott Stevens擁有令人印象深刻的計算能力,利用Theta EdgeCloud超過30,000個邊緣節點和分佈式GPU的網絡,總共提供超過80 PetaFLOPS的處理能力。這一強大的基礎設施旨在應對高峰需求,特別是在如季後賽或重要球隊公告等高壓事件期間。除了回答粉絲的詢問,該聊天機器人還將提供歷史亮點、比賽回顧、場館信息和球隊活動的更新。未來的增強功能可能包括幻想運動的預測分析和進一步吸引粉絲的互動工具。 為了推廣Bott Stevens,惡魔隊計劃在多個平台上整合其功能,鼓勵粉絲互動和認知。該聊天機器人不僅將提供統計數據和日程安排,還將提供豐富粉絲體驗的精選內容,例如歷史亮點和即將舉行的活動信息。成功指標將包括用戶參與率、信息準確性和粉絲反饋,確保Bott Stevens成為惡魔隊社區的寶貴資源。通過專注於持續學習和個性化互動,球隊旨在使Bott Stevens與其他AI代理區別開來,為粉絲創造獨特而引人入勝的體驗。
註冊以獲取最新的DePIN新聞和更新