革命性提升AI效率:L-Mul算法的影響
星期三, 十一月 13, 2024 12:00 凌晨
1,613
人工智慧(AI)的快速發展在各個領域帶來了顯著的進步,但由於其高能耗,卻也付出了沉重的環境代價。AI模型,特別是那些使用神經網絡的模型,需要大量的計算能力,這轉化為巨大的電力消耗。例如,2023年初運行ChatGPT每天消耗約564 MWh的電力,相當於約18,000個美國家庭的能源需求。這一能源需求主要是由於神經網絡計算所需的複雜浮點運算驅動的,隨著AI系統的複雜性增長,尋找節能解決方案變得至關重要。
L-Mul(線性複雜度乘法)算法的出現是一項突破性發展,承諾顯著減少與AI計算相關的能源負擔。L-Mul通過用更簡單的整數加法來近似浮點乘法,這可以無需微調就整合到現有的AI模型中。這種創新方法已顯示出顯著的節能效果,對於元素級張量乘法可達到高達95%的能耗減少,對於點積計算則可達到80%。重要的是,這種能源效率並不妨礙AI模型的準確性,標誌著在追求可持續AI方面的重要進展。
L-Mul的影響不僅限於節能;它還提升了AI模型在各種應用中的性能,包括變壓器模型和大型語言模型(LLMs)。在GSM8k和視覺問答任務等基準測試中,L-Mul的表現超過了傳統的浮點格式如FP8,展示了其高效處理複雜計算的潛力。隨著對AI的需求不斷上升,L-Mul作為一個關鍵解決方案,不僅解決了與AI相關的能源危機,還為技術發展的可持續未來鋪平了道路。
Related News
3 天前
io.net 與 NovaNet 合作提升 GPU 驗證,推出 zkGPU-ID在一項重要舉措中,io.net(專注於 GPU 集群的去中心化物理基礎設施網絡)與零知識證明(ZKP)領導者 NovaNet 建立了合作夥伴關係,以增強去中心化計算網絡的安全性和可靠性。這項合作旨在開發一種名為零知識 GPU 識別(zkGPU-ID)的突破性解決方案,該方案將提供有關 GPU 資源的真實性和性能的密碼學保證。通過利用 NovaNet 的先進 ZKP 技術,io.net 將能夠驗證其去中心化平台中使用的 GPU 不僅符合而且可能超過其廣告規格,從而增強用戶信任和資源可靠性。
io.net 的商務發展副總裁 Tausif Ahmed 強調了這一合作夥伴關係的重要性,指出在廣泛的分散 GPU 供應商網絡中優化協調和驗證對於建立一個無需許可且適合企業的去中心化計算網絡至關重要。NovaNet 的 zkGPU-ID 的整合將使 io.net 能夠在全球範圍內持續驗證和測試其 GPU 資源,確保客戶可以自信地租用可靠且符合其特定需求的 GPU。這一舉措代表了去中心化計算基礎設施的一項重大進展,旨在緩解對資源真實性和性能的擔憂。
此外,zkGPU-ID 協議利用了 NovaNet 的 zkVM(零知識虛擬機)技術,該技術在以較低成本生成和驗證 GPU 規格的密碼學證明中發揮了重要作用。NovaNet 的技術聯合創始人 Wyatt Benno 強調了 ZKP 在各種設備和上下文中運行以實現隱私和本地可驗證性的重要性。NovaNet 的 zkEngine 嚴格測試和識別 io.net 平台中的 GPU,創建一個確保 GPU 完整性的 ZKP。這一合作夥伴關係為去中心化 GPU 計算網絡的透明度、可靠性和安全性設立了新的標準,標誌著行業的一個關鍵進步。
4 天前
Stratos 與 MetaTrust Labs 合作增強 Web3 安全性在 Web3 生態系統的一個重要發展中,Stratos 宣布與 Web3 AI 安全工具和代碼審計服務的領先提供商 MetaTrust Labs 建立合作夥伴關係。這一合作旨在通過將先進的 AI 驅動安全措施與 Stratos 的去中心化存儲解決方案相結合,來增強 Web3 應用程序的安全性和韌性。該合作的目標是創建一個強大的基礎設施,不僅保護數據,還確保 Web3 應用程序的可靠性和效率,這對於開發者和用戶來說都是至關重要的。
MetaTrust Labs 在新加坡南洋理工大學孵化,因其在 Web3 安全方面的創新方法而受到認可。該公司專注於開發先進的 AI 解決方案,旨在幫助開發者和利益相關者保護其應用程序和智能合約。在快速發展的數字環境中,對安全的關注至關重要,因為漏洞可能導致重大風險。通過利用 AI 技術,MetaTrust Labs 旨在創建更安全、更高效的數字生態系統,能夠抵禦潛在威脅。
Stratos 以其對去中心化基礎設施解決方案的承諾而聞名,在這一合作中發揮了關鍵作用。該公司提供一個去中心化的存儲框架,支持 Web3 平台的高可用性、可擴展性和韌性。通過將其去中心化存儲解決方案與 MetaTrust Labs 的 AI 驅動安全工具集成,該合作承諾為 Web3 應用程序中的代碼和數據提供無與倫比的保護水平。這一合作不僅增強了開發者的安全信心,還有助於整個 Web3 空間的整體完整性,為更安全的數字未來鋪平了道路。
4 天前
狗狗幣在市場變動中保持流動性,比特森面臨挑戰在當前的加密貨幣市場中,狗狗幣(DOGE)展現了驚人的韌性,儘管市場波動,仍保持穩定的流動性。在最近的美國選舉後,大型持有者或稱為「鯨魚」的活動顯著增加,鯨魚的淨流量增長了近957%。這一激增使得交易量在一天內從約4500萬增至超過4.3億DOGE。儘管狗狗幣的價格在選舉期間短暫上漲了約10%,但隨後又下跌了約6%,穩定在略低的水平。然而,其交易量仍然強勁,超過38億美元,市值接近290億美元,突顯了其在市場上的強大存在和主要投資者的持續關注。
相對而言,比特森(TAO)面臨挑戰,因為其流動性下降,這引發了投資者的擔憂。其市值約為37億美元,日交易量約為1.65億美元,減少的交易活動顯示出投資者參與的變化。目前,流通中的TAO代幣約為740萬個,最大供應量為2100萬個。流動性的下降可能導致價格波動性增加,這使得投資者必須密切關注這些趨勢。持續的下降可能會影響代幣的價值及其對潛在投資者的整體吸引力。
與此相比,英特爾市場(INTL)正在加密交易領域中崛起,擁有一個基於現代區塊鏈的獨特AI驅動交易平台。目前正處於預售的第五階段,英特爾市場已籌集了約200萬美元,近1000萬個代幣以0.045 Tether的價格售出,預計將增至約0.054。該平台的自學機器人處理超過100,000個數據點,讓交易者能夠根據實時數據做出明智的決策。憑藉其有限的代幣供應和先進的技術,英特爾市場將自己定位為尋求在波動市場中持續增長和穩定的投資者的戰略平台。
4 天前
Falcon Mamba 7B:無需注意的人工智慧模型的突破人工智慧(AI)的快速演變受到無需注意模型出現的顯著影響,其中 Falcon Mamba 7B 是一個顯著的例子。該模型由阿布達比的科技創新研究所(TII)開發,這一突破性模型脫離了傳統的基於 Transformer 的架構,這些架構過度依賴注意機制。相反,Falcon Mamba 7B 利用狀態空間模型(SSMs),提供更快且更節省記憶體的推理,解決了與長上下文任務相關的計算挑戰。通過在 5.5 兆個標記的廣泛數據集上進行訓練,Falcon Mamba 7B 自我定位為與 Google 的 Gemma 和 Microsoft 的 Phi 等現有模型的競爭替代品。
Falcon Mamba 7B 的架構旨在保持恆定的推理成本,無論輸入長度如何,有效解決了困擾 Transformer 模型的二次擴展問題。這一獨特的能力使其在需要長上下文處理的應用中表現出色,例如文檔摘要和客戶服務自動化。儘管它在各種自然語言處理基準中展現了優越的性能,但在需要複雜上下文理解的任務中仍面臨限制。儘管如此,它的記憶體效率和速度使其成為希望優化 AI 解決方案的組織的有力選擇。
Falcon Mamba 7B 的影響不僅限於性能指標。它對量化的支持使其能夠在 GPU 和 CPU 上高效部署,進一步增強了其多功能性。隨著 AI 領域的演變,Falcon Mamba 7B 的成功表明,無需注意的模型可能很快成為許多應用的標準。隨著持續的研究和開發,這些模型有可能在速度和準確性上超越傳統架構,為各行各業的創新應用鋪平道路。
5 天前
連結建設者:曼谷專注於數據、人工智慧和加密貨幣的活動在數據、人工智慧和加密貨幣交匯處的創新推動中,一群建設者正準備在本月與曼谷的社區互動。他們將參加幾個重要活動,包括11月11日的Filecoin FIL開發者峰會、11月12日至15日的Devcon,以及11月15日的Fluence DePIN日。這些聚會旨在為建設者、運營商和新手提供一個網絡和合作的平台,以應對快速發展的Web3領域。
這些活動的重點是促進對去中心化技術感興趣的人的聯繫。與會者可以期待參與有關去中心化存儲、可驗證數據和身份管理等各種主題的討論。組織者特別希望推廣他們的私人Telegram群組Proof of Data,該群組作為一個協作空間,供解決Web3數據生態系統中的挑戰的個人使用。這一倡議旨在創建一個社區,讓參與者可以分享與數據可用性和合成數據相關的見解和解決方案。
隨著Web3生態系統的持續增長,這樣的活動對於建立關係和分享知識至關重要。通過將來自不同背景的利益相關者聚集在一起,從經驗豐富的開發者到好奇的學習者,曼谷的聚會承諾將成為思想和創新的熔爐。鼓勵與會者在DePIN日與團隊聯繫以獲取更多信息,並參加Proof of Data社區的持續對話,確保每個人都有機會為去中心化技術的未來做出貢獻。
7 天前
CUDOS 與 ParallelAI 合作提升去中心化 AI 計算CUDOS 是可持續和去中心化雲計算領域的重要參與者,最近與專注於人工智慧的平行處理解決方案先驅 ParallelAI 簽署了戰略合作夥伴關係。這次合作旨在將 CUDOS 的高性能 Ada Lovelace 和 Ampere GPU 與 ParallelAI 的 Parahub GPU 中介軟體相結合,從而創造一個去中心化的 AI 計算環境,承諾提供卓越的效率和可擴展性。通過利用 CUDOS 的去中心化基礎設施,ParallelAI 的 $PAI 生態系統將能夠獲得強大且具成本效益的 GPU 資源,從而加速 AI 工作負載,使開發者和企業能夠優化 GPU 使用,同時降低運營成本。
這次合作的時機尤為重要,因為 CUDOS 繼續在最近與 ASI Alliance 成員的代幣合併上發展,其中包括 Fetch.ai、SingularityNET 和 Ocean Protocol 等知名實體。這一戰略聯盟進一步鞏固了 CUDOS 在全球認可的去中心化 AI 網絡中的地位。ParallelAI 即將推出的 Parilix 程式語言和 PACT 自動代碼轉換器將進一步補充這一合作,簡化 GPU 編程,並提高平行處理對開發者的可及性,從而促進 AI 領域的創新。
CUDOS 與 ParallelAI 之間的合作象徵著雙方對推動可持續和可及的 AI 計算解決方案的共同承諾。隨著他們技術的整合進展,這一合作關係有望開創去中心化高性能計算的新時代,最終重新定義開發者和企業的人工智慧格局。ParallelAI 能夠通過顯著減少計算時間來提升計算效率,這兩家公司之間的協同效應預計將促進各種 AI 驅動的項目和大規模數據分析。