革命性提升AI效率:L-Mul算法的影響
星期三, 十一月 13, 2024 12:00 凌晨
2,546
人工智慧(AI)的快速發展在各個領域帶來了顯著的進步,但由於其高能耗,卻也付出了沉重的環境代價。AI模型,特別是那些使用神經網絡的模型,需要大量的計算能力,這轉化為巨大的電力消耗。例如,2023年初運行ChatGPT每天消耗約564 MWh的電力,相當於約18,000個美國家庭的能源需求。這一能源需求主要是由於神經網絡計算所需的複雜浮點運算驅動的,隨著AI系統的複雜性增長,尋找節能解決方案變得至關重要。
L-Mul(線性複雜度乘法)算法的出現是一項突破性發展,承諾顯著減少與AI計算相關的能源負擔。L-Mul通過用更簡單的整數加法來近似浮點乘法,這可以無需微調就整合到現有的AI模型中。這種創新方法已顯示出顯著的節能效果,對於元素級張量乘法可達到高達95%的能耗減少,對於點積計算則可達到80%。重要的是,這種能源效率並不妨礙AI模型的準確性,標誌著在追求可持續AI方面的重要進展。
L-Mul的影響不僅限於節能;它還提升了AI模型在各種應用中的性能,包括變壓器模型和大型語言模型(LLMs)。在GSM8k和視覺問答任務等基準測試中,L-Mul的表現超過了傳統的浮點格式如FP8,展示了其高效處理複雜計算的潛力。隨著對AI的需求不斷上升,L-Mul作為一個關鍵解決方案,不僅解決了與AI相關的能源危機,還為技術發展的可持續未來鋪平了道路。
Related News
1 天前
VentureMind AI 與 Theta EdgeCloud 合作提升 AI 和機器人技術能力在 AI 和區塊鏈交匯的令人興奮的發展中,VentureMind AI 宣布與 Theta EdgeCloud 建立合作夥伴關係。這一合作旨在利用 Theta 的去中心化、低延遲計算和串流資源來增強 VentureMind AI 的能力。通過整合 EdgeCloud,VentureMind AI 將能夠擴展其 AI 工具,優化視頻渲染,並提供實時機器人控制,顯著改善其在建築和安全等領域的服務。這一合作標誌著在創建一個綜合生態系統方面邁出了重要一步,該生態系統將 AI 創新與去中心化金融和先進機器人技術相結合。
VentureMind AI 是一個開創性的平臺,允許用戶創建、鑄造和交易 AI 工具作為 NFT,提供獨特的所有權和收入潛力。該平臺還具有自定義自主代理構建器,使用戶能夠啟動代幣化社區並管理市場創造活動。自 2023 年 6 月成立以來,EdgeCloud 在學術界和企業界都獲得了關注,像首爾國立大學和 GenAI search Liner 等機構利用其基礎設施推進 AI 研究和應用。
通過整合 Theta EdgeCloud,VentureMind AI 將重新定義 AI、機器人技術和 Web3 領域的可能性。這一合作將促進 AI 創新的可擴展計算、可靠的機器人控制、成本效益高的視頻處理,以及對 NFT 和自主工具的增強整合。VentureMind AI 由 Jermaine Anugwom 創立,迅速從一系列專業的 AI 工具發展為一個強大的平臺,結合了區塊鏈技術和代幣經濟學,將自己定位為新興 Web3 環境中的領導者。
1 天前
用物聯網技術革新農業物聯網技術在農業中的整合正在改變這個行業,使農民能夠做出基於數據的明智決策,從而提高生產力和可持續性。全球智能農業市場預計到2026年將達到200億美元,這主要得益於物聯網解決方案在農場的日益普及。這些技術優化了作物和畜牧管理的各個方面,幫助農民降低成本,同時提高產量和環境管理。隨著物聯網設備的普及,它們提供了顯著的優勢,包括資源管理的自動化以及對天氣和土壤條件等關鍵因素的實時數據收集。
像氣象站和土壤傳感器這樣的物聯網設備在智能農業中扮演著關鍵角色。氣象站提供有關溫度、濕度和降水量的基本數據,使農民能夠及時調整灌溉和種植計劃。土壤傳感器提供有關濕度水平的實時洞察,優化水的使用和施肥策略。此外,牲畜監控項圈確保了對動物健康和位置的主動管理。通過根據實時數據自動化灌溉和資源分配,農民可以節省資源並增強作物健康,最終導致利潤增加。
Chirp的平台通過將這些物聯網設備整合到一個由單一儀表板管理的系統中,提升了這些設備的有效性。區塊鏈技術的引入進一步加強了數據管理,確保了由物聯網設備生成的大量信息的安全、不可篡改的存儲和可追溯性。Chirp的Blackbird礦工為這些設備提供長距離連接,促進了在大範圍內可靠的數據傳輸,而無需單獨的互聯網連接。這種物聯網技術的無縫整合使Chirp成為農民的重要合作夥伴,使他們能夠應對挑戰並抓住在不斷發展的農業環境中的新機遇。
1 天前
Theta 與首爾國立大學合作以增強 AI 研究Theta 宣布與韓國頂尖學術機構首爾國立大學 (SNU) 建立重要合作夥伴關係,通過其 EdgeCloud 平台增強 AI 研究。這一合作將特別惠及 SNU 的 AIoT 實驗室,由著名的環境 AI 和物聯網系統專家金亨信副教授負責。該合作旨在加速在 AI 驅動的醫療創新和實時數據處理等領域的研究,利用 Theta 的先進混合雲 GPU 資源。SNU 成立於 1946 年,在各個學科中享有卓越聲譽,並始終在亞洲頂尖大學中名列前茅。
自 6 月推出 EdgeCloud 以來,Theta 在美國和韓國的學術界獲得了關注,與包括俄勒岡大學和 KAIST 在內的多所知名機構建立了合作。SNU 的 AIoT 實驗室已經在該領域做出了顯著貢獻,金教授領導的工作獲得了多項獎項和高影響力的研究資助。最近的成就包括在主要會議和比賽中獲得的獎項,展示了該實驗室在推進 AI 和物聯網技術方面的承諾。Theta 基礎設施的整合預計將進一步增強該實驗室在開發優先考慮數據隱私和實時健康洞察的自適應模型方面的能力。
金教授對這一合作表示興奮,強調 Theta 的去中心化 AI 基礎設施將重新定義 GPU 生態,並促進環境 AI 和物聯網應用的突破性進展。這一合作不僅加強了 Theta 對支持世界級 AI 研究的承諾,還使公司在學術界中成為關鍵角色,並期望在亞洲和北美吸引更多頂尖機構。隨著 Theta 繼續擴大其影響力,與 SNU 的合作標誌著在 AI 和物聯網領域促進創新實際應用的重要一步。
2 天前
DIMO 與 MATT3R 合作以增強 AI 和 AV 開發DIMO 基金會宣布與 MATT3R 建立重要合作夥伴關係,旨在增強現代車輛生態系統的互操作性和去中心化。這一合作將加速人工智慧 (AI) 和自動駕駛車輛 (AV) 模型的開發,通過改善數據收集、驗證和可訪問性。MATT3R 將是繼 Digital Infrastructure Inc. 之後,第一家完全整合進 DIMO 生態系統的公司,利用 DIMO SDK 並引入一種新的硬體設備來收集獨特的視頻數據集。這一舉措代表了擴展 DIMO 協議的重要一步,該協議旨在促進多樣化數據類型並為開發者創造更互聯的環境。
在計算機視覺領域,解釋視覺數據的能力對於自動駕駛車輛的進步至關重要。然而,一個主要挑戰在於獲取大量高質量的數據集,這些數據集對於訓練 AI 模型是必要的。MATT3R 通過使用戶能夠通過 K3Y 設備收集和共享來自其車輛的數據來解決這一問題。該設備允許聚合視覺和傳感器數據,然後對其進行分類和標記,供開發者使用。通過利用群眾來源的方法,MATT3R 能夠為開發者提供訪問各種現實場景的機會,從而提高其 AI 和 AV 模型的穩健性,同時確保用戶的隱私和對個人數據的控制。
這一合作夥伴關係還包括將 DIMO SDK 集成到 MATT3R 的 Consol3 移動應用程序中,允許現有 DIMO 用戶和新用戶無縫訪問。這一整合不僅增強了用戶體驗,還促進了開發者和用戶之間的互利關係。隨著 MATT3R 準備在 11 月啟動 K3Y 設備的預售,這一合作承諾將創造一個值得信賴的數據生態系統,提升全球範圍內 AI 和 AV 模型訓練的效率和質量。DIMO 協議的驗證框架將進一步確保所收集數據的完整性,為汽車技術的去中心化未來鋪平道路。
2 天前
數位貨幣集團推出Yuma以創新Bittensor的去中心化AI網絡數位貨幣集團(DCG)在巴里·西爾伯特(Barry Silbert)的領導下,正式推出了Yuma,這是一家旨在促進Bittensor去中心化AI網絡創新的新子公司。Yuma的使命是為初創企業和企業提供必要的資源,以在去中心化框架內開發、訓練和利用人工智慧。Bittensor生態系統的核心是$TAO代幣,通過獎勵貢獻者的計算能力和工作質量來激勵參與。這一模式不僅鼓勵效率,還促進用戶之間的合作,使其成為傳統由大型科技公司主導的集中式AI系統的有力替代方案。
Yuma旨在支持各種AI驅動的項目,這些項目可以通過Bittensor網絡獲得獎勵。該公司提供兩種不同的合作模式:一個為初創企業和成熟企業量身定制的加速器計劃,以及一個促進從零開始創建新項目的子網孵化器。通過其早期的子網孵化器計劃,Yuma已經與幾家公司建立了合作夥伴關係,包括Sturdy、Masa、Score和Infinite Games。此外,它還與Foundry合作推出了S&P 500 Oracle子網,展示了其在建立一個強大去中心化AI生態系統方面的承諾。
正如Bittensor的共同創始人雅各布·斯蒂夫斯(Jacob Steeves)所指出的,該平台的創建旨在提供一種與傳統自上而下的方法競爭的替代方案,該方法限制了對先進AI能力的訪問。DCG與Bittensor的合作始於2021年,其資產管理部門Grayscale自此推出了Bittensor Trust和一個去中心化AI基金,其中Bittensor佔後者的21%。這一戰略投資凸顯了去中心化網絡在未來人工智慧和數位擁有權中的日益重要性。
2 天前
DCG推出Yuma以加速與Bittensor的去中心化AI數位貨幣集團(DCG)首席執行官巴里·西爾伯特(Barry Silbert)表示,他相信Bittensor可能會像比特幣一樣具有變革性。為了支持這一願景,DCG推出了一家名為Yuma的新公司,將作為對探索Bittensor生態系統感興趣的初創企業的加速器。Bittensor本身是一個去中心化的網絡,激勵對各種AI任務的數據和計算能力的貢獻,範圍從文本翻譯到複雜的蛋白質結構預測。西爾伯特將Bittensor比作AI的萬維網,突顯其民主化AI技術的潛力,並減少大型科技公司的主導地位。
Yuma旨在孵化和建立利用去中心化AI的企業,計劃支持初創企業和企業在Bittensor框架內啟動自己的子網。西爾伯特將擔任Yuma的首席執行官,該公司預計將以約25名員工開始運營。該公司運作模式類似於Y Combinator,為加速器和孵化器合作夥伴提供資源和支持。目前,Yuma有五個活躍的子網,還有其他項目正在開發中,展示了包括機器人檢測、時間序列預測和AI研究在內的多樣化應用。
對去中心化AI的興趣對DCG來說並不是最近的發展,因為他們在2021年首次投資於Bittensor。隨著通過Grayscale增加專門用於AI的資金,DCG正在將自己定位於這一新興技術的前沿。Bittensor的原生加密貨幣$TAO在激勵去中心化工作者方面發揮著關鍵作用,無論他們是提供計算服務的礦工還是確保質量貢獻的驗證者。隨著Yuma的持續增長,旨在促進Bittensor生態系統內的創新和合作,為去中心化AI應用的新時代鋪平道路。