L-Mul算法：提升人工智能效率的新突破
星期三, 十一月 13, 2024 12:00 凌晨
739
随着人工智能（AI）的快速发展，能源消耗问题日益严重，尤其是神经网络模型的计算需求高，导致巨大的电力消耗。例如，2023年初，运行ChatGPT每天消耗约564 MWh电力，相当于1.8万户美国家庭的用电量。为了解决这一问题，L-Mul（线性复杂度乘法）算法应运而生，通过用简单的整数加法近似浮点乘法，显著降低AI计算的能源需求。L-Mul在元素级张量乘法中实现了高达95%的能耗减少，在点积计算中减少了80%的能耗，同时保持了AI模型的准确性。该算法在多个应用中表现出色，包括变换器模型和大型语言模型（LLMs），在GSM8k和视觉问答等基准测试中超越传统浮点格式FP8。L-Mul不仅解决了AI的能源危机，还为可持续技术发展铺平了道路。
Related News
2 天前
io.net与NovaNet合作提升GPU验证安全性io.net与零知识证明领域的领导者NovaNet达成合作，旨在开发零知识GPU识别（zkGPU-ID）技术，以增强去中心化计算网络的安全性和可靠性。此项技术将提供GPU资源的真实性和性能的加密保证，提升用户信任。io.net的业务发展副总裁Tausif Ahmed表示，优化分布式GPU供应商的协调和验证对构建无权限的企业级去中心化计算网络至关重要。通过NovaNet的zkGPU-ID，io.net能够在全球范围内持续验证和测试其GPU资源，确保客户租用的GPU可靠且符合需求。此外，zkGPU-ID协议利用NovaNet的zkVM技术，以更低成本生成和验证GPU规格的加密证明。这一合作为去中心化GPU计算网络设立了新的透明度、可靠性和安全性标准，标志着行业的重要进步。
3 天前
Stratos与MetaTrust Labs合作提升Web3安全性Stratos宣布与Web3 AI安全工具和代码审计服务提供商MetaTrust Labs建立合作关系，旨在通过结合先进的AI安全措施和去中心化存储解决方案，增强Web3应用的安全性和韧性。该合作将创建一个强大的基础设施，不仅保护数据，还确保Web3应用的可靠性和效率。MetaTrust Labs在新加坡南洋理工大学孵化，专注于开发AI解决方案，帮助开发者和利益相关者保护其应用和智能合约。Stratos以其去中心化基础设施解决方案而闻名，提供高可用性、可扩展性和韧性的存储框架。通过整合MetaTrust Labs的AI驱动安全工具，双方的合作将为Web3应用中的代码和数据提供卓越的保护，提升开发者的安全信心，并促进Web3空间的整体完整性，推动更安全的数字未来。
3 天前
狗狗币保持流动性，Bittensor面临挑战在当前的加密货币市场中，狗狗币（DOGE）展现出强大的韧性，尽管市场波动，仍保持稳定流动性。近期美国选举后，大户（鲸鱼）的活动显著增加，鲸鱼净流入增长近957%，单日交易量从约4500万激增至超过4.3亿DOGE。虽然狗狗币价格在选举期间短暂上涨约10%，随后回落约6%，但其交易量依然强劲，超过38亿美元，市值接近290亿美元，显示出其市场存在感和投资者持续关注。相对而言，Bittensor（TAO）面临流动性下降的挑战，市值约37亿美元，日交易量约1.65亿美元，投资者参与度减弱。与此同时，IntelMarkets（INTL）作为加密交易的新兴平台，正在进行第五阶段预售，已筹集约200万美元，凭借其AI驱动的交易平台吸引投资者关注。
3 天前
Falcon Mamba 7B：无注意力AI模型的突破阿布扎比技术创新研究所（TII）开发的Falcon Mamba 7B是无注意力模型的典范，标志着人工智能（AI）的快速发展。该模型摒弃了传统的基于Transformer的架构，采用状态空间模型（SSMs），在长上下文任务中提供更快、更节省内存的推理能力。Falcon Mamba 7B在5.5万亿标记的数据集上进行训练，成为谷歌Gemma和微软Phi等现有模型的有力竞争者。其架构设计确保推理成本与输入长度无关，有效解决了Transformer模型的二次扩展问题，适用于文档摘要和客户服务自动化等长上下文处理应用。尽管在复杂上下文理解任务中仍有局限，但其内存效率和速度使其成为优化AI解决方案的理想选择。Falcon Mamba 7B的量化支持使其在GPU和CPU上的高效部署成为可能，预示着无注意力模型可能成为未来AI应用的标准。
4 天前
曼谷举办数据、人工智能和加密货币相关活动本月，曼谷将举行一系列聚焦数据、人工智能和加密货币的创新活动，包括11月11日的Filecoin FIL开发者峰会、11月12日至15日的Devcon以及11月15日的Fluence DePIN日。这些活动旨在为开发者、运营者和新手提供一个网络和合作的平台，促进对去中心化技术的关注。与会者将讨论去中心化存储、可验证数据和身份管理等主题。活动组织者还积极推广其私密Telegram群组“数据证明”，为Web3数据生态系统中的挑战提供协作空间。随着Web3生态系统的不断发展，此类活动对建立关系和分享知识至关重要，吸引了从资深开发者到好奇学习者的多样化参与者。与会者被鼓励在DePIN日与团队联系，获取更多信息并参与“数据证明”社区的讨论，共同推动去中心化技术的未来。
6 天前
CUDOS与ParallelAI合作提升去中心化AI计算能力CUDOS与ParallelAI达成战略合作，旨在将CUDOS的高性能Ada Lovelace和Ampere GPU与ParallelAI的Parahub GPU中间件结合，创建高效可扩展的去中心化AI计算环境。此合作将为ParallelAI的$PAI生态系统提供强大且经济的GPU资源，助力加速AI工作负载，帮助开发者和企业优化GPU利用率，降低运营成本。此次合作恰逢CUDOS与ASI联盟成员（如Fetch.ai、SingularityNET和Ocean Protocol）完成代币合并，进一步巩固其在全球去中心化AI网络中的地位。ParallelAI即将推出的Parilix编程语言和PACT自动代码转换器将简化GPU编程，提升并行处理的可及性，推动AI领域的创新。CUDOS与ParallelAI的合作标志着双方共同致力于可持续和可访问的AI计算解决方案，预计将重塑开发者和企业的人工智能格局。