Network3发布新本地大型语言模型(LLM)功能

2024年11月12日，W2140博览会在曼谷隆重开幕，这是全球顶级的AI和Web3会议，吸引了超过1000个组织和20万名参与者，成为同类会议中规模最大的一次。Titan Network核心团队成员与联合国工作人员及人工智能国际研究院创始人Dr. James Ong进行了深入讨论。Dr. Ong在主题演讲中强调了去中心化技术的重要性，并指出Titan Network及其生态合作伙伴Pnuts.AI是AIDePIN和AIDeHIN框架中的典范。Titan通过区块链技术开发的去中心化基础设施网络（DePIN）可节省高达96%的传统云服务成本，而Pnuts.AI则是最强大的实时翻译工具，支持200多种语言的快速准确翻译。Dr. Ong展望了Pnuts.AI作为Web3项目的未来，强调AI与人类语言专家的合作将显著提升翻译准确性，推动AI-Web3应用生态的蓬勃发展。

随着人工智能（AI）的快速发展，能源消耗问题日益严重，尤其是神经网络模型的计算需求高，导致巨大的电力消耗。例如，2023年初，运行ChatGPT每天消耗约564 MWh电力，相当于1.8万户美国家庭的用电量。为了解决这一问题，L-Mul（线性复杂度乘法）算法应运而生，通过用简单的整数加法近似浮点乘法，显著降低AI计算的能源需求。L-Mul在元素级张量乘法中实现了高达95%的能耗减少，在点积计算中减少了80%的能耗，同时保持了AI模型的准确性。该算法在多个应用中表现出色，包括变换器模型和大型语言模型（LLMs），在GSM8k和视觉问答等基准测试中超越传统浮点格式FP8。L-Mul不仅解决了AI的能源危机，还为可持续技术发展铺平了道路。

Lit Protocol成功展示了如何安全地将OpenAI与Solana区块链结合。通过在Solana上使用Wrapped Keys，开发者可以在Lit Action中签署OpenAI API生成的响应。这一整合为AI驱动的自主代理开辟了创新应用的可能性，代理可在不暴露敏感API密钥的情况下在区块链上运行，得益于Lit的门限编程密钥对（PKPs）和可信执行环境（TEE）。此外，整合强调了私密计算和数据处理的重要性，通过在Lit的TEE中加密数据和执行大型语言模型（LLM）提示，确保敏感信息如医疗记录和财务数据的安全。TEE提供硬件级隔离，确保节点操作员无法访问解密数据。整合还支持生成加密证明，以验证LLM生成内容的真实性，特别适用于审计和合规需求。这一整合展示了AI与区块链技术结合的潜力，预示着未来更安全高效的应用。

Stratos宣布与人工智能领域的领先企业DeepSouth AI建立合作关系，旨在将DeepSouth AI的先进AI能力与Stratos的去中心化基础设施解决方案相结合。此次合作的目标是创建更智能、可访问的去中心化应用，提升Web3生态系统的整体功能和用户体验。DeepSouth AI正在开发一个多功能平台，配备强大的AI工具，旨在帮助开发者和企业实施先进的AI解决方案。通过与Stratos的基础设施整合，DeepSouth AI将获得可靠、安全和高性能的去中心化存储解决方案，以支持高需求的AI驱动应用。此战略合作将为DeepSouth AI平台提供必要的去中心化基础设施，推动Web3应用的创新与可及性。

io.net与零知识证明领域的领导者NovaNet达成合作，旨在开发零知识GPU识别（zkGPU-ID）技术，以增强去中心化计算网络的安全性和可靠性。此项技术将提供GPU资源的真实性和性能的加密保证，提升用户信任。io.net的业务发展副总裁Tausif Ahmed表示，优化分布式GPU供应商的协调和验证对构建无权限的企业级去中心化计算网络至关重要。通过NovaNet的zkGPU-ID，io.net能够在全球范围内持续验证和测试其GPU资源，确保客户租用的GPU可靠且符合需求。此外，zkGPU-ID协议利用NovaNet的zkVM技术，以更低成本生成和验证GPU规格的加密证明。这一合作为去中心化GPU计算网络设立了新的透明度、可靠性和安全性标准，标志着行业的重要进步。

阿布扎比技术创新研究所（TII）开发的Falcon Mamba 7B是无注意力模型的典范，标志着人工智能（AI）的快速发展。该模型摒弃了传统的基于Transformer的架构，采用状态空间模型（SSMs），在长上下文任务中提供更快、更节省内存的推理能力。Falcon Mamba 7B在5.5万亿标记的数据集上进行训练，成为谷歌Gemma和微软Phi等现有模型的有力竞争者。其架构设计确保推理成本与输入长度无关，有效解决了Transformer模型的二次扩展问题，适用于文档摘要和客户服务自动化等长上下文处理应用。尽管在复杂上下文理解任务中仍有局限，但其内存效率和速度使其成为优化AI解决方案的理想选择。Falcon Mamba 7B的量化支持使其在GPU和CPU上的高效部署成为可能，预示着无注意力模型可能成为未来AI应用的标准。