利用Q-LoRA微调Llama 3.2 11B以实现提取式问答

韩国领先的在线教育提供商AI实验室近日与Theta EdgeCloud签署了多年合作协议，旨在增强其人工智能（AI）和数据分析（DA）教育。此次合作使AI实验室能够利用Theta的分布式GPU资源，推动先进的AI教育、模型训练及生成式AI应用。AI实验室通过其创新平台CodingX，专注于实践经验和互动内容，致力于提供高质量的教育。此合作将提升课程灵活性，降低运营成本，并通过AI驱动的学习方法实现个性化学习体验，满足学生的独特需求。Theta EdgeCloud近期与首尔国立大学和北京大学等知名院校建立合作，显示出教育领域对可扩展和经济高效技术解决方案的需求不断增长。AI实验室首席执行官John Choi对合作前景表示乐观，认为此举将助力其在AI驱动的未来中占据重要地位。

去中心化GPU资源平台io.net本周宣布与专为人工智能设计的数据区块链OpenLedger达成战略合作。此次合作将使OpenLedger能够利用io.net的全球GPU计算资源，提升其AI模型的训练和优化能力。io.net被称为GPU互联网，提供强大的分布式GPU资源网络，助力OpenLedger加速AI模型开发，并支持开发者创建更高效的去中心化应用（DApps）。io.net业务发展副总裁Tausif Ahmad表示，此次合作将为OpenLedger提供可靠的基础设施，扩展其AI模型的应用场景，巩固其在去中心化AI领域的创新地位。此外，io.net的基础设施还将支持AI模型的推理和托管，确保最佳性能和可扩展性。OpenLedger选择io.net的原因之一是其提供的成本效益高且可扩展的计算解决方案，旨在推动去中心化AI创新的边界。

Stratos宣布与去中心化AI推理网络领导者Cortensor建立合作，旨在通过将Stratos的去中心化存储和流媒体解决方案整合到Cortensor的AI生态系统中，增强去中心化AI基础设施。此次合作将提供安全且可扩展的数据存储，确保公共和私人AI工作负载的无缝可靠运行，从而提升整体网络性能。合作的一大亮点是实时推理流媒体能力的引入，Stratos的先进视频流API将使Cortensor能够即时提供AI推理输出，优化AI工作负载的性能。此外，双方致力于去中心化AI的未来，Cortensor的推理证明（PoI）和有用工作证明（PoUW）系统将验证任务并奖励贡献者。Stratos在全球拥有900多个活跃存储节点，容量达到21PB，此次合作将为企业、开发者和社区矿工开辟新机遇，推动去中心化AI生态系统的发展。

检索增强生成（RAG）已成为将大型语言模型（LLM）应用于专业业务的重要方法，能够将专有数据融入模型响应中。然而，在将RAG投入生产时，开发者常面临显著的准确性下降，尤其是在检索阶段，准确获取与查询相关的上下文至关重要。本文探讨了通过定制和微调嵌入模型来增强上下文召回的策略，从而提升RAG在实际应用中的表现。RAG的工作分为检索和生成两个主要步骤。在检索阶段，模型将文本转换为向量并进行索引和重新排序，失败可能导致相关上下文的遗漏。为提高上下文召回，需准备反映模型将遇到的查询类型的定制数据集，并构建评估数据集以评估模型性能。通过微调嵌入模型，可以显著提升上下文召回能力，确保RAG在生产环境中的准确性和可靠性。

VentureMind AI近日宣布与Theta EdgeCloud达成合作，旨在利用Theta的去中心化、低延迟计算和流媒体资源，增强其AI能力。通过整合EdgeCloud，VentureMind AI将能够扩展AI工具，优化视频渲染，并提供实时机器人控制，显著提升在建筑和安全等领域的服务。这一合作标志着AI创新与去中心化金融及先进机器人技术融合的生态系统的建立。VentureMind AI自2023年6月成立以来，已发展为一个允许用户创建、铸造和交易AI工具的NFT平台，并提供自定义的自主代理构建器。Theta EdgeCloud的加入将为AI创新提供可扩展计算，可靠的机器人控制，经济高效的视频处理，并增强NFT与自主工具的整合。

物联网（IoT）技术的应用正在改变农业，帮助农民通过数据驱动的决策提升生产力和可持续性。预计到2026年，全球智能农业市场将达到200亿美元，主要受益于IoT解决方案的广泛采用。这些技术优化了作物和牲畜管理的各个方面，降低成本的同时提高产量和环境管理。IoT设备如气象站和土壤传感器为农民提供实时数据，帮助调整灌溉和施肥策略。Chirp平台将这些IoT设备整合为一个系统，利用区块链技术确保数据安全和可追溯性。Chirp的Blackbird矿机提供长距离连接，确保数据在大范围内可靠传输。这种IoT技术的无缝整合使Chirp成为农民的重要合作伙伴，帮助他们应对挑战，抓住农业领域的新机遇。