Network3 kündigt neues lokales Large Language Model (LLM) Feature an

Am 12. November 2024 wurde die W2140 EXPO, eine führende globale Konferenz für KI und Web3, in Bangkok eröffnet. Die Veranstaltung, die gemeinsam von der Asiatischen Handelskammer von Thailand und der thailändischen Regierung ausgerichtet wurde, zog die Teilnahme von über 1.000 Organisationen und mehr als 200.000 Besuchern an und stellte damit die größte Konferenz ihrer Art dar. Während der Veranstaltung führten Mitglieder des Kernteams von Titan Network bedeutungsvolle Gespräche mit UN-Mitarbeitern und Dr. James Ong, einem prominenten Wissenschaftler und Gründer des Artificial Intelligence International Institute (AIII). Dr. Ongs Hauptrede mit dem Titel "KI und Web für die Menschheit aus der globalen Mehrheit" betonte die Bedeutung dezentraler Technologien in der modernen Landschaft. Dr. Ong hob Titan Network und seinen Ökosystempartner Pnuts.AI als vorbildliche Modelle innerhalb der AIDePIN- und AIDeHIN-Rahmenwerke hervor. Er lobte Titan für die Entwicklung eines dezentralen physischen Infrastrukturnetzwerks (DePIN), das Blockchain nutzt, um ungenutzte Ressourcen zu nutzen. Diese Innovation bietet eine dezentrale, sichere und transparente Alternative zu traditionellen Cloud-Diensten und könnte Kosten von bis zu 96 % einsparen. Darüber hinaus lobte er Pnuts.AI als das leistungsstärkste Echtzeit-Übersetzungstool, das entwickelt wurde, um Sprachbarrieren mit Hilfe von KI- und Web3-Technologien abzubauen und schnelle sowie präzise Sprach-zu-Sprache-Übersetzungen in über 200 Sprachen bereitzustellen. Darüber hinaus diskutierte Dr. Ong das zukünftige Potenzial von Pnuts.AI als herausragendes Web3-Projekt und stellte sich eine nahtlose Integration von KI, Web3 und DeHIN vor. In diesem Ansatz werden führende Sprachexperten mit KI-Systemen zusammenarbeiten, um die Übersetzungsgenauigkeit erheblich zu verbessern. Diese Experten werden auch umfangreiche digitale Schulungsmaterialien bereitstellen, um die Übersetzungsmodelle zu verbessern, während Web3-Mechanismen kooperative menschliche KI-Bemühungen anreizen und ein robustes KI-Web3-Anwendungsökosystem fördern. Diese Integration verspricht, die Art und Weise, wie wir Sprachübersetzung und Kommunikation in einer globalisierten Welt angehen, zu revolutionieren.

Die rasante Entwicklung der künstlichen Intelligenz (KI) hat zu erheblichen Fortschritten in verschiedenen Sektoren geführt, bringt jedoch einen hohen ökologischen Preis mit sich, bedingt durch den hohen Energieverbrauch. KI-Modelle, insbesondere solche, die neuronale Netzwerke nutzen, erfordern erhebliche Rechenleistung, was sich in einem enormen Stromverbrauch niederschlägt. Zum Beispiel verbrauchte der Betrieb von ChatGPT Anfang 2023 täglich etwa 564 MWh Strom, was den Energiebedarf von rund 18.000 US-Haushalten entspricht. Diese Energienachfrage wird hauptsächlich durch komplexe Gleitkommaoperationen angetrieben, die für Berechnungen in neuronalen Netzwerken unerlässlich sind, was die Suche nach energieeffizienten Lösungen entscheidend macht, während die KI-Systeme in ihrer Komplexität wachsen. Hier kommt der L-Mul (Linear-Complexity Multiplication)-Algorithmus ins Spiel, eine bahnbrechende Entwicklung, die verspricht, die Energiebelastung im Zusammenhang mit KI-Berechnungen erheblich zu reduzieren. L-Mul arbeitet, indem es Gleitkomma-Multiplikationen mit einfacheren Ganzzahladditionen approximiert, die in bestehende KI-Modelle integriert werden können, ohne dass eine Feinabstimmung erforderlich ist. Dieser innovative Ansatz hat bemerkenswerte Energieeinsparungen gezeigt, mit einer Reduzierung des Energieverbrauchs um bis zu 95 % bei elementweisen Tensor-Multiplikationen und 80 % bei Skalarprodukten. Wichtig ist, dass diese Energieeffizienz die Genauigkeit der KI-Modelle nicht beeinträchtigt, was einen bedeutenden Fortschritt auf dem Weg zu nachhaltiger KI darstellt. Die Auswirkungen von L-Mul gehen über bloße Energieeinsparungen hinaus; es verbessert die Leistung von KI-Modellen in verschiedenen Anwendungen, einschließlich Transformermodellen und großen Sprachmodellen (LLMs). In Benchmarks wie GSM8k und visuellen Frage-Antwort-Aufgaben hat L-Mul traditionelle Gleitkommaformate wie FP8 übertroffen und zeigt sein Potenzial, komplexe Berechnungen effizient zu bewältigen. Da die Nachfrage nach KI weiter steigt, hebt sich L-Mul als eine entscheidende Lösung hervor, die nicht nur die Energiekrise im Zusammenhang mit KI anspricht, sondern auch den Weg für eine nachhaltigere Zukunft in der technologischen Entwicklung ebnet.

In einer bahnbrechenden Integration hat das Lit-Protokoll demonstriert, wie die Fähigkeiten von OpenAI und der Solana-Blockchain sicher kombiniert werden können. Durch die Nutzung von Wrapped Keys auf Solana können Entwickler Antworten, die von der OpenAI-API generiert werden, innerhalb einer Lit-Aktion signieren. Diese Integration eröffnet eine Vielzahl innovativer Anwendungen, insbesondere im Bereich der KI-gesteuerten autonomen Agenten. Diese Agenten können auf der Blockchain agieren, ohne sensible API-Schlüssel offenzulegen, dank der schwellenbasierten Programmierbaren Schlüsselpaare (PKPs) und der Vertrauenswürdigen Ausführungsumgebungen (TEE) von Lit. Dies stellt sicher, dass alle sensiblen Operationen geschützt bleiben, sodass KI-Agenten sowohl mit der Blockchain als auch mit traditionellen Webdiensten interagieren können, während sie dezentrale Identitäten wahren. Die Integration betont auch die Bedeutung von privater Berechnung und Datenverarbeitung. Durch die Verschlüsselung von Daten und die Ausführung von großen Sprachmodell-Prompts (LLM) innerhalb der TEE von Lit können Entwickler sicherstellen, dass sensible Informationen, wie medizinische Aufzeichnungen oder Finanzdaten, während des gesamten Prozesses sicher bleiben. Die TEE bietet hardwarebasierte Isolation, was bedeutet, dass selbst Knotenbetreiber nicht auf entschlüsselte Daten zugreifen können. Diese End-to-End-Verschlüsselung ermöglicht die sichere Verarbeitung privater Informationen und stellt sicher, dass alle Berechnungen innerhalb einer sicheren Umgebung stattfinden, bevor die Ergebnisse erneut verschlüsselt und zurückgesendet werden. Darüber hinaus erleichtert die Integration die Generierung kryptografischer Nachweise für Training und Inferenz. Durch die Einschränkung der PKP-Signierungsberechtigungen auf spezifische IPFS CID-Hashes können Entwickler die Authentizität von LLM-generierten Inhalten garantieren. Dieses Nachweissystem ist besonders vorteilhaft für Prüfpfade und Compliance-Anforderungen, da es Dritten ermöglicht, die Authentizität der von der LLM produzierten Inhalte zu überprüfen. Insgesamt zeigt diese Integration das Potenzial der Kombination von KI und Blockchain-Technologie und ebnet den Weg für sicherere und effizientere Anwendungen in der Zukunft.

Stratos hat eine aufregende Partnerschaft mit DeepSouth AI angekündigt, einem führenden Unternehmen im Bereich der künstlichen Intelligenz, das neuromorphe Computertechnologie nutzt. Diese Zusammenarbeit zielt darauf ab, die fortschrittlichen KI-Fähigkeiten von DeepSouth AI mit den dezentralen Infrastruktur-Lösungen von Stratos zu verbinden. Das Ziel ist es, intelligentere und zugänglichere dezentrale Anwendungen im Web3-Ökosystem zu schaffen und die Gesamtfunktionalität sowie das Benutzererlebnis dieser Anwendungen zu verbessern. DeepSouth AI entwickelt derzeit eine vielseitige Plattform, die mit einer umfassenden Suite leistungsstarker KI-Tools ausgestattet ist. Diese Tools sind speziell darauf ausgelegt, Entwicklern und Unternehmen bei der Implementierung fortschrittlicher KI-Lösungen zu helfen. Durch die Integration mit der robusten und skalierbaren Infrastruktur von Stratos wird DeepSouth AI von einer dezentralen Speicherlösung profitieren, die Zuverlässigkeit, Sicherheit und Leistung bietet, die für die Unterstützung von KI-gesteuerten Anwendungen mit hoher Nachfrage unerlässlich sind. Durch diese strategische Zusammenarbeit wird Stratos die notwendige dezentrale Infrastruktur bereitstellen, um den hohen Datenbedarf der Plattform von DeepSouth AI zu decken. Diese Partnerschaft steht kurz davor, eine neue Ära von Web3-Anwendungen einzuleiten, in der künstliche Intelligenz und dezentrale Technologie harmonisch zusammenarbeiten und letztendlich Innovation und Zugänglichkeit in der digitalen Landschaft vorantreiben.

In einem bedeutenden Schritt zur Verbesserung der Sicherheit und Zuverlässigkeit in dezentralen Computernetzwerken hat io.net, ein dezentrales physisches Infrastruktur-Netzwerk (DePIN), das sich auf GPU-Cluster spezialisiert hat, eine Partnerschaft mit NovaNet, einem führenden Anbieter von Zero-Knowledge-Proofs (ZKPs), gegründet. Diese Zusammenarbeit zielt darauf ab, eine bahnbrechende Lösung namens Zero Knowledge GPU Identification (zkGPU-ID) zu entwickeln, die kryptografische Garantien hinsichtlich der Authentizität und Leistung von GPU-Ressourcen bieten wird. Durch die Nutzung der fortschrittlichen ZKP-Technologie von NovaNet wird io.net in der Lage sein, zu validieren, dass die innerhalb seiner dezentralen Plattform verwendeten GPUs nicht nur den beworbenen Spezifikationen entsprechen, sondern diese möglicherweise sogar übertreffen, wodurch das Vertrauen der Nutzer und die Zuverlässigkeit der Ressourcen erhöht werden. Tausif Ahmed, der VP für Geschäftsentwicklung bei io.net, betonte die Bedeutung dieser Partnerschaft und erklärte, dass die Optimierung der Koordination und Verifizierung über ein großes Netzwerk verteilter GPU-Anbieter entscheidend für den Aufbau eines genehmigungsfreien und unternehmensbereiten dezentralen Compute-Netzwerks ist. Die Integration von NovaNets zkGPU-ID wird es io.net ermöglichen, seine GPU-Ressourcen kontinuierlich und global zu validieren und zu testen, sodass die Kunden GPUs mieten können, die zuverlässig sind und ihren spezifischen Anforderungen entsprechen. Diese Initiative stellt einen bedeutenden Fortschritt in der dezentralen Compute-Infrastruktur dar und zielt darauf ab, Bedenken hinsichtlich der Authentizität und Leistung von Ressourcen auszuräumen. Darüber hinaus nutzt das zkGPU-ID-Protokoll die zkVM-Technologie (Zero-Knowledge Virtual Machine) von NovaNet, die eine entscheidende Rolle bei der Generierung und Verifizierung kryptografischer Nachweise von GPU-Spezifikationen zu niedrigeren Kosten spielt. Wyatt Benno, technischer Mitgründer von NovaNet, hob die Notwendigkeit hervor, dass ZKPs über verschiedene Geräte und Kontexte hinweg für Datenschutz und lokale Verifizierbarkeit funktionieren. Die zkEngine von NovaNet testet und identifiziert GPUs rigoros innerhalb der Plattform von io.net und erstellt einen ZKP, der die Integrität der GPUs gewährleistet. Diese Partnerschaft setzt einen neuen Standard für Transparenz, Zuverlässigkeit und Sicherheit in dezentralen GPU-Computernetzwerken und markiert einen entscheidenden Schritt nach vorne in der Branche.

Die rasante Entwicklung der künstlichen Intelligenz (KI) wird erheblich durch das Auftreten von aufmerksamkeitslosen Modellen beeinflusst, wobei Falcon Mamba 7B ein bemerkenswertes Beispiel ist. Entwickelt vom Technology Innovation Institute (TII) in Abu Dhabi, weicht dieses bahnbrechende Modell von traditionellen, stark auf Aufmerksamkeitsmechanismen basierenden Transformer-Architekturen ab. Stattdessen nutzt Falcon Mamba 7B State-Space-Modelle (SSMs), die schnellere und speichereffizientere Inferenz bieten und die rechnerischen Herausforderungen bei Aufgaben mit langen Kontexten angehen. Durch das Training mit einem umfangreichen Datensatz von 5,5 Billionen Tokens positioniert sich Falcon Mamba 7B als wettbewerbsfähige Alternative zu bestehenden Modellen wie Googles Gemma und Microsofts Phi. Die Architektur von Falcon Mamba 7B ist so konzipiert, dass sie unabhängig von der Eingabelänge konstante Inferenzkosten aufrechterhält, wodurch das quadratische Skalierungsproblem, das Transformer-Modelle plagt, effektiv gelöst wird. Diese einzigartige Fähigkeit ermöglicht es, in Anwendungen, die eine Verarbeitung langer Kontexte erfordern, wie z.B. Dokumentzusammenfassungen und Automatisierung des Kundenservices, herausragende Leistungen zu erbringen. Obwohl es in verschiedenen Benchmarks der natürlichen Sprachverarbeitung überlegene Leistungen gezeigt hat, stößt es dennoch an Grenzen bei Aufgaben, die ein komplexes Verständnis des Kontexts erfordern. Dennoch machen seine Speichereffizienz und Geschwindigkeit es zu einer überzeugenden Wahl für Organisationen, die ihre KI-Lösungen optimieren möchten. Die Auswirkungen von Falcon Mamba 7B gehen über bloße Leistungskennzahlen hinaus. Seine Unterstützung für Quantisierung ermöglicht eine effiziente Bereitstellung sowohl auf GPUs als auch auf CPUs, was seine Vielseitigkeit weiter erhöht. Während sich die KI-Landschaft weiterentwickelt, deutet der Erfolg von Falcon Mamba 7B darauf hin, dass aufmerksamkeitlose Modelle bald zum Standard für viele Anwendungen werden könnten. Mit fortlaufender Forschung und Entwicklung könnten diese Modelle potenziell traditionelle Architekturen sowohl in Geschwindigkeit als auch in Genauigkeit übertreffen und den Weg für innovative Anwendungen in verschiedenen Branchen ebnen.