Réseaux décentralisés : une solution durable pour les besoins énergétiques de GenAI

La génération augmentée par récupération (RAG) est devenue une méthode essentielle pour intégrer de grands modèles de langage (LLM) dans des applications commerciales spécialisées, permettant l'infusion de données propriétaires dans les réponses du modèle. Malgré son efficacité lors de la phase de preuve de concept (POC), les développeurs rencontrent souvent des baisses significatives de précision lors de la transition de RAG vers la production. Ce problème est particulièrement prononcé durant la phase de récupération, où l'objectif est de récupérer avec précision le contexte le plus pertinent pour une requête donnée, une métrique connue sous le nom de rappel de contexte. Cet article explore des stratégies pour améliorer le rappel de contexte en personnalisant et en ajustant les modèles d'embedding, améliorant ainsi les performances de RAG dans des applications réelles. RAG fonctionne en deux étapes principales : récupération et génération. Dans la phase de récupération, le modèle convertit le texte en vecteurs, indexe, récupère et re-classe ces vecteurs pour identifier les meilleures correspondances. Cependant, des échecs dans cette phase peuvent entraîner des contextes pertinents manqués, ce qui entraîne un rappel de contexte plus faible et des sorties de génération moins précises. Une solution efficace consiste à adapter le modèle d'embedding, qui est conçu pour comprendre les relations entre les données textuelles, afin de produire des embeddings spécifiques au jeu de données utilisé. Cet ajustement permet au modèle de générer des vecteurs similaires pour des phrases similaires, améliorant ainsi sa capacité à récupérer un contexte hautement pertinent pour la requête. Pour améliorer le rappel de contexte, il est essentiel de préparer un jeu de données sur mesure qui reflète les types de requêtes que le modèle rencontrera. Cela implique d'extraire une gamme diversifiée de questions de la base de connaissances, de les reformuler pour la variabilité et de les organiser par pertinence. De plus, la construction d'un jeu de données d'évaluation aide à évaluer les performances du modèle dans un cadre réaliste. En utilisant un évaluateur de récupération d'information, les développeurs peuvent mesurer des métriques telles que Recall@k et Precision@k pour évaluer la précision de la récupération. En fin de compte, l'ajustement du modèle d'embedding peut entraîner des améliorations substantielles du rappel de contexte, garantissant que RAG reste précis et fiable dans les environnements de production.

Theta a annoncé un partenariat significatif avec l'Université Nationale de Séoul (SNU), la principale institution académique de Corée du Sud, pour améliorer la recherche en IA grâce à sa plateforme EdgeCloud. Cette collaboration bénéficiera spécifiquement au laboratoire AIoT de la SNU, dirigé par le professeur associé Hyung-Sin Kim, reconnu pour son expertise en IA ambiante et en systèmes IoT. Le partenariat vise à accélérer la recherche dans des domaines tels que les innovations en santé alimentées par l'IA et le traitement des données en temps réel, en tirant parti des ressources GPU hybrides avancées de Theta. La SNU, fondée en 1946, est reconnue pour son excellence dans diverses disciplines et est régulièrement classée parmi les meilleures universités d'Asie. Depuis le lancement d'EdgeCloud en juin, Theta a gagné en traction tant dans les cercles académiques américains que coréens, en s'associant à plusieurs institutions prestigieuses, dont l'Université de l'Oregon et le KAIST. Le laboratoire AIoT de la SNU a déjà apporté des contributions notables dans le domaine, avec le professeur Kim à la tête d'efforts qui ont remporté de nombreux prix et subventions de recherche à fort impact. Les réalisations récentes incluent des distinctions lors de grandes conférences et compétitions, mettant en avant l'engagement du laboratoire à faire progresser les technologies IA et IoT. L'intégration de l'infrastructure de Theta devrait encore améliorer les capacités du laboratoire à développer des modèles adaptatifs qui priorisent la confidentialité des données et les informations de santé en temps réel. Le professeur Kim a exprimé son enthousiasme quant à la collaboration, soulignant comment l'infrastructure décentralisée de l'IA de Theta redéfinira le paysage des GPU et permettra des avancées révolutionnaires dans les applications d'IA ambiante et d'IoT. Ce partenariat renforce non seulement l'engagement de Theta à soutenir la recherche en IA de classe mondiale, mais positionne également l'entreprise comme un acteur clé dans le paysage académique, avec des aspirations à intégrer davantage d'institutions de premier plan en Asie et en Amérique du Nord. Alors que Theta continue d'élargir son influence, la collaboration avec la SNU marque une étape décisive vers la promotion d'applications innovantes dans les domaines de l'IA et de l'IoT.

Dans un développement passionnant à l'intersection de l'IA et de la blockchain, VentureMind AI a annoncé un partenariat avec Theta EdgeCloud. Cette collaboration vise à tirer parti des ressources de calcul et de streaming décentralisées et à faible latence de Theta pour améliorer les capacités de VentureMind AI. En intégrant EdgeCloud, VentureMind AI pourra évoluer ses outils d'IA, optimiser le rendu vidéo et offrir un contrôle en temps réel de la robotique, améliorant ainsi considérablement ses offres de services dans des secteurs tels que la construction et la sécurité. Ce partenariat marque une étape importante dans la création d'un écosystème complet qui fusionne l'innovation en IA avec la finance décentralisée et la robotique avancée. VentureMind AI est une plateforme pionnière qui permet aux utilisateurs de créer, frapper et échanger des outils d'IA sous forme de NFT, offrant une couche unique de propriété et de potentiel de revenus. La plateforme propose également un constructeur d'agent autonome personnalisé, permettant aux utilisateurs de lancer des communautés tokenisées et de gérer des activités de création de marché. Depuis sa création en juin 2023, EdgeCloud a gagné en traction tant dans les milieux académiques qu'entrepreneuriaux, avec des institutions comme l'Université nationale de Séoul et des entreprises telles que GenAI search Liner utilisant son infrastructure pour faire avancer la recherche et les applications en IA. Avec l'intégration de Theta EdgeCloud, VentureMind AI est prêt à redéfinir les possibilités dans les domaines de l'IA, de la robotique et du Web3. Le partenariat facilitera un calcul évolutif pour l'innovation en IA, un contrôle fiable de la robotique, un traitement vidéo économique et une intégration améliorée pour les NFT et les outils autonomes. Fondée par Jermaine Anugwom, VentureMind AI a rapidement évolué d'une collection d'outils d'IA spécialisés à une plateforme robuste qui intègre la technologie blockchain et la tokenomics, se positionnant comme un leader dans le paysage émergent du Web3.

L'intégration de la technologie IoT dans l'agriculture transforme le secteur, permettant aux agriculteurs de prendre des décisions éclairées et basées sur des données qui améliorent la productivité et la durabilité. Le marché mondial de l'agriculture intelligente devrait atteindre 20 milliards de dollars d'ici 2026, soutenu par l'adoption croissante des solutions IoT dans les exploitations agricoles. Ces technologies optimisent divers aspects de la gestion des cultures et du bétail, aidant les agriculteurs à réduire les coûts tout en améliorant les rendements et la gestion environnementale. À mesure que les dispositifs IoT se multiplient, ils offrent des avantages significatifs, notamment l'automatisation de la gestion des ressources et la collecte de données en temps réel sur des facteurs critiques tels que les conditions météorologiques et du sol. Les dispositifs IoT tels que les stations météorologiques et les capteurs de sol jouent un rôle essentiel dans l'agriculture intelligente. Les stations météorologiques fournissent des données essentielles sur la température, l'humidité et les précipitations, permettant aux agriculteurs d'apporter des ajustements opportuns à l'irrigation et aux calendriers de plantation. Les capteurs de sol offrent des informations en temps réel sur les niveaux d'humidité, optimisant l'utilisation de l'eau et les stratégies de fertilisation. De plus, les colliers de surveillance du bétail garantissent une gestion proactive de la santé et de la localisation des animaux. En automatisant l'irrigation et la distribution des ressources en fonction des données en temps réel, les agriculteurs peuvent conserver les ressources et améliorer la santé des cultures, ce qui conduit finalement à une rentabilité accrue. La plateforme de Chirp améliore l'efficacité de ces dispositifs IoT en les intégrant dans un système cohérent géré depuis un tableau de bord unique. L'incorporation de la technologie blockchain renforce encore la gestion des données, garantissant un stockage sécurisé et inviolable et une traçabilité des vastes quantités d'informations générées par les dispositifs IoT. Les mineurs Blackbird de Chirp fournissent une connectivité à longue portée pour ces dispositifs, facilitant la transmission fiable des données sur de grandes zones sans avoir besoin de connexions Internet individuelles. Cette intégration transparente de la technologie IoT positionne Chirp comme un partenaire vital pour les agriculteurs, leur permettant de relever des défis et de tirer parti de nouvelles opportunités dans le paysage agricole en évolution.

Le Digital Currency Group (DCG), sous la direction de Barry Silbert, a officiellement lancé Yuma, une nouvelle filiale visant à promouvoir l'innovation au sein du réseau AI décentralisé de Bittensor. La mission de Yuma est d'équiper les startups et les entreprises des ressources nécessaires pour développer, former et utiliser l'intelligence artificielle dans un cadre décentralisé. Au cœur de l'écosystème de Bittensor se trouve le token $TAO, qui incite à la participation en récompensant les contributeurs pour leur puissance de calcul et la qualité de leur travail. Ce modèle encourage non seulement l'efficacité, mais favorise également la collaboration entre les utilisateurs, en faisant une alternative convaincante aux systèmes AI traditionnels et centralisés dominés par de grandes entreprises technologiques. Yuma est conçu pour soutenir divers projets axés sur l'IA qui peuvent gagner des récompenses via le réseau Bittensor. L'entreprise propose deux modèles de partenariat distincts : un programme d'accélérateur adapté aux startups et aux entreprises établies, et un incubateur de sous-réseau qui facilite la création de nouveaux projets depuis le début. Grâce à son programme précoce d'incubateur de sous-réseau, Yuma a déjà formé des partenariats avec plusieurs entreprises, dont Sturdy, Masa, Score et Infinite Games. De plus, elle a collaboré avec Foundry pour lancer le sous-réseau S&P 500 Oracle, mettant en avant son engagement à construire un écosystème robuste autour de l'IA décentralisée. Comme l'a noté Jacob Steeves, co-fondateur de Bittensor, la plateforme a été créée pour fournir une alternative compétitive à l'approche conventionnelle descendante qui restreint l'accès aux capacités avancées de l'IA. L'implication de DCG avec Bittensor remonte à 2021, et son bras de gestion d'actifs, Grayscale, a depuis introduit un Trust Bittensor et un fonds AI décentralisé, Bittensor représentant 21 % de ce dernier. Cet investissement stratégique souligne l'importance croissante des réseaux décentralisés dans l'avenir de l'intelligence artificielle et de la propriété numérique.

La Fondation DIMO a annoncé un partenariat significatif avec MATT3R, visant à améliorer l'interopérabilité et la décentralisation des écosystèmes de véhicules modernes. Cette collaboration devrait accélérer le développement de modèles d'intelligence artificielle (IA) et de véhicules autonomes (VA) en améliorant la collecte, la validation et l'accessibilité des données. MATT3R sera la première entreprise, après Digital Infrastructure Inc., à s'intégrer pleinement dans l'écosystème DIMO, en utilisant le SDK DIMO et en introduisant un nouveau dispositif matériel pour collecter des ensembles de données vidéo uniques. Cette initiative représente une étape cruciale dans l'expansion du protocole DIMO, qui est conçu pour faciliter divers types de données et créer un environnement plus interconnecté pour les développeurs. Dans le domaine de la vision par ordinateur, la capacité d'interpréter les données visuelles est essentielle pour l'avancement des véhicules autonomes. Cependant, un défi majeur réside dans l'acquisition de vastes ensembles de données de haute qualité nécessaires à l'entraînement des modèles d'IA. MATT3R aborde ce problème en permettant aux utilisateurs de collecter et de partager des données de leurs véhicules via le dispositif K3Y. Ce dispositif permet l'agrégation de données visuelles et de capteurs, qui sont ensuite catégorisées et étiquetées pour l'utilisation des développeurs. En tirant parti d'une approche participative, MATT3R peut fournir aux développeurs un accès à un large éventail de scénarios du monde réel, améliorant ainsi la robustesse de leurs modèles d'IA et de VA tout en garantissant la confidentialité des utilisateurs et le contrôle sur les données personnelles. Le partenariat comprend également l'intégration du SDK DIMO dans l'application mobile Consol3 de MATT3R, permettant un accès fluide pour les utilisateurs DIMO existants et nouveaux. Cette intégration améliore non seulement l'expérience utilisateur, mais favorise également une relation mutuellement bénéfique entre développeurs et utilisateurs. Alors que MATT3R se prépare à lancer la prévente des dispositifs K3Y en novembre, cette collaboration promet de créer un écosystème de données fiable qui améliore l'efficacité et la qualité de l'entraînement des modèles d'IA et de VA à l'échelle mondiale. Le cadre de validation du protocole DIMO garantira en outre l'intégrité des données collectées, ouvrant la voie à un avenir décentralisé dans la technologie automobile.