Network3, Yeni Yerel Büyük Dil Modeli (LLM) Özelliğini Duyurdu

12 Kasım 2024'te, Bangkok'ta, önde gelen küresel AI ve Web3 konferansı W2140 EXPO açıldı. Tayland Asya İş Derneği ve Tayland hükümeti tarafından ortaklaşa düzenlenen etkinlik, 1.000'den fazla kuruluşun ve 200.000'den fazla katılımcının katılımını çekerek, benzeri görülmemiş en büyük konferans olarak kaydedildi. Etkinlik sırasında Titan Network çekirdek ekibinin üyeleri, BM personeli ve Yapay Zeka Uluslararası Enstitüsü (AIII) kurucusu olan önde gelen akademisyen Dr. James Ong ile anlamlı tartışmalara katıldılar. Dr. Ong'un "Küresel Çoğunluktan İnsanlık İçin AI ve Web" başlıklı ana konuşması, modern dünyada merkeziyetsiz teknolojilerin önemini vurguladı. Dr. Ong, Titan Network ve ekosistem ortağı Pnuts.AI'yi AIDePIN ve AIDeHIN çerçevelerinde örnek modeller olarak öne çıkardı. Titan'ı, kullanılmayan kaynakları değerlendirmek için blok zincirini kullanan merkeziyetsiz bir fiziksel altyapı ağı (DePIN) geliştirdiği için övdü. Bu yenilik, geleneksel bulut hizmetlerine alternatif olarak merkeziyetsiz, güvenli ve şeffaf bir çözüm sunarak maliyetlerde %96'ya kadar tasarruf sağlama potansiyeline sahip. Ayrıca, Pnuts.AI'nın, AI ve Web3 teknolojilerini kullanarak dil engellerini aşmak için tasarlanmış en güçlü gerçek zamanlı çeviri aracı olduğunu belirtti; 200'den fazla dilde hızlı ve doğru konuşmadan konuşmaya çeviriler sağlıyor. Ayrıca, Dr. Ong, Pnuts.AI'nın gelecekteki potansiyelini, AI, Web3 ve DeHIN'in sorunsuz bir entegrasyonu olarak öngördü. Bu yaklaşımda, en iyi insan dil uzmanları, çeviri doğruluğunu önemli ölçüde artırmak için AI sistemleri ile işbirliği yapacak. Bu uzmanlar ayrıca çeviri modellerini geliştirmek için kapsamlı dijital eğitim materyalleri sağlayacak ve Web3 mekanizmaları, işbirlikçi insan-AI çabalarını teşvik ederek güçlü bir AI-Web3 uygulama ekosistemi oluşturacaktır. Bu entegrasyon, küreselleşen dünyada dil çevirisi ve iletişim yaklaşımımızı devrim niteliğinde değiştirmeyi vaat ediyor.

Yapay zekanın (YZ) hızlı gelişimi, çeşitli sektörlerde önemli ilerlemelere yol açtı, ancak yüksek enerji tüketimi nedeniyle ağır bir çevresel maliyetle birlikte geliyor. Özellikle sinir ağlarını kullanan YZ modelleri, büyük hesaplama gücü gerektirir ve bu da devasa elektrik tüketimine dönüşür. Örneğin, 2023'ün başlarında ChatGPT'yi çalıştırmak günlük yaklaşık 564 MWh elektrik tüketiyordu ve bu, yaklaşık 18.000 ABD hanehalkının enerji ihtiyacına eşdeğerdir. Bu enerji talebi, sinir ağı hesaplamaları için gerekli karmaşık kayan nokta işlemleri tarafından yönlendirilmektedir; bu nedenle, YZ sistemleri karmaşıklaştıkça enerji verimli çözümler aramak kritik hale gelmektedir. L-Mul (Doğrusal Karmaşıklıkta Çarpma) algoritması devreye giriyor; bu, YZ hesaplamalarıyla ilişkili enerji yükünü önemli ölçüde azaltma vaadi taşıyan çığır açan bir gelişmedir. L-Mul, kayan nokta çarpmalarını daha basit tam sayı toplama işlemleriyle yaklaşık olarak gerçekleştirerek çalışır ve bu, mevcut YZ modellerine ince ayar yapmadan entegre edilebilir. Bu yenilikçi yaklaşım, eleman bazında tensör çarpmaları için enerji tüketiminde %95'e kadar ve nokta çarpımı hesaplamaları için %80'e kadar önemli enerji tasarrufları sağladığını göstermiştir. Önemli olan, bu enerji verimliliğinin YZ modellerinin doğruluğunu tehlikeye atmamış olmasıdır; bu, sürdürülebilir YZ arayışında önemli bir ilerlemeyi işaret eder. L-Mul'un etkileri yalnızca enerji tasarruflarıyla sınırlı kalmaz; aynı zamanda, dönüştürücü modeller ve büyük dil modelleri (LLM) gibi çeşitli uygulamalarda YZ modellerinin performansını artırır. GSM8k ve görsel soru yanıtlama görevleri gibi kıyaslamalarda, L-Mul geleneksel kayan nokta formatları olan FP8'i geride bırakarak karmaşık hesaplamaları verimli bir şekilde yönetme potansiyelini göstermiştir. YZ'ye olan talep artmaya devam ederken, L-Mul, yalnızca YZ ile ilişkili enerji krizini ele almakla kalmayıp, aynı zamanda teknoloji gelişiminde daha sürdürülebilir bir geleceğin yolunu açan önemli bir çözüm olarak öne çıkmaktadır.

Çığır açan bir entegrasyonda, Lit Protokolü OpenAI'nin yeteneklerini ve Solana blok zincirini güvenli bir şekilde birleştirmenin yolunu gösterdi. Solana'da Wrapped Keys kullanarak, geliştiriciler Lit Action içinde OpenAI API'si tarafından üretilen yanıtları imzalayabilirler. Bu entegrasyon, özellikle AI destekli otonom ajanlar alanında birçok yenilikçi uygulamanın kapılarını açıyor. Bu ajanlar, Lit'in eşik tabanlı Programlanabilir Anahtar Çiftleri (PKP) ve Güvenilir Çalışma Ortamları (TEE) sayesinde, hassas API anahtarlarını ifşa etmeden blok zincirinde çalışabilirler. Bu, tüm hassas işlemlerin korunmasını sağlar ve AI ajanlarının hem blok zinciri hem de geleneksel web hizmetleriyle etkileşimde bulunmasına olanak tanırken merkeziyetsiz kimlikleri korur. Entegrasyon ayrıca özel hesaplama ve veri işleme önemini vurgular. Verileri şifreleyerek ve büyük dil modelleri (LLM) istemlerini Lit'in TEE'si içinde çalıştırarak, geliştiriciler hassas bilgilerin, tıbbi kayıtlar veya finansal veriler gibi, süreç boyunca güvende kalmasını sağlayabilirler. TEE, donanım düzeyinde izolasyon sağlar; bu, düğüm operatörlerinin bile şifrelenmemiş verilere erişemeyeceği anlamına gelir. Bu uçtan uca şifreleme, özel bilgilerin güvenli bir şekilde işlenmesini sağlar ve tüm hesaplamaların sonuçlar tekrar şifrelenip geri gönderilmeden önce güvenli bir ortamda gerçekleşmesini garanti eder. Ayrıca, entegrasyon eğitim ve çıkarım için kriptografik kanıtların üretilmesini kolaylaştırır. PKP imza izinlerini belirli IPFS CID hash'leriyle sınırlayarak, geliştiriciler LLM tarafından üretilen içeriğin doğruluğunu garanti edebilirler. Bu kanıt sistemi, denetim izleri ve uyum gereksinimleri için özellikle faydalıdır, çünkü üçüncü tarafların LLM tarafından üretilen içeriğin doğruluğunu doğrulamasına olanak tanır. Genel olarak, bu entegrasyon, AI ile blok zincir teknolojisinin birleştirilmesinin potansiyelini sergileyerek gelecekte daha güvenli ve verimli uygulamalar için yol açmaktadır.

Stratos, nöromorfik hesaplama teknolojisini kullanan yapay zeka alanında önde gelen bir oyuncu olan DeepSouth AI ile heyecan verici bir ortaklık duyurdu. Bu işbirliği, DeepSouth AI'nın en son yapay zeka yeteneklerini Stratos'un merkeziyetsiz altyapı çözümleriyle birleştirmeyi amaçlıyor. Amaç, Web3 ekosisteminde daha akıllı ve erişilebilir merkeziyetsiz uygulamalar oluşturarak bu uygulamaların genel işlevselliğini ve kullanıcı deneyimini artırmaktır. DeepSouth AI, kapsamlı bir güçlü yapay zeka araçları paketi ile donatılmış çok yönlü bir platform geliştirme sürecindedir. Bu araçlar, geliştiricilerin ve işletmelerin ileri düzey yapay zeka çözümleri uygulamalarına yardımcı olmak için özel olarak tasarlanmıştır. Stratos'un sağlam ve ölçeklenebilir altyapısıyla entegre olarak, DeepSouth AI, yüksek talep gören yapay zeka destekli uygulamaları desteklemek için gerekli olan güvenilirlik, güvenlik ve performans sunan merkeziyetsiz bir depolama çözümünden faydalanacaktır. Bu stratejik işbirliği sayesinde, Stratos, DeepSouth AI'nın platformunun yüksek hacimli veri ihtiyaçlarını karşılamak için gerekli merkeziyetsiz altyapıyı sağlamaya hazırdır. Bu ortaklık, yapay zeka ve merkeziyetsiz teknolojinin uyum içinde çalışabileceği yeni bir Web3 uygulamaları çağını başlatmaya hazırlanıyor ve nihayetinde dijital alanda yenilik ve erişilebilirliği artırıyor.

Dağıtık hesaplama ağlarında güvenlik ve güvenilirliği artırmak için önemli bir adım olarak, GPU kümelerine odaklanan merkeziyetsiz fiziksel altyapı ağı (DePIN) io.net, sıfır bilgi kanıtları (ZKP) alanında lider olan NovaNet ile ortaklık kurdu. Bu iş birliği, GPU kaynaklarının özgünlüğü ve performansı hakkında kriptografik güvenceler sağlayacak sıfır bilgi GPU kimlik doğrulama (zkGPU-ID) olarak bilinen çığır açıcı bir çözüm geliştirmeyi amaçlıyor. NovaNet'in gelişmiş ZKP teknolojisini kullanarak, io.net, merkeziyetsiz platformunda kullanılan GPU'ların yalnızca belirtilen özelliklerini karşılamakla kalmayıp, potansiyel olarak bunları aşabileceğini doğrulayabilecek, böylece kullanıcı güvenini ve kaynak güvenilirliğini artıracaktır. io.net'in İş Geliştirme Başkan Yardımcısı Tausif Ahmed, bu ortaklığın önemini vurgulayarak, geniş bir dağıtık GPU tedarikçisi ağı arasında koordinasyon ve doğrulamayı optimize etmenin, izin gerektirmeyen ve işletmelere hazır bir merkeziyetsiz hesaplama ağı oluşturmak için kritik olduğunu belirtti. NovaNet'in zkGPU-ID entegrasyonu, io.net'in GPU kaynaklarını küresel ölçekte sürekli olarak doğrulamasını ve test etmesini sağlayacak, böylece müşterilerin güvenilir ve belirttikleri ihtiyaçları karşılayan GPU'ları gönül rahatlığıyla kiralayabilmelerini sağlayacaktır. Bu girişim, kaynakların özgünlüğü ve performansı ile ilgili endişeleri gidermeyi amaçlayan merkeziyetsiz hesaplama altyapısında önemli bir ilerlemeyi temsil ediyor. Ayrıca, zkGPU-ID protokolü, GPU özelliklerinin daha düşük maliyetlerle kriptografik kanıtlarını oluşturma ve doğrulama konusunda önemli bir rol oynayan NovaNet'in zkVM (sıfır bilgi sanal makinesi) teknolojisini kullanıyor. NovaNet'in Teknik Kurucu Ortağı Wyatt Benno, ZKP'lerin gizlilik ve yerel doğrulanabilirlik için çeşitli cihazlar ve bağlamlar arasında çalışmasının gerekliliğini vurguladı. NovaNet'in zkEngine'i, io.net'in platformundaki GPU'ları titizlikle test eder ve tanımlar, GPU bütünlüğünü garanti eden bir ZKP oluşturur. Bu ortaklık, merkeziyetsiz GPU hesaplama ağlarında şeffaflık, güvenilirlik ve güvenlik için yeni bir standart belirliyor ve sektörde önemli bir ilerleme kaydediyor.

Yapay zekanın (AI) hızlı evrimi, dikkat gerektirmeyen modellerin ortaya çıkışıyla önemli ölçüde etkilenmektedir ve Falcon Mamba 7B dikkat çekici bir örnektir. Abu Dabi'deki Teknoloji İnovasyon Enstitüsü (TII) tarafından geliştirilen bu çığır açıcı model, dikkat mekanizmalarına büyük ölçüde bağımlı olan geleneksel Dönüştürücü tabanlı mimarilerden ayrılmaktadır. Bunun yerine, Falcon Mamba 7B, uzun bağlam görevleriyle ilişkili hesaplama zorluklarını ele alarak daha hızlı ve bellek açısından daha verimli çıkarım sağlayan Durum-Space Modellerini (SSM) kullanmaktadır. 5.5 trilyon token içeren geniş bir veri kümesi üzerinde eğitim alarak, Falcon Mamba 7B, Google'ın Gemma'sı ve Microsoft'un Phi'si gibi mevcut modellere rekabetçi bir alternatif olarak kendini konumlandırmaktadır. Falcon Mamba 7B'nin mimarisi, giriş uzunluğuna bakılmaksızın sabit bir çıkarım maliyeti sağlamaya yönelik tasarlanmıştır ve bu, Dönüştürücü modellerin başına bela olan kare ölçeklenme sorununu etkili bir şekilde çözmektedir. Bu benzersiz yetenek, belgelere özetleme ve müşteri hizmetleri otomasyonu gibi uzun bağlam işleme gerektiren uygulamalarda mükemmel performans göstermesini sağlar. Çeşitli doğal dil işleme benchmark'larında üstün performans sergilemesine rağmen, karmaşık bağlamsal anlayış gerektiren görevlerde hala sınırlamalarla karşılaşmaktadır. Yine de, bellek verimliliği ve hızı, AI çözümlerini optimize etmek isteyen kuruluşlar için çekici bir seçenek haline getirmektedir. Falcon Mamba 7B'nin etkileri, yalnızca performans metriklerinin ötesine geçmektedir. Kuantizasyon desteği, hem GPU'larda hem de CPU'larda verimli dağıtım sağlamaktadır ve bu da çok yönlülüğünü artırmaktadır. AI alanı geliştikçe, Falcon Mamba 7B'nin başarısı, dikkat gerektirmeyen modellerin birçok uygulama için standart hale gelebileceğini önermektedir. Süregelen araştırmalar ve geliştirmelerle, bu modeller hem hız hem de doğruluk açısından geleneksel mimarileri aşma potansiyeline sahip olabilir ve çeşitli endüstrilerde yenilikçi uygulamalar için yol açabilir.