Theta EdgeCloud Adiciona DeepSeek LLM
Theta EdgeCloud integrou o DeepSeek-R1, um modelo de linguagem de última geração desenvolvido pela startup chinesa de IA DeepSeek. O DeepSeek-R1 oferece desempenho comparável a modelos como o ChatGPT da OpenAI, o Mixtral da Mistral e o LLaMA da Meta, enquanto utiliza significativamente menos recursos computacionais. Ao apoiar o DeepSeek-R1, o Theta EdgeCloud, uma infraestrutura de nuvem GPU descentralizada, melhora a eficiência e a acessibilidade da IA. Inovações da DeepSeek, como atenção latente de múltiplas cabeças (MLA) e quantização de precisão FP8, permitem que LLMs avançados sejam executados em GPUs de consumidores, tornando a IA de alto desempenho mais acessível para desenvolvedores, pesquisadores e pequenas empresas sem depender de infraestrutura de nuvem centralizada cara.
A arquitetura descentralizada do Theta EdgeCloud oferece escalabilidade ao alocar dinamicamente nós de GPU com base na demanda, eliminando a necessidade de expansão de infraestrutura física dispendiosa. Essa abordagem também reduz custos ao aproveitar o poder computacional subutilizado, permitindo que os usuários paguem apenas pelos recursos que consomem. Além de ser econômica, a Theta EdgeCloud promove a sustentabilidade ao distribuir o processamento de IA em vários locais, em vez de depender de data centers que consomem muita energia.
Com essa integração, a Theta Labs continua a expandir os limites da infraestrutura de IA descentralizada, oferecendo uma alternativa mais econômica, escalável e ambientalmente amigável para treinamento e inferência de modelos de IA.