GPUtopia

GPUtopia utiliza una parte de la GPU de su computadora a través de WebGPU, un nuevo estándar web que se agregó recientemente a las versiones más nuevas de Chrome. Primero, su navegador necesita descargar un modelo de lenguaje. Este es un archivo de ~4GB que se almacenará en la caché de su navegador. Esto tomará unos minutos para descargar, luego ~20 segundos para cargar desde la caché en visitas futuras. Puede ver cómo funciona esto en el repositorio MLC WebLLM.