Etiqueta: GPGPU

  • ¿Tu navegador ejecutando un LLM en local? Gracias a WebGPU, el cliente ya no es solo para renderizar HTML

    ¿Tu navegador ejecutando un LLM en local? Gracias a WebGPU, el cliente ya no es solo para renderizar HTML

    Imagínate la escena: estás desarrollando una aplicación web con funciones avanzadas de Inteligencia Artificial y, cada vez que un usuario hace una consulta, tu servidor hace peticiones a una API externa o procesa el modelo en un clúster de GPUs en la nube. La factura de AWS parece una hipoteca en la Castellana, la latencia te obliga a mostrar spinners de carga infinitos y, por si fuera poco, el equipo de ciberseguridad no deja de preguntarte a qué servidores de terceros están viajando los datos confidenciales de los usuarios. Nos hemos acostumbrado tanto a depender del backend para cualquier tarea pesada de IA que olvidamos cuánta potencia de cálculo sin usar se esconde en la tarjeta gráfica del propio usuario.

    (más…)