Vivimos en la era dorada de la Inteligencia Artificial Generativa. Cada día entrenamos modelos de lenguaje más mastodónticos y desplegamos infraestructuras complejas de inferencia paralela. Sin embargo, el motor de software que mueve todo este ecosistema se apoja sobre un titán con pies de barro: Python. Sí, amamos su sintaxis limpia y su ecosistema, pero seamos honestos: cuando se trata de rendimiento bruto, Python es lento. Históricamente, para solucionar esto, hemos tenido que recurrir a librerías escritas en C o C++ (como el núcleo de NumPy o TensorFlow). Esto crea el famoso «problema de los dos lenguajes»: escribes el prototipo de forma amigable en Python, pero si necesitas exprimir el hardware, tienes que reescribir las partes críticas en un lenguaje de bajo nivel.
(más…)
¿Alguna vez has intentado escribir un kernel en CUDA y has sentido que estabas intentando invocar a una deidad antigua con sacrificios de punteros y gestión de memoria compartida? No estás solo. Programar para GPUs ha sido, históricamente, una disciplina para masoquistas o para mentes privilegiadas con una paciencia infinita. Sin embargo, un grupo de mentes brillantes en Stanford ha decidido que ya basta de sufrir. Su respuesta se llama Braid, y promete ser al mundo de la computación paralela lo que Python fue al scripting: una bendición de legibilidad y eficiencia.
(más…)