Etiqueta: CUDA

  • El fin de la dictadura de CUDA: Así es cómo Mojo y Bend están cambiando las reglas del juego en la IA

    El fin de la dictadura de CUDA: Así es cómo Mojo y Bend están cambiando las reglas del juego en la IA

    El desarrollo moderno de inteligencia artificial tiene un problema no tan secreto que casi todos prefieren ignorar: la barrera invisible entre experimentar y poner en producción. Diseñas un modelo en Python con PyTorch o TensorFlow en cuestión de tardes, todo limpio y legible. Pero cuando necesitas escalar la inferencia a miles de peticiones por segundo en un cluster de GPUs, la realidad te golpea en la cara: tienes que reescribir partes críticas del código en C++, lidiar con llamadas a CUDA, gestionar la memoria a bajo nivel y rezar para que no aparezca una condición de carrera incomprensible.

    Es el clásico problema de los dos lenguajes. La productividad de la sintaxis expresiva frente a la velocidad pura de ejecución del hardware. ¿Por qué tenemos que elegir entre programar como humanos o exprimir las tarjetas gráficas como ingenieros de sistemas?

    (más…)
  • Braid: ¿El fin del sufrimiento programando GPUs?

    Braid: ¿El fin del sufrimiento programando GPUs?

    ¿Alguna vez has intentado escribir un kernel en CUDA y has sentido que estabas intentando invocar a una deidad antigua con sacrificios de punteros y gestión de memoria compartida? No estás solo. Programar para GPUs ha sido, históricamente, una disciplina para masoquistas o para mentes privilegiadas con una paciencia infinita. Sin embargo, un grupo de mentes brillantes en Stanford ha decidido que ya basta de sufrir. Su respuesta se llama Braid, y promete ser al mundo de la computación paralela lo que Python fue al scripting: una bendición de legibilidad y eficiencia.

    (más…)