① NVIDIA competirá contra sus clientes
Este titular tan extraño como críptico tiene una explicación que comienza con las aparentes buenas intenciones de las empresas desarrolladoras de las IA generativas que quieren que sea un recurso para toda la Humanidad.
Ahora mismo la competición por el mejor modelo de IA conversacional (no hablo de temas de imágenes o vídeo que es un segundo mundo), está entre
OpenAI
con
ChatGPT
,
Anthropic
con
Claude
,
Google
con
Gemini
y
Alibaba
con
DeepSeek
(y cada uno con sus IA derivadas o especialistas aunque la tendencia es a unificar nombres y unir funcionalidades). Si queréis metemos a Meta con su modelo Llama aunque creo que está a otra cosa.
Excepto
Anthropic
, el resto produce
modelos de código abierto de IA.
Estos modelos de código abierto no hay quien los ejecute en un ordenador normalito así que es como decir «mira qué bueno soy que te lo doy gratis pero en el fondo no vas a poder hacer nada con esto, ja, ja». Si tienes la suerte de contar con
GPU
(tarjeta gráfica de
NVIDIA RTX
) algo puedes hacer... ¿algo o mucho?
En las ediciones anteriores de
RobotIA aplicada
te dije que no era práctico ejecutar modelos de IA en local, y lo mantengo para los modelos más potentes y con el hardware actual, pero hay un pero ENORME, y POSITIVO.
NVIDIA
ha presentado unas
GPU
con una potencia impresionante que se espera que para finales de año vayan instaladas en algunos de los ordenadores de serie más populares del mercado (y potentes, y caros, claro). Se trata de las NVIDIA RTX SPARK.
Si los nuevos chips de
NVIDIA
pueden hacer lo que prometen, no habrá modelo grande y potente que no pueda ser ejecutado en local.
Si esto sucede,
¿quién paga la fiesta de las empresas que desarrollan IA?
Por cierto, he conseguido ejecutar en local IA de alto rendimiento, 100% en
GPU
con una
NVIDA RTX 3060
(la más baja de la gama) y trabajar como si estuviera con Claude o Codex en mi terminal local.
Dame uno de los nuevos chips de
NVIDIA
y no tendré que pagar nunca más por la IA, siempre que sigan sacando modelos IA de código abierto.
Ahora mismo solo me estoy ahorrando 20€ al mes, pero cuando los precios suban, que subirán mucho, el ahorro puede ser muy importante.
NVIDIA
podría estar compitiendo con sus propios clientes. Supongo que la clave está en el equilibrio para no morder demasiado la mano que le da de comer.
Nada más por hoy. Espero que compartas esta edición en tus RRSS o por correo a quien le pueda interesar.
¡Hasta pronto!
Ignacio de Miguel XdE
Agencia Pódcast