Hoy te traigo los siguientes temas:
Mis conclusiones con el uso de IA en local: ¿merece la pena?
La IA ya resuelve problemas matemáticos
① Ejecutar IA en local, ¿para qué es útil?
He seguido jugando con la IA en local. Te recuerdo que dispongo de una tarjeta gráfica de
NVIDIA
con una
GPU
razonable para la ejecución de modelos de IA.
Mis
conclusiones
son
claras
:
no merece la pena
para tareas de análisis o razonamiento. No sólo se pone a mil revoluciones (literalmente el ventilador de la GPU sobrepasa este valor), sino que de vez en cuando se bloquea y tarda una eternidad en responder.
De uno o dos minutos de tiempo que tarda
ChatGPT
o
Gemini
en darte un resultado, en local con
Gemma
o
Qwen
tarda entre 10 y 20 minutos.
Esto da una muestra de la capacidad de procesamiento que deben tener estas compañías para poder dar sus servicios.
Respondiendo a la pregunta de para qué es útil, seguiré usando IA local para transcribir de voz a texto con
Whisper
. Al disponer de GPU el tiempo de respuesta es bastante bueno y la fiabilidad es similar a la de un servicio online. (Sin GPU funciona pero es 30 veces más lento). Además esto sí puedo decir que me sale gratis, no me recalienta el puesto de trabajo y no alimento la IA con contenido que no siempre es mío y por tanto no debo usarlo en transcriptores gratuitos online.
② La IA ya resuelve problemas matemáticos
OpenAI
ha logrado resolver un problema matemático, al menos en parte, y utilizando su modelo actual 5.5 que tú también puedes usar, es decir, que no ha empleado ningún modelo experimental más potente que el que ya ofrece.
Más allá de cuál ha sido el problema matemático sobre el que ha arrojado luz la IA, la pregunta es si gracias a la IA lograremos
avanzar en nuestro conocimiento del Mundo y a desarrollar tecnologías
que ahora mismo no son accesibles para nuestro conocimiento o capacidad de experimentación.
De hacerlo, de conseguirlo, ¿quién se llevará el mérito?
Por último
quiero comentarte que esta newsletter ampliará su contenido a temas de
electrónica y tecnología aplicada
, y que no saldrá todas las semanas.
Mi objetivo no es saturarte de información continuamente sino
aprender de las novedades tecnológicas que nos pueden mejorar la vida diaria.
Nada más por hoy. Espero que compartas esta edición en tus RRSS o por correo a quien le pueda interesar.
¡Hasta pronto!
Ignacio de Miguel XdE
Agencia Pódcast
