El mejor modelo que no puedes usar no sirve de nada
El mejor modelo del mundo no sirve de nada si mañana deja de estar disponible para ti.
Edge AI: ¿y si la verdadera ventaja no fuese tener el mejor modelo, sino poder seguir usándolo?
Durante los últimos dos años hemos vivido una carrera frenética por los modelos fundacionales.
GPT. Claude. Gemini. Grok.
Cada pocos meses aparece un nuevo líder en benchmarks y durante unos días parece que el resto ha quedado obsoleto.
Pero durante las últimas semanas hemos asistido a un recordatorio incómodo.
No controlamos realmente aquello que no ejecutamos nosotros.
La reciente suspensión de los modelos más avanzados de Anthropic para usuarios no estadounidenses, consecuencia de restricciones de exportación impuestas por el gobierno estadounidense, ha puesto encima de la mesa una discusión que quizá hemos dejado demasiado tiempo en segundo plano. (Anthropic)
No quiero centrarme en el debate político.
Me interesa algo más técnico.
¿Qué ocurre cuando la IA se convierte en infraestructura crítica?
Estamos acostumbrados a pensar que la nube es infinita.
Pero en realidad no es nuestra.
No controlamos:
- Las cuotas.
- Los precios.
- Los rate limits.
- Los modelos disponibles.
- Los cambios de comportamiento.
- Las regiones soportadas.
- Las restricciones regulatorias.
- Las interrupciones del servicio.
Y, en última instancia, tampoco controlamos si un proveedor decide retirar un modelo.
Hace apenas unos días vimos cómo los modelos más potentes de Anthropic fueron deshabilitados para usuarios extranjeros por una orden gubernamental. (Anthropic)
No importa si eres una startup, una universidad o un desarrollador independiente.
Simplemente desaparecen.
Y esto abre una pregunta incómoda:
¿Tiene sentido construir sistemas críticos sobre capacidades que pueden desaparecer de un día para otro?
La IA está entrando en una fase geopolítica
Quizá durante años pensamos que los modelos eran simplemente software.
Pero probablemente estemos entrando en una nueva categoría.
Infraestructura estratégica.
Igual que ocurrió con:
- Los semiconductores.
- Las telecomunicaciones.
- La energía.
- Los satélites.
La IA empieza a estar sometida a:
- Regulación.
- Export controls.
- Dependencia nacional.
- Seguridad ofensiva.
- Intereses geopolíticos.
Y eso implica algo importante:
La disponibilidad ya no es solamente un problema técnico.
También es político.
¿Y si estamos repitiendo la historia?
Hace décadas muchas empresas dependían completamente de mainframes centrales.
Después llegaron los PCs.
Más tarde Internet.
Luego el cloud.
Y ahora quizá estemos viendo el inicio del movimiento contrario.
No porque la nube vaya a desaparecer.
Sino porque concentrar toda la inteligencia en un único punto tiene un coste.
No solo económico.
También estratégico.
Entra en escena Edge AI
Edge AI propone algo sencillo:
Mover parte de la inteligencia hacia el dispositivo.
En lugar de:
Usuario
↓
Cloud
↓
Modelo
↓
Respuestatenemos:
Usuario
↓
Modelo local
↓
RespuestaLa nube sigue existiendo.
Pero deja de ser el único lugar donde reside la inteligencia.
Y eso cambia muchas cosas.
Menor latencia.
Mayor privacidad.
Costes inferiores.
Funcionamiento offline.
Menor dependencia.
Pero quizá hay una ventaja menos comentada.
Soberanía tecnológica.
La Web también está entrando en esta transición
Hace unos años ejecutar un LLM local parecía reservado a GPUs, CUDA y aplicaciones nativas.
Pero algo interesante está ocurriendo.
Los navegadores han empezado a convertirse en plataformas de inferencia.
Y aquí aparece WebLLM.
Gracias a WebGPU es posible ejecutar modelos directamente dentro del navegador.
Sin backends, ni APIs externa. Sin enviar datos a terceros.
La arquitectura es sorprendentemente simple:
Browser
↓
WebGPU
↓
Modelo cuantizado
↓
RespuestaNo es GPT-5. No pretende serlo.
Pero quizá esa no sea la pregunta adecuada.
La pregunta es:
¿Qué porcentaje de nuestros problemas necesitan realmente el modelo más grande del planeta?
El mejor modelo del mundo que no puedes usar vale cero
Esta frase puede parecer provocadora.
Pero merece reflexión.
Durante años hemos optimizado por benchmarks.
Por MMLU.
Por SWE-Bench.
Por Elo.
Sin embargo, para muchos casos reales, las preguntas relevantes son otras:
- ¿Está disponible?
- ¿Puedo ejecutarlo siempre?
- ¿Qué ocurre si sube el precio?
- ¿Qué ocurre si desaparece?
- ¿Funciona sin Internet?
- ¿Mis datos salen del dispositivo?
La fiabilidad y la autonomía empiezan a competir con la pura capacidad.
Una pequeña POC que me ha hecho pensar bastante
Ese incidente me ha llevado a experimentar con una pequeña prueba de concepto educativa construida alrededor de estas ideas.
El flujo es sencillo.
El usuario selecciona cualquier artículo de Wikipedia.
La aplicación obtiene el contenido y, utilizando WebLLM, puede:
Resumir el artículo.
Pasar de cientos de líneas a una explicación más compacta.
Realizar preguntas sobre el contenido.
Mantener una conversación contextual sobre el tema.
Generar quizzes automáticamente.
Transformar información pasiva en aprendizaje activo.
Evaluar respuestas.
Y reforzar conceptos.
Todo ello ejecutándose localmente en el navegador.
Sin backend específico de IA.
Sin llamadas a APIs comerciales.
Sin dependencias externas para la inferencia.
La idea no era competir con ChatGPT.
Ni con Claude.
Ni con Gemini.
La idea era responder otra pregunta.
¿Hasta dónde podemos llegar utilizando únicamente tecnologías web?
Y la respuesta me ha sorprendido bastante.
Aquí tienes el enlace WebLLM Study Assistant, una de las PoCs del lab.
Tal vez el futuro sea híbrido
No creo que el cloud vaya a desaparecer.
Sería absurdo.
Los modelos frontier seguirán necesitando enormes centros de datos.
Pero quizá el reparto sea diferente.
80%
Edge AI
20%
Cloud AILa nube para:
- razonamiento complejo,
- entrenamiento,
- coordinación.
El edge para:
- privacidad,
- interacción,
- agentes personales,
- educación,
- productividad,
- conocimiento local.
Y quizá estamos haciendo la pregunta equivocada
La discusión habitual es:
“¿Qué modelo es mejor?”
Pero tal vez dentro de unos años la pregunta importante sea otra.
¿Qué inteligencia controlas realmente?
Porque el modelo más potente del mundo puede desaparecer.
Puede cambiar.
Puede encarecerse.
Puede ser restringido.
Puede dejar de estar disponible para tu región.
Mientras tanto, un modelo más pequeño, ejecutándose en tu dispositivo, seguirá ahí.
Quizá no gane benchmarks.
Pero seguirá funcionando.
Y, al final, hay algo profundamente interesante en eso.
Tal vez Edge AI no sea únicamente una cuestión de latencia o privacidad.
Tal vez sea también una cuestión de independencia.
¿Creéis que la reciente situación de Anthropic es un caso puntual o el comienzo de una tendencia donde la IA avanzada pasará a considerarse infraestructura estratégica y veremos cada vez más interés por Edge AI, modelos open-weight y ejecución local?
#EdgeAI #WebLLM #WebGPU #LLM #AI #GenerativeAI #BrowserAI #MachineLearning #OpenSource #Anthropic #AIEngineering #RAG #Education