IA local y el modelo justo para cada tarea

Cuando se habla de IA, casi siempre se piensa en los modelos más grandes, los que se usan a través de una web o una API (una conexión a un servicio externo) y se pagan por uso. Son impresionantes. Pero para buena parte del trabajo de una empresa son como contratar a un catedrático para ordenar el correo.

La mayoría de las tareas reales son más acotadas de lo que parece. Y eso abre una opción que muchas empresas no se plantean: usar modelos más pequeños, instalados en sus propios equipos.

No todo necesita un modelo enorme

Antes de elegir modelo, conviene preguntarse qué hay que hacer. Clasificar un correo como pedido, incidencia o factura. Extraer cinco campos de un documento. Decidir si una línea de un extracto bancario casa con un cobro. Resumir una reclamación en dos frases.

Para tareas así, muchas veces ni siquiera hace falta un LLM (un modelo de lenguaje, el tipo de IA que lee y escribe texto). Una regla bien escrita o un modelo estadístico sencillo puede ser más fiable, más rápido y más fácil de explicar. Y cuando sí hace falta entender lenguaje, un modelo pequeño ajustado a la tarea suele bastar.

Hoy existen modelos abiertos, es decir, que se pueden descargar e instalar sin depender de un proveedor, en tamaños muy distintos. Además, se pueden cuantizar: guardar sus números con menos precisión para que ocupen menos memoria y funcionen en equipos más modestos, a cambio de una pérdida de calidad que en muchas tareas apenas se nota. Siempre hay que medirlo con tus casos antes de decidir.

Agentes: cada paso con el modelo más pequeño que lo resuelve

Un agente es un sistema que no se limita a responder: encadena pasos para dejar un trabajo hecho. Lee una petición, consulta tus sistemas, prepara una respuesta o un documento y, si hace falta, lo deja listo para que una persona lo apruebe.

La clave está en no usar el mismo modelo para todo. Pensemos en un pedido que llega por correo:

1. Clasificar el correo: ¿es un pedido? Un modelo muy pequeño, o incluso reglas.
2. Extraer cliente, referencias y cantidades. Un modelo pequeño especializado en extracción.
3. Comprobar contra el ERP que el cliente existe, que las referencias son válidas y que hay stock. Aquí no hay IA: son consultas a tu sistema, deterministas y exactas.
4. Redactar la confirmación o la duda para el cliente. Un modelo algo mayor, si el texto lo pide.
5. Aprobar. Lo que no cuadra, o lo que supera ciertos importes, lo revisa una persona.

Cada paso usa el modelo más pequeño que lo resuelve bien. Así el sistema es más rápido, más barato de mantener y más fácil de vigilar: si algo falla, sabes en qué paso ha sido.

Privacidad y coste predecible

Instalar los modelos en tus servidores, o en una nube europea bajo tu control, tiene dos ventajas muy concretas.

Los datos no salen. Las facturas, los contratos o los datos de clientes se procesan dentro de casa. No viajan a un servicio externo ni dependes de lo que ese servicio haga con ellos. Para cumplir con la protección de datos, partir de ahí simplifica mucho las cosas.

El coste no depende del uso. Con un servicio que cobra por token (la unidad en que se mide el texto que entra y sale de un modelo, aproximadamente un trozo de palabra), cada consulta cuesta. Si el volumen crece, o un proceso se repite más de lo previsto, la factura crece con él. Con un modelo propio, el coste es el del equipo y su mantenimiento: lo conoces de antemano y no cambia porque tu equipo lo use más. Sin cuotas por uso: el modelo es tuyo.

Hay una tercera ventaja menos visible: el control. Un modelo instalado no cambia de un día para otro porque el proveedor lo actualice. Tú decides cuándo cambiar de versión, y cada cambio se prueba antes con tus casos.

Cuándo sí compensa un modelo grande

No se trata de estar en contra de los modelos grandes. Hay situaciones en las que son la mejor opción:

• Tareas abiertas y poco repetitivas, como razonar sobre un problema nuevo o redactar un texto largo y con matices.
• Volúmenes bajos, donde pagar por uso sale más barato que mantener un equipo propio.
• Pruebas rápidas, para comprobar si una idea funciona antes de invertir en una solución instalada.
• Datos que no son sensibles, donde la privacidad no es una restricción.

Incluso entonces, se puede combinar: modelos pequeños en casa para el trabajo diario y un modelo grande solo para los pocos casos que lo necesitan, sin enviarle datos personales.

La decisión no es “grande o pequeño”. Es entender bien la tarea y elegir lo justo para cada paso.

Si quieres saber qué partes de tu trabajo podrían resolverse con un modelo propio, y cuáles no merece la pena tocar, escríbenos a info@liberionlabs.com. Lo primero es entender cómo trabajáis.