¿Qué pasa si la inteligencia artificialse equivoca?
Se diseña para que el error no llegue al cliente ni al sistema de gestión. Los datos duros —precios, stock, saldos, condiciones— salen del ERP y no los genera el modelo; lo que la aplicación no entiende con seguridad no se ejecuta, se manda a revisión de una persona; y cada llamada al modelo queda registrada, con qué se preguntó, con qué datos y qué respondió. Un modelo de lenguaje se equivoca: el trabajo consiste en que equivocarse no tenga consecuencias.
Precios y stock, nunca del modelo
Lo dudoso lo mira una persona
Cada llamada, con su dato y su respuesta
Se puede deshacer lo que se ejecutó
¿Por qué la IA no puede inventarse un precio?
Porque no se le pide que lo sepa. La aplicación no le pregunta al modelo cuánto cuesta un producto: el modelo interpreta lo que ha dicho el cliente —qué referencia, qué cantidad, qué formato— y la aplicación consulta el precio en el ERP. Es una diferencia de arquitectura, no de calidad del modelo.
Técnicamente se resuelve con llamadas a funciones: el modelo solo puede pedir operaciones concretas y definidas, y los datos vienen de quien los tiene. Todo lo demás queda fuera de su alcance.
¿Qué pasa con lo que la aplicación no entiende bien?
Se convierte en una excepción y la ve una persona. En un proceso real siempre hay entradas ambiguas: una referencia mal escrita, una cantidad poco clara, una petición que mezcla dos cosas. El sistema no adivina: marca el caso, lo aparta y lo pone en la cola de revisión con el contexto necesario para resolverlo rápido.
El objetivo del proyecto no es que no haya excepciones, es que sean pocas y que el equipo tarde poco en resolverlas. Ese porcentaje se mide durante el piloto y es uno de los criterios para decidir si el proyecto sigue.
¿Se puede saber qué hizo el sistema y por qué?
Sí, y es una exigencia de diseño, no un extra. Cada llamada al modelo queda registrada: qué se preguntó, con qué datos, qué respondió y qué acción se ejecutó después. Sirve para tres cosas distintas y todas importan:
- Corregir: cuando algo sale mal, se puede reconstruir exactamente qué pasó en lugar de suponerlo.
- Mejorar: los registros muestran dónde se concentran las excepciones, que es por donde conviene seguir trabajando.
- Responder: ante un cliente, un auditor o la autoridad de protección de datos, la trazabilidad es lo que permite demostrar cómo se tomó una decisión.
¿Y quién responde si hay un problema?
La responsabilidad sobre el proceso sigue siendo de la empresa, igual que con cualquier software: por eso la supervisión humana está diseñada en los puntos donde la decisión tiene efectos sobre una persona o sobre el negocio. Tecnea responde de que el sistema funcione como se acordó y lo mantiene mientras dure el contrato de evolución.
Conviene desconfiar de quien prometa que su sistema no se equivoca. Lo que se puede prometer, y es lo que hacemos, es que los errores sean visibles, acotados y reversibles.
Preguntas frecuentes
Lo que nos preguntan sobre esto
¿La IA toma decisiones sola?+
Solo en operaciones acotadas y validadas, y nunca en decisiones con efectos jurídicos o significativos sobre una persona: ahí la supervisión humana es obligatoria por el artículo 22 del RGPD y así se diseña. El resto de decisiones se ejecutan con reglas claras y quedan registradas.
¿Mis clientes saben que están hablando con una IA?+
Sí. El artículo 50 del Reglamento europeo de IA obliga a informar a las personas cuando interactúan con un sistema de inteligencia artificial, y se implementa desde el primer día, no como un aviso añadido al final.
¿Cuántas excepciones son normales?+
Depende del proceso y de la calidad de los datos de partida, así que no damos una cifra de antemano: se mide en el piloto con datos reales. Si el porcentaje es tan alto que el ahorro desaparece, el proyecto se para ahí, que es exactamente para lo que sirve el piloto.
¿Se puede deshacer una acción equivocada?+
Sí. Las operaciones que escriben en tus sistemas quedan registradas y son reversibles, y las más sensibles se ejecutan solo tras confirmación de una persona.
¿Lo vemos con tu caso concreto?
Cuéntanos el proceso que quieres mejorar y te decimos si una aplicación con IA tiene sentido, qué alcance tendría el piloto y cuánto costaría. Sin compromiso.