Independència del proveïdor
Puc canviar de model d'intel·ligència artificial sense refer l'aplicació?
Sí. En els projectes de Tecnea el model és una peça substituïble: l'aplicació no depèn d'un proveïdor d'intel·ligència artificial concret i es pot canviar de model sense refer-la. Utilitzem models dels principals proveïdors allotjats a la Unió Europea quan hi ha dades personals, i models privats a l'entorn del client quan la dada ho exigeix.
El model es canvia, l'aplicació es queda
Quan hi ha dades personals
Al teu entorn quan la dada ho exigeix
Cada crida queda traçada, canviïs o no
Què passa si l'aplicació depèn d'un sol proveïdor d'IA?
El mercat de models canvia cada pocs mesos i les decisions no les prens tu. Un proveïdor puja el preu, retira una versió, canvia les seves condicions d'ús o deixa d'estar disponible a la teva regió. Si l'aplicació està construïda al voltant d'un model concret, cadascun d'aquests canvis és un projecte.
Construïda de l'altra manera, és una configuració. El cost de canviar deixa de ser una negociació i passa a ser una prova.
Com s'aconsegueix a la pràctica?
Són tres decisions tècniques que es prenen en començar i que convé exigir per escrit.
- La lògica del negoci viu a l'aplicació, no al prompt d'un model concret. El que sap la teva empresa no pot quedar-se dins d'un servei de tercers.
- L'accés al model passa per una capa pròpia, de manera que substituir-lo afecta un punt del codi i no tota l'aplicació.
- Els prompts i les configuracions són teus i es lliuren amb la resta del codi, així que es poden adaptar a un altre model sense començar de zero.
Quan convé un model privat i quan no?
Un model privat a la teva pròpia infraestructura dona el màxim control, i també costa més d'operar. Val la pena quan la dada ho exigeix (informació de salut, judicial o subjecta a un compromís amb un client gran) o quan un regulador o un contracte ho demanen expressament.
Per a la majoria dels processos d'una empresa, un model d'un proveïdor conegut allotjat a la Unió Europea, amb acord d'encarregat del tractament i sense ús de les dades per a l'entrenament, resol el problema amb millor relació entre control i cost. El més honest és dir-ho, encara que vendre el contrari sigui més rendible.
Preguntes freqüents
El que ens pregunten sobre això
Quins models utilitzeu exactament?+
Els que resolen millor cada tasca, i es tria al diagnòstic segons el tipus de dada i el pressupost: models dels principals proveïdors desplegats en regió europea, i models oberts executats en infraestructura privada quan la sensibilitat de la dada ho exigeix. La decisió queda documentada, amb el seu motiu.
Canviar de model costa diners?+
Costa la feina de provar i ajustar, no la de refer. És una tasca delimitada dins del contracte d'evolució mensual, i és precisament el que s'evita quan l'aplicació està ben construïda des del principi.
I si el nou model respon pitjor?+
Per això es prova abans de substituir, sobre casos reals del propi procés i comparant resultats. El registre de crides anteriors serveix exactament per a això: es pot mesurar si el canvi millora o empitjora en lloc d'opinar.
Puc fer servir el meu propi compte amb el proveïdor d'IA?+
No cal: el compte amb el proveïdor d'IA el contracta Tecnea i va inclòs a la quota mensual, com la resta de la infraestructura del servei. Si en el futur decideixes finalitzar el contracte, el pots contractar directament tu.
Ho mirem amb el teu cas concret?
Explica'ns el procés que vols millorar i et direm si una aplicació amb IA té sentit, quin abast tindria el pilot i quant costaria. Sense compromís.