Il problema non è addestrare un modello. È tenerlo in produzione.
La maggior parte dei progetti di intelligenza artificiale non fallisce durante la prova. Fallisce dopo.
La dimostrazione funziona, i risultati sembrano promettenti, e poi il progetto si ferma. Non perché la tecnologia non funzionasse, ma perché nessuno aveva previsto cosa serve per farla funzionare tutti i giorni: chi controlla che continui a dare risposte corrette, cosa succede quando i dati cambiano, quanto costa al mese, chi interviene quando si rompe.
Il nostro lavoro riguarda soprattutto questa seconda parte. Un modello che funziona in prova e che nessuno ha messo in condizione di funzionare in produzione è un costo, non un investimento.
Cosa significa in pratica
- Le previsioni e le risposte automatiche non vivono in un file sul computer di qualcuno: sono un servizio che i processi possono interrogare in qualsiasi momento.
- La qualità viene misurata nel tempo, non solo il giorno del collaudo. Se il modello peggiora, lo si sa prima che se ne accorgano i clienti.
- Il costo mensile è noto e prevedibile: è la voce che nei progetti di AI sfugge più spesso di controllo, e per noi è un parametro di progetto fin dall’inizio.
Tre livelli di controllo continuo
- Il servizio risponde: un modello non raggiungibile è un processo fermo. Controllo continuo.
- I dati in ingresso somigliano a quelli attesi: se cambia la popolazione, il modello sbaglia senza segnalarlo. Controllo giornaliero.
- Le previsioni si rivelano corrette: è l’unica misura che conta davvero, ma arriva sempre in ritardo — l’esito di una previsione a trenta giorni si conosce dopo trenta giorni.
È proprio perché il terzo controllo arriva tardi che il secondo è indispensabile: è l’indicatore anticipato che permette di intervenire prima del danno.
Versionamento e rilascio controllato
Ogni modello in produzione ha una versione, legata ai dati con cui è stato addestrato e ai parametri usati. Quando serve tornare indietro, si torna indietro in un’operazione sola.
I modelli nuovi vengono messi in produzione in affiancamento: ricevono traffico reale senza che le loro risposte vengano usate, finché non dimostrano di comportarsi meglio del modello attivo. È il modo meno costoso di validare su dati veri.
AI che risponde sulla conoscenza della tua azienda
Per le applicazioni che devono rispondere sulla base di documenti e procedure aziendali, il sistema recupera i passaggi pertinenti dalla base di conoscenza e genera la risposta citando la fonte. La qualità dipende quasi sempre dalla fase di recupero, non dalla generazione: se il passaggio giusto non viene trovato, nessun modello lo compensa.
Per questo lavoriamo su come i documenti vengono segmentati e indicizzati, e valutiamo il sistema su domande reali della tua azienda, non su prove generiche. Il sistema è progettato per rispondere “non ho elementi per rispondere” quando è il caso: in azienda è più utile di uno che risponde sempre.
Costi e riservatezza
Latenza e costo per singola invocazione sono vincoli di progetto, non ottimizzazioni successive: determinano la dimensione del modello, le strategie di riuso delle risposte e il ricorso a modelli specializzati più leggeri sui compiti ad alto volume. Un modello addestrato su un compito ristretto è spesso più economico e più stabile di un modello generalista, ed è l’approccio che applichiamo dove i volumi lo giustificano.
I dati aziendali usati per il recupero o per l’adattamento dei modelli restano nel perimetro europeo e non alimentano modelli di terzi.