L’AI entra in azienda: Ambrogio e Regolo per utilizzare la conoscenza aziendale in modo efficace, efficiente e sicuro

L’intelligenza artificiale attrae le aziende italiane sempre di più, ma le imprese ancora faticano ad adottarla concretamente.

Secondo l’Osservatorio Artificial Intelligence del Politecnico di Milano, nel 2023 il 61 per cento delle grandi imprese italiane ha avviato almeno un progetto di intelligenza artificiale mentre questi numeri non si riscontrano nel contesto delle PMI, dove si scende a un livello di adozione del 18%.

Portare l’AI nelle imprese con Intelligentiae

L’accesso più sostenibile e democratico a sistemi di Intelligenza Artificiale in grado di supportare in modo concreto e sicuro anche le piccole e medie imprese potrebbe però velocizzare l’adozione di questa tecnologia.

In questa intervista, Paolino Madotto di Intelligentiae s.r.l., società specializzata in Intelligenza Artificiale, Data Science e automazione di processi e servizi ci racconta come portare l’IA nelle imprese sia un progetto realizzabile in tempi sostenibili e senza rischi di perdere il controllo dei propri dati. Come? partendo dalle esigenze specifiche dei manager e al contempo facendo in modo che il patrimonio delle informazioni utilizzate non esca al di fuori del perimetro dell’azienda.

Seeweb: Paolino, intanto presentati.

Paolino Madotto: Ho lavorato per svariati anni come informatico e al contempo ho anche maturato particolare esperienza in ambito business consulting e nella consulenza direzionale in una delle più grandi società di consulenza al mondo. Un mix di competenza tecnica e di know-how dei processi organizzativi aziendali, delle logiche di business che le sottengono. Spesso mi sono trovato a supportare C-level per ripensare l’azienda e nella digital transformation a partire dalla strategia business.

Sintetizzare una mia presentazione diventa complicato, ho scritto libri e scrivo da anni articoli, ho lavorato dal settore aerospaziale alle banche alla PA. Andiamo oltre.

Seeweb: Quando hai iniziato a occuparti di Intelligenza Artificiale?

Paolino Madotto: Sin dal 2017 ho intuito le potenzialità della scienza dei dati e del machine learning a supporto delle aziende. Nel 2019 mi sono certificato presso la Stanford University in Machine Learning e ho cominciato ad applicare nel mio lavoro l’analisi dei dati come strumento per comprendere le organizzazioni e riprogettare i processi.

Nel 2019 con il mio attuale socio Prof. Marco Isopi (Professore di matematica al dip. Di Matematica dell’Università di Roma “Sapienza” e matematico applicato) abbiamo deciso di mettere insieme le nostre forze per offrire servizi di Intelligenza Artificiale alle imprese creando un mix tra conoscenze scientifiche, competenze di business e tecnologiche. Questo è il valore aggiunto di Intelligentiae che è in grado di comprendere bene come funzionano le aziende e come questa tecnologia può trasformarle per fornire valore al cliente. La forza di avere tutti e due più di trenta anni di esperienza ci permette di comprendere bene come utilizzare questa tecnologia che rimane uno strumento.

Volevamo aprire l’azienda nel 2020 ma la pandemia COVID chi ha fermato, nel 2021, appena è stato possibile, abbiamo aperto e abbiamo cominciato a realizzare algoritmi che migliorassero i processi di lavoro, la pianificazione e la distribuzione delle attività. Gli algoritmi stanno facendo la fortuna delle aziende USA che ormai li utilizzano internamente per incrementare la produttività alleviando il lavoro delle persone. Un peccato che in Italia non siano ancora molto diffusi perché con i giusti input e i giusti vincoli possono produrre enormi risultati in poco tempo.

L’unione di solide basi matematiche e dell’esperienza di management ci consente di riuscire a portare nelle organizzazioni i vantaggi dell’AI, sia generativa che predittiva. Il nostro obiettivo è ottimizzare tutti i processi e i task ripetitivi delle aziende: oggi le organizzazioni sono “data driven” e addestrando sistemi a partire dai dati possiamo efficientare qualsiasi tipo di task. Nell’AI contano più di ogni cosa i dati e come si utilizzano, come di verificano e la loro qualità, gli algoritmi contano il giusto. Per questo spesso vediamo informatici che si “buttano” sull’AI e poi fanno disastri, ciò che ci aiuta molto nel nostro lavoro è la presenza di una valida base accademica che è esperta a validare i risultati, capire la qualità dei dati e ad analizzarli.

Quando è uscita al pubblico l’AI generativa mi sono messo a studiare questa tecnologia, ho scritto molti articoli su agendadigitale.eu dove scrivo da molti anni di innovazione e tecnologia e fatto molti seminari per diffonderla. Come Intelligentiae ne abbiamo sviscerato limiti e potenzialità e abbiamo deciso di investire per offrire servizi innovativi e affidabili alle aziende.

Molto presto abbiamo attivato un team con l’obiettivo di realizzare una soluzione che fosse un assistente alla conoscenza che rispondesse ai problemi che le moderne organizzazioni hanno: l’enorme mole di documenti e conoscenza aziendale non è mai disponibile quando serve, nelle modalità in cui serve, nelle forme nelle quali si può utilizzare. Spesso le aziende possiedono molte informazioni in documenti o archivi ma giacciono inutilizzate e ogni volta si parte da un “foglio bianco” o utilizzando template che non sono sempre adatti in tutte le situazioni. Dopo molti mesi di lavoro e test abbiamo realizzato “Ambrogio”, lo abbiamo chiamato così perché se gli avessimo dato un nome roboante avrebbe incusso timore negli utenti anche grazie ad una campagna allarmistica su come l’Intelligenza Artificiale avrebbe portato a licenziamenti e “rubato” il lavoro. Conosciamo la tecnologia e i suoi limiti e siamo convinti che questo non possa accadere, quello che può fare l’AI è affiancare chi lavora, liberarlo dai task ripetitivi e monotoni per farlo concentrare dove si produce valore utilizzando meglio il proprio tempo e trovando maggiore soddisfazione nel lavoro. Mi considero un olivettiano e cerchiamo di seguire lo spirito del lavoro di Adriano Olivetti: innovazione, valore al cliente, lavorare meglio e con soddisfazione.

Seeweb: Spiegaci meglio Ambrogio.

Paolino Madotto: Prima di spiegare cosa fa Ambrogio penso sia più utile spiegare cosa le aziende non devono fare più utilizzando Ambrogio, perché questo fa capire subito dove si crea valore e in che modo.

Quante volte mentre facciamo il nostro lavoro ci serve velocemente una informazione per completare qualcosa e non la troviamo? Oppure ci serve una sintesi di qualcosa che è presente nei documenti aziendali e dobbiamo metterci davanti ad una pagina bianca per scrivere? O ci serve un testo bozza di qualcosa che deve essere prodotto tenendo conto di regolamenti, verbali o documenti aziendali? O semplicemente le volte nelle quali chiediamo al nostro collega “che sa tutto” come si fa quella cosa o come comportarsi in una determinata situazione? Ecco, Ambrogio è il “collega” che “sa tutto” ma che nello stesso tempo ha bisogno di voi che con la vostra esperienza e competenza indirizzate il lavoro nel verso giusto. Il ruolo principale è delle persone ma Ambrogio le affianca per fare il lavoro “sporco” di leggere tutto ciò che in azienda viene prodotto e di trovare le risposte giuste nel momento giusto. Ambrogio è uno “stagista” che affianca e vi aiuta nel vostro lavoro, non sarà mai in grado di farlo per voi ma vi semplifica la vota di molto.

Ambrogio nasce dall’esigenza di gestire le informazioni all’interno delle organizzazioni.

Nelle aziende solitamente le informazioni sono “disperse” e spesso la difficoltà è quella di trovarle quando serve: posso avere la necessità di estrarre un’informazione semplice da documenti e informazioni complessi. Oppure, posso avere troppe informazioni che non riesco a estrarre velocemente. Ancora, il mio reparto marketing potrebbe avere l’esigenza di reperire materiale velocemente per realizzare copy per i social post e le attività di comunicazione.

Ambrogio si interfaccia con qualsiasi large language model e in più consente di scalare, potendo gestire anche grandi numeri di utenti: è un sistema in grado di funzionare sia per una piccola che per una grande organizzazione. Consente di caricare documenti all’interno e quindi estrarre le informazioni del caso. Inoltre, è possibile connettere Ambrogio alle proprie applicazioni aziendali con circa 15 connettori già pronti e altri che stiamo realizzando o si possono realizzare ad-hoc, ad esempio si può connettere ad un sito web dove ci sono FAQ o testi di qualsiasi tipo e incamerare le informazioni. Ogni connettore si aggiorna poi periodicamente, per esempio un sito web ogni 24 ore ma altri connettori anche ogni 10 minuti così le informazioni disponibili saranno sempre aggiornate.

Quando facciamo una interrogazione in linguaggio naturale ad Ambrogio, otteniamo da una parte una lista di documenti che sono attinenti alla domanda (ovvero che se li vado ad aprire trovo le informazioni utili alla risposta) e ogni documento viene indicato con un indice di attendibilità che dice quanto sono attinenti; dall’altra ottengo un testo completo che risponde alla mia interrogazione con le citazioni  dei documenti dove ha trovato gli elementi utilizzati per dare la risposta e le note capoverso per capoverso. In questo modo chi interroga Ambrogio può avere la situazione sempre sotto controllo e capire se la risposta può essere oggetto di “allucinazioni”. Esistono poi altri indicatori su possibili allucinazioni e prima di dare all’esterno la risposta vengono fatti dei complessi controlli di qualità. L’obiettivo di Ambrogio è quello di fornire risposte di qualità e precise ed è stato fatto un grosso lavoro in tal senso. In più, quando viene installato presso un cliente, viene fatta una attività di “tuning” dei parametri in modo da fornire uno strumento “su misura” del cliente. Facciamo anche un piccolo training non tanto sul prodotto che è molto intuitivo ma su cosa è realmente l’AI generativa e come bisogna utilizzarla per non farsi utilizzare da essa.

Ci sono poi altre funzionalità che sarebbe troppo lungo spiegare ma che vanno nella direzione di rendere semplice l’uso di Ambrogio e indirizzato alle aziende.

Seeweb: In che modo Ambrogio risponde alle esigenze delle aziende e quali sono le caratteristiche distintive rispetto a prodotti simili?

Paolino Madotto: Se andiamo a cercare su internet troviamo milioni di articoli che spiegano come con poche istruzioni si realizza un RAG o prodotti gratuiti. Il problema è che questo funziona fintanto che metto questi sul mio laptop e ci gioco o ci carico qualche documento. Cosa ben diversa è servire centinaia di interrogazioni l’ora, centinaia o migliaia di utenti. Una grande quantità di documenti. Qui i problemi cominciano ad essere complessi. Ambrogio è realizzato per rispondere a queste esigenze, per “scalare” in numero di utenti e documenti. Si installa su ambienti containerizzati, ha una architettura tipica delle applicazioni cloud e può essere installato in casa o in cloud da un operatore serio dove la sicurezza e l’affidabilità sono al primo posto.

Ambrogio non è il semplice RAG che si legge su internet ma ha al suo interno tantissimi accorgimenti, controlli e altri strumenti che gli permettono di rispondere in modo egregio alle esigenze. Ad esempio, con alcuni clienti abbiamo affrontato e superato il problema dell’interpretazione di documenti “strutturati” (quelli nei quali le informazioni sono organizzate come su form o ci sono tabelle e formati particolari) che di solito sono la “bestia nera” dei RAG, abbiamo anche risolto dei problemi nell’interpretare documenti che contengono immagini o documenti pdf scannerizzati perché nel leggere i documenti siamo in grado di fare OCR, nonché leggiamo e interpretiamo circa 50 formati di file differenti da open office a office  a powerpoint e così via. Abbiamo anche un connettore che si integra con una nota applicazione open source di gestione ticket di helpdesk e CRM in modo da rendere disponibili per l’interrogazione delle domande e delle risposte fornite agli utenti dall’assistenza. Pensate a quale semplificazione e miglioramento del servizio, quale aumento di produttività e generazione di valore per il cliente.

Seeweb: Spiegaci qual è per te il vantaggio di integrare Ambrogio con i servizi Seeweb.

Paolino Madotto: Partiamo dall’assunto che Ambrogio si può utilizzare sul cloud e on premise a seconda delle preferenze del cliente.

Tuttavia, noi siamo un’azienda che ha come principale obiettivo affiancare i clienti nel loro business e dobbiamo dire anche le criticità dell’AI oltre ai lati positivi.

Se si usano i modelli LLM proprietari bisogna sapere che i nostri dati devono essere forniti a questi modelli per avere poi le risposte, c’è un problema di sicurezza perché questi modelli sono affamati di dati di training e periodicamente utilizzano le nostre chat per addestrare questi modelli. Se in quelle chat ci sono dati aziendali possiamo trovarci nella spiacevole situazione che possano uscire fuori. Non parliamo di fantascienza ma di cose reali che sono accadute, ho scritto un articolo su questo tempo fa. Anche se firmiamo contratti che dicono che i nostri dati non saranno utilizzati per il training non siamo in grado di dimostrare il contrario utilizzando un modello e, dunque, di quei contratti non sappiamo che farcene una volta che le nostre informazioni escono fuori.

Un altro aspetto tipico del RAG è che in questo tipo di applicazioni usare LLM grandi con molta conoscenza dentro non porta alcun valore, anzi può perfino toglierlo. Noi non volgiamo che il LLM ci dica cosa fare sulla base di come è stato addestrato ma vogliamo che elabori quello che facciamo in azienda. Non ci serve HAL9000, il computer di odissea 2001 nello spazio che tutto sa e tutto decide, ci interessa un modello che banalmente si rimbocchi le maniche faccia il lavoro “sporco” per noi con precisione e qualità. Anzi rischiamo di avere l’effetto del “sapientone”, avete presente il collega che sa sempre tutto e poi ci fa perdere tempo dando informazioni sbagliate o confuse?

Ecco per affrontare questi aspetti noi abbiamo cominciato a lavorare sin da subito con modelli open source anche più piccoli che si possono mettere in casa. Nell’ultimo anno hanno aumentato di molto la precisione e le capacità e sono i più adatti agli scopi aziendali. Abbiamo un monitoraggio costante dei modelli che escono, delle loro caratteristiche, di come rispondono all’italiano e aiutiamo i clienti ad adottarli accompagnandoli a scegliere quello che è meglio per loro. Tra l’altro un modello open source lo metto dove voglio e lo aggiorno quando mi serve, quelli proprietari quando vengono aggiornati spesso impongono di dover cambiare l’applicazione RAG perché i comandi che prima funzionavano adesso non vanno più così bene.

Questo si risolve utilizzando modelli opensource ma per farlo è necessario avere infrastrutture in grado di reggere il carico con affidabilità.

Seeweb è il principale fornitore di GPU in Italia e un leader europeo nel settore, ha infrastruttura affidabile e sicura (certificata dall’Agenzia Nazionale Cybersecurity) e ha una forte propensione all’innovazione con una forte attenzione sul mondo dell’Intelligenza Artificiale Italiana.

L’enorme vantaggio per il cliente è non solo quello di avere infrastruttura flessibile e affidabile in datacenter sicuri e protetti ma anche un operatore che evolve la propria infrastruttura e investe in GPU, sempre più necessarie per l’AI.

Regolo – progetto di Inference as a Service Seeweb –  è in questo uno strumento prezioso perché in molte realtà sarebbe troppo costoso installare un modello interno proprio ma troppo costoso anche utilizzare quelli proprietari che comunque oltre che insicuri per la ragioni di cui sopra costano molto a conti fatti. Regolo consente di avere a disposizione dei modelli preconfigurati e testati, stiamo collaborando attivamente con Seeweb mettendo a disposizione le nostre conoscenze di questo mondo per fornire sempre modelli aggiornati e performanti.

Per chi vuole utilizzare Ambrogio o disporre della possibilità di interrogare modelli come fa con ChatGPT o similari (abbiamo anche altri software che possono aiutare a costruire dei desk completi per gli utenti) è comodo avere dietro Regolo che fornisce questo fondamentale servizio di inferenza dei modelli opensource. La tendenza sarà sempre di più quella di andare nella direzione di utilizzare molti modelli specializzati e Regolo è lo strumento giusto per farlo.

In Ambrogio abbiamo integrato Regolo e con poco si può utilizzarlo.

Poi i clienti possono anche utilizzare Ambrogio installandolo in uno stack completamente su Seeweb, in questo caso sia il modello che Ambrogio girano in una infrastruttura unica, che non rischia fermi come è successo ormai diverse volte a OpenAI e che è stata raffinata per lavorare bene insieme. Nel business la flessibilità è tutto e utilizzare Ambrogio e Regolo consentono di essere agili e crescere con il crescere delle esigenze con un investimento economico limitato rispetto ai costi delle infrastrutture e piattaforme che vanno per la maggiore.

Ciò che ci distingue è il fatto di essere in grado di rispondere al meglio al mercato italiano che non può permettersi infrastrutture e costi come quello USA, che ha bisogno di flessibilità, che utilizza una lingua non molto diffusa e che ha bisogno di avere una attenzione ai costi ma ha soprattutto bisogno di crescere utilizzando tecnologie sofisticati per aumentare la produttività riducendo costi e aumentando qualità ai clienti. Noi di Intelligentiae siamo qui per questo.