Salesforce: come si può ottenere un’AI sicura ed esente da ‘tossicità’

Vanessa Fortarezza, nuova country leader della sede italiana del vendor spiega le ultime novità emerse sul tema dal recente Dreamforce di San Francisco.

Il primo incontro con la stampa nazionale di Vanessa Fortarezza, la nuova country leader per l’Italia di Salesforce arrivata a fine agosto è stato incentrato, anch’esso, sul tema dell’anno ossia l’AI generativa e su come il vendor da ormai quasi dieci anni abbia investito nello sviluppo dell’intelligenza artificiale e, quindi, sulle ultime novità relative al tema emerse al recente Dreamforce 2023 di San Francisco.

Fortarezza è entrata in Saleforce a inizio 2015 ricoprendo negli anni ruoli di crescente responsabilità con particolare focus nei settori telco, media, energy & utility, sino a ricoprire una posizione internazionale – nell’ultimo anno – come senior vice president Sud Europa per la pubblica amministrazione, dove si è occupata di guidare la strategia di sviluppo della divisione in Francia, Italia, Spagna e Portogallo.

L’impegno nell’intelligenza artificiale

Vanessa Fortarezza, Country Leader per l’Italia di Salesforce

L’arrivo dell’AI generativa per Salesforce va inserito in un percorso di evoluzione come secondo passaggio dopo che in fase iniziale l’industria digitale si è fortemente impegnata nello sviluppo dell’intelligenza artificiale predittiva e che vedrà poi nei prossimi anni invece l’entrata sulla scena di agenti virtuali sempre più autonomi che si affiancheranno alle persone come assistenti per il loro lavoro, ma anche nel loro customer journey presso i retailer con i quali entreranno in relazione.

In questo scenario, Salesforce ha tenuto a ricordare che il suo impegno nell’AI risale al 2014, ormai quasi dieci anni fa, quando all’interno della società è stato fondato il primo laboratorio di ricerca focalizzato sul tema. In questo lungo percorso molte soluzioni, sotto il brand ‘Einstein’, sono state rilasciate per il mercato e nel contempo Salesforce ha anche sviluppato 300 brevetti e pubblicato 226 articoli scientifici inerenti all’intelligenza artificiale.

L’affermazione della AI generativa ha portato a marzo 2023 Salesforce ad annunciare EinsteinGPT che combina la tecnologia ChatGPT di livello enterprise di OpenAI con i propri modelli privati di intelligenza artificiale per offrire contenuti creati dall’AI a supporto della vendita, del servizio clienti, del marketing, dell’ecommerce e dell’IT.

Superare il paradosso dell’AI

Ma se oggi l’AI in generale, e quella generativa in particolare, raccoglie molti consensi tra CEO e top executive delle aziende di tutto il mondo – una ricerca Salesforce evidenzia che l’84% di questi soggetti dichiara che l’AI generativa servirà meglio i clienti; il 64% che assumerà nei prossimi due anni esperti in questa disciplina e che il 75% adotterà l’intelligenza artificiale entro il 2027 – esiste invece una forte resistenza da parte delle singole persone di cui non si può non tener conto. Secondo la stessa ricerca, infatti, oggi l’AI vive in un vero e proprio paradosso visto che il 52% dei consumatori ritiene che l’AI generativa non sia sicura. C’è paura che i dati personali vengano trattenuti dai sistemi di AI, che si generino allucinazioni non controllate e che si riproducano pregiudizi, bias e valutazioni ‘tossiche’ del tutto fuorvianti. “Ci tengo a sottolineare subito che tutti i dati trattati dalle soluzioni di intelligenza artificiale di Salesforce rimangono di esclusiva proprietà del cliente e che non vengono utilizzati da noi per altri scopi”, dichiara Fortarezza.

Prima di compiere passi falsi quindi nell’adozione di soluzioni di intelligenza artificiale, che possono non solo non mantenere le promesse ma anche causare danni, bisogna mettere a punto non solo le tecnologie giuste, ma anche dei processi di verifica e controllo che garantiscano risultati efficaci.

Da dove si parte? “Da uno scenario di disgregazione dei dati aziendali piuttosto rilevate – specifica Fortarezza – visto che il 71% delle aziende oggi dichiara di avere dati, applicazioni, API disconesse tra loro”.

Di fronte a tale situazione, Salesforce con Einstein 1 Platform ha elaborato un’offerta non solo tecnologica, ma che appunto organizza anche un processo end to end che garantisce un corretto utilizzo dell’intelligenza artificiale.

L’elemento abilitante non può che partire dai dati. Data Cloud è il nuovo strumento che oggi mette in campo Salesforce come evoluzioe ‘aperta’ del vecchio Cloud Data Platform, che ogni mese processa già 2 milioni di TB di record. Il nuovo elemento raccoglie dati dalle fonti applicative aziendali, anche non Salesforce nel caso del CRM, e anche dai data lake che possono essere distribuiti in cloud. L’obiettivo è quello di armonizzare i dati e identificare il corretto customer journey del cliente.

L’elemento centrale, ed è la vera novità arrivata dal Dreamforce 2023, è invece Einstein Truth Layer che mette in campo un vero e proprio processo che ha lo scopo di assicurare un risultato sicuro, affidabile ed esente da problematiche di privacy, di bias o di allucinazioni all’elaborazione dell’AI. Questa piattaforma racchiude in un processo end-to-end tutte le attività necessarie per raggiungere lo scopo: si parte dall’oggetto dell’analisi che si vuole compiere (il prompt nel gergo IT) e si arriva per step successivi al risultato, passando però anche dalle fasi di mascheramento e, se necessario, di anonimizzazione dei dati oggetto di elaborazione per garantire privacy e sicurezza prevedendo poi strumenti di verifica per individuare eventuali risultati ‘tossici’ e anche a un auditing di tutta l’operazione. “La risposta dell’AI torna agli applicativi di origine dei dati, andando così ad arricchire la base informativa primaria – afferma Fortarezza – e questo vale sia per le soluzioni Salesforce che per quelle di altri player”.


Ruggero Vota

Con una solida formazione informatica e dopo un’esperienza triennale in software house, nel 1986 inizia l’attività giornalistica su riviste del settore ICT, mensili e settimanali. Dal 2012 è Caporedattore delle riviste ICT di Soi...

Office Automation è il periodico di comunicazione, edito da Soiel International in versione cartacea e on-line, dedicato ai temi dell’ICT e delle soluzioni per il digitale.


Soiel International, edita le riviste

Officelayout 196

Officelayout

Progettare arredare gestire lo spazio ufficio
Gennaio-Marzo
N. 196

Abbonati
Innovazione.PA n. 54

innovazione.PA

La Pubblica Amministrazione digitale
Marzo-Aprile
N. 54

Abbonati
Executive.IT n.1 2024

Executive.IT

Da Gartner strategie per il management d'impresa
Gennaio-Febbraio
N. 1

Abbonati