I modelli di intelligenza artificiale e apprendimento automatico possono funzionare in modo spettacolare, fino a quando non hanno dei problemi. In quei casi tendono a fallire in modo spettacolare.
Questa è la lezione tratta dalla crisi COVID-19, come riportato nel MIT Technology Review. Improvvisi e drammatici cambiamenti nel comportamento degli acquisti dei consumatori e B2B stanno, come ha affermato l’autore Will Douglas Heaven, “provocando blocchi agli algoritmi che si nascondono dietro le quinte nella gestione dell’inventario, rilevamento delle frodi, marketing e altro. Modelli di apprendimento automatico addestrati su normali metodi di comportamento umano stanno ora scoprendo che la normalità è cambiata e alcuni non funzionano più come dovrebbero”.
I modelli di apprendimento automatico “sono progettati per rispondere ai cambiamenti. Ma la maggior parte sono anche fragili; funzionano male quando i dati di input differiscono troppo dai dati su cui sono stati addestrati. È un errore supporre che si possa impostare un sistema di intelligenza artificiale e andarsene.“
È evidente, quindi, che potremmo essere lontani da sistemi completamente autogestiti, se mai ci saranno. Se questa situazione attuale ci dice qualcosa, è che le intuizioni umane saranno sempre una parte essenziale dell’equazione AI e machine learning.
Negli ultimi mesi, si è esplorata la gamma potenziale di intelligenza artificiale e apprendimento automatico. “Esiste sempre il rischio che il sistema di intelligenza artificiale faccia ipotesi errate, riducendo le prestazioni o la disponibilità dei dati“, afferma Jason Phippen, responsabile del marketing globale di prodotti e soluzioni presso SUSE . “È anche possibile che i dati derivati da cattive correlazioni e apprendimento vengano utilizzati per prendere decisioni aziendali o terapeutiche errate. Un caso ancora peggiore sarebbe chiaramente quello in cui un sistema medico è autorizzato a funzionare liberamente e sposta i dati in modo tale da causare la perdita di un vita o di un arto “.
L’intelligenza artificiale e l’apprendimento automatico semplicemente non possono essere inseriti in un’infrastruttura o in un insieme di processi esistenti. Chris Bergh, CEO di DataKitchen, avverte che i sistemi esistenti devono essere adattati e adeguati. “Nell’architettura tradizionale, un sistema di intelligenza artificiale e machine learning utilizza ambienti di dati per soddisfare le esigenze dei dati“, afferma. “Abbiamo bisogno di una leggera modifica a tale architettura, consentendo all’intelligenza artificiale di gestire l’ambiente dei dati. Questa transizione deve essere eseguita senza intoppi per prevenire guasti catastrofici nei sistemi esistenti e per implementare sistemi robusti“.
I sistemi di intelligenza artificiale e di apprendimento automatico “sviluppati per gestire ambienti di dati devono essere considerati come sistemi mission-critical e lo sviluppo deve essere condotto con molta attenzione“, continua Bergh. “Poiché i dati sono la forza trainante delle attuali decisioni aziendali, gli ambienti di dati saranno il cuore dell’azienda. Pertanto, anche un leggero fallimento nella gestione dei dati comporterà un costo significativo per l’azienda a causa della perdita di tempo operativo, altre risorse e fiducia dell’utente“.
Bergh sottolinea inoltre le “lacune di conoscenza dei professionisti dei dati e degli esperti di intelligenza artificiale e apprendimento automatico rispettivamente nei settori dell’IA, dell’apprendimento automatico e della gestione dei dati“.
La linea di fondo è che gli esseri umani qualificati saranno sempre fondamentali per gestire il flusso e garantire la qualità e la tempestività dei dati immessi nei sistemi di intelligenza artificiale e machine learning. La meccanica della gestione dei dati sarà autonoma, ma il contesto dei dati necessita del coinvolgimento umano. “Possiamo guardare esempi come auto a guida autonoma e ottimizzazione energetica dei data center utilizzando DeepMind presso Google ed essere abbastanza sicuri che alla fine ci saranno alcune opportunità parallele nella gestione dei database“, afferma Erik Brown, direttore senior nella pratica tecnologica dell’Ovest Partner Monroe, una società di consulenza aziendale / tecnologica. “Tuttavia, i database completamente autonomi sono probabilmente una necessità nel prossimo futuro; il coinvolgimento umano dovrebbe diventare più strategico e focalizzato nelle aree in cui gli esseri umani sono meglio attrezzati per trascorrere il loro tempo.“
Gli ambienti di dati completamente autonomi “probabilmente impiegheranno molti anni per raggiungere una loro completezza”, concorda Jeremy Wortz, architetto senior nella pratica tecnologica di West Monroe. “L’apprendimento automatico è lungi dal risolvere problemi complessi di ampia portata. Tuttavia, un approccio che sviluppa casi di utilizzo ristretti e profondi farà la differenza nel tempo e inizierà il viaggio di un sistema di autogestione. La maggior parte delle organizzazioni può adottare questo approccio ma dovrà garantire che abbiano un modo per elencare i casi d’uso ristretti, con la giusta tecnologia e talento per realizzare questi casi d’uso “.
Più le organizzazioni dipendono dall’intelligenza artificiale, più gli esseri umani dovranno intensificare e supervisionare i dati che si stanno muovendo in questi sistemi, nonché le intuizioni che vengono prodotte. L’ottanta percento o più dello sforzo nell’intelligenza artificiale e nell’apprendimento automatico “è spesso fonte di dati, traduzione, validazione e preparazione per modelli complessi”, afferma Brown. “Dato che questi modelli informano casi di utilizzo aziendale più critici – rilevamento di frodi, gestione del ciclo di vita dei pazienti – continueranno a sussistere maggiori richieste da parte degli amministratori di tali dati“.
Pochi ambienti di dati al di fuori di Google e di Amazon del mondo sono davvero pronti, dice Brown. “Questa è un’enorme opportunità di crescita nella maggior parte dei settori. I dati ci sono, ma le strutture organizzative collaborative e interfunzionali e le pipeline di dati flessibili non sono pronte per sfruttarle in modo efficace.“
Non è necessario essere un esperto di dati per gestire i sistemi di intelligenza artificiale: è necessario un interesse per l’apprendimento e l’utilizzo di nuove tecniche. “La tecnologia basata sull’intelligenza artificiale sta alimentando la tendenza dei data scientist dei cittadini, che è un punto di svolta“, afferma Alan Porter, direttore del marketing di prodotto di Nuxeo . “In passato, questi ruoli hanno richiesto una profonda conoscenza tecnica e capacità di codifica. Ma con i progressi della tecnologia – molti degli strumenti e dei sistemi fanno il lavoro tecnico. Non è così importante per le persone che ricorpono queste posizioni di avere conoscenze tecniche, invece le organizzazioni sono alla ricerca di persone più analitiche con specifiche competenze aziendali “.
Mentre le persone con competenze tecniche e di programmazione svolgeranno ancora un ruolo critico all’interno delle organizzazioni, Porter continua, “un grosso pezzo del puzzle sta ora avendo analisti con specifiche conoscenze aziendali in modo che possano interpretare le informazioni raccolte e capire come si inseriscono nel grande quadro. Gli analisti devono anche essere bravi a comunicare i loro risultati alle parti interessate al di fuori del team di analisi al fine di effettuare il cambiamento “.
Nel suo pezzo del MIT, Heaven conclude che “tutto ciò che è connesso, l’impatto di una pandemia è stato sentito in lungo e in largo, toccando meccanismi che in tempi più tipici rimangono nascosti. E’ il momento di fare il punto sui sistemi appena esposti e chiedere come potrebbero essere progettati meglio, resi più resistenti. Se le macchine devono essere affidabili, dobbiamo sorvegliarle. ”