{"id":55162,"date":"2020-01-13T18:07:07","date_gmt":"2020-01-13T17:07:07","guid":{"rendered":"https:\/\/www.alground.com\/site\/?p=55162"},"modified":"2024-07-28T13:46:19","modified_gmt":"2024-07-28T12:46:19","slug":"intelligenza-artificiale-come-garantire-agli-umani-di-mantenere-il-controllo","status":"publish","type":"post","link":"https:\/\/alground.com\/site\/intelligenza-artificiale-come-garantire-agli-umani-di-mantenere-il-controllo\/55162\/","title":{"rendered":"Intelligenza artificiale. Come garantire agli umani di mantenere il controllo"},"content":{"rendered":"<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_82_2 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Punti chiave<\/p>\n<label for=\"ez-toc-cssicon-toggle-item-69f6f73be534c\" class=\"ez-toc-cssicon-toggle-label\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/label><input type=\"checkbox\"  id=\"ez-toc-cssicon-toggle-item-69f6f73be534c\"  aria-label=\"Toggle\" \/><nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/alground.com\/site\/intelligenza-artificiale-come-garantire-agli-umani-di-mantenere-il-controllo\/55162\/#Stuart_Russell\" >Stuart Russell<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/alground.com\/site\/intelligenza-artificiale-come-garantire-agli-umani-di-mantenere-il-controllo\/55162\/#Il_miglioramento_delle_abilita\" >Il miglioramento delle abilit\u00e0<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/alground.com\/site\/intelligenza-artificiale-come-garantire-agli-umani-di-mantenere-il-controllo\/55162\/#I_sistemi_comprenderanno_le_nostre_intenzioni\" >I sistemi comprenderanno le nostre intenzioni<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/alground.com\/site\/intelligenza-artificiale-come-garantire-agli-umani-di-mantenere-il-controllo\/55162\/#Come_i_pappagalli\" >Come i pappagalli<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/alground.com\/site\/intelligenza-artificiale-come-garantire-agli-umani-di-mantenere-il-controllo\/55162\/#Fino_a_dove_potrebbero_spingersi_le_intelligenze_artificiali\" >Fino a dove potrebbero spingersi le intelligenze artificiali?<\/a><\/li><\/ul><\/nav><\/div>\n\n<p>Come gestiremo l&#8217;intelligenza artificiale? Come fare in modo che macchine dall&#8217;intelligenza sempre pi\u00f9 spiccata riescano a rimanere agli ordini degli esseri umani e raggiungano gli obiettivi utili all&#8217;umanit\u00e0 intera? e come manterremo il controllo su delle macchine sempre pi\u00f9 intuitive ed intelligenti?<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Stuart_Russell\"><\/span>Stuart Russell<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p>Una delle principali voci sul tema \u00e8 quella di Stuart Russell, professore di Computer Science all&#8217;Universit\u00e0 della California e dirigente del centro per l&#8217;intelligenza artificiale presso Barkley.<\/p>\n\n\n\n<p>&#8220;Per comprendere l&#8217;evoluzione della intelligenza artificiale &#8211; spiega Russell &#8211; \u00e8 necessario innanzitutto fare un po&#8217; di storia. Nella met\u00e0 degli anni &#8217;80, l&#8217;idea che l&#8217;intelligenza artificiale potesse entrare nel mondo reale era gi\u00e0 stata sdoganata da diversi film e libri di fantascienza.<\/p>\n\n\n\n<p>I ricercatori erano impegnati a costruire dei sistemi che erano essenzialmente delle suite di regole per affrontare determinati tipi di problemi: si trattava di affrontare diagnosi mediche, configurare un supercomputer, o gestire macchine complesse. In quell&#8217;epoca vennero sviluppati migliaia di sistemi, ma la maggior parte di questi non funzionava al 100% nel mondo reale.<\/p>\n\n\n\n<p>Questo perch\u00e9 pi\u00f9 si aggiungono regole ad un sistema informatico e pi\u00f9 questo inizia a sbagliare. Part\u00ec quindi un processo di miglioramento graduale: innanzitutto si accumularono tanti problemi da risolvere, alch\u00e8 si svilupparono teorie via via sempre migliori e si perfezionarono le conoscenze che si avevano.<\/p>\n\n\n\n<p>Lo sviluppo dell&#8217;intelligenza artificiale non fu omogeneo: ci furono periodi in cui le conoscenze si propagarono pi\u00f9 velocemente e altri periodi durante i quali lo sviluppo parve entrare in crisi. Un passo di svolta fu il cosiddetto &#8220;Deep Learning&#8221;. Si tratta di una metodologia per cui i sistemi sono in grado di imparare dall&#8217;analisi dei dati e dal confronto delle informazioni che emergono dopo un errore. <\/p>\n\n\n\n<p>Questo fu fondamentale per sviluppare tecnologie come il riconoscimento vocale, la capacit\u00e0 di distinguere le immagini o la traduzione simultanea.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Il_miglioramento_delle_abilita\"><\/span>Il miglioramento delle abilit\u00e0<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p>A partire dal 2012, gli scienziati hanno osservato un rapido miglioramento delle abilit\u00e0 di questi sistemi nel riconoscere gli oggetti e le immagini e svolgere altri compiti intelligenti. Ed \u00e8 quello che sta succedendo anche adesso, cosa che sta attirando una enorme quantit\u00e0 di investimenti, una serie di startup e lo sviluppo di una vasta gamma di applicazioni come le auto a guida automatica. <\/p>\n\n\n\n<p>L&#8217;impatto delle tecnologie di intelligenza artificiale e gi\u00e0 oggi significativo: l&#8217;esempio principale sono le auto che si guidano da sole. E&#8217; una novit\u00e0 che ha dato luogo ad una industria rivoluzionaria del valore di miliardi di dollari. Nelle previsioni degli scienziati, ognuno sar\u00e0 pi\u00f9 sicuro camminando per strada, la mobilit\u00e0 cittadina migliorer\u00e0 in diversi stati del mondo e ridurremo gli ingorghi stradali. <\/p>\n\n\n\n<p>Questo dovrebbe permetterci,  nella migliore delle ipotesi, di ridisegnare le nostre citt\u00e0, molte delle quali avranno delle zone di parcheggio pi\u00f9 ampie e tratti meno congestionati <\/p>\n\n\n\n<p>Ma le tecnologie di intelligenza artificiale coinvolgono anche aspetti che sono meno visibili: non molto tempo fa i motori di ricerca non esistevano nemmeno. Ora invece gli algoritmi intelligenti scandagliano costantemente il web per individuare nuovo materiale e integrarlo all&#8217;interno di un modello per svolgere funzioni che ci sono utili. <\/p>\n\n\n\n<p>Quando noi eseguiamo una ricerca su internet, il sistema prova a restituire una risposta fornendoci dati ai quali potremmo essere maggiormente interessati. I motori di ricerca rappresentano gi\u00e0 un elaborazione estremamente complessa e una applicazione di intelligenza artificiale decisamente avanzata, gi\u00e0 adesso utilizzata da miliardi di persone ogni giorno. <\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"I_sistemi_comprenderanno_le_nostre_intenzioni\"><\/span>I sistemi comprenderanno le nostre intenzioni<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p>Nel prossimo decennio dovremmo assistere a un reale progresso nella comprensione dei linguaggi, tale che i sistemi non saranno solamente capaci di riconoscere che cosa stiamo dicendo al nostro telefono o al nostro home-assistant. I sistemi saranno in grado di comprendere le nostre intenzioni, di sostenere delle conversazioni con noi e di imparare le nostre abitudini e i dettagli della nostra vita, in modo da diventare degli assistenti realmente utili nella quotidianit\u00e0. <\/p>\n\n\n\n<p>Probabilmente queste intelligenze artificiali saranno paragonabili agli assistenti personali che oggi accompagnano gli amministratori delegati o i politici. Solo che anzich\u00e9 costare decine di migliaia di dollari all&#8217;anno, saranno vendute per 99 centesimi. Questo significher\u00e0 certamente che l&#8217;intelligenza artificiale diventer\u00e0 parte delle nostre vite. E non solo interagiremo ogni giorno con queste strumentazioni, ma esse diventeranno essenziali per gestire la nostra routine quotidiana. <\/p>\n\n\n\n<p>Anche l&#8217;educazione di questi sistemi \u00e8 un&#8217;altra vasta area di interesse. Al momento attuale, l&#8217;intelligenza artificiale \u00e8 in grado, sotto forma di risposta a domande che gli poniamo, di fornirci dati relativi a qualcosa che ha gi\u00e0 imparato. Ma questo cambier\u00e0: avremo a disposizione dei sistemi di autoapprendimento estremamente sofisticati, che permetteranno ai computer di fornire delle risposte, anche se non hanno in memoria i dati.<\/p>\n\n\n\n<p>Saranno cos\u00ec in grado di concepire, come la mente umana, delle frasi e dei concetti che non hanno avuto modo di apprendere in precedenza. <\/p>\n\n\n\n<p>Se guardiamo ancora pi\u00f9 lontano, inizieremo ad avere un&#8217;idea pi\u00f9 dettagliata di quello che sar\u00e0 l&#8217;intelligenza artificiale nei prossimi decenni. I sistemi non saranno capaci solamente di risolvere uno specifico problema o seguire un determinato compito per il quale sono stati programmati, ma saranno in grado di collaborare con noi ed eseguire l&#8217;intera gamma di azioni che un essere umano pu\u00f2 pensare. <\/p>\n\n\n\n<p>La strada per arrivare ad uno scenario del genere comunque \u00e8 ancora lunga \u00e8 difficile. Predire quanto tempo ci vorr\u00e0 per arrivare a dei sistemi cos\u00ec sofisticati \u00e8 molto difficile, in quanto non si tratta solamente di una questione di quantit\u00e0 o potenza di calcolo. Non si tratta solamente di creare delle macchine che possano gestire pi\u00f9 dati, in quanto macchine pi\u00f9 potenti possono paradossalmente rispondere con maggiore imprecisione.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Come_i_pappagalli\"><\/span>Come i pappagalli<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p>Abbiamo bisogno di sviluppare invece dei percorsi concettuali per migliorare la precisione dei sistemi di intelligenza artificiale. Per fare un esempio immediatamente comprensibile: i computer sono simili a dei pappagalli, che riconoscono una serie di istruzioni legate alla nostra comunicazione e sanno gi\u00e0 come rispondere, ma non sono in grado di leggere un libro, capirne dei concetti e rispondere a seconda delle nostre domande.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"684\" src=\"https:\/\/www.alground.com\/origin\/wp-content\/uploads\/2020\/01\/pappagallobianco-1024x684.jpg\" alt=\"\" class=\"wp-image-55168\" srcset=\"https:\/\/alground.com\/site\/wp-content\/uploads\/2020\/01\/pappagallobianco-1024x684.jpg 1024w, https:\/\/alground.com\/site\/wp-content\/uploads\/2020\/01\/pappagallobianco-300x200.jpg 300w, https:\/\/alground.com\/site\/wp-content\/uploads\/2020\/01\/pappagallobianco-768x513.jpg 768w, https:\/\/alground.com\/site\/wp-content\/uploads\/2020\/01\/pappagallobianco.jpg 1200w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n\n\n\n<p>Abbiamo quindi bisogno di superare dei determinati limiti e raggiungere una reale comprensione del linguaggio da parte delle macchine per realizzare delle organizzazioni complesse nel mondo reale e avere dentro di s\u00e9 una serie di processi per la scoperta di nuove informazioni. <\/p>\n\n\n\n<p>Le macchine non sono ancora in grado di fare tutto questo, e per sviluppare tale capacit\u00e0 sono necessari dei percorsi concettuali che vanno sviluppati. Ritengo comunque che entro i prossimi 10 anni avremo un evoluzione significativa: molti ricercatori di intelligenza artificiale amano dire che \u00e8 come se fossimo nel Medioevo, in attesa di qualche cosa che ridisegner\u00e0 le capacit\u00e0 dell&#8217; intelligenza artificiale globale. <\/p>\n\n\n\n<p>Lo sviluppo dell&#8217;intelligenza artificiale pu\u00f2 essere paragonato a un sistema evolutivo dove gli scienziati creano degli ambienti simulati dove le creature possono evolvere. Queste partono con un codice genetico simulato, al quale possono essere aggiunte delle funzioni che permettono a queste creature di riprodursi. Gli scienziati di intelligenza artificiale vogliono fare realmente questa serie di test con prototipi di uomini e animali, per vedere quanto saranno in grado di spingersi e quanto velocemente le macchine potranno evolversi. <\/p>\n\n\n\n<p>Hanno bisogno di creare ambienti in cui i piccoli robot possono crescere, calcolare quanto velocemente si possono muovere e quali sono le applicazioni che gli consentono di migliorare le prestazioni pi\u00f9 rapidamente possibile. Ci troveremo certamente di fronte a robot capaci di evolvere molto presto ma con dei punti deboli importanti oppure altre situazioni in cui la crescita sara molto pi\u00f9 lenta ma pi\u00f9 stabile. <\/p>\n\n\n\n<p>Tuttavia, quando queste macchine raggiungeranno il mondo reale, ci saranno degli enormi effetti collaterali.<\/p>\n\n\n\n<p>Per esempio: tutti gli algoritmi che abbiamo sviluppato per i social media sono pensati per gli esseri umani. Tutti gli algoritmi che utilizziamo per la pubblicit\u00e0 online sono strutturati per gestire i click umani, il modo con cui il nostro cervello scansiona una pagina web cos\u00ec come altre metriche per la monetizzazione dei video di YouTube, non sono concepite per i robot.<\/p>\n\n\n\n<p>Gli attuali algoritmi su cui si basano i social media sono molto semplici e non prendono minimamente in considerazione la possibilit\u00e0 di interagire con un robot. Per questo ritengo che i prodotti robotici, una volta arrivati sul mercato, conosceranno dei primi grandi fallimenti, almeno sino a che non saremo capaci di adattare il mondo reale alla presenza di queste intelligenze artificiali. <\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Fino_a_dove_potrebbero_spingersi_le_intelligenze_artificiali\"><\/span>Fino a dove potrebbero spingersi le intelligenze artificiali? <span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p>Probabilmente le macchine saranno in grado di capire e afferrare l&#8217;esistenza di un obiettivo da raggiungere, comprendere quando questo non \u00e8 stato raggiunto completamente, eseguire alcuni tentativi e nel caso in cui questi siano sbagliati, cercare di comunicare agli esseri umani di che cosa hanno bisogno per completare la missione.<\/p>\n\n\n\n<p>Uno dei problemi principali \u00e8 che le macchine non sanno esattamente quale sia l&#8217;obiettivo. Se un robot deve afferrare una mela, siamo portati a credere che la macchina sappia esattamente che l&#8217;obiettivo \u00e8 prendere nella sua mano meccanica tale oggetto.<\/p>\n\n\n\n<p>Ma questo \u00e8 un errore;  non sempre, anzi quasi mai, le macchine hanno la esatta consapevolezza del mondo fisico attorno a loro e di  cosa noi vogliamo. Potrebbe trattarsi di una conoscenza parziale, per cui le macchine sono costrette ad eseguire dei calcoli probabilistici per cercare di capire qual \u00e8 l&#8217;obiettivo. <\/p>\n\n\n\n<p>L&#8217;esempio pi\u00f9 calzante \u00e8 quando cerchiamo di indovinare le previsioni del tempo. Possiamo capire cosa probabilmente ci riserver\u00e0 il domani, ma non riusciamo ad avere la certezza della temperatura e delle condizioni atmosferiche che si verificheranno fra 24 ore. La stessa cosa accade ai computer quando cercano di capire quello che noi vogliamo da loro. <\/p>\n\n\n\n<p>E finch\u00e9 le macchine non hanno l&#8217;esatta consapevolezza degli obiettivi che noi desideriamo, potrebbero assumere dei comportamenti diversi da quelli previsti. Questo significa che almeno in una fase iniziale dovremmo realizzare dei robot in grado di chiedere il permesso per svolgere i compiti, in modo da prevenire dei comportamenti inappropriati ed evitare azioni catastrofiche. <\/p>\n\n\n\n<p>In gergo tecnico usiamo dire che i robot ragionano esattamente come nella teoria dei giochi. <\/p>\n\n\n\n<p>La teoria dei giochi studia le metodologie per prendere delle decisioni corrette laddove c&#8217;\u00e8 pi\u00f9 di una modalit\u00e0 di arrivare all&#8217;obiettivo. Si tratta di una teoria che viene utilizzata per le tattiche militari, per i mercati finanziari e tutti i tipi di problemi che affliggono il mondo reale. Per le macchine sar\u00e0 lo stesso: i robot potranno raggiungere l&#8217;obiettivo in pi\u00f9 modi diversi e per capire il metodo migliore dovranno collaborare con l&#8217;essere umano. Proveranno certamente ad aiutare l&#8217;uomo senza chiedergli informazioni, ma alla fine sar\u00e0 il suo &#8220;padrone&#8221; ad avere il controllo della situazione e ad avere ben chiaro in mente quale sia il reale obiettivo finale. <\/p>\n\n\n\n<p>Per questo le macchine dovranno necessariamente risolvere in continuazione dei piccoli enigmi per cercare di agganciare il comportamento preferito dagli esseri umani.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Come gestiremo l&#8217;intelligenza artificiale? Come fare in modo che macchine dall&#8217;intelligenza sempre pi\u00f9 spiccata riescano a rimanere agli ordini degli esseri umani e raggiungano gli obiettivi utili all&#8217;umanit\u00e0 intera? e come manterremo il controllo su delle macchine sempre pi\u00f9 intuitive ed intelligenti? Stuart Russell Una delle principali voci sul tema \u00e8 quella di Stuart Russell, [&hellip;]<\/p>\n","protected":false},"author":8,"featured_media":55164,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"pmpro_default_level":"","footnotes":""},"categories":[1413,2168],"tags":[],"class_list":{"0":"post-55162","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-attualita","8":"category-intelligenza-artificiale","9":"pmpro-has-access"},"aioseo_notices":[],"jetpack_featured_media_url":"https:\/\/alground.com\/site\/wp-content\/uploads\/2020\/01\/intelligenza-artificiale-evid.jpg","wps_subtitle":"Come l'intelligenza artificiale riuscir\u00e0 a convivere con l'Uomo? Come poter gestire l'evolzuione senza che sia un pericolo per l'essere umano?","_links":{"self":[{"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/posts\/55162","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/comments?post=55162"}],"version-history":[{"count":0,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/posts\/55162\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/media\/55164"}],"wp:attachment":[{"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/media?parent=55162"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/categories?post=55162"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/tags?post=55162"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}