{"id":58952,"date":"2024-03-29T16:21:38","date_gmt":"2024-03-29T15:21:38","guid":{"rendered":"https:\/\/www.alground.com\/site\/?p=58952"},"modified":"2024-07-28T13:45:13","modified_gmt":"2024-07-28T12:45:13","slug":"intelligenza-artificiale-il-rischio-dellauto-formazione","status":"publish","type":"post","link":"https:\/\/alground.com\/site\/intelligenza-artificiale-il-rischio-dellauto-formazione\/58952\/","title":{"rendered":"Intelligenza Artificiale: il rischio dell&#8217;auto formazione"},"content":{"rendered":"<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_82_2 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Punti chiave<\/p>\n<label for=\"ez-toc-cssicon-toggle-item-69fc3b939beba\" class=\"ez-toc-cssicon-toggle-label\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/label><input type=\"checkbox\"  id=\"ez-toc-cssicon-toggle-item-69fc3b939beba\"  aria-label=\"Toggle\" \/><nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/alground.com\/site\/intelligenza-artificiale-il-rischio-dellauto-formazione\/58952\/#Cose_la_consanguineita_in_relazione_allintelligenza_artificiale_generativa\" >Cos\u2019\u00e8 la consanguineit\u00e0 in relazione all\u2019intelligenza artificiale generativa?<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/alground.com\/site\/intelligenza-artificiale-il-rischio-dellauto-formazione\/58952\/#Cosa_significherebbe_questo_per_i_sistemi_di_intelligenza_artificiale_generativa\" >Cosa significherebbe questo per i sistemi di intelligenza artificiale generativa?<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/alground.com\/site\/intelligenza-artificiale-il-rischio-dellauto-formazione\/58952\/#Cosa_significa_tutto_questo_per_gli_esseri_umani\" >Cosa significa tutto questo per gli esseri umani?<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/alground.com\/site\/intelligenza-artificiale-il-rischio-dellauto-formazione\/58952\/#Ci_sono_soluzioni\" >Ci sono soluzioni?<\/a><\/li><\/ul><\/nav><\/div>\n\n<p>Comprendiamo tutti il \u200b\u200bconcetto di &#8220;consanguineit\u00e0&#8221; in termini umani \u2013 dove persone che sono geneticamente troppo simili si riproducono, dando origine a prole con deformit\u00e0. Con ogni generazione consanguinea, il pool genetico diventa sempre meno diversificato.<\/p>\n\n\n\n<p>Ma come potrebbe tutto ci\u00f2 tradursi in un\u2019<strong>intelligenza artificiale<\/strong> generativa? E perch\u00e9 dovremmo preoccuparci della consanguineit\u00e0 generativa dell\u2019IA? <\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Cose_la_consanguineita_in_relazione_allintelligenza_artificiale_generativa\"><\/span>Cos\u2019\u00e8 la consanguineit\u00e0 in relazione all\u2019intelligenza artificiale generativa?<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p>Il termine si riferisce al modo in cui vengono addestrati i sistemi di intelligenza artificiale generativa. I primi modelli linguistici di grandi dimensioni (LLM) venivano addestrati su enormi quantit\u00e0 di testi, contenuti visivi e audio, in genere recuperati da Internet. Stiamo parlando di libri, articoli, opere d&#8217;arte e altri contenuti disponibili online, contenuti che sono stati, in generale, creati da esseri umani.<\/p>\n\n\n\n<p>Ora, per\u00f2, disponiamo di una <strong>miriade di strumenti di intelligenza artificiale<\/strong> generativa che inondano Internet con contenuti generati dall\u2019intelligenza artificiale, dai post di blog e articoli di notizie, alle opere d\u2019arte basate sull\u2019intelligenza artificiale. Ci\u00f2 significa che i futuri strumenti di intelligenza artificiale verranno addestrati su set di dati che contengono sempre pi\u00f9 contenuti generati dalla stessa intelligenza artificiale. <\/p>\n\n\n\n<p>Contenuto che <strong>non \u00e8 stato creato da esseri umani<\/strong>, ma simula l&#8217;output umano. E man mano che i nuovi sistemi imparano da questi contenuti simulati e creano i propri contenuti basati su di essi, il rischio \u00e8 che i contenuti diventino progressivamente peggiori. Come fare la fotocopia di una fotocopia di una fotocopia.<\/p>\n\n\n\n<p>Non \u00e8 quindi dissimile dalla consanguineit\u00e0 tra esseri umani. Il \u201cpool genetico\u201d \u2013 in questo caso, il contenuto utilizzato per addestrare i sistemi di intelligenza artificiale generativa \u2013 diventa meno diversificato. Meno interessante. <strong>Pi\u00f9 distorto. Meno rappresentativo<\/strong> del reale contenuto umano.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Cosa_significherebbe_questo_per_i_sistemi_di_intelligenza_artificiale_generativa\"><\/span>Cosa significherebbe questo per i sistemi di intelligenza artificiale generativa?<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p>La consanguineit\u00e0 potrebbe rappresentare un problema significativo per i futuri sistemi di intelligenza artificiale generativa, rendendoli sempre meno capaci di simulare accuratamente il linguaggio e la creativit\u00e0 umana. Uno studio ha confermato come la consanguineit\u00e0 porti a una minore efficacia delle IA generative, scoprendo che \u201c<em>senza dati reali sufficienti in ogni generazione\u2026 i futuri modelli generativi sono condannati a vedere la loro qualit\u00e0 o diversit\u00e0 diminuire progressivamente \u201d<\/em>.<\/p>\n\n\n\n<p>In altre parole, le IA hanno bisogno di dati nuovi (generati dall\u2019uomo) per migliorare sempre di pi\u00f9 nel tempo. Se i dati su cui vengono addestrati vengono sempre pi\u00f9 generati da altre IA, si finisce con quello che viene chiamato \u201c collasso del modello \u201d. Che \u00e8 un modo elegante per dire che le IA diventano pi\u00f9 stupide. <strong>Ci\u00f2 pu\u00f2 accadere con qualsiasi tipo di output di intelligenza artificiale<\/strong> generativa, non solo testo ma anche immagini. <\/p>\n\n\n\n<p>Immaginatelo in termini di un chatbot del servizio clienti che peggiora progressivamente, producendo risposte sempre pi\u00f9 goffe, robotiche o addirittura prive di senso. Questo \u00e8 il pericolo per i sistemi di intelligenza artificiale generativa: la consanguineit\u00e0 potrebbe, in teoria, renderli inutili. <strong>In primo luogo, vanifica lo scopo di utilizzare l\u2019intelligenza artificiale<\/strong> generativa. Vogliamo che questi sistemi facciano un buon lavoro nel rappresentare il linguaggio e la creativit\u00e0 umana, e non peggiorino progressivamente. Vogliamo che i sistemi di intelligenza artificiale generativa diventino pi\u00f9 intelligenti e migliori nel rispondere alle nostre richieste nel tempo. Se non possono farlo, che senso hanno?<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Cosa_significa_tutto_questo_per_gli_esseri_umani\"><\/span>Cosa significa tutto questo per gli esseri umani?<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p>Abbiamo tutti visto le immagini esilaranti e strane create dall&#8217;intelligenza artificiale generativa. <strong>Mani che escono da posti in cui non dovrebbero<\/strong>, facce da incubo e cose simili. Possiamo ridere di queste distorsioni perch\u00e9 ovviamente non sono create da artisti umani.<\/p>\n\n\n\n<p>Ma consideriamo un futuro in cui sempre pi\u00f9 contenuti che consumiamo saranno creati da sistemi di intelligenza artificiale generativa. Sempre pi\u00f9 contenuti distorti o, per lo meno, del tutto insipidi. Contenuti poco rappresentativi della reale creativit\u00e0 umana. La nostra cultura collettiva \u00e8 sempre pi\u00f9 informata da contenuti generati dall\u2019intelligenza artificiale anzich\u00e9 da contenuti generati dall\u2019uomo. Ci ritroviamo bloccati in una \u201c blanda camera di eco dell\u2019IA \u201d. <strong>Cosa significherebbe questo<\/strong> per la cultura umana? \u00c8 questa la strada che vogliamo percorrere?<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Ci_sono_soluzioni\"><\/span>Ci sono soluzioni?<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p>Una via da seguire \u00e8 progettare i futuri sistemi di intelligenza artificiale in modo che possano distinguere i contenuti generati dall\u2019intelligenza artificiale da quelli generati dagli esseri umani e, quindi, dare priorit\u00e0 a questi ultimi a fini di formazione. Ma \u00e8 pi\u00f9 facile a dirsi che a farsi perch\u00e9 le IA trovano <strong>sorprendentemente difficile distinguere<\/strong> tra i due! <\/p>\n\n\n\n<p>Dobbiamo anche evitare di fare eccessivo affidamento sui sistemi di intelligenza artificiale generativa e continuare a dare priorit\u00e0 ad attributi molto umani come il pensiero critico e il pensiero creativo. <strong>Dobbiamo ricordare che l\u2019intelligenza artificiale<\/strong> generativa \u00e8 uno strumento \u2013 uno strumento estremamente prezioso \u2013 ma non pu\u00f2 sostituire la creativit\u00e0 e la cultura umana.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Comprendiamo tutti il \u200b\u200bconcetto di &#8220;consanguineit\u00e0&#8221; in termini umani \u2013 dove persone che sono geneticamente troppo simili si riproducono, dando origine a prole con deformit\u00e0. Con ogni generazione consanguinea, il pool genetico diventa sempre meno diversificato. Ma come potrebbe tutto ci\u00f2 tradursi in un\u2019intelligenza artificiale generativa? E perch\u00e9 dovremmo preoccuparci della consanguineit\u00e0 generativa dell\u2019IA? Cos\u2019\u00e8 [&hellip;]<\/p>\n","protected":false},"author":15,"featured_media":58719,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"pmpro_default_level":"","footnotes":""},"categories":[1413,387,2168],"tags":[],"class_list":{"0":"post-58952","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-attualita","8":"category-guide-sicurezza","9":"category-intelligenza-artificiale","10":"pmpro-has-access"},"aioseo_notices":[],"jetpack_featured_media_url":"https:\/\/alground.com\/site\/wp-content\/uploads\/2023\/11\/tipi-intelligenza-artificiale.jpg","wps_subtitle":"","_links":{"self":[{"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/posts\/58952","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/comments?post=58952"}],"version-history":[{"count":0,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/posts\/58952\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/media\/58719"}],"wp:attachment":[{"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/media?parent=58952"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/categories?post=58952"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/tags?post=58952"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}