{"id":58464,"date":"2023-05-30T14:59:04","date_gmt":"2023-05-30T13:59:04","guid":{"rendered":"https:\/\/www.alground.com\/site\/?p=58464"},"modified":"2024-07-28T13:45:15","modified_gmt":"2024-07-28T12:45:15","slug":"intelligenza-artificiale-cosa-vuol-dire-gpt","status":"publish","type":"post","link":"https:\/\/alground.com\/site\/intelligenza-artificiale-cosa-vuol-dire-gpt\/58464\/","title":{"rendered":"Intelligenza Artificiale. Cosa vuol dire GPT"},"content":{"rendered":"<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_84 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Punti chiave<\/p>\n<label for=\"ez-toc-cssicon-toggle-item-6a32d09cda510\" class=\"ez-toc-cssicon-toggle-label\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/label><input type=\"checkbox\"  id=\"ez-toc-cssicon-toggle-item-6a32d09cda510\"  aria-label=\"Toggle\" \/><nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/alground.com\/site\/intelligenza-artificiale-cosa-vuol-dire-gpt\/58464\/#Levoluzione_del_pretraining_generativo\" >L&#8217;evoluzione del pretraining generativo<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/alground.com\/site\/intelligenza-artificiale-cosa-vuol-dire-gpt\/58464\/#Altri_modelli_GPT_simili\" >Altri modelli GPT simili<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/alground.com\/site\/intelligenza-artificiale-cosa-vuol-dire-gpt\/58464\/#Modelli_specifici_per_attivita_particolari\" >Modelli specifici per attivit\u00e0 particolari<\/a><\/li><\/ul><\/nav><\/div>\n\n<p class=\"wp-block-paragraph\">I trasformatori generativi pre-addestrati, conosciuti come GPT, sono modelli di linguaggio di grandi dimensioni che rappresentano un importante sviluppo nell&#8217;intelligenza artificiale generativa. Nel 2018, l&#8217;organizzazione americana di intelligenza artificiale OpenAI ha introdotto il primo GPT. Questi modelli, basati su reti neurali artificiali con un&#8217;architettura chiamata &#8220;trasformatore&#8221;, vengono pre-addestrati su vasti set di dati di testo non etichettato. Questo addestramento permette loro di generare nuovi contenuti che somigliano a quelli prodotti dagli esseri umani.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">A partire dal 2023, la maggior parte dei modelli di linguaggio di grandi dimensioni presenta queste caratteristiche avanzate e sono spesso indicati con il termine generico &#8220;GPT&#8221;. OpenAI ha rilasciato diversi modelli GPT di base che hanno avuto un notevole impatto. Questi modelli sono stati numerati in sequenza, ad esempio &#8220;GPT-3&#8221; e &#8220;GPT-4&#8221;, e ciascuno di essi \u00e8 stato pi\u00f9 potente del precedente grazie all&#8217;aumento delle dimensioni e dell&#8217;addestramento.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Questi modelli GPT sono diventati la base per la creazione di sistemi GPT pi\u00f9 specifici per diverse attivit\u00e0. Ad esempio, sono stati sviluppati modelli ottimizzati per seguire istruzioni e alimentare servizi di chatbot come ChatGPT. Inoltre, altre organizzazioni hanno sviluppato i loro modelli GPT basati su questa tecnologia. EleutherAI ha creato una serie di modelli ispirati al GPT-3, mentre Cerebras ha recentemente sviluppato una serie di sette modelli.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Inoltre, molte aziende di diversi settori hanno adattato i modelli GPT alle loro specifiche esigenze. Salesforce ha creato &#8220;EinsteinGPT&#8221; per il CRM, mentre Bloomberg ha sviluppato &#8220;BloombergGPT&#8221; per il settore finanziario. Questi modelli specifici per attivit\u00e0 permettono alle aziende di sfruttare le capacit\u00e0 dei trasformatori generativi pre-addestrati nel loro campo di competenza.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">In sintesi, i modelli GPT sono una potente tecnologia di intelligenza artificiale che utilizza reti neurali per generare contenuti linguistici. Grazie al loro addestramento su grandi quantit\u00e0 di dati di testo, possono creare testi che sembrano essere stati scritti da esseri umani. Questi modelli sono diventati un punto di riferimento nel campo dell&#8217;intelligenza artificiale generativa e sono stati adattati a diverse attivit\u00e0 e settori, offrendo nuove opportunit\u00e0 e possibilit\u00e0 in vari campi.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Levoluzione_del_pretraining_generativo\"><\/span>L&#8217;evoluzione del pretraining generativo<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">In precedenza, il pretraining generativo (GP) era un concetto consolidato nelle applicazioni di apprendimento automatico. Tuttavia, l&#8217;architettura del trasformatore, che \u00e8 alla base dei moderni modelli di linguaggio di grandi dimensioni, non era disponibile fino al 2017, quando \u00e8 stata inventata da un dipendente di Google. Questo sviluppo ha aperto la strada a modelli come BERT nel 2018 e XLNet nel 2019, che erano trasformatori preaddestrati (PT), ma non erano progettati per essere generativi (erano &#8220;solo encoder&#8221;).<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Nel 2018, OpenAI ha introdotto il primo sistema di trasformatore generativo preaddestrato (GPT) con il suo articolo intitolato &#8220;Migliorare la comprensione del linguaggio grazie al pre-addestramento generativo&#8221;. Prima dell&#8217;introduzione degli approcci basati sui trasformatori, i modelli di elaborazione del linguaggio naturale (NLP) neurali con le migliori prestazioni facevano ampio uso dell&#8217;apprendimento supervisionato su grandi quantit\u00e0 di dati etichettati manualmente. Tuttavia, questa dipendenza dall&#8217;apprendimento supervisionato limitava l&#8217;utilizzo di tali modelli su set di dati non ben annotati e richiedeva anche un addestramento estremamente costoso in termini di tempo per modelli linguistici di grandi dimensioni.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">OpenAI ha adottato un approccio semi-supervisionato per realizzare un sistema generativo su larga scala, che \u00e8 stato il primo a utilizzare un modello di trasformatore. Questo approccio comprendeva due fasi: una fase di &#8220;pretraining&#8221; generativa non supervisionata per impostare i parametri iniziali utilizzando l&#8217;obiettivo di modellazione del linguaggio e una fase di &#8220;regolazione fine&#8221; discriminativa supervisionata per adattare tali parametri a una specifica attivit\u00e0 di destinazione. Questo approccio ha permesso di sfruttare al meglio i vantaggi del pretraining generativo e dell&#8217;adattamento supervisionato per creare modelli linguistici potenti e scalabili.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Altri_modelli_GPT_simili\"><\/span>Altri modelli GPT simili<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Altri modelli di questo tipo includono PaLM di Google, che \u00e8 un ampio modello di base che \u00e8 stato paragonato a GPT-3. \u00c8 stato reso recentemente disponibile agli sviluppatori attraverso un&#8217;API. Inoltre, c&#8217;\u00e8 GPT-JT di Together, che \u00e8 considerato l&#8217;alternativa open source con prestazioni pi\u00f9 simili a GPT-3 ed \u00e8 derivato dai precedenti modelli GPT open source. Meta AI, precedentemente conosciuta come Facebook, ha sviluppato un modello di linguaggio di grandi dimensioni basato sul trasformatore generativo chiamato LLaMA.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">I modelli GPT di base possono anche essere utilizzati con modalit\u00e0 diverse rispetto al solo testo, sia per l&#8217;input che per l&#8217;output. Ad esempio, GPT-4 \u00e8 un modello di linguaggio di grandi dimensioni multimodale in grado di elaborare sia input di testo che immagini, anche se il suo output \u00e8 limitato al testo. Inoltre, ci sono modelli basati su trasformatori generativi che vengono utilizzati per tecnologie di conversione testo-immagine come la diffusione e la decodifica parallela. Questi modelli possono fungere da modelli di base visivi (VFM) per lo sviluppo di sistemi che lavorano con le immagini.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><span class=\"ez-toc-section\" id=\"Modelli_specifici_per_attivita_particolari\"><\/span>Modelli specifici per attivit\u00e0 particolari<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Un modello GPT di base pu\u00f2 essere adattato ulteriormente per creare sistemi pi\u00f9 specifici e mirati a compiti o domini tematici particolari. Questo adattamento pu\u00f2 coinvolgere una fase di messa a punto aggiuntiva rispetto al modello di base, cos\u00ec come alcune forme di ingegneria specifica per il compito.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Un esempio significativo di ci\u00f2 \u00e8 la messa a punto dei modelli per seguire le istruzioni. Questo \u00e8 un compito pi\u00f9 specifico rispetto a un modello di base generico. OpenAI ha introdotto &#8220;InstructGPT&#8221;, una serie di modelli appositamente addestrati per seguire le istruzioni. Questi modelli sono stati messi a punto utilizzando una combinazione di addestramento supervisionato e apprendimento di rinforzo dal feedback umano su modelli di linguaggio GPT-3 di base. I vantaggi di questi modelli ottimizzati includono una maggiore precisione, una minore presenza di sentimenti negativi o tossici e un migliore allineamento con le esigenze degli utenti. OpenAI ha quindi iniziato a utilizzare InstructGPT come base per i suoi servizi API. Altri modelli ottimizzati per le istruzioni sono stati rilasciati da altre organizzazioni, inclusa una versione completamente aperta.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Un altro tipo di modelli specifici per attivit\u00e0 sono i chatbot, che sono in grado di impegnarsi in conversazioni simili a quelle umane. OpenAI ha lanciato ChatGPT, un&#8217;interfaccia di chat online alimentata da un modello linguistico appositamente ottimizzato per le istruzioni. Questo modello \u00e8 stato addestrato utilizzando un approccio di apprendimento di rinforzo dal feedback umano, con istruttori umani che fornivano conversazioni in cui interpretavano sia l&#8217;utente che l&#8217;intelligenza artificiale. Altri importanti chatbot includono Bing Chat di Microsoft, che utilizza GPT-4 di OpenAI come parte di una collaborazione pi\u00f9 ampia tra le due aziende, e il chatbot concorrente di Google Bard, inizialmente basato sulla famiglia di modelli linguistici LaMDA, con l&#8217;intenzione di passare a PaLM.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Un altro compito per cui i modelli GPT possono essere utilizzati \u00e8 la generazione di istruzioni per s\u00e9 stessi, come lo sviluppo di una serie di prompt per raggiungere un obiettivo pi\u00f9 generale stabilito da un utente umano. Questo \u00e8 noto come agente AI, e in particolare come agente ricorsivo, poich\u00e9 utilizza i risultati delle sue precedenti autoistruzioni per formare i prompt successivi. Un esempio notevole di ci\u00f2 \u00e8 stato Auto-GPT, che utilizza i modelli GPT di OpenAI, e da allora sono stati sviluppati anche altri modelli simili.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>I trasformatori generativi pre-addestrati, conosciuti come GPT, sono modelli di linguaggio di grandi dimensioni che rappresentano un importante sviluppo nell&#8217;intelligenza artificiale generativa. Nel 2018, l&#8217;organizzazione americana di intelligenza artificiale OpenAI ha introdotto il primo GPT. Questi modelli, basati su reti neurali artificiali con un&#8217;architettura chiamata &#8220;trasformatore&#8221;, vengono pre-addestrati su vasti set di dati di testo [&hellip;]<\/p>\n","protected":false},"author":3,"featured_media":58466,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"pmpro_default_level":"","_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[1413,387,2168],"tags":[2147],"class_list":["post-58464","post","type-post","status-publish","format-standard","has-post-thumbnail","category-attualita","category-guide-sicurezza","category-intelligenza-artificiale","tag-intelligenza-artificiale","pmpro-has-access"],"aioseo_notices":[],"jetpack_featured_media_url":"https:\/\/alground.com\/site\/wp-content\/uploads\/2023\/05\/testo-gpt.jpg","wps_subtitle":"","_links":{"self":[{"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/posts\/58464","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/comments?post=58464"}],"version-history":[{"count":0,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/posts\/58464\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/media\/58466"}],"wp:attachment":[{"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/media?parent=58464"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/categories?post=58464"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/alground.com\/site\/wp-json\/wp\/v2\/tags?post=58464"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}