I progressi dell'Intelligenza Artificiale (IA) si susseguono a ritmo sempre più rapido e con risultati sempre più incisivi. Potenti strumenti di IA come ChatGPT vengono utilizzati per scrivere malware, tesine e codice per sviluppatori, senza che esistano norme sociali a regolamentare i nostri comportamenti o leggi a proteggerci dai pericoli. La tecnologia spesso supera le norme sociali che ne governano l'uso, soprattutto in presenza di innovazioni di grande rilievo. Basti pensare all'invio di messaggi mentre si guida: ci sono voluti dieci anni o più prima che venissero emanate leggi che vietassero l'invio di messaggi al volante. Nel 2002, in tutto il mondo sono stati inviati 250 miliardi di messaggi (Fonte: WSJ ). [ Siamo riusciti a convincere le persone dei pericoli dell'invio di messaggi al volante, anche oggi?]
Questo articolo spiega cos'è ChatGPT, cosa può fare e pone domande importanti sulle opportunità e le sfide che ci troviamo ad affrontare.
La libreria di termini tecnici per la sicurezza informatica CyberHoot definisce ChatGPT come un chatbot conversazionale che sfrutta gli algoritmi di intelligenza artificiale "Generative Pre-Trained Transformer" ("GPT"). ChatGPT è in grado di conversare con gli utenti in modo grammaticalmente corretto, correggendo persino gli errori grammaticali altrui. Può scrivere e risolvere problemi nel codice dei programmatori. Possiede una memoria di conversazione e può fare riferimento a dialoghi precedenti all'interno della conversazione corrente. Ammette gli errori e contesta le ipotesi errate. Può scrivere il testo di una canzone. Dato un argomento complesso, può riassumere i punti principali in linguaggio naturale in modo che gli studenti possano utilizzarli per i loro elaborati. Il 25% degli studenti intervistati di recente ha ammesso di fare proprio questo: riassumere un argomento complesso per una migliore comprensione. Sebbene ciò possa essere considerato del tutto etico, lo stesso studio ha mostrato che il 5% degli studenti utilizza l'IA per scrivere i propri elaborati.
Nel 2019, Microsoft ha investito ingenti somme (1 miliardo di dollari) in OpenAI, presumibilmente nella speranza di creare un panorama più competitivo per i motori di ricerca integrando il modello linguistico ChatGPT in Bing. Numerose fonti hanno affermato che Bing potrebbe rilasciare le ricerche ChatGPT già a marzo 2023. Secondo questo articolo di TheWeek.Co.uk:
" L'intelligenza artificiale generativa viene acclamata come la prossima innovazione tecnologica rivoluzionaria, destinata a cambiare il modo in cui creiamo nuovi contenuti online o persino viviamo Internet... "
Con il miglioramento della tecnologia dell'intelligenza artificiale generativa, sarà sempre più difficile identificare le fake news e le opinioni di parte. [ Quali saranno le nostre fonti di verità ?]
CyberHoot ha notato la comparsa di articoli che affermano che gli hacker stanno usando ChatGPT per scrivere codice dannoso, come ransomware e attacchi di phishing. OpenAI ha risposto a tali critiche citando i propri termini e condizioni d'uso accettabili che vietano l'utilizzo di ChatGPT per " qualsiasi tipo di danno" e sta valutando la possibilità di aggiungere filigrane all'output del suo motore di intelligenza artificiale. Diversi articoli di ricercatori nel campo della sicurezza sostengono ora che gli hacker si siano appropriati di ChatGPT per scrivere codice dannoso, nonostante i controlli e i meccanismi di sicurezza integrati nello strumento.
Quindi, dove ci porta tutto questo? Cosa significa tutto questo per il proprietario o il dipendente medio di una PMI?
A livello personale o professionale, la risposta sembra la stessa per CyberHoot. I contenuti di Internet saranno sempre più spesso generati da sistemi di intelligenza artificiale generata per il consumo umano. Con il miglioramento delle capacità grazie alla formazione, i consumatori potrebbero iniziare a perdere fiducia in alcune delle nostre istituzioni, come i media o il governo. Se iniziamo a perdere fiducia nelle nostre istituzioni più affidabili, come il sistema educativo o quello legale/giudiziario, ci troveremo di fronte a una sfida seria e scoraggiante.
Dobbiamo trovare un modo ragionevole, razionale e semplice per distinguere la realtà dalla finzione. In un futuro dominato dall'intelligenza artificiale generativa, il buon senso non sarà sufficiente a differenziare l'una dall'altra. È un concetto simile a quello dei deepfake, che si stanno perfezionando al punto da permettere a chiunque di dire qualsiasi cosa.
In un'epoca in cui gli alimenti biologici o privi di OGM devono essere legalmente etichettati come tali, CyberHoot si chiede se abbiamo bisogno di etichette di comunicazione che siano verificate in modo indipendente come "prive di IA generativa" in origine. O forse questo non coglie il punto di questa tecnologia? Creare contenuti significativi e fruibili, indistinguibili dai contenuti creati dall'uomo? Avatar dal 10 al 15 saranno interamente generati dall'ultimo studio cinematografico basato sull'IA generativa?
Yaakov J. Stein, direttore tecnico di RAD Data Communications, con sede in Israele, risponde alla domanda:
Il problema con l'intelligenza artificiale e l'apprendimento automatico non è lo scenario fantascientifico in cui l'intelligenza artificiale conquista il mondo senza bisogno di esseri umani inferiori. Il problema è che stiamo diventando sempre più dipendenti dalle macchine e quindi più vulnerabili a bug e guasti di sistema. Questo non è certo un fenomeno nuovo: un tempo gran parte dell'istruzione era dedicata, ad esempio, alla calligrafia e al calcolo mentale, che sono stati sostituiti da mezzi tecnici. Ma con l'enorme crescita della quantità di informazioni, l'istruzione si concentra maggiormente su come recuperare le informazioni necessarie piuttosto che sul ricordarle, con il risultato non solo di una minore capacità di memorizzazione, ma anche di una minore profondità di conoscenza e della mancanza di capacità di stabilire connessioni tra informazioni disparate, che è la base della creatività. Tuttavia, in passato l'umanità ha sempre sviluppato una tecnologia più avanzata per superare i limiti di qualsiasi tecnologia esistente, e non c'è motivo di credere che questa volta sarà diverso.
Fonte: Pew Research: la tecnologia causa più problemi di quanti ne risolva
Fonti:
The Guardian: Microsoft sta integrando ChatGPT nel suo motore di ricerca BING
ZDNet: Alcuni stanno cercando di convincere ChatGPT a scrivere malware
Letture aggiuntive:
Pew Research 30/6/2020: La tecnologia causa più problemi di quanti ne risolva – una selezione di risposte a favore e contro la tesi
Sondaggio tra gli studenti sull'uso dell'intelligenza artificiale nell'istruzione superiore
Scopri e condividi le ultime tendenze, i suggerimenti e le best practice in materia di sicurezza informatica, oltre alle nuove minacce a cui prestare attenzione.
Immaginate di essere in autostrada, a circa 20 km/h sopra il limite di velocità, insieme al resto del traffico. Più avanti, frenate...
Leggi di più
Cosa è successo? Giovedì 12 novembre 2026, intorno alle 11:00 ora della costa orientale degli Stati Uniti, Microsoft Outlook ha smesso di funzionare...
Leggi di più
Autrice: Katie Boquetti | Editoriale: Craig Taylor Editoriale di Craig Taylor: “Il potere tende a corrompere,...
Leggi di piùOttieni una visione più attenta dei rischi per l'uomo, con un approccio positivo che supera i tradizionali test di phishing.
