Un giovanissimo studente di una business school, durante un mio intervento, un giorno mi ha chiesto: “… ma in sostanza queste Intelligenze Artificiali Generative possono fare male?”
E la mia risposta, senza troppo pensarci, è stata un secco: “Sì, se non le sai usare.” e ho elencato un po’ di problemi che a mio avviso devono essere affrontati da chi pensa di fare un uso intensivo degli LLM e delle AI Generative in generale.
Ma da allora questa domanda mi perseguita, così ho deciso di elaborarla analizzando i sintomi che sto provando io e confrontandomi con la Rete sull’argomento.
“Ma ‘sta roba alla fine, fa male?”
Consapevole che nei miei bias mentali campeggia tra i primi il seguente:
«Se qualcosa può andare storto, lo farà» Artur Bloch (La legge di Murphy)
Proverò, con questo post, a rispondere a questa domanda.
In un post precedente avevo affermato come questo nuovo modo di apprendere/lavorare sia un viaggio nel quale è necessario capire giorno per giorno dove si è arrivati e di cui ancora non si vede la meta.
… la prossima volta che utilizzi un'intelligenza artificiale, ricorda che tu sei l'umano, colui che sa, colui che decide. Prendi la responsabilità delle tue parole e dei tuoi pensieri. L'AI è solo uno strumento.
Ricordati anche che quando usi un’AI stai imparando. Stai imparando la tecnologia, ma anche sui temi di cui stai chiedendo, e specialmente su te stesso: come pensi, come ti esprimi, come definisci i problemi e come interpreti le risposte. Stai sviluppando nuove abilità, nuovi modi di pensare e nuove prospettive.
Con questo in mente, cosa può andar male nell’utilizzo di Chat GPT, Claude, Bard e le miriadi di derivati che stanno nascendo ?
Dico subito che non intendo rinnegare nulla di quanto scritto fino ad oggi, ma dopo un po’ di esperienza in materia, ritengo giusto condividere alcuni effetti collaterali che sto vivendo e con cui presto o tardi bisognerà fare i conti.
Non troverete qui i difetti delle Gen AI; quelli sono già moltissimi e documentati. Cercherò di concentrarmi sui rischi che corriamo in un utilizzo non consapevole. Un po’ come con l’alcool 🙂
La grande illusione
Partiamo da un concetto che è importante chiarire subito. L’errore fondamentale che molti hanno fatto a proposito delle Gen AI è di pensare che in realtà siano delle AGI o delle ASI: ovvero delle Intelligenze Artificiali Generali o delle Super Intelligenze Artificiali come in Glimpse, in grado di fare pressoché tutto in modo infallibile.
Spinti anche dai proclami dei grandi CEO di AI che annunciano che avremo un’AGI entro 2-3 anni, alcuni stanno buttando anima e cuore in questa prima frazione di “intelligenza”, creandosi false aspettative e cercando soluzioni che non le appartengono (trovando spesso degli output che cercano di dare una soluzione che, per natura, non sono in grado di dare).
Da questa illusione, più o meno cosciente, derivano frustrazione per i risultati mediocri che si possono avere e FOMO, paura di essere tagliati fuori, dalla grande ondata delle GenAI: la paura che se non si adotterà subito qualcuno lo farà per noi e ci taglierà fuori.
Per quanto riguarda i testi è bene quindi ricordare che, per quanto con esiti stupefacenti, altro non sono che dei software che predicono parole che stanno bene assieme senza troppi riguardi per la veridicità del loro contenuto.
Pigrizia
Il concetto di “ask Google” credo sia noto a tutti: non conosci una risposta? La trovi su Google e la puoi subito esibire come tua competenza. Pregi e difetti di questo aspetto sono sulla bocca di tutti da oltre un ventennio. La lenta consultazione delle enciclopedie come sorgente di conoscenza è stata spazzata via da questo avvento ed ora non possiamo più farne a meno.
Google in ogni caso richiede un po’ di dribbling mentali:
fatica nel cliccare oltre il primo link,
accettare i vari pop-up,
valutare come comportarsi con i cookie,
lettura veloce dell’articolo per poi concentrarsi sul contenuto che pensiamo che ci vada bene saltellando qua e la tra le pubblicità.
Le Gen AI, meglio se integrate ad un motore di ricerca, ci danno la possibilità di avere un accesso istantaneo a qualunque risposta.
Anche supponendo di essere bravi a limitare le allucinazioni otteniamo una risposta che dobbiamo semplicemente leggere per sentirci “imparati” ed avere un po’ di tempo libero in più per fare altre cose.
La pigrizia è molto spesso un grande driver di innovazione ma può portare ad una stagnazione mentale incontrollata. E la mia pigrizia inizialmente era entusiasta dell’arrivo delle Gen AI. In pochi secondi o minuti potevo avere accesso a un bel po’ di scibile umano in modo molto più veloce di Google.
E un assistente che poteva scrivere al posto mio.
Peccato che:
In cambio della possibilità di avere una risposta strutturata in pochi secondi, si smetta di pensare in modo critico e ci si fidi (troppo) di quello che si sta leggendo. Bard e Bing Chat forniscono i link da cui sono arrivate le informazioni ma… perché non fidarsi e controllarli? Si da per scontato che ciò che ci hanno risposto loro sia meglio di quanto potremmo capire noi.
Più in dettaglio (per i non pigri)
Quando digitiamo una pagina di testo serve qualche minuto, e che in quel tempo, attiviamo la nostra memoria, muoviamo le mani, sforziamo le nostre capacità di espressione, approfondiamo qualche concetto che non ci è chiaro, memorizziamo il contenuto che abbiamo scritto e ci assicuriamo che ‘appartenga a noi’. Se lasciamo fare questo lavoro alle Gen AI questa attività non la facciamo. E soprattutto se siamo pigri nel fare prompt lunghi, come dovrebbe essere fatto, otteniamo persino risultati scadenti. Se non scriviamo noi un testo, di fatto rinunciamo a ricordare in dettaglio quello che abbiamo scritto e probabilmente dimenticheremo anche quanto abbiamo chiesto con la stessa velocità
Più in dettaglio (Sempre per i non pigri)
La pigrizia ci porta poi alla ”dipendenza dall’istantaneo”
Ultimamente non chiedo più le cose a Google ma a Chat GPT o a Bing Chat (Che almeno mi forniscono qualche link per approfondire). Ricordando loro sempre di darmi risposte corrette 😊.
La mia history di prompt è farcita di chat con una sola domanda e una sola risposta. E per quanto mi sforzi di raccontarmi che il mio prompt era completo e ai limiti della perfezione per ottenere una risposta esaustiva e non allucinata, non riesco a crederci del tutto.
Ma la possibilità di avere una risposta in breve per me è troppo importante: gratificazione istantanea.
L’instant gratification è qualcosa che studio da anni e che ormai è presente ovunque nel mondo -non solo- digitale. È un effetto cercato per gestire l’engagement degli utenti e, credo, assomigli molto ad una dipendenza (ma lascio agli esperti valutare questo aspetto).
La dipendenza dall’istantaneo ci può dare felicità momentanea ma ci rende impazienti e stressati perché vogliamo subito risposte esaustive e coerenti (con i nostri pensieri), ci impedisce di portare avanti obiettivi a lungo termine che richiedono sforzo e pazienza, ci da un piacere immediato in cambio di un’assenza di ricompensa futura..
E spesso, in processi che includono relazioni con gli altri umani o sistemi che richiedono tempo per fornire risposte, rischiamo di annoiarci terribilmente. Sbagliando.
Riduzione delle capacità comunicative con gli altri umani
“Indipendentemente dalle tue convinzioni religiose, il punto è utile e istruttivo: gli esseri umani sono naturalmente interconnessi - biologicamente, emotivamente, psicologicamente, intellettualmente e spiritualmente” (Arthur C. Brooks, From Strength to Strength)
Per introdurre questo concetto ho pensato di disegnare una meravigliosa infografica per essere più incisivo e motivare che le migliori interazioni sono quelle umane. Ma ve la racconto perché non sono un bravo “infografico” (Anzi se qualcuno dei lettori vuole contribuire e crearla ne sarei ben lieto 🙂)
Immaginate un grande foglio bianco (o uno schermo) con due omini che devono comunicare tra loro, nel corso della storia. All’inizio dell’evoluzione i due omini iniziano a gesticolare tra loro, poi a parlare uno di fronte all’altro. Proseguendo nella storia i due omini hanno inventato i messaggeri per scambiarsi informazioni a distanza rimanendo liberi di farsi ognuno i fatti propri nel frattempo. Poi i due pensano che forse era meglio rendere più privati i contenuti e metterli in una busta sigillata e mandandoli prima tramite un intermediario e poi per posta.
Ma ci mettevano troppo tempo, finché i due non hanno iniziato a scambiarsi messaggi in codice morse, o a parlarsi al telefono istantaneamente. Poi l’arrivo del Fax e delle e-Mail hanno permesso ai due di aumentare la frequenza e la quantità di comunicazione rendendoli molto felici.
E da lì le chat, in cui sono nate le emoticons perché i due omini si sono dimenticati che oltre al testo scritto dovevano trasferirsi emozioni, i vocali e per finire le videochiamate “Così almeno ci guardiamo in faccia.”
I due omini ogni tanto si trovano ancora a parlarsi assieme, ne hanno bisogno perché tutti quei mezzi sono insufficienti per esprimersi a pieno, ma preferiscono farlo ancora usando i mezzi istantanei elettronici.
Nel frattempo è nato un superomino nuovo, uno che dice di avere tutte le risposte che vogliono. Un omino che, hanno assicurato tutti ad entrambi, sa tutto. Quindi non serve più che loro due si parlino: ciascuno può ottenere informazioni dal superomino in modo istantaneo e senza chiedere le cose all’altro.
Ma loro si sono messi a chattare direttamente con un soggetto che sembra umano ma non lo è, che risponde immediatamente ma non prova emozioni, che non è controllato da umani, che chi lo ha creato non sa che risposte darà.
Il superomino però ha capacità incredibili: ad esempio ha la capacità di permettere ai nostri omini di chattare direttamente con un libro anziché leggerlo, di fare domande al libro o a un documento come fosse anche lui un altro omino. Così si sono risparmiati pure il tempo di leggere il libro o il documento per intero confidando che il super-coso fornisca risposte specifiche lavorando per loro. E hanno smesso di leggere libri, documenti, email.
I due omini sono molto contenti del superomino perché risparmiano un sacco di tempo. Ma hanno nostalgia di quando si trovavano a chiacchierare di persona. E provano a farlo ogni tanto, ma non ci riescono più bene come prima, e anche se non lo sanno sono più tristi.
Con le Gen AI Chat rischiamo di isolarci in una bolla di conversazioni con un entità statica che si sforza di comprendere le nostre malposte domande e ci fornisce comunque risposte per gratificarci, non curandosi se siano corrette, positive, coerenti.
Rischiamo di stancarci a dialogare con i nostri simili, a cercare le informazioni tra le righe, ad interpretare i loro comportamenti, rischiamo di isolarci.
Un imprenditore che dimezzi il suo team con strumenti AI sta dimezzando le interazioni sociali dei collaboratori rimanenti ogni settimana. La comodità di ottenere informazioni in azienda direttamente dall’AI non farà altro che ridurre ulteriormente le interazioni tra colleghi ed eliminare quei momenti ‘magici’ nei quali, non si sa perché, nascono le idee migliori, magari davanti ad una tazza di caffè.
Ma gli umani hanno bisogno di altri umani perché l’isolamento riduce le competenze sociali e l’intelligenza emotiva e ci rende meno bravi a comprendere gli altri e a connetterci con loro. Rischiamo di non essere più capaci di “funzionare” con gli altri, di non saperci più connettere “a fondo”.
Comprensione profonda
Se ci accontentiamo delle prime risposte delle Gen AI, rinunciamo a comprendere più in dettaglio, ad ascoltare idee diverse dalle nostre.
Rinunciamo ad arricchirci, a fare il viaggio di formazione dietro ad ogni processo creativo, a metterci in discussione e a capire in profondità gli argomenti in nome della nostra pigrizia e della velocità. Rinunciamo ad evolvere.
Sentirsi inferiori
Dopo un po’ di utilizzo intensivo delle Gen AI per motivi di lavoro sento il bisogno di usarle sempre di più quando devo scrivere dei testi complessi. Penso che GPT potrebbe rispondere ad una mail meglio di me, che potrebbe farlo più velocemente, che potrebbe mettere più significato nel testo. E tutto il marketing attorno alle Gen AI non fa che confermarmelo.
In sostanza mi sento più stupido di lei e mi viene da pensare che tutto il testo che produco (ed è molto) dovrebbe passare attraverso una Gen AI.
Poi mi ricordo che ci ho provato anche per scrivere questi post sperando che potessero scrivere un po’ meglio di me. Ma ho abbandonato l’idea dopo aver dovuto riscrivere da capo un intero post: non riesce ad esprimersi -male- come me 🙂
Non vi è mai successo di sentirvi inferiori ad una di queste AI?
Non c’è il rischio che rinunciamo ad essere creativi delegando alle AI questo compito?
Che generiamo profezie autolimitanti su noi stessi che non faranno altro che aumentare l’utilizzo di questi strumenti e ridurre le nostre capacità intellettive?
Riduzione delle capacità di scrittura?
In un’epoca in cui la scrittura è una delle arti che appartengono sempre a meno persone, in cui abbreviazioni, acronimi, sintesi eccessive abbondano nei messaggi che ci mandiamo, in cui leggiamo in modo approfondito sempre meno accade che argomentare in modo strutturato una domanda complessa non è per tutti.
Le Gen AI sono bravissime a interpretare le nostre domande sgrammaticate e malposte cercando di generare risposte corrette. Ma rimane il fatto che la qualità della risposta dipende in larga parte dalla qualità della domanda.
Forse usare le AI ci può aiutare a migliorare questa capacità?
Scrivere bene una domanda ad una di queste AI fornisce risultati decisamente superiori. Ed è tangibile e dimostrato. Questa ricompensa potrebbe essere l’inizio di una rinnovata volontà di tornare a leggere e scrivere meglio e di più?
Stagnazione Intellettuale
Vado sul tecnico.
I modelli sono addestrati su un set di dati e, una volta completato l’addestramento, il modello rimane sostanzialmente quello, non cambia più.
Le Gen AI non imparano dalle vostre conversazioni se non vengono successivamente riaddestrate in un nuovo modello che le includa. Ma questo processo è e sarà sempre più complesso e costoso.
È un po’ come voler convincere un novantenne (non me ne vogliano) a cambiare idea su qualunque nuovo concetto della vita: salvo eccezioni la fatica sarà enorme: egli ha un proprio modello di pensiero e non è disposto a cambiarlo.
Quindi ogni modello con cui vi relazionerete è “bloccato nello zeitgeist dei suoi dati di addestramento” e non potete farci nulla se non usare un modello addestrato con nuovi dati da noi forniti.
E cosa succederà se a un certo punto non saremo più in grado di generale nuovi contenuti per i modelli di addestramento? (Vedi il post sulle aspettative e i risultati del dialogo con le AI)
Quindi, fanno male o no ?
Vi confermo che sono un entusiasta di questa tecnologia: i campi di applicazione degli LLM in ambito aziendale e personale sono molteplici e in questo post mi sono soffermato ad analizzare alcuni impatti negativi che possono verificarsi solo quando utilizzati in modalità Chat.
Nessuno strumento è solo positivo ed è necessario esserne consapevoli.
Le Gen AI non fanno male: l’uso che possiamo farne e le modalità con cui le approcciamo ci possono però danneggiare.
Tra i vari difetti emerge però un grosso vantaggio. Mai come in questi mesi mi sono sforzato di strutturare prompt complessi, immaginato di dover chiedere le cose più assurde, articolare domande per compiacere al meglio la comprensione dell’algoritmo di turno ed evitare come la peste le allucinazioni.
Il tutto sia in italiano che in inglese. Perché i modelli funzionano molto meglio nella lingua in cui sono stati addestrati. E il mio inglese scritto è molto, molto migliorato.
Comprendendo che la qualità dell’input determina la qualità dell’output potremo quindi essere spronati a cercare di spiegarci meglio e a scrivere domande migliori; comprendendo che la prima risposta non è quella che vale e che questi strumenti possono essere usati anche per farci domande potremmo utilizzarli per crescere e svilupparci di più, comprendendo che possono fornirci risposte “Buone Abbastanza” ma non “Abbastanza Buone” aumenteremo il nostro spirito critico e la voglia di approfondire gli argomenti.
E spero che questo porterà alla necessità di leggere di più e in profondità e, forse, a farci tornare la voglia di affrontare di persona qualche discussione con le persone che ci stanno attorno.
Glossario
Come sempre, vi invito a riflettere, a fare domande, a far girare le idee condividendo questo post con le persone che non conoscete. E se non siete iscritti al blog fatelo ora per rimanere aggiornati. Se volete leggere una bella storia vi invito a leggere Glimpse, il romanzo che ho scritto sull'intelligenza artificiale.
Se vi è piaciuto questo post, oppure no, fatemelo sapere nei commenti o contattatemi!
Alla prossima!
Comments