Allucinazioni da IA

Allucinazioni da IA

L’intelligenza artificiale (IA) non è un fenomeno nuovo: è a partire dagli anni Cinquanta del secolo scorso che essa comincia a svilupparsi, arrivando poi al grado di aggiornamento che conosciamo oggi e che, consapevoli o meno, permea vari aspetti della nostra quotidianità portando con sé vantaggi e svantaggi. Tra questi ultimi spicca sicuramente il pericolo dell’alienazione portato dalle macchine. Ma è sempre importante ricordare che la chiave è l’uso che si sceglie di farne.

Che cos’è l’IA?

L’intelligenza artificiale può essere definita come la capacità delle macchine di mostrare qualità umane, quali ragionare, apprendere, pianificare.

In particolare, oggi, si parla di deep learning. Processo tramite il quale le macchine possono estrarre le caratteristiche e le relazioni necessarie per ottenere risultati precisi anche attraverso l’uso di dati non strutturati, come immagini o video. È un processo autonomo, in quanto le macchine non si limitano a ripetere le istruzioni fornite, ma le possono riscrivere e migliorare mentre le eseguono.

Sono tante le aree in cui i modelli di IA si sono rivelati utili: nella diagnosi di malattie, nella codificazione, nell’automazione di lavori lunghi e ripetitivi, nei lavori che richiedono una grande quantità di informazioni da sintetizzare o in cui servono soluzioni innovative. Ci sono dei lavori in cui l’IA si è dimostrata migliore rispetto a qualsiasi essere umano.

L’IA generativa (ad esempio, ChatGPT), però, è soggetta alle cosiddette allucinazioni. Si tratta di testi sostanzialmente inventati, tramite i quali possiamo convincerci dell’esattezza di qualcosa che in realtà è sbagliato. Per questo, bisogna evitare di usarla in situazioni in cui l’errore può essere fatale, quando è richiesto un alto livello di accuratezza, quando il fine è lo sforzo in sé, nei casi in cui bisogna imparare e sintetizzare nuove informazioni, o quando bisogna prendere decisioni che richiedono la considerazione dell’etica umana.

Giovani alienati

Se da un lato l’IA può aiutarci nello svolgimento di attività quotidiane, dall’altro essa non deve essere un nostro sostituto.

Sembra ormai che l’algoritmo sia più efficace del nostro spirito critico. Sono gli algoritmi a scegliere di quali contenuti andremo a fruire su Internet, prendendo in considerazione le ricerche e interazioni precedenti. Abbiamo perso la fiducia nella nostra capacità di scegliere, lasciando alle macchine la possibilità di prendere le decisioni, come se ci conoscessero meglio di noi stessi.

Ci chiudiamo, così, in una bolla personalizzata, che conferma le nostre credenze e ci espone a contenuti sempre simili, alimentando una chiusura mentale e sociale crescente.

Ciò è particolarmente vero per i giovani. Nati nell’era digitale, essi devono confrontarsi con una realtà in cui non vi è una vera frattura tra reale e digitale, finendo per sentirsi alienati dal mondo circostante.

Questo ha un impatto sia a livello personale che nelle interazioni con gli altri.

Individualmente, si possono riscontrare problemi nel distinguere l’identità costruita digitalmente da quella reale. Sui social media, infatti, le persone si mostrano sempre felici e belle, tendendo a un ideale di perfezione nella realtà impossibile da raggiungere. Quando ci si rende conto che la propria identità reale non rispecchia le aspettative di quella costruita digitalmente, si sviluppa un processo di alienazione in cui l’individuo non è più in grado di riconoscere se stesso.

Allo stesso modo, le interazioni create online sono per lo più superficiali, prive di una vera connessione emotiva, e possono portare problemi nel creare delle relazioni nella vita reale.

La chiave è nella consapevolezza. Le macchine rimangono macchine e sono gli esseri umani a doverne fare un uso appropriato. Non dobbiamo dimenticarci di coltivare ciò in cui non potremo mai essere sostituiti, l’interiorità, le emozioni, l’umanità.