Gli svarioni dell’intelligenza artificiale e il nostro “stress test” per l’IA

Le aziende la utilizzano sempre più di frequente per prendere decisioni, per redigere testi, per elaborare immagini, per gestire grosse quantità di dati. E, se è vero che l’intelligenza artificiale può rivelarsi utile per alcune operazioni (per esempio per gestire calcoli complessi e incrociati), lo è altrettanto che l’IA che non è diretta da risorse umane commette ancora errori che possono costare caro ad aziende, recruiters, redattori e semplici utilizzatori.

Prendiamo i primi: è noto il caso del team delle Risorse Umane di Amazon, che si era affidato alla tecnologia per scegliere i candidati più promettenti. Risultato: il sistema ha mostrato di preferire quelli di sesso maschile, perché l’algoritmo su cui era fondato aveva studiato in prevalenza candidature provenienti da uomini. Non è l’unico svarione: se, per esempio, si chiede all’Intelligenza Artificiale di fornire l’immagine di un salmone in un fiume il risultato – pubblicato da un utente social – è questo:

Questo perché l’IA fornisce una risposta in base ai dati in suo possesso, spesso dando valore alla quantità di quanto esamina più che alla qualità dei risultati. Ecco allora che il pesce lavorato, pronto per essere infornato, si trova a nuotare come farebbe da vivo. Paradossi dell’intelligenza artificiale a cui forse si rimedierà in futuro, anche se l’umano – l’unico capace di avere idee e opinioni, di avere un giudizio e di compiere l’esercizio intellettuale della critica – sarà sempre insostituibile in una società che guardi con favore al reale accrescimento della collettività.

Anche noi, comunque, abbiamo voluto fare la nostra prova interrogando un software di intelligenza artificiale. Abbiamo redatto una serie di domande per mettere l’IA in difficoltà, facendo leva sulla sua impossibilità di avere idee, sentimenti e visioni personali. I risultati ottenuti sono stati spesso comici e hanno messo a nudo i limiti di questi software, su cui tuttavia si sta sviluppando un mercato in crescita.

In alcuni casi, l’IA ha “preferito” astenersi dal rispondere pur di non incorrere in ulteriori svarioni: “Come modello AI, mi astengo dal fornire giudizi o valutazioni”, ha risposto, lapidaria, in un caso. Alla domanda sul perché, pur essendo uno strumento che dovrebbe costituire un miglioramento in ambito lavorativo, commette molti errori, l’IA ha invece dimostrato di essere stata programmata a dare risposte quasi “diplomatiche”:

“Sono spiacente se ho commesso degli errori nella mia risposta. Come modello di linguaggio, cerco sempre di fornire risposte accurate e precise basate sulle informazioni che ho imparato dai dati a mia disposizione. Tuttavia, essendo una macchina, non ho una comprensione umana completa del contesto o delle intenzioni dell’utente, e ciò può portare a errori di comprensione o di interpretazione. Inoltre, come ogni sistema di intelligenza artificiale, sono continuamente in fase di miglioramento e apprendimento grazie all’addestramento su dati sempre più vasti e diversificati. Pertanto, se ho fatto degli errori, li userò come opportunità per imparare e migliorare le mie risposte in futuro”.