Nel TED Talk “The Danger of AI is Weirder Than You Think,” la scienziata e scrittrice Janelle Shane esplora i rischi dell’intelligenza artificiale (IA) da una prospettiva diversa rispetto ai tipici scenari apocalittici. Shane mette in evidenza che i veri pericoli dell’IA risiedono nelle incomprensioni che emergono quando i sistemi tentano di seguire le nostre istruzioni.
Un esempio emblematico che Shane condivide riguarda un esperimento in cui un algoritmo ha generato nuovi gusti di gelato sulla base di oltre 1.600 sapori esistenti. Il risultato? Creazioni come “merenda di spazzatura alla zucca” e “melma al burro di arachidi”, decisamente lontane da quanto sperato.
Questo esempio mette in luce un aspetto cruciale: l’IA non comprende il significato delle richieste, ma esegue esattamente ciò per cui è stata programmata. Le macchine non possiedono un’intelligenza intrinseca, né la capacità di comprendere il mondo come gli esseri umani. Shane avverte che ciò può portare a conseguenze inaspettate, anche in compiti semplici. Questo ci ricorda che l’IA non è magicamente intelligente, ma funziona solo sulla base delle regole e dei dati che le forniamo. Pertanto, Shane mette in guardia sul fatto che la mancanza di comprensione umana dell’IA presuppone la necessità di prestare attenzione a come formuliamo le istruzioni e a considerare che l’IA può fare esattamente ciò che chiediamo, ma non necessariamente nel modo che immaginiamo.
Nel TED Talk di Zeynep Tufekci, sociologa e esperta di tecnologia, l’attenzione si sposta sull’impatto dell’IA sul panorama sociale e politico. Tufekci evidenzia come gli algoritmi utilizzati da Google, Facebook e Amazon stiano manipolando i comportamenti degli utenti con l’obiettivo di massimizzare i profitti tramite la pubblicità mirata. Secondo Tufekci, il vero pericolo dell’IA risiede nella capacità di influenzare profondamente l’informazione che consumiamo e, di conseguenza, i nostri processi decisionali. Le piattaforme digitali utilizzano l’IA per raccogliere e analizzare enormi quantità di dati, cercando di prevedere i nostri interessi e comportamenti. Questo rafforza le nostre opinioni e polarizza le società. Tufekci avverte che questa dinamica potrebbe condurre a una “distopia digitale”, in cui la libertà individuale e il pensiero critico sono minacciati da algoritmi che ci rinchiudono in bolle di informazione personalizzate.
Un’altra prospettiva importante arriva dal TED Talk di Donatella Sciuto, rettrice del Politecnico di Milano, che affronta il tema dei pregiudizi di genere nell’intelligenza artificiale e l’importanza di eliminarli per evitare che la tecnologia li rafforzi. Sciuto spiega che un algoritmo non è intrinsecamente buono o cattivo: esso esegue semplicemente le istruzioni e processa i dati che gli vengono forniti dagli esseri umani. Tuttavia, ciò può portare a conseguenze indesiderate quando l’IA viene addestrata su dati che riflettono pregiudizi e discriminazioni esistenti nella società. Sciuto sottolinea che l’intelligenza artificiale, come la mente umana, categorizza per dare ordine alla realtà. Questo processo di categorizzazione, però, implica spesso una visione limitata del mondo, che può perpetuare stereotipi di genere e pregiudizi razziali. La rettrice evidenzia la necessità di diversità e di inclusione nei team di sviluppo delle tecnologie IA, affinché i sistemi, che creiamo, non riflettano una visione distorta della società. È cruciale che gli sviluppatori di IA comprendano le implicazioni sociali delle loro creazioni e lavorino per realizzare sistemi più equi. Sciuto pone l’accento su un concetto chiave: gli algoritmi non sono responsabili delle scelte che compiono; la responsabilità è condivisa tra i designer, gli ingegneri e i programmatori che li sviluppano. Chi progetta la tecnologia trasmette inevitabilmente il proprio punto di vista, il che può portare alla sovra-rappresentazione di alcuni gruppi e alla sotto-rappresentazione di altri. Per tale ragione, è fondamentale che si agisca ora per prevenire che l’IA rafforzi ulteriormente le disuguaglianze esistenti, con un impegno collettivo per eliminare i pregiudizi di genere e per creare tecnologie più eque e inclusive.
CIMO 