Ora anche i big dell’Intelligenza Artificiale (IA) sembrano spaventati da ciò che la loro creatura sarebbe in grado di fare.
Dario Amodei, ex vicepresidente della ricerca presso OpenAI ed ora CEO di Anthropic, una delle aziende di punta nel settore dell’IA, ha recentemente lanciato un allarme sulla possibilità che programmi IA sfuggano al controllo umano prendendo iniziative al di là degli obiettivi per i quali sono stati progettati, e ha sottolineato l’esigenza di una regolamentazione volta a prevenire questa eventualità. Indicazioni prontamente raccolte da altri protagonisti dello sviluppo dell’IA, tra i quali Elon Musk.
C’è chi ipotizza che questo, in realtà, sia solo un trucco per sottrarsi a futuri vincoli legislativi calati dall’alto. Come dire: prima che altri ci impongano delle regole è meglio se ce le diamo noi, così possiamo scegliere quelle che ci fanno più comodo. Comunque stiano veramente le cose, la discussione rimane accesa e le posizioni restano diverse e spesso contrastanti.
Ma perché l’IA spaventa così tanto? Le preoccupazioni di Amodei, sebbene forse pretestuose, hanno un qualche fondamento?
Da sempre chi sviluppa un algoritmo, per quanto complesso, ha in mente un obiettivo preciso che quell’algoritmo deve realizzare, salvo errori, con la propria esecuzione e scrive ogni istruzione dell’algoritmo stesso con quell’obiettivo in mente. Per eliminare i potenziali errori esegue prove e apporta correzioni fino a quando non è ragionevolmente sicuro che l’algoritmo faccia ciò che deve fare.
CHI CONTROLLA?
Con l’IA non funziona così. Il comportamento di una rete neurale, che costituisce il cuore dell’IA di oggi, non dipende tanto dall’algoritmo che la realizza, il quale, anzi, è ormai simile, almeno ad alto livello, per tutti i sistemi IA, quanto dai dati che vengono ad esso forniti per il suo “addestramento”, ossia gli “esempi” attraverso i quali la rete “impara” a perseguire l’obiettivo per il quale è stata costruita.
Per la prima volta chi scrive l’algoritmo non ne ha il pieno controllo, perché il comportamento dell’algoritmo stesso dipende principalmente da come verrà addestrato successivamente. Ma neppure chi si occupa del suo addestramento è in grado di indirizzare con precisione il comportamento che avrà l’algoritmo, perché l’enorme massa dei dati richiesti per tale addestramento rende molto difficile prevedere esattamente l’effetto che avranno quei dati su detto comportamento. Non solo, ma ormai l’IA oggi può andare a cercarsi in autonomia le informazioni necessarie nella rete Internet, scavalcando di fatto la supervisione umana. In definitiva, l’algoritmo di una IA si comporta come una scatola nera che riceve una smisurata quantità di informazioni, prima per l’addestramento, poi per l’utilizzo (ad es., le domande o “prompt” che l’utente invia a Chat-GPT), e produce delle risposte che, nella maggior parte dei casi, sono, o sembrano, corrette, ma non ci permette di andare a cercare al suo interno alcuna motivazione o spiegazione per quelle risposte.
GIÀ PRESENTE NELLA VITA QUOTIDIANA
È proprio questa situazione, del tutto nuova nella storia dell’informatica, a suscitare le preoccupazioni di Amodei e degli altri leader del settore, spesso corroborate dalla previsione di scenari apocalittici, degni di film come “Matrix” o “Mission: Impossible”, nei quali agenti intelligenti prendono iniziative autonome e compiono azioni ostili estranee alla loro missione.
Non sappiamo se questi scenari potranno mai concretizzarsi e, comunque, la loro gestione andrebbe ben al di là delle possibilità di ciascuno di noi, chiamando in causa aziende, governi e autorità. Certamente, però, l’IA è ormai presente nella nostra quotidianità, la utilizziamo costantemente, in molti casi senza averne piena consapevolezza o anche indipendentemente dalla nostra volontà. Perché le risposte fornite da questa scatola nera, spesso così convincenti perché ben confezionate e pronte all’uso, rimangano un’opportunità per accrescere la nostra conoscenza e non diventino una minaccia pronta ad ingannarci e a condizionare le nostre scelte abbiamo bisogno di un solido senso critico, disponibilità ad andare oltre il loro contenuto immediato e molta attenzione. Ma qui si aprirebbe tutto un altro discorso, lungo e complesso da affrontare.
Marco Foglino
