L’autore di “Digitalogia” avverte sui rischi del ChatGPT Agent e dell’automazione decisionale. “Il problema non è tecnico, ma etico e comportamentale”.
Con il lancio del ChatGPT Agent, l’intelligenza artificiale compie un salto qualitativo: non più semplice interlocutore, ma sistema che entra nei calendari, gestisce email e prende decisioni autonome. Su questo tema interviene Gabriele Gobbo, esperto di cultura digitale e autore del libro “Digitalogia”.
“Per la prima volta non stiamo solo parlando con l’AI. Le stiamo consegnando le chiavi di casa”, afferma Gobbo. “La differenza è sottile, ma decisiva. Tra un consulente e un delegato c’è un abisso. E oggi molti sistemi stanno facendo il salto senza che ce ne rendiamo conto”.
Il fenomeno dei “Sonnambuli Digitali” come li chiama Gabriele Gobbo
Secondo Gobbo, il problema principale non è di natura tecnica ma etica e comportamentale. “Quello che mi preoccupa non è l’autonomia dell’AI. È la nostra passività. Ci abitueremo a dire sempre ‘sì’. Autorizzeremo azioni che richiederebbero consapevolezza”, spiega l’esperto.
Il consulente ha coniato il concetto di “Sonnambuli Digitali” per descrivere questa condizione: “Ci muoviamo, ma senza capire dove andiamo. Ogni volta che deleghiamo una facoltà, quella facoltà si atrofizza. Lo abbiamo visto con il senso dell’orientamento, quasi annullato dall’abuso del GPS. Ora rischia di succedere con la capacità di decidere cosa conta davvero”.
Le aziende tra rischi e opportunità
Per quanto riguarda il mondo aziendale, Gobbo evidenzia l’importanza di una strategia strutturata: “Un’azienda che integra IA agentiche senza una visione strategica non rischia solo un errore: rischia azioni concrete e potenzialmente dannose, compiute da sistemi automatici”.
La soluzione proposta dall’esperto prevede “una cultura diffusa dei rischi, un controllo umano sui nodi critici e una regia vera. Le policy non bastano. Serve un pensiero strutturato”.
Chi decide davvero?
Gobbo chiude con una provocazione sul futuro dei rapporti uomo-macchina: “La vera domanda non è cosa può fare l’intelligenza artificiale. È cosa deve fare. Perché quando l’assistente diventa protagonista, qualcun altro diventa spettatore. E non sono sicuro che vogliamo essere noi”.
Gabriele Gobbo, consulente e divulgatore da oltre trent’anni, ha ideato il Digital Security Festival e il Protocollo delle 3C per l’AI, oltre a condurre il programma televisivo FvgTech.