Internet Manager Blog

Il mese di agosto in Italia è tradizionalmente il momento dello stacco totale: tutti siamo in ferie, le attività si fermano, per qualche giorno non si pensa al lavoro.

Attorno a noi, però, il mondo che ci circonda non si ferma e per questo vale la pena di impiegare una porzione del tempo libero per fare anche qualche riflessione su quello che, accecati dalla corsa di ogni giorno, tendiamo a dimenticare.

Niente che non possiamo già trovare in giro, ma un po’ di pensieri raccolti in un unico posto per riflettere, senza la pretesa di essere esaustivo e definitivo.

DICIAMOCI LA VERITÀ, ABBIAMO CAPITO ANCORA POCO DELLA AI

I primi giorni del mese di agosto sono stati caratterizzati da notizie piuttosto clamorose sulla “fuga” di agenti e modelli AI che prendono iniziative, hackerano altri sistemi eccetera eccetera.

Sicuramente, non si tratta solo di esagerazioni giornalistiche: abbiamo visto cosa è successo con OpenAI e con Hugging Face, con alcuni episodi di Claude e con l’incidente della palestra “hackerata” in Australia.

Quello che colpisce nella maggior parte di questi casi, con la parziale eccezione forse dell’ultimo, è che stiamo parlando di problemi successi direttamente ai team dei grandi big della tecnologia, ossia coloro che sono quelli che ne hanno la massima conoscenza e controllo visto che detengono lo sviluppo di queste tecnologie. Un segno che la combinazione di novità e fretta è un mix pericoloso (ci torniamo tra poco).

Di certo, gli impatti e la particolarità di queste situazioni sono anche molto legati al fatto che, almeno per quanto riguarda le big tech in questione, il tema dell’agentic in cui queste tecnologie agiscono per conto di terzi sulla base degli obiettivi che vengono loro dati inizia a essere davvero realtà.

Parallelamente, come ho già avuto modo di scrivere il mese scorso, possiamo riscontrare tutt’altro stato di maturità nelle aziende che possiamo chiamare tradizionali, dove anche la parte di AI intesa come modelli linguistici non è ancora così veramente scalata all’interno dell’organizzazione, soprattutto in termini di risultati visibili.

Questo non impedisce comunque piccoli e grandi incidenti anche solo con testi e immagini generati, proprio nel momento in cui l’Ai Act europeo dal 2 agosto entra davvero nel vivo e i primi big tecnologici cercano di mettersi al riparo con watermark e filigrane.

Tutto questo senza poi contare la “caccia alle streghe” rispetto all’utilizzo dei tool che hanno coinvolto anche creator di lungo corso e notorietà, come nel caso di Hank Green (guardate per farvi un’idea il video che ha fatto Raffaele Gaito in merito, qui sotto).

E quindi?

LA COMPLESSITA’ NON STA DIMINUENDO, ANZI

Se mi leggete da un po’ saprete che non è da oggi (qui ad esempio siamo nel 2012!) che dico che l’evoluzione tecnologica di questi anni ha creato dei progressi inimmaginabili ma che dietro la semplicità apparente di certe soluzioni si apre un aumento delle cose da tenere a mente e da considerare.

Questa complessità mette a nudo sicuramente delle debolezze nelle fondamenta delle organizzazioni e, più in generale, di molti dei modi in cui oggi usiamo la tecnologia, senza che abbiamo davvero avuto il tempo di capire veramente di che cosa stiamo parlando.

Senza nemmeno scomodare la AI e senza dover parlare solo di ambiti aziendali, ci basti pensare al fatto che solo oggi stiamo capendo bene la maggior parte delle implicazioni dei social media, e non da oggi scrivo che i loro effetti ci sono arrivati addosso con una velocità tale da non avere il tempo di raccapezzarci. Nel frattempo, anche gli sforzi normativi non hanno un iter così semplice come forse si poteva pensare, a riprova della complessità sottostante.

Se ci spostiamo poi all’interno delle aziende, ci rendiamo facilmente conto che delle tensioni già esistenti nei modelli di gestione e organizzazione del lavoro stanno rapidamente crescendo anche su impulso della tecnologia, che tipicamente è ben più avanti della reale situazione interna.

Basti in questo pensare al mondo degli agenti AI, che sono ben lontani da un’adozione massiccia ma che già creano dei grattacapi non banali al management e al mondo HR: secondo Gartner, il 75% dei responsabili delle risorse umane (CHRO) afferma che i manager sono più oberati di lavoro che mai, a dimostrazione del fatto che i guadagni di produttività derivanti dall’IA comportano costi nascosti in termini di supervisione.

Anche sul fronte del marketing, su tutto il mondo GEO o AEO che dir si voglia le aziende sono veramente all’inizio ma devono cominciare a creare una strategia reale e informata, senza dimenticare di ripensare, ancora una volta, l’organizzazione che sta dietro questi processi.

Un bel contributo di Vincenzo Cosenza sul tema della “marca latente” sui canali GEO.

Per finire, la tensione geopolitica sulle nuove tecnologie sale a vista d’occhio, come già avevo scritto a luglio, e aggiunge ogni giorno nuovi capitoli come ad esempio quello dei vari ban sulla robotica avanzata, di cui ho parlato su Telegram e Whatsapp e che sta solo evidenziando come i robot siano per definizione “dual use”, ossia potenzialmente trasformabili in armi (nei vari significati del termine) per definizione (ne parla molto bene Matteo Flora nel video qui sotto).

Sono solo una serie di esempi tra i tanti che potremmo fare, ma credo rendano l’idea. E ci portano al punto forse più importante di questa chiacchierata di oggi: dobbiamo prenderci il tempo di affrontare le cose in modo più accurato.

SEMPLIFICARE NON VUOL DIRE RENDERE SUPERFICIALE. E LA VELOCITA’ A VOLTE…

Le sfumatura che trovo più affascinante in questa vorticosa evoluzione tecnologica, che condivide molti elementi con le precedenti rivoluzioni ma con una scala velocità molto superiore, è che ci sta evidenziando che l’approssimazione è un grande pericolo oltre che un problema competitivo.

A che cosa mi riferisco?

Beh, questi sistemi con la loro capacità incredibili di scalare e di perseguire gli obiettivi diciamo “a tutti i costi” ci stanno ricordando come spesso abbiamo trascurato la qualità per la velocità.

Tutti gli strumenti che sono entrati nelle nostre vite negli ultimi vent’anni hanno avuto, come sempre accade con il cambiamento ecologico indotto dalla tecnologia, un grande effetto trasformativo ma il tempo in cui questo è accaduto è stato breve, anzi brevissimo.

In più, ogni novità ha avuto un effetto di hype rispetto alle precedenti sempre più forte e, di nuovo, sempre più breve che ha ogni volta distratto l’attenzione dal processo di sistemazione di quanto c’era prima.

Come risultato, ogni strato si è inserito su uno precedente sempre più fragile e non ancora ben strutturato, rendendo al contempo molto difficile intervenire sulle fondamenta sotto la spinta del nuovo.

Se questo non bastasse, dall’avvento di Internet in poi spesso le nuove tecnologie sono nate per fini consumer, con le persone che hanno imparato a usarle nella propria vita privata, usarle e non capirle appieno che è ben diverso, e poi sono arrivate in azienda e nel mondo del lavoro, senza che però i modi di lavorare e le organizzazioni abbiano davvero cambiato le proprie logiche e la propria cultura.

Una trasposizione automatica e, di nuovo, spesso superficiale che ha continuato a creare della complessità irrisolta sotto l’apparente semplificazione.

Prendiamo un esempio che riguarda praticamente ogni azienda con un minimo di dimensioni: i permessi di accesso a file e documentazione sono quasi sempre gestiti in modo grezzo e poco strutturato, con le persone che si trovano spesso ad avere visibilità su cose che non dovrebbero vedere. Finché a muoversi in mezzo a questi permessi era un essere umano, la sua capacità di capire quando fermarsi, oltre al limite fisiologico di quanto può effettivamente elaborare, tutto è stato relativamente gestibile, anche al proliferare di sistemi di collaborazione più articolati. Quando però a ereditare quegli stessi permessi, senza particolari altri ragionamenti, è un’AI agentica, la sua motivazione a perseguire l’obiettivo assegnato e la sua capacità di processamento fanno sì che quegli accessi “scorretti” diventino un problema potenzialmente molto serio: il software non si fermerà prima di aver massimizzato il proprio obiettivo. Ed è esattamente questa la dinamica che abbiamo visto dietro ai casi di presunte “fughe” citati all’inizio.

Il problema chiaramente si pone anche sul livello degli individui, e se è vero che la consapevolezza deve essere continuamente alimentata e costruita non si può nemmeno delegarla nella sua totalità all’utilizzatore finale, come scrive bene Antonino Polimeni qui.

Per questo, Iason Gabriel, filosofo e responsabile di un gruppo di ricerca sull’etica dell’IA in Google DeepMind, dice che l’allineamento non può quindi più essere pensato soltanto come il rapporto tra un’IA e la persona che la utilizza. Va considerato come un rapporto tra quattro soggetti: il sistema di IA, l’utente, chi lo sviluppa e la società.

E qui c’è il punto assai scomodo che sono proprio i grandi big della tecnologia, quelli che questo equilibrio dovrebbero saperlo tenere in conto meglio di chiunque altro, a cadere per primi negli incidenti che citavo all’inizio, segno che anche loro, nella corsa competitiva in cui sono immersi, danno per scontata una maturità che non c’è. In questa luce, mi sembra troppo semplicistica l’idea di Mark Zuckerberg, espressa nel suo recente “The future is for everyone”, di mitigare il rischio della concentrazione di potere creato dalla AI con un approccio distribuito e open: presume una maturità e una comprensione generalizzata che oggi, a partire da chi questi sistemi li costruisce, ancora non c’è a distanza di quasi due anni da i saggi di Altman e Amodei che avevo commentato qui sul blog.

TRA LA PAUSA E LA RIPARTENZA

Torniamo quindi da dove siamo partiti: agosto come momento di stacco, di respiro, di quel tempo che raramente ci concediamo il resto dell’anno per fermarci e guardare le cose con più attenzione invece che con la fretta della corsa quotidiana.

Non ci sono domande che risolvono definitivamente la complessità di cui abbiamo parlato, ma esistono riflessioni possibili sono forse il modo più onesto per portarci dietro qualcosa di utile dalle vacanze:

• Quanti degli strumenti che usiamo ogni giorno in azienda sono arrivati così, per contagio dal consumo privato, senza che nessuno si sia davvero fermato a ripensare processi e cultura attorno a essi?
• Chi, nel prossimo progetto agentico che lanciamo, si sta facendo carico di quel quarto soggetto di cui parla Gabriel, la società, il contesto più ampio, invece di ridurre tutto al rapporto tra sistema e utente?
• Se anche chi questi sistemi li costruisce inciampa negli stessi errori, che margine di prudenza ci stiamo davvero concedendo noi, che partiamo da una posizione di comprensione ancora più fragile?

Non è un invito a rallentare la tecnologia, che comunque non aspetterà. È l’invito a concederci, dopo il mese di agosto, lo stesso permesso che ci diamo in questi giorni: quello di prendere fiato, di capire prima di agire e di costruire le cornici (di permessi, di conoscenza organizzata, di responsabilità condivisa tra sistema, utente, chi sviluppa e società) che ci aiutano a non essere in balia della tecnologia che noi stessi stiamo creando.