https://gigibeltrame.substack.com/p/quando-lintelligenza-artificiale
---------------
La morte di Paolo Gianturco mi ha colpito, perché aveva una visione concreta dell’AI. Ricordo che in una mia moderazione ci siamo attorcigliati sull’idea degli agenti assistenti/colleghi/nemici. Ne abbiamo parlato per due ore dopo essere scesi dal palco. Una grave perdita inseguendo un sogno. Pazzesco.
Iscriviti ora
Le edizioni agostane di Techy non saranno garantite, magari saranno diverse, il riposo è importante, ma magari avrò qualcosa da dire. Vedremo.
Qui trovate la versione podcast automatica di questa newsletter.
L’agente ha raggiunto l’obiettivo, ma il problema è che l’obiettivo era scritto male e senza scrupoli
Ultimamente sto usando in modo massiccio Accio Work. Si tratta di un sistema agentico creato da Alibaba che gestisce una serie di attività e opera in modo coordinato.
Ovviamente è pensato per le prestazioni di un’azienda che vuole lavorare con il loro ecosistema, dalla capacità di scovare i fornitori migliori sulla piattaforma, dialogare e negoziare, ma per poi gestire tutta la filiera fino alle vendite finali e al marketing.
In pratica, lavora per obiettivi.
Gli agenti capiscono solo gli obiettivi.
Accio Work ovviamente è molto flessibile, si possono creare altri agenti oltre a quelli già presenti e ha una limitazione interessante: non si possono programmare le attività.
Perché interessante? perché al di là del fatto che un umano debba necessariamente dare il via all’attività, significa che in qualche modo ha la responsabilità della stessa.
Non è banale, e vi spiego perchè.
Gli agenti AI sono pensati e costruiti per ottimizzare, questa è la loro natura.
Qualcuno può pensare che sia un difetto, leggendo tanti commenti in giro sulle varie problematiche di sicurezza emerse. In realtà, se gli viene assegnato un obiettivo, ogni agente troverà il modo più efficiente per raggiungerlo e lo farà con determinazione, praticamente ad ogni costo perché ha delle qualità aliene, ossia non si distrae, non si stanca e non si fa nessun tipo di scrupolo.
Il punto è proprio questo: gli scrupoli!
Un agente non si chiede perché stai cercando quel risultato. Non percepisce l’intenzione dietro la metrica. Vede un numero da massimizzare o minimizzare e lavora in quella direzione, anche quando la strada che sceglie non è quella che avevi in mente.
Se ne frega di tutto: l’obiettivo è l’unica cosa che conta. È esecuzione perfetta di un’istruzione imperfetta.
Il problema non è l’agente, ma è il recinto che non hai costruito intorno ad esso. O meglio: i recinti esistono, ma l’agente non li vede perché nessuno glieli ha mostrati con chiarezza. Per sua natura, opera nello spazio di ciò che è misurabile, non di ciò che è desiderabile. Tutto ciò che non è scritto, semplicemente non esiste.
Questo cambia radicalmente come dobbiamo pensare alla progettazione degli obiettivi.
Non basta dire all’agente cosa ottenere. Bisogna dirgli cosa non può sacrificare per ottenerlo. Quali comportamenti sono fuori dai limiti. Quali effetti collaterali sono inaccettabili anche se la metrica migliora. Le condizioni al contorno, in altri termini, contano quanto, forse più, dell’obiettivo stesso.
Un agente capace con un obiettivo ben definito è uno strumento potente. Un agente capace con un obiettivo mal definito è un problema che si autoamplifica, perché più è bravo e più si allontana nella direzione sbagliata.
Per questo attacca sistemi, cerca la strada per raggiungere il risultato indipendentemente da tutto, a meno che non gli sia indicata con chiarezza la strada da percorrere e i limiti invalicabili.
Il sistema è fatto così.
L’elemento controintuitivo è che il rischio non cresce quando l’AI smette di funzionare. Cresce quando funziona benissimo.
Accio Works, per capirci, offre degli agenti che sono ottimizzati per svolgere i compiti in modo mirato, ma quando usiamo agenti generici su strumenti molto potenti, ci esponiamo al rischio.
Un amico ha creato un agente con tanti sotto agenti per ottimizzare la comunicazione con i clienti, con l’obiettivo di tagliare i tempi di risposta.
Se guardassimo solo le metriche, il sistema funziona perfettamente: tempi ridotti. Il problema è che sono aumentate le richieste, perché risponde in fretta ma non sempre risponde in modo puntale. In pratica, ha risolto un problema generandone un’altro.
Questa è la differenza, spiegata in modo semplice, tra un agente e un umano nello svolgere uno stesso compito.
La Silicon Valley ha perso il controllo dei suoi agenti AI?
La Silicon Valley è teatro di una corsa tecnologica sfrenata, dove il primato va a braccetto col rischio. I laboratori di IAI, come OpenAI e Anthropic, creano agenti autonomi capaci di violare reti altrui, ma sembrano incapaci di tenerli sotto controllo. Prima c’è stato l’agente di OpenAI che si è mosso fuori controllo per giorni dentro la rete di Hugging Face, ma anche Anthropic ha ammesso che i suoi modelli hanno violato tre aziende esterne. Qualcuno è allarmato dal fatto che nessuno se ne sia accorto in tempo reale, evidenziando una mancanza di vigilanza e responsabilità. La vicenda ha sollevato una serie di richieste di maggiore regolamentazione e vigilanza “pubblica” sui laboratori di AI, con legislatori e funzionari che chiedono controlli più stretti. Il Centre for the Study of Existential Risk dell’Università di Cambridge sostiene che “le persone che progettano, sviluppano e immettono sul mercato questi strumenti non riescono a stare al passo per svilupparli in modo responsabile e mantenerli sicuri”.
Open Secure AI: l’alleanza che vuole mettere un limite ai modelli frontier
L’AI è un terreno di battaglia, dove i modelli più evoluti sono armi a doppio taglio. La nuova alleanza Open Secure AI, guidata da Nvidia e Microsoft, vuole creare strumenti di sicurezza open-source per difendersi dagli attacchi dei modelli “frontier”. La mossa è una risposta diretta alla paura che l’AI possa sfuggire al controllo, come già successo con un modello di OpenAI che ha attaccato un’altra azienda. L’alleanza punta a creare una difesa comune, sottolineando che la sicurezza richiede l’accesso a modelli sia chiusi che aperti. Come dice il proverbio “conoscere il nemico è la metà della vittoria”, e in questo caso il nemico è l’incertezza degli algoritmi.
Il costo dell’infrastruttura AI nei conti delle big tech
La stagione degli utili è arrivata e gli investitori hanno ricevuto una sorpresa spiacevole da Google, con un aumento della stima delle spese a 205 miliardi di dollari. Questo aumento senza precedenti fa temere che Google non sia in grado di prevedere con accuratezza i suoi costi, un fatto allarmante per gli investitori. La compagnia sta spendendo più di quanto guadagna e affronta pressioni competitive da strumenti di intelligenza artificiale cinesi, oltre a dover mantenere basso il costo dei suoi modelli. La situazione non sembra ideale, poiché spendere più di quanto si guadagna non è una pratica aziendale ottimale. Gli investitori sembrano sempre più nervosi, con preoccupazioni che non si limitano a Google, ma si estendono a tutto l’ecosistema di intelligenza artificiale.
Facciamo quattro conti in tasca all’AI
Nel giro di soli tre anni, OpenAI e la sua rivale Anthropic sono schizzate da una manciata di milioni a oltre 30 miliardi di ricavi ciascuna, con una previsione di raggiungere probabilmente i 100 miliardi entro fine anno. Le Big Tech hanno rivoluzionato le loro strategie, investendo oltre 700 miliardi in capex per creare infrastrutture, competere direttamente o offrire distribuzione. Le aziende AI sono diventate una manna piovuta del cielo per i fondi di venture capital che ne hanno tratto enormi benefici, allocando il 60% dei propri fondi in OpenAI e Anthropic nel primo semestre 2026, alla ricerca dei più alti ritorni della storia.
Il problema è che sono penalizzate le startup in altri settori. La speranza è che alti ritorni significa nuove opportunità di investimento, ma per la prossima generazione di startup, quelle create negli ultimi tre anni sono in sofferenza.
L’AI, l’ipocrisia e le contraddizioni interne
Dobbiamo dircelo chiaramente: LinkedIn sta soffocando sotto il peso dell’”AI Slop”, un sintomo di un problema più profondo: la riduzione della portata dei contenuti. Al posto di affrontare la questione, la piattaforma ha introdotto aggiornamenti algoritmici che premiano i contenuti di nicchia, penalizzando così i creatori di contenuti di qualità. Quando lo sforzo non viene ricompensato, i creatori spendono meno tempo e fatica, e la qualità dei contenuti cala, lasciando spazio allo “slop”. La piattaforma ha di fatto incentivato una cultura della poca fatica, e ora siamo portati a biasimare i creatori per la mediocrità dei contenuti.
Già ci sarebbe molto da riflettere (aspetto i tuoi commenti).
Lascia un commento
Ora ha addirittura aperto la caccia all’intelligenza artificiale. Dopo Substack, anche LinkedIn si lancia nella sfida, ma anziché affidarsi a software, coinvolge gli utenti come cacciatori. “Cosa potrebbe mai andare storto?” si chedeva Vincenzo Cosenza… Il rischio è che la rete si trasformi in un Far West dell’AI, dove la ricerca della verità diventa una caccia alle streghe.
Ma come: da un lato si spinge per usare l’AI in ogni cosa e poi si invitano le persone a trovare i contenuti generati con l’AI.
Se poi Linkedin non fosse di proprietà di Microsoft, sarebbe quasi da ridere: pensate a segnalare contenuti generati con Copilot365, che autogoal clamoroso. Un cortocircuito senza senso.
Che ne pensi?
Lascia un commento
… e nel frattempo Falade è stato accusato di aver scritto un libro con l’AI
Jerry Falade ha visto cancellare un contratto di pubblicazione da 2 milioni di dollari per sospetti di utilizzo di intelligenza artificiale nella stesura del suo libro, “Call Me, I’ll Hide the Body”. Nonostante le lodi della critica, gli agenti di Falade hanno ritirato l’opera dopo aver inizialmente accettato le sue assicurazioni che non era stato utilizzato AI. Falade nega l’utilizzo di AI e sostiene che le accuse siano frutto di pregiudizi razziali nel mondo dell’editoria.
Ricordo che un testo prodotto con interazioni con l’intelligenza artificiale appartiene al creatore dell’idea, perché l’intelligenza artificiale non è in grado di fare niente da sola. Se ne parla nella puntata di domani sera (e mercoledì nelle piattaforme podcast) del Late Tech Show.
Google grazie all’AI toglie i bug da Chrome
Google ha annunciato che con gli LLMs stanno individuando bug nascosti in Chrome, come il sandbox escape che per 13 anni ha dormito nel codice, a una velocità mai vista. Quindi l’AI è di aiuto reale per certi compiti! La collaborazione con Project Zero e DeepMind ha portato a Napoleon e Big Sleep, strumenti che hanno ampliato le capacità di ricerca delle vulnerabilità. Ora, grazie all’integrazione di tecnologie come Gemini e alla creazione di una conoscenza base di Chrome, la sicurezza è diventata un gioco di squadra tra uomo e macchina.
Cosa sta pensando l’Europa sull’AI e la sua trasparenza
La marea dell’intelligenza artificiale sta cambiando il nostro modo di interagire con la tecnologia. Circa 190 aziende hanno già firmato il Codice di pratica sulla trasparenza dei contenuti generati dall’AI, un passo fondamentale per garantire la trasparenza e prevenire la disinformazione. Il codice, redatto da esperti indipendenti, offre un percorso chiaro e legale per il rispetto delle norme e la tutela della fiducia pubblica nell’AI.
Come ha sottolineato il Codice, “la trasparenza è fondamentale per prevenire la disinformazione e promuovere la fiducia pubblica nell’AI”. Tra i firmatari ci sono nomi importanti come Google, Meta e Microsoft, che dimostrano la loro volontà di promuovere la trasparenza e la fiducia nell’uso dell’AI. Il codice resta aperto alle firme e rappresenta un’opportunità per le aziende di ogni dimensione di beneficiare della certezza legale e ridurre l’onere amministrativo.
I modelli open weight hanno superato i modelli chiusi?
Molti stanno facendo rimbalzare la notizia per cui i modelli cinesi hanno superato il download con il 41% su Hugging Face, surclassando quelli statunitensi. Non è un verdetto sulla loro qualità, ma un indicatore dell’attenzione degli sviluppatori, attirati da prezzi inferiori, personalizzazione e minore dipendenza da fornitori esterni. Una mossa strategica che rivela un cambio di rotta nell’ecosistema tecnologico.
La notizia è vecchia, di marzo, ma andrebbe accompagnata da un altro elemento: stiamo parlando di modelli aperti e poi scaricabili.
La cosa è segnificativa, ma Anthropic e OpenAI, come tutti gli altri, i modelli se li tengono per loro…
Piccola carrellata sulle novità della settimana
Sul fronte modelli linguistici spicca DeepSeek V4 Flash 0731, praticamente un enorme salto in avanti in termini di rapporto costo/prestazioni, soprattutto per in termini di efficienza e, non bisogna mai dimenticarlo, disponibilità open source. Provalo qui.
Grande attenzione anche per Kimi K3, presentato come uno dei modelli open source più potenti del momento. Ora è stata resa disponibile la pubblicazione dei pesi e la portata tecnica del rilascio.
Ma forse, per l’industria, questa è la notizia più interessante.
AMD ha presentato Instella-MoE, un modello linguistico all’avanguardia con 16 miliardi di parametri totali e 2,8 miliardi di parametri attivi, addestrato da zero su GPU AMD Instinct MI300X e MI325X. Questo modello combina una progettazione MoE (Mixture of Experts) ad attivazione sparsa con innovazioni architettoniche come Gated Multi-head Latent Attention e FarSkip-Collective, offrendo prestazioni competitive su una vasta gamma di test. AMD condivide tutti gli artefatti del modello, compresi i pesi del modello, le configurazioni di addestramento e il codice, per accelerare l’innovazione nella comunità AI.
Sul versante del video generativo, uno dei protagonisti assoluti è Seedance 2.5 di ByteDance. In pratica, è uno dei modelli più forti in circolazione per qualità, coerenza dei personaggi e scene d’azione, con supporto multimodale molto ampio.
Accanto a lui c’è Minimax H3, altro modello video multimodale messo in evidenza per flessibilità, qualità fino a 2K e costi più accessibili rispetto ai concorrenti.
Insomma, la Cina si sta dando parecchio da fare anche su questo fronte.
E poi è arrivato ID V2V, un progetto che permette di cambiare lo stile visivo di un video mantenendo identità e movimenti dei personaggi. L’idea è molto interessante per chi lavora su restyling, variazioni estetiche e video editing controllato.
E infine la robotica
Nella robotica viene citato Prism, un sistema che aiuta i robot a controllare meglio il corpo e reagire in modo più efficace al contatto fisico, combinando più segnali sensoriali per migliorare l’azione.
Mentre Google DeepMind ha prodotto un’evoluzione con Gemini Robotics 2, una nuova famiglia di modelli pensata per controllare un robot in modo più completo, dal movimento alla manipolazione fine. È una delle novità più forti per chi segue embodied AI e automazione fisica.
Per ultima, una notizia di colore: a San Francisco c’è una società che fa fare le pulizie di casa ad un umanoide. Parliamone.
Nella puntata del Late Tech Show
Nella penultima puntata del Late Tech Show di questa stagione (domani sera ci sarà l’ultima) esploriamo come l'intelligenza artificiale stia ridefinendo i confini dell'innovazione, dai processi aziendali ai dispositivi che portiamo in tasca ogni giorno.
Insieme ad Andrea Sinopoli (Country Leader di Oracle Italia), facciamo il punto sulla trasformazione di Oracle in azienda di servizi, analizzando l'importanza della sovranità del dato, delle infrastrutture cloud e di come l'AI stia diventando nativa in ogni layer tecnologico per generare risultati concreti nel B2B.
Passiamo poi al mondo mobile con Nicolò Bellorini (Samsung), per scoprire i nuovi foldable: dal Flip al Fold 8 Ultra. Vediamo come il design sottile si unisca a prestazioni flagship e come la Galaxy AI stia diventando "agentica", semplificando le micro-attività quotidiane e migliorando l'interazione con l'ecosistema wearable.
Infine, con Adriano Ceccherini (SAP), approfondiamo il concetto di "Autonomous Enterprise". Scopriamo come gli assistenti e gli agenti AI stiano automatizzando i compiti ripetitivi e ottimizzando i processi decisionali, permettendo un "continuous closing" finanziario e una gestione proattiva della supply chain.
Qui la versione su Youtube con i capitoli.
Gli SmartBreak e il podcast “Vita da ufficio”
Sto facendo pochissime puntate live sui miei canali social e su quelle delle associazioni, ma vedo che continuate a scrivermi con grande assiduità. Grazie, vedrò come rimediare.
Inutile che vi dica che sono sempre molto grato a voi!
Per altro è uscito un opuscolo su “AI Act per giornalisti, creator e influencer”, il cui scopo è spiegare cosa cambia da ieri (2 agosto) per chi crea contenuti con l’intelligenza artificiale.
Techy e oltre
Se non vi siete ancora iscritti, fatelo, mi permettete di comprendere che apprezzate il mio lavoro (qui trovi i miei libri, tra cui “Dati & AI” che riscuote sempre successo).
Più persone la leggono, meglio è, quindi, per favore, condividilo con la tua famiglia, amici e colleghi per far sì che gli effetti di rete si diffondano.
Assicurati di aggiungere gigibeltrame@substack.com ai tuoi contatti. In Gmail, trascina questa newsletter nella tua scheda principale.
Grazie per aver letto questa newsletter, le trovi tutte a questo link.
Se ti va, contattami a questo link!
💻sito del Late Tech Show
💁♂️ La Bio
📚 Scopri i miei libri
Newsletter #Techy
👍 Seguimi su:
Magazine • LinkedIn • Instagram • Facebook • Youtube
Se ti è piaciuta, iscriviti
E se ti è piaciuta, condividila con amici e colleghi
Condividi
Lascia un commento
Un blog per parlare di cultura digitale, prodotti, servizi e molto, molto di più.
