Nessuna novità tecnologica arriva mai da sola. Dietro ogni prodotto o decisione c’è una catena di persone che hanno fidato. C’è anche una persona che ha ricevuto avvisi troppo tardi, quando già erano arrivati. Le storie di queste settimane lo mostrano bene. Vanno dalle strade della California alle piattaforme di musica, fino ai vertici di Microsoft. Lì le scelte passano per decisioni di Satya Nadella.
Satya Nadella, amministratore delegato di Microsoft, ha scritto in un lungo post su X che bisogna presumere che ogni modello sia compromesso e contenerlo dalla nascita. L’intelligenza artificiale, dice, non può più essere trattata come un insieme di scatole nere di cui accettiamo o rifiutiamo i consigli. Serve un freno di emergenza. Una persona autorizzata deve poter mettere in pausa o spegnere un modello a metà di un compito. Il modello deve lasciare dietro di sé prove leggibili e a prova di manomissione. In parallelo, la piattaforma di distribuzione musicale DistroKid ha confermato di aver rimosso silenziosamente brani di artisti. La misura è una risposta alla causa di Universal Music Group, che parla di una pipeline di contenuti generati dall’AI. Molti brani rimossi, però, non erano generati artificialmente.
Quando Nadella mette in guardia dai sistemi che sbagliano senza avvisarti
Le rimosse di DistroKid raccontano cosa accade quando il controllo passa a chi non risponde. Il musicista McGwire ha visto sparire sei canzoni dallo streaming, senza alcuna comunicazione prima o dopo. Una era una cover di “Isn’t She Lovely” di Stevie Wonder, per cui sostiene di avere la licenza. La più assurda: un brano rimosso per un campione non autorizzato di una canzone uscita due anni dopo la sua. Il rapper Insane Ian ha scritto di aver perso un pezzo originale senza spiegazioni. Il vicepresidente servizi artisti di DistroKid, Amanda Ferri, parla di “un numero molto piccolo” di rimozioni e rimpiange l’interruzione. Ma il produttore Jesse Cannon ha dichiarato che l’azienda ha rinunciato all’assistenza clienti due anni fa. Ex dipendenti gli hanno detto che, con una quota di mercato così alta, la considerano uno spreco di profitti.
Avrebbero dovuto dare agli artisti un rimedio e un avviso su cui discutere, dice Cannon.
È qui che il suggerimento di Nadella diventa concreto. Un freno di emergenza con prove verificabili è esattamente il contrario di un bot che rimanda in tondo l’utente prima di concedere un agente umano. Il regista George A. Romero conosceva bene questo tipo di intermediazione. Il suo film “Season of the Witch”, girato nel 1973 come “Hungry Wives”, fu commercializzato come soft porn. Il distributore lo tagliò di 40 minuti, trasformando un dramma femminista sull’occulto in qualcosa che non era. Il pubblico, giustamente, non lo seguì e il film fu un fiasco. La lezione è la stessa: quando un intermediario decide a valle, senza obbligo di spiegarsi, l’opera o l’utente finisce pagando l’errore.
Le dimensioni giuste, non le dimensioni massime
Se il problema è chi controlla, la risposta più interessante viene da chi progetta su misura. La startup californiana Telo ha costruito il pickup elettrico MT1. È grande quanto una Mini Cooper a due porte. Ha un rotolo intero da 96 pollici e una capacità di traino di 8.000 libbre. Con soli 30 dipendenti punta a uno 0-60 mph in circa 4 secondi. Il cofondatore Jason Marks la faceva provare sulla stessa strada dove anni fa Tesla collaudava la Roadster con i clienti. Il cofondatore Forrest North, ex ingegnere batterie di Tesla, è netto sui motivi. I grandi pickup uccidono circa 5.000 persone l’anno. Sono inoltre inutili in città. Lui e Marks, che ha lavorato alla sicurezza automobilistica, volevano dimostrare quanto può essere utile un mezzo piccolo.
Anche la cantante Sunmi, 18 anni di carriera tra le Wonder Girls e il solista, progetta il proprio ambiente di lavoro a misura di persona. Lavora su quattro schede aperte, Notion, Google Drive, YouTube e Claude, e sul telefono pieghevole Samsung Z Fold 8 per editare video in movimento. Sul tema del controllo altrui è tagliente: al trend tecnologico da far sparire risponde con una parola sola, i deepfake. E quando si blocca ha una sua micro-disciplina: dice “No?” ad alta voce, ribaltando il pensiero negativo. Piccoli freni di emergenza personali, si potrebbe dire.
Chi guadagna dalla retorica e chi resta indietro
Guardate insieme, queste storie disegnano lo spartiacque. Da un lato c’è chi ha potere di mercato e lo esercita senza oneri di trasparenza. Esempi sono una major discografica che agisce in giudizio, una piattaforma che rimuove per difendersi e un distributore che ricontestualizza un film. Dall’altro lato l’artista autonomo che perde un album online, l’ascoltatrice che non vedrà mai la versione integrale, il cittadino che accetta consigli da un modello che nessuno può ispezionare. La retorica dell’innovazione e l’impatto reale spesso divergono: Nadella parla di “superintelligenza” e di standard di contenimento da definire. Ma chi lavora oggi con questi strumenti deve già fidarsi di sistemi osservabili solo dall’interno.
Romero, va detto, aveva cento volte più dialogo che azione e un budget di 100.000 dollari. Eppure il film regge: la versione restaurata a 104 minuti, recuperata dopo il rinnovato interesse per l’autore, mostra che il materiale reggeva da solo. Sunmi resta umile per scelta. Dice di aver ricevuto il consiglio di “non lasciare mai che diventi arrogante”. Ritiene che la creazione di cui va più fiera sia “Tail”, una canzone che tiene il pubblico col fiato sospeso. Sono atteggiamenti di responsabilità personale che nessuna piattaforma può simulare.
Cosa cambia da qui
Il nodo aperto è istituzionale. Le raccomandazioni di Nadella sono divulgazione tempestiva degli incidenti, audit indipendenti e dati verificabili. Coincidono in gran parte con quelle di altri nel settore. Convergono inoltre con ciò che i regolatori europei stanno costruendo per l’intelligenza artificiale. Ma l’episodio DistroKid mostra che senza obbligo di ricorso, il piccolo non ha leva: ci vuole una conversazione circolare con un bot per sapere perché sei stato cancellato. Telo intanto deve dimostrare sul mercato che un camion piccolo può reggere il confronto con i SUV giganti del Bay Area. Il camion ha una batteria divisa da 77 kWh e una variante da 350 miglia.
La domanda rimane la stessa in tutti i casi: chi può fermare il sistema quando sbaglia, e quanto rapidamente. Chi risponde a quella domanda, con strumenti o con norme, deciderà se la fiducia negli strumenti digitali si ricostruisce o si consuma.
Fonti:
- The Telo MT1 is a big truck trapped in a tiny truck’s body | theverge.com
- George A. Romero’s Season of the Witch is a slow-burn feminist… | theverge.com
- K-pop star Sunmi loves Notion and ear cleaning videos | theverge.com
- DistroKid has been quietly taking down songs in response to UMG… | theverge.com
- Satya Nadella says we should assume all AI models are ‘compromised’ | theverge.com
Punti chiave
Da ricordare
- Nadella propone di contenersi ogni modello dall'inizio, come un freno di emergenza attivabile da una persona autorizzata.
- DistroKid ha rimosso sei canzoni di un solo musicista senza comunicazioni, e una per un campione di un brano uscito due anni dopo.
- Il distributore tagliò 40 minuti dal film di Romero del 1973, contribuendo al flop dell'opera.
- Il pickup elettrico Telo MT1 è grande quanto una Mini Cooper e punta a contrastare i grandi pickup, legati a circa 5.000 morti l'anno.
- Sunmi usa quattro schede di lavoro e definisce i deepfake l'unico trend da eliminare.
- Senza ricorso e audit indipendenti, chi ha meno potere paga il costo degli errori dei sistemi.
