Progettare per l’AI e colmare il divario dell’innovazione

Il percorso di Zimmerman è una sequenza di esplorazioni concrete e precoci dell’AI nella vita quotidiana. Tra i suoi progetti di ricerca troviamo: strumenti di coordinamento familiare, ambienti adattivi che rispondono a visitatori e familiari, strumenti per rilevare la depressione e agenti che aiutano anziani con declino cognitivo a vivere più a lungo nelle proprie case.

Questi esempi sottolineano un punto chiave: l’AI diventa significativa solo quando è ancorata a contesti reali e dati reali e quando è attentamente integrata nei flussi di lavoro umani. Questo allineamento non è mai automatico: è il risultato di precise scelte di design. Osserva Zimmerman:

“Il problema forse più grande è che le persone che non si occupano di AI tendono a pensarla come un’intelligenza sovrumana. E credo che ciò sia in gran parte alimentato dai media, che adorano titoli acchiappaclick come “Target scopre la gravidanza di una  adolescente prima dei genitori”, “L’AI supera i medici nella diagnosi del cancro”, “Ingegnere Google dichiara che i chatbot sono senzienti”. Nessuna di queste affermazioni è vera. C’è un sottile fondo di verità, ma tutte risultano enormemente fuorvianti rispetto a ciò che l’AI può realmente fare.

La conseguenza è che, quando le persone non esperte di AI si riuniscono per immaginare cosa progettare con l’AI, tendono a pensare solo a compiti estremamente difficili, che richiedono competenze elevate e prestazioni dei modelli quasi perfette per generare valore. Così, la maggior parte delle opportunità reali non viene nemmeno presa in considerazione. In pratica, ci si concentra su cose che non sono realizzabili.”

Nonostante l’abbondanza di talenti dedicati all’AI nelle grandi aziende, Zimmerman identifica molte “occasioni mancate”. Ecco alcuni esempi: Starbucks non utilizza un semplice modello predittivo per portare gli utenti abituali dell’app direttamente alla schermata di pagamento quando entrano in negozio. Instagram non suggerisce automaticamente gli hashtag più usati dagli influencer. Le case automobilistiche investono enormi risorse nell’auto-parcheggio completo, utile a una nicchia di utenti, ignorando funzionalità più semplici e utili come riconoscere se il parcheggio è abbastanza ampio.

Non si tratta di limiti tecnologici, ma di scelte sbagliate e mancanza di immaginazione.

Il paradosso è che le storie di successo dell’AI sono ovunque — dai robot nei magazzini Amazon ai modelli di pricing di Airbnb — eppure le statistiche mostrano tassi di fallimento sorprendenti, soprattutto nei progetti generativi. Per Zimmerman, la ragione principale è il rapporto disfunzionale tra tre gruppi: data scientist, designer e manager.

I data scientist tendono a proporre soluzioni interessanti dal punto di vista tecnico ma irrilevanti per gli utenti. I manager, influenzati dai media sensazionalistici, sovrastimano le capacità dell’AI e approvano progetti irrealistici. I designer vengono coinvolti troppo tardi. Tutto ciò è aggravato da una scarsa comprensione delle metriche di performance dell’AI.

“Possiamo ottenere una performance del modello al 90%. È sufficiente? Beh, negli Stati Uniti il 90% corrisponde più o meno a una A–. È abbastanza? Sembra buono. Ma se pensiamo al riconoscimento vocale automatico, la maggior parte delle frasi contiene circa 14 parole. Con un’accuratezza del 90%, in media una o poco più di una parola per frase sarà sbagliata. È sufficiente? Dipende dall’applicazione. Se sto trascrivendo un processo giudiziario, dove ogni parola conta, non è assolutamente sufficiente.”

Una delle affermazioni più provocatorie di Zimmerman è che il design centrato sull’utente, applicato nel modo tradizionale, non funziona con l’AI. Solitamente i designer partono dai bisogni degli utenti e cercano soluzioni; i progetti di AI, però, devono partire da ciò che è costruibile con i dati e i modelli disponibili.

Se un team identifica prima il problema e poi insiste affinché l’AI lo risolva, spesso produce soluzioni irrealizzabili. Serve invece esplorare, fin dall’inizio, l’intersezione tra bisogni umani e capacità dell’AI, lavorando con i data scientist sin dalle prime fasi.

“Se fai design user-centered, che cosa fai di solito? Esci, decidi in anticipo chi sarà il cliente, lo studi, individui alcuni punti critici, alcune opportunità, e pensi: “Se riuscissimo a lavorare su questi aspetti, sarebbe trasformativo. Sarebbe una grande occasione.” Il problema di questo approccio è che quasi mai si allinea con ciò per cui l’AI può davvero generare valore. Troverai problemi reali, certo, ma non sono necessariamente opportunità per l’AI.

La vera domanda quindi è: come si trova insieme l’intersezione tra un’opportunità per l’AI e un bisogno dell’utente?”

Zimmerman e il suo gruppo di ricerca hanno tentato di aiutare i designer creando tassonomie di capacità dell’AI. Questo non ha funzionato: i designer generavano più idee “AI-like”, ma ancora poco realizzabili. La svolta è arrivata quando hanno smesso di concentrarsi sul come l’AI produce inferenze e hanno iniziato a chiedersi quale livello di performance genera realmente valore.

“I meccanismi sono il modo in cui l’AI produce una deduzione. Le capacità riguardano ciò che posso effettivamente fare con quella deduzione. Per richiamare un po’ di teoria del design: se conoscete il concetto di ‘reflection in action’ di Donald Schön, sapete che si riferisce a quel momento creativo in cui l’idea prende forma mentre stai agendo. Per fare questo serve molta conoscenza tacita. Schön usa la metafora del musicista jazz che conosce così bene il proprio strumento da riuscire a creare musica mentre sta suonando, giusto? È lo stesso: dobbiamo comprendere i materiali con cui lavoriamo.”

Riprendendo una metafora di Cassie Kozyrkov, ex Chief Decision Scientist di Google, Zimmerman descrive l’AI come “un’isola piena di persone ubriache”: estremamente veloce e capace di elaborare enormi quantità di dati, ma non particolarmente intelligente. Questo cambio di prospettiva porta a una domanda cruciale: in quali compiti abbiamo realmente bisogno di velocità e scala, ma non di intelligenza profonda o accuratezza perfetta?

Invece di aspirare alla perfezione in domini impossibili, i team dovrebbero cercare contesti in cui una deduzione imperfetta produce comunque benefici evidenti.

Il suo lavoro con i clinici delle terapie intensive lo dimostra chiaramente. Invece di affrontare problemi molto complessi, come ottimizzare la sedazione dei pazienti—che richiederebbe dati perfetti e modelli quasi impeccabili—il team si è concentrato su qualcosa di molto più semplice: prevedere quali farmaci saranno probabilmente necessari il giorno successivo per i pazienti. Questo non aumenta il rischio clinico, ma migliora in modo significativo l’efficienza operativa.

In settori come sanità, assicurazioni, cybersecurity, informazione e contabilità, il framework di Zimmerman mostra che quando i team comprendono le capacità semplici dell’AI, generano idee più utili e realizzabili.

I fattori chiave sono:

• riconoscere l’AI come materiale progettuale, con limiti e punti di forza;
• coinvolgere fin da subito esperti tecnici, di business e di dominio;
• valutare le idee non solo sulla base della novità tecnologica, ma anche del valore per l’utente, del ritorno economico e dell’impatto etico.

Zimmerman risponde chiaramente: i designer non hanno mai avuto vero potere decisionale. Le scelte strategiche spettano a chi controlla i budget. Il vero potere sta nell’influenzare i criteri con cui vengono selezionati i progetti.

Sì. La loro competenza si sta evolvendo verso il pensiero sistemico e la facilitazione dei processi creativi. L’AI non sostituirà questa capacità relazionale.

La relazione è più complessa: l’AI permette ai designer di liberare tempo per esplorare aspetti più sottili e contestuali, aumentando la creatività.

Significa comprenderne limiti, comportamento e possibilità espressive. I dati sono il materiale, gli algoritmi gli strumenti.

Il design cambierà costantemente. Per chi ama imparare e reinventarsi, è un periodo stimolante; per chi cerca routine stabili, sarà più difficile.