Diseñar para la IA y cerrar la brecha de innovación

La propia trayectoria de Zimmerman es una secuencia de exploraciones tempranas y concretas de la IA en la vida cotidiana, tales como: coordinación familiar, entornos adaptativos que responden a los visitantes y a los miembros de la familia, herramientas para detectar la depresión y agentes que ayudan a las personas mayores con deterioro cognitivo a permanecer más tiempo en sus hogares.

Estos ejemplos subrayan un punto clave: la IA solo cobra sentido cuando se basa en contextos y datos reales, y cuando se integra cuidadosamente en los flujos de trabajo humanos. Esa alineación nunca es automática. Es el resultado de decisiones de diseño deliberadas. En sus propias palabras:

“Posiblemente, el mayor problema es que las personas ajenas al campo de la IA tienden a pensar que la IA es una inteligencia sobrehumana. Y creo que esto se debe en gran medida a los medios de comunicación, a los que les encantan las noticias sensacionalistas como «Target sabe que las adolescentes están embarazadas antes que sus padres», «La IA supera a los médicos en el diagnóstico del cáncer» o «Un ingeniero de Google afirma que los chatbots son seres sensibles». Ninguna de estas afirmaciones es cierta. Hay un pequeño ápice de verdad, pero todas ellas son tremendamente engañosas en cuanto a lo que la IA puede hacer realmente. Y la consecuencia de ello, cuando las personas ajenas a la IA se reúnen y tratan de pensar en qué crear, es que tienden a pensar solo en tareas realmente difíciles en las que se necesita una gran experiencia y un rendimiento casi perfecto del modelo para crear valor. Por lo tanto, la mayor parte del espacio de oportunidades simplemente nunca se tiene en cuenta. Básicamente, solo se centra la atención en cosas que no se pueden construir”.

A pesar de la abundancia de talento en IA en las grandes empresas, Zimmerman ve una sorprendente cantidad de «oportunidades perdidas». Starbucks no utiliza una simple inferencia para llevar a los usuarios habituales de la aplicación directamente a la pantalla de pago cuando entran en una tienda. Instagram no sugiere automáticamente las etiquetas que los influencers utilizan repetidamente. Las empresas automovilísticas invierten enormes recursos en coches con aparcamiento totalmente autónomo para un pequeño nicho de conductores, mientras ignoran funciones más sencillas y universalmente útiles, como detectar de forma fiable si una plaza de aparcamiento es lo suficientemente grande.

No se trata de fallos de la tecnología, sino de fallos de prioridades y de imaginación. Los equipos persiguen funciones técnicamente glamurosas en lugar de funciones sencillas y de gran valor. Esa brecha entre la exageración y la practicidad es donde Zimmerman ve la mayor oportunidad para los diseñadores.

La paradoja es que hay ejemplos de éxito de la IA por todas partes —los robots de los almacenes de Amazon, las predicciones de precios de Airbnb, el análisis predictivo en la agricultura— pero las estadísticas muestran unas tasas de fracaso sorprendentemente altas en los proyectos de IA, especialmente en los generativos. Para Zimmerman, la explicación radica en la relación rota entre tres grupos clave: los científicos de datos, los diseñadores y los gestores.

Los científicos de datos tienden a proponer soluciones técnicamente interesantes, pero irrelevantes para el usuario. Los gestores, influenciados por las narrativas sensacionalistas de los medios de comunicación, sobreestiman la inteligencia de la IA y aprueban proyectos poco realistas. A menudo se recurre a los diseñadores demasiado tarde, cuando ya se han tomado las decisiones fundamentales. Todo ello se ve amplificado por un malentendido generalizado sobre el rendimiento de los modelos y lo que significa «una tasa de precisión del 90 % de la IA» en diferentes contextos.

“Podemos conseguir un rendimiento del modelo del 90 %. ¿Es eso suficiente? Bueno, un 90 % en Estados Unidos es como un notable bajo. ¿Es eso suficiente? Parece bastante bueno. Si pensamos en el reconocimiento automático del habla, la mayoría de las frases tienen unas 14 palabras. Así que, con un 90 %, aproximadamente una palabra o poco más de una palabra de cada frase será incorrecta. ¿Es eso suficiente? Depende de la aplicación. Si estoy transcribiendo un caso judicial en el que las palabras son importantes, no es ni mucho menos suficiente”.

Una de las afirmaciones más provocativas de la charla de Zimmerman es que el diseño clásico centrado en el usuario no funciona para la IA si se aplica de la forma habitual. Normalmente, los diseñadores comienzan identificando los puntos débiles de los usuarios y, a continuación, buscan posibles soluciones. Sin embargo, los proyectos de IA parten de un punto de partida diferente: las limitaciones de lo que se puede construir de forma realista con los datos y modelos disponibles.

Si los equipos se centran primero en un problema del usuario y luego insisten en que la IA debe resolverlo, a menudo crean soluciones que nunca pueden funcionar. En cambio, Zimmerman sostiene que los equipos deben descubrir conjuntamente la coincidencia entre las necesidades de los usuarios y las capacidades de la IA, explorando ambas dimensiones en paralelo. Eso requiere que los diseñadores trabajen en estrecha colaboración con los científicos de datos desde el principio, y no como decoradores al final.

“Si haces diseño centrado en el usuario, ¿qué es lo que sueles hacer? Sales y decides de antemano quién va a ser el cliente. Los estudias, detectas algunos puntos débiles, algunas oportunidades, te centras en ellos y piensas: «Si pudiéramos trabajar en esto, sería transformador. Sería una gran oportunidad». El problema de este enfoque es que casi nunca se alinea con lo que realmente puede aportar la IA. Así que, aunque encuentres problemas reales, no son oportunidades para la IA. La pregunta es, entonces, ¿cómo se puede encontrar la intersección entre una oportunidad para la IA y una necesidad del usuario?”.

Zimmerman y su grupo de investigación intentaron ayudar a los diseñadores creando una taxonomía de capacidades de IA, con la esperanza de que un mayor conocimiento condujera a mejores ideas. No fue así. Los diseñadores generaron más conceptos «con sabor a IA», pero la mayoría seguían siendo imposibles de construir. El verdadero avance se produjo cuando dejaron de centrarse en cómo se hacen las inferencias y empezaron a centrarse en qué nivel de rendimiento crea valor.

“Los mecanismos son la forma en que la IA hace una inferencia. Las capacidades son lo que realmente puedo hacer con una inferencia. Solo para aportar un poco de teoría del diseño, si estás familiarizado con el concepto de reflexión en acción de Donald Schön, que es ese momento creativo en el que la idea surge de ti mismo. Para ello, se necesita mucho conocimiento tácito. Schön utilizó la metáfora del músico de jazz que conoce tan bien sus instrumentos que puede crear música mientras toca, ¿verdad? Es como si tuviéramos que comprender los materiales”.

Tomando prestada una metáfora de Cassie Kozyrkov, antigua científica jefe de decisiones de Google, Zimmerman describe la IA como «una isla llena de gente borracha»: excepcionalmente rápida y capaz de procesar grandes cantidades de datos, pero no especialmente inteligente. Este replanteamiento plantea una pregunta crucial: ¿en qué tareas necesitamos realmente velocidad y escala, pero no una inteligencia profunda o una precisión perfecta?

En lugar de aspirar a la perfección en ámbitos imposibles, los equipos deben buscar contextos en los que una inferencia imperfecta siga produciendo beneficios claros.

Su trabajo con los médicos de la UCI ilustra esto. En lugar de abordar problemas extremadamente difíciles, como optimizar la sedación de los pacientes, lo que exigiría datos perfectos y modelos casi perfectos, el equipo se centró en algo mucho más sencillo: predecir qué medicamentos probablemente se necesitarán al día siguiente. Esto no aumenta el riesgo clínico, pero mejora significativamente la eficiencia operativa.

En múltiples sectores, desde la sanidad hasta los seguros, pasando por la seguridad informática, la información y la contabilidad, el marco de trabajo de Zimmerman para la lluvia de ideas demostró que, cuando los equipos están sensibilizados con las capacidades sencillas de la IA y un rendimiento moderado, generan de forma sistemática conceptos más valiosos y viables.

Los ingredientes clave son:

• reconocer la IA como un material de diseño con fortalezas y límites,
• reunir desde el principio a expertos técnicos, empresariales y del sector,
• y evaluar las ideas no solo por su novedad técnica, sino también por su valor empresarial, la aceptación de los usuarios y su impacto ético.

Para los diseñadores, esto implica un cambio: pasar de centrarse únicamente en los deseos de los consumidores a adoptar el diseño de servicios y la cocreación de valor, donde la utilidad, los ingresos y la responsabilidad se tienen en cuenta desde el principio.

La respuesta de Zimmerman es refrescantemente directa: los diseñadores nunca han tenido realmente poder de decisión. Las decisiones estratégicas las toman los ejecutivos, que controlan los presupuestos y pueden dar luz verde o detener los proyectos. En lugar de perseguir la fantasía de «ser los dueños de la mesa», los diseñadores deberían centrarse en aumentar su influencia.

Esa influencia proviene de hablar el lenguaje de los negocios y la tecnología, es decir, ser capaz de hablar con credibilidad sobre el coste, el riesgo, el valor y la viabilidad. Si los diseñadores pueden dar forma a los criterios por los que se seleccionan los conceptos de IA, pueden tener un profundo impacto en los proyectos que se llevan a cabo, incluyendo la eliminación de aquellos que plantean problemas éticos. Puede que los diseñadores no estén al mando, pero pueden dirigir discretamente qué ideas sobreviven.

Zimmerman lo tiene claro: los diseñadores son y seguirán siendo esenciales, pero su superpoder fundamental está evolucionando. Si antes el diseño se centraba en imaginar nuevos objetos e interfaces, en la era de la IA la habilidad crucial pasa a ser el pensamiento sistémico y la facilitación.

Los diseñadores son los que pueden orquestar las conversaciones entre ingenieros, gestores de productos y expertos en la materia, garantizando que la ideación se produzca realmente y que explore el territorio adecuado. Se trata de una función social y relacional: los diseñadores aportan estructura al caos, mantienen la honestidad de los equipos durante el proceso creativo y defienden las ideas de calidad en un contexto que a menudo favorece la rapidez frente a la reflexión. Es poco probable que la IA sustituya ese tipo de facilitación.

Zimmerman sugiere una relación más compleja. La IA tiene un conocimiento amplio pero superficial de las actividades humanas; los diseñadores, a través de la investigación, desarrollan una comprensión profunda de contextos específicos. La oportunidad consiste en utilizar la IA para absorber rápidamente grandes cantidades de conocimiento genérico y obvio, de modo que los diseñadores puedan dedicar su limitado tiempo de investigación a explorar las áreas sutiles y matizadas en las que el diseño tiene mayor impacto.

Él compara esto con el cambio de la edición de vídeo analógica a la digital. Herramientas como Avid no solo hicieron que la edición fuera más eficiente, sino que la hicieron más creativa, al liberar tiempo y energía para la experimentación. Del mismo modo, una vez que superemos la complicada fase actual, la IA puede actuar como un apoyo que permita a los diseñadores ser más exploradores, no menos.

Zimmerman define el «material» en términos generales de diseño. Los materiales no son solo madera, metal o plástico, sino que también pueden ser música o cine, medios con comportamientos, limitaciones y posibilidades expresivas característicos. La madera se expande, se contrae, se quema; es perfecta para algunas aplicaciones y deficiente para otras.

La IA, dice, es similar. El material son los datos y las inferencias que se extraen de ellos. Los algoritmos y los modelos son las herramientas que dan forma a este material, como las sierras y los cinceles. El arte consiste en desarrollar una comprensión profunda de lo que pueden hacer ciertos tipos de datos, dónde son fuertes y dónde son frágiles. Los ingenieros de IA son como artesanos altamente cualificados que trabajan cerca de la materia prima. Los diseñadores, a su vez, ensamblan los componentes y construyen narrativas de uso. Para los estudiantes, el reto consiste en encontrar su lugar en este ecosistema y pensar en términos de capacidades y limitaciones, no de magia.

La IA está evolucionando a un ritmo «inhumano», con decenas de miles de artículos de investigación que aparecen cada año. Cada vez que un ámbito se hacía ampliamente accesible, el diseño pasaba a un nuevo nivel de complejidad e integración.

Lo único realmente constante, afirma, es que el trabajo de los diseñadores seguirá cambiando. Para aquellos que disfrutan del aprendizaje continuo y la reinvención, se trata de una perspectiva emocionante. Para aquellos que buscan una rutina estable, similar a la de un oficio, puede resultar un reto. La IA seguirá revolucionando las herramientas y los flujos de trabajo, pero la cuestión fundamental es si los diseñadores podrán seguir siendo flexibles y abiertos, trabajando con destreza en el presente en lugar de aferrarse a visiones fijas del futuro.