IA, diseño e imaginación crítica: Nadia Piet en Domus Academy

Piet comenzó reflexionando sobre la idea de los «imaginarios de la IA»: las imágenes, metáforas e historias colectivas a través de las cuales la sociedad entiende la inteligencia artificial.

Según Piet, muchos de estos imaginarios están moldeados por las grandes empresas tecnológicas, cuya influencia va más allá de la infraestructura, el capital y el talento técnico. Como señaló durante la charla: «El monopolio más poderoso de Silicon Valley podría ser la forma en que percibimos la tecnología».

Esto es importante porque la forma en que se representa la IA afecta a cómo se adopta, regula, diseña y se confía en ella. Cuando se describe la IA como inevitable, mágica, objetiva o todopoderosa, las personas pueden sentir que tienen poca capacidad de influencia a la hora de darle forma.

Uno de los patrones clave que abordó Piet fue el predominio de los discursos de las grandes empresas tecnológicas. Cuestionó la idea de que el desarrollo de la IA sea un proceso neutral o inevitable, y animó al público a preguntarse quién se beneficia de estas narrativas y qué perspectivas quedan excluidas.

A través de AIxDesign, Piet y sus colaboradores trabajan para «romper el hechizo» de las narrativas dominantes sobre la IA creando espacios para conversaciones más plurales, realistas y críticas. Su enfoque combina investigación, diseño, trabajo comunitario, talleres, publicaciones y programación cultural.

Piet presentó «Better Images of AI», un proyecto desarrollado en colaboración con la organización del mismo nombre. El proyecto responde al lenguaje visual repetitivo y engañoso que se suele emplear para representar la IA: cerebros azules, robots humanoides, código luminoso y redes digitales abstractas.

Estas imágenes, explicó Piet, hacen que la IA parezca estéril, misteriosa y ajena al mundo real. Por el contrario, el proyecto propone imágenes alternativas que revelan el trabajo humano, los recursos naturales, las infraestructuras y los sistemas sociales que hay detrás de la IA.

Las imágenes de centros de datos, extracción de minerales, trabajo por clic, infraestructura en la nube y fatiga de la IA ayudan a visibilizar lo que a menudo permanece oculto. Nos recuerdan que la IA no es magia: se construye a través de procesos materiales, ambientales y humanos.

Otro proyecto que se abordó durante la charla fue «Feminist UX of AI», que analiza cómo el diseño de interfaces y de interacción influye en el comportamiento de los usuarios.

Piet argumentó que los sistemas algorítmicos no solo actúan a través de procesos invisibles en el back-end. Sus interfaces también determinan lo que los usuarios ven, eligen, comprenden y aceptan. Esto significa que el diseño de la interfaz de usuario (UI) y la experiencia de usuario (UX) pueden convertirse en potentes vías de intervención.

Al replantear plataformas conocidas como Uber, Netflix y Spotify a través de principios feministas de interacción persona-ordenador, el proyecto explora valores como la participación, la inclusión, la transparencia y la rendición de cuentas.

Para Piet, el diseño especulativo desempeña un papel importante a la hora de sacar a la luz supuestos ocultos. A menudo, la gente acepta una plataforma o herramienta «tal y como es» hasta que se encuentra con otra versión posible.

Como ella misma explicó: «A veces no sabes que hay un supuesto o crees que algo es simplemente así. Y entonces, hasta que no lo ves de otra manera, no te das cuenta de que hay otras posibilidades».

Al mostrar alternativas, los diseñadores pueden ayudar a la gente a reconocer que los sistemas actuales no son inamovibles. Son elecciones de diseño y, por lo tanto, pueden rediseñarse.

Piet también presentó la «Slow AI», una línea de investigación que cuestiona la idea de que la inteligencia artificial deba ser siempre más grande, más rápida y más universal.

En lugar de aceptar la lógica dominante de la escala y la optimización, la «Slow AI» se pregunta qué pasaría si la IA fuera más pequeña, más lenta, más contextualizada y más conectada con comunidades y contextos específicos.

Este enfoque plantea cuestiones relacionadas con el impacto ecológico, la gobernanza, las infraestructuras y el cuidado. Además, cuestiona la creencia de que el progreso deba significar siempre una aceleración.

En el marco de la investigación sobre la «Slow AI», Piet exploró la relación entre la IA y la magia. Señaló que las grandes empresas tecnológicas suelen recurrir a un lenguaje mágico para hacer que la IA parezca misteriosa o ajena a la responsabilidad humana.

Al mismo tiempo, invitó al público a fijarse en prácticas predictivas más antiguas, como los rituales y las formas de interpretación colectiva, como formas de pensar de manera diferente sobre la incertidumbre.

En lugar de presentar los resultados de la IA como respuestas definitivas, Piet sugirió que las tecnologías podrían diseñarse para poner de relieve la incertidumbre y animar a los usuarios a convertirse en creadores activos de sentido.

Una parte importante de la charla se centró en la alfabetización en IA. Piet argumentó que saber cómo utilizar las herramientas de IA es importante, pero que solo constituye una dimensión de la alfabetización.

La formulación de indicaciones, la ingeniería de contexto y la creación asistida por IA son habilidades útiles, pero no deben confundirse con una comprensión completa de la IA. Para Piet, la verdadera alfabetización en IA también debe incluir una conciencia técnica, cultural, política y práctica.

Esto implica preguntarse: ¿Qué es la IA? ¿Cómo se crea? ¿Quién toma las decisiones en el proceso? ¿Qué valores están implícitos en ella? ¿Qué alternativas podrían construir las comunidades por sí mismas?

Piet recordó a la audiencia que la IA no es una única tecnología. Se trata de un término genérico que engloba muchos sistemas y capacidades diferentes, desde los grandes modelos de lenguaje hasta la detección de objetos y la visión artificial.

Es fundamental comprender esta distinción. Ayuda a desmitificar la IA y facilita el reconocimiento tanto de sus posibilidades como de sus límites.

Los grandes modelos lingüísticos, por ejemplo, pueden parecer conversacionales, pero funcionan mediante predicciones estadísticas. No entienden el mundo de la misma manera que los humanos. Reconocer esto puede ayudar a los usuarios a mantener una actitud crítica, especialmente cuando se enfrentan a alucinaciones, a una confianza excesiva o a un apego emocional hacia los sistemas de IA.

Piet también reflexionó sobre cómo las herramientas de IA afectan a los procesos creativos y cognitivos. La cuestión no es solo si la IA puede producir algo por nosotros, sino cómo cambia nuestra forma de pensar cuando la utilizamos.

Planteó su preocupación por la «externalización cognitiva»: la posibilidad de que los usuarios cedan gradualmente parte de su pensamiento, su toma de decisiones o su desarrollo creativo a los sistemas de IA.

Al mismo tiempo, Piet no planteó esto como un simple rechazo a la IA. En su lugar, propuso una adopción consciente: utilizar las herramientas sin dejar de prestar atención a la autonomía personal, la atención, el aprendizaje y la soberanía creativa.

Otro aspecto de la alfabetización en IA consiste en reconocerla como una historia. Piet describió la IA como una narrativa moldeada por las empresas, los inversores, los medios de comunicación y las expectativas culturales.

El lenguaje de la inevitabilidad, la disrupción, la salvación o la fatalidad puede hacer que la IA parezca más grande que la vida misma. Pero estas historias no son neutrales. A menudo sirven a intereses económicos y políticos.

Para comprender plenamente la IA, argumentó Piet, debemos mirar más allá de la herramienta en sí y examinar el ecosistema más amplio: datos, mano de obra, infraestructura, materiales, impacto ambiental, gobernanza y los valores integrados en todo el proceso.

La última dimensión de la alfabetización en IA que planteó Piet se centró en la posibilidad de crear alternativas. En lugar de limitarse a aceptar las herramientas que ofrecen las grandes plataformas, las comunidades pueden experimentar con modelos locales, sistemas de código abierto, conjuntos de datos personalizados e infraestructuras independientes.

Compartió ejemplos de proyectos de IA a pequeña escala y contextualizados, desde modelos gestionados a nivel local hasta experimentos artísticos con visión artificial subjetiva y modelos lingüísticos alimentados con energía solar.

Estos proyectos demuestran que la IA no tiene por qué ser universal, extractiva o centralizada. También puede ser local, reflexiva, experimental y moldeada por las necesidades de comunidades específicas.

En la parte final de la charla, Piet abordó la polarización del discurso sobre la IA. Con demasiada frecuencia, los debates sobre la IA caen en dos posiciones opuestas: el entusiasmo o el rechazo.

La postura entusiasta celebra la IA como algo apasionante e inevitable. La postura de rechazo la descarta por considerarla perjudicial y explotadora. Piet reconoció la validez de las preocupaciones de ambas partes, pero advirtió de que ambas posturas pueden volverse pasivas si se limitan a reaccionar ante lo que ya está sucediendo.

En su lugar, animó al público a quedarse con la complejidad de ese «desordenado punto intermedio». Como ella misma dijo: «No elijan un bando, aunque sea extraño, como estar en ese punto intermedio, es difícil».

Es ahí donde las personas pueden plantear mejores preguntas, tomar decisiones informadas y participar en la construcción de un futuro más responsable.

Para la comunidad de Domus Academy, la charla de Piet supuso una importante reflexión sobre el papel de los diseñadores en la actualidad.

Los diseñadores no son solo usuarios de herramientas de IA. También son intérpretes, críticos, narradores, creadores de sistemas y agentes culturales. Pueden cuestionar las narrativas dominantes, revelar infraestructuras ocultas, diseñar interacciones más transparentes e imaginar alternativas.

En este sentido, romper con los patrones establecidos significa negarse a aceptar la IA como algo ya decidido. Significa reconocer que la tecnología está moldeada por las personas —y que más personas deberían participar en su configuración.

Piet concluyó con un llamamiento a la imaginación y la responsabilidad colectivas. Nadie sabe exactamente hacia dónde se dirige la IA, pero su futuro no debe dejarse en manos de un pequeño grupo de empresas o personas poderosas.

Citando a Paul Eluard, recordó al público que «otros mundos son posibles, pero están en este».

A través de AIxDesign y de su práctica investigadora más amplia, Piet aboga por la construcción colectiva de sentido, la alfabetización crítica y la experimentación creativa. Su mensaje fue claro: la tarea no consiste solo en desmantelar los sistemas nocivos, sino también en imaginar y crear los mundos sin los que no podemos vivir.

En Domus Academy, la charla «Disrupting Patterns» se convirtió en una invitación a replantearse la IA más allá de la automatización y la eficiencia, y a abordarla, en cambio, como un campo de posibilidades culturales, éticas y creativas.