La UX de un producto de inteligencia artificial no se diseña como la de un producto "tradicional". Simran Singh, Senior Product Designer especializada en Data e IA, aprendió por las malas cuáles son los desafíos específicos de estos proyectos al desarrollar un chatbot conversacional para una marca de retail. Aquí nos comparte los 5 errores que no volverá a cometer y sus consejos para evitarlos.
Como Product Designer, abordé el diseño de un producto de IA de la misma manera que había abordado otros innumerables proyectos. Pensé que podía aplicar los mismos métodos y principios UX. ¡Después de todo, habían demostrado su eficacia! Sin embargo, pronto comprendí que no se trataba de un proyecto más. Implica dificultades únicas que exigen un cambio de mentalidad, metodología y proceso.
Error #1: Hacer suposiciones sobre los datos y las capacidades del modelo sin validación
Cuando no hay tiempo para una investigación exhaustiva, a menudo se pueden hacer suposiciones fundamentadas para avanzar. Sin embargo en diseño IA, estas hipótesis pueden generar graves contratiempos, especialmente cuando se trata de la calidad de los datos, las capacidades del modelo o la viabilidad tecnológica.
Al diseñar el chatbot, nos basamos en la falsa hipótesis de “tenemos muchísimos datos y, además, podemos conseguir más cuando queramos. Si ChatGPT puede hacerlo, !nosotros también podremos!”. Spoiler: no funciona así. Esto llevó a rehacer el diseño y ajustar el alcance más adelante en el proceso, lo que nos costó tiempo y recursos.
Mi consejo: Pregúntate desde el principio qué datos y qué modelos serán los adecuados. Por ejemplo:
- ¿Qué datos son necesarios para este caso de uso?
- ¿Dónde están almacenados? ¿Con qué frecuencia se actualizan? ¿Las actualizaciones son manuales o automáticas?
- ¿A qué sistemas están conectados estos datos (por ejemplo, CRM)?
Colabora estrechamente con Desarrolladores y Data Scientists desde el principio. Testad juntos vuestras hipótesis para evaluar la viabilidad. Así sabrás si dichas hipótesis son realistas y podrás planificar mejor el roadmap del producto.
Error #2: Dejar los aspectos legales para el último momento
Los productos de IA suelen manejar datos sensibles, lo que hace que las consideraciones legales en torno a la privacidad (por ejemplo, RGPD, CCPA), equidad y transparencia sean innegociables. Descuidarlas en una etapa temprana puede dar lugar a costosos rediseños o incluso a problemas legales.
Por ejemplo, dedicamos mucho tiempo a perfeccionar los casos de uso, trabajar la experiencia de usuario y entrenar el modelo antes de hacernos la pregunta crítica: ¿Estamos cumpliendo con la normativa? ¿El resultado? Un time-to-market retrasado y cambios de última hora para cumplir con las regulaciones.
Mi consejo: Haz del cumplimiento de la normativa una prioridad desde el primer día. Involucra a expertos durante la fase de discovery para identificar riesgos y asegurarte de que todo esté alineado con la normativa. También existen soluciones SaaS, como Giskard y Naaia, que pueden ayudar a monitorear el cumplimiento normativo durante todo el proceso de desarrollo.
Error #3: Ignorar la explicabilidad de la IA y pasar por alto la comprensión del usuario
Incluso el modelo de IA más preciso es inútil si los usuarios no pueden acceder a él o comprenderlo. La explicabilidad—es decir, garantizar que los usuarios entiendan cómo y por qué la IA hace ciertas recomendaciones—es un desafío clave de UX.
En nuestro caso, la falta de explicabilidad generó confusión sobre lo que la IA podía y no podía hacer. Aunque la interfaz era simple e intuitiva, los usuarios tenían dificultades para entender las decisiones del chatbot, lo que les llevó a desconfiar y finalmente abandonarlo.
Mi consejo: Hazte estas preguntas sobre la experiencia de usuario.
- ¿Cómo se integra la IA en la interfaz general? ¿Y cómo interactúa el usuario con ella
- ¿Cómo descubren los usuarios la funcionalidad?
- ¿Qué nivel de explicabilidad es necesario para generar confianza?
- ¿Cómo podemos proporcionar el nivel adecuado de control al usuario?
Revisa los principios básicos de UX, como la orientación y el feedback, adaptándolos a los desafíos específicos del diseño de IA.
Error #4: Pensar que las pruebas de usabilidad eran suficientes
En productos tradicionales, las pruebas de usabilidad suelen implicar un prototipo estático y arrojan un informe con aprendizajes clave y recomendaciones. Así que hice lo mismo con el chatbot. Pero cuando realizamos las pruebas, ya era demasiado tarde para hacer mejoras significativas.
Las pruebas revelaron grandes desafíos en la accesibilidad de la solución de IA. Los usuarios experimentaron confusión y desconfianza debido a la vaguedad del asistente conversacional y a su tendencia a proporcionar respuestas incorrectas (alucinaciones) en preguntas sensibles, todo causado por una falta de datos adecuada. Estos problemas podrían haberse detectado mucho antes.
Además, en productos de IA, los prototipos estáticos no son suficientes. Los usuarios necesitan experimentar la funcionalidad real para proporcionar feedback valioso. En las pruebas de IA, lo que realmente les importa son los resultados, por lo que centrarse solo en la interfaz no es suficiente.
Mi consejo: Usa la metodología RITE testing (Rapid Iterative Testing and Evaluation). Realiza la prueba con grupos reducidos (3-4 participantes por ronda) e itera entre las rondas para refinar el prototipo y el modelo. Lo ideal es comenzar a testar con RITE lo antes posible para abordar los desafíos para detectar antes los problemas, y seguir con una prueba cuantitativa final de usabilidad para obtener información más amplia.
Consejo extra: Involucra a los Data Scientists y desarrolladores en estas pruebas para abordar los desafíos técnicos en tiempo real.
Error #5: Subestimar la escalabilidad del producto desde el principio
Queríamos construir un MVP de forma rápida. Después de todo, teníamos un caso de uso claro. Sin embargo, lo que no teníamos era una visión de escalabilidad. Pasamos por alto preguntas cruciales como: ¿Cómo crecerá este sistema? ¿Cómo interactuará con las interfaces existentes? ¿Qué cambios serán necesarios a medida que el producto evolucione?
Esta falta de previsión hizo que escalar el chatbot fuera más complejo y costoso de lo necesario.
Mi consejo: Desarrolla una visión para el producto de IA antes de construir tu MVP. Durante la fase de discovery, responde tres preguntas clave (entre otras):
- ¿En qué medida dependerá el sistema de la IA?
- ¿Cómo se integrará la IA con las interfaces y los recorridos de usuario actuales y futuros?
- ¿Qué pasos serán necesarios para escalar a otros productos, casos de uso o funciones?
Responder estas preguntas con anticipación te ayudará a elegir el modelo y la estructura de datos adecuados, reduciendo costos de migración en el futuro.
Diseñar para la IA en un juego completamente nuevo. Requiere conocimientos técnicos, una estrecha colaboración con desarrolladores y data scientists, y un enfoque renovado de UX en aspectos como la transparencia y la adopción. Aunque estas enseñanzas solo rozan la superficie, una cosa está clara: la IA está cambiando nuestra forma de diseñar y nosotros, como Product Designers, debemos evolucionar con ella.
