L’UX d’un produit d’intelligence artificielle ne se conçoit pas comme celle d'un produit classique. Simran Singh, Senior Product Designer spécialisée en Data et IA, a découvert à ses dépens les pièges propres à ces projets en développant un chatbot conversationnel pour une marque de retail. Elle partage ici les 5 erreurs qu’elle ne refera plus et ses conseils pour les éviter.
En commençant à travailler sur le Design d’un produit d’intelligence artificielle, je pensais pouvoir appliquer les mêmes méthodes et principes UX que pour tous mes autres projets. Après tout, ils avaient fait leurs preuves ! Mais très vite, je comprends que concevoir un produit d’IA n’est pas un projet comme les autres. Cela implique des difficultés uniques, qui demandent de repenser nos façons de faire, notre méthodologie et même adopter un autre état d’esprit.
#Erreur n°1 : Partir de suppositions sur les données et les modèles sans validation
Habituellement en Product Design, quand on manque de temps pour mener des recherches approfondies, quelques suppositions bien senties peuvent faire l’affaire. Mais attention ! En Design IA, les hypothèses peuvent coûter très cher, surtout quand elles concernent la qualité des données, les capacités du modèle ou la faisabilité technique.
En travaillant sur le chatbot, nous nous sommes bercés d’illusions en partant du principe qu’on avait bien telles données quelque part et que si ChatGPT pouvait y arriver, notre modèle le pourrait aussi. Spoiler alert : ça ne marche pas comme ça ! Résultat des courses, des designs repris à zéro et des ajustements de dernière minute, qui nous ont coûté du temps et de l’argent.
Mon astuce : Posez-vous les bonnes questions sur vos données et votre modèle.
- De quelles données avons-nous besoin pour ce cas d’usage ?
- Où sont-elles stockées ? À quelle fréquence sont-elles mises à jour ? De manière automatisée ou manuelle ?
- À quels systèmes ces données sont-elles reliées (ex. : CRM, bases de données) ?
Dès le début, collaborez étroitement avec vos développeurs et vos Data Scientists. Testez vos hypothèses ensemble pour vérifier ce qui est réellement faisable. Cela vous permettra de vous assurer que vos idées tiennent la route et de planifier le tout plus efficacement.
#Erreur n°2 : Négliger la conformité juridique
Les produits d’IA utilisent souvent des données sensibles, et cela implique de respecter des lois strictes sur la confidentialité (comme le RGPD ou le CCPA), mais aussi des principes d’équité et de transparence. Négliger ces aspects dès le départ peut entraîner des refontes coûteuses voire même des soucis judiciaires.
Par exemple, on a passé beaucoup de temps à peaufiner les cas d’usage, à travailler l’expérience utilisateur et à entraîner le modèle. Mais on a passé encore plus de temps avant de nous poser la question fatidique : sommes-nous vraiment en règle ? Résultat : un Time-to-Market retardé, et des modifications de dernière minute pour se mettre aux normes.
Mon astuce : Dès le début, faites de la conformité juridique une priorité. Travaillez avec des experts dès la phase de discovery pour identifier les risques et vous assurer que tout est en ordre. Vous pouvez aussi utiliser des solutions SaaS comme Giskard ou Naaia, qui aident à rester aux normes tout au long du développement.
#Erreur n°3 : Ignorer "l'explicabilité" de l'IA et négliger la compréhension des utilisateurs
Peu importe si votre modèle d’IA est ultra performant : si vos utilisateurs ne peuvent pas comprendre comment il fonctionne, il ne vaut rien. “L’explicabilité” - la capacité à expliquer comment et pourquoi l’IA prend certaines décisions - est un vrai défi en termes d’UX.
Dans notre cas, le manque d’explicabilité a causé pas mal de confusion. Les utilisateurs ne comprenaient pas vraiment ce que l’IA pouvait ou ne pouvait pas faire. Résultat : ils ont fini par se méfier du chatbot et à l’abandonner, malgré une interface simple et intuitive.
Mon astuce : Réfléchissez aux éléments UX.
- Comment l'IA s'intègre-t-elle à l'interface globale ? Comment les utilisateurs interagissent-ils avec elle ?
- Comment les utilisateurs découvrent-ils les fonctionnalités ?
- Quel est le niveau d’explicabilité nécessaire pour gagner leur confiance ?
- Comment leur donner le bon niveau de contrôle ?
Revenez aux principes UX de base, comme le guidage ou la gestion des erreurs, mais adaptez-les aux particularités des produits d’IA.
Erreur n° 4 : Penser que les tests d'utilisabilité classiques suffiraient
D’habitude, on a tendance à privilégier les tests d’utilisabilité sur un prototype statique. C’est ce que j’ai fait aussi pour le chatbot, avec à la clé un rapport listant les points à améliorer. Petit problème : au moment des tests, il était déjà trop tard pour changer quoi que ce soit d’important.
Et ça n’a pas manqué ! Les tests ont révélé des problèmes d’accessibilité. Les utilisateurs étaient perdus et ont commencé à se méfier de ce chatbot vague voire trompeur, car sujet aux fameuses « hallucinations » de l’IA. Ces écueils, dus à un manque de données, auraient pu être identifiés beaucoup plus tôt.
Au-delà de ça, tester une intelligence artificielle avec un prototype statique ne fonctionne tout simplement pas. En termes d’IA, se concentrer sur l’interface est insuffisant : après tout, ce sont les résultats qui comptent aux yeux des utilisateurs.
Mon astuce : Optez pour la méthode RITE (Rapid Iterative Testing and Evaluation). Testez par petits groupes (3 ou 4 participants à la fois) et affinez entre chaque session pour perfectionner votre modèle et votre prototype. Commencez ces tests le plus tôt possible pour identifier rapidement les problèmes, puis faites un dernier test d’utilisabilité quantitatif pour obtenir des retours sur l’ensemble.
Mon petit conseil bonus ? Impliquez vos Data Scientists et vos Développeurs dans ces tests pour que les difficultés techniques soient résolues en temps réel.
Erreur n° 5 : Sous-estimer l'évolutivité du produit dès la conception
Nous voulions sortir un MVP le plus vite possible. Après tout, nous avions un cas d’usage clairement identifié. Ce qui faisait défaut, en revanche, c’était une véritable prise en compte de l’évolutivité du produit. Plusieurs questions avaient été négligées : Comment ce système va-t-il évoluer ? Comment s’articulera-t-il avec les autres interfaces ?
Sans vision claire, la mise à l’échelle du chabot s’est avérée plus ardue et plus onéreuse que prévu.
Mon astuce : Avant de lancer votre MVP, prenez le temps de définir une vision claire pour votre produit d’IA. Pendant la phase de discovery, prenez le temps de vous poser quelques questions :
- A quel point le produit sera dépendant de l’IA ?
- Comment l’IA va-t-elle s’intégrer aux interfaces, mais aussi aux parcours actuels (et futurs) ?
- Quelles étapes faudra-t-il pour l’appliquer à d’autres cas d’usage ou fonctionnalités ?
En trouvant les réponses à ces questions dès le départ, vous choisirez les bons modèles et structures pour vos données, économisant ainsi du temps et de l’argent en cas de future migration.
L’IA change la donne quand il s’agit de Design. Cela nécessite des compétences techniques, une collaboration étroite avec les Développeurs et Data Scientists, et considérer les défis d’UX, comme la transparence ou l’adoption, avec un œil nouveau. Sans avoir la prétention de traiter ces questions en profondeur à travers mes apprentissages, une chose est sûre : l’IA transforme le Design et nous, Product Designers, devons évoluer de concert.
