Attention au cercle vicieux des biais boomerang.
L’IA se base sur des données et algorithmes influencés par nos propres biais cognitifs ce qui renforce nos propres biais au fur et à mesure que nous l’utilisons…
… et ainsi de suite.
Un peu comme sur LinkedIn : plus je réagis à un certain type de posts, plus l’algorithme me donne à voir du contenu du même tonneau et plus cela a une influence sur mon point de vue… Et plus je pense que j’ai raison de penser ce que je pense d’autant plus que LinkedIn me permet de le confirmer.
Un vrai cercle vicieux qui nous enferme dans une vision réductrice du monde.
Pour sortir de ce cercle vicieux, les prescripteurs et concepteurs de solutions IA peuvent en premier lieu veiller à :
☑️ se baser sur des données plus riches provenant de sources plus diversifiées
☑️ mettre au point des algorithmes conçus pour tirer parti de cette richesse.
Encore faut-il qu’ils soient disposé et mandatés pour adresser le problème !
La Solution
Mettre en place des comités pluridisciplinaires entre ceux qui peuvent avoir de l’entendement sur la représentativité des données, ceux qui peuvent évaluer la pertinence des modèles, les utilisateurs, les garants de la confidentialité et de l’éthique, etc…. Reste à déterminer les sujets à traiter, comment cadrer, conduire les débats et en exploiter les conclusions.
Les résultats
✅ Des acteurs clefs impliqués sur les questions de représentativité des données et modèles
✅ Des espaces de travail structurés que l’on peut mobiliser sur de nombreux autres sujets IA
✅ Des IA qui reflètent mieux la complexité de notre monde.
Une fois le dialogue établi, des rencontres régulières et structurées entre ces acteurs favoriseraient l’évolution continue des modèles et des data en :
✔️ Ajustant en fonction du contexte business, politique, environnemental ou social
✔️ Prenant en compte les avancées technologiques.
Conclusion
Bien avoir en tête ce phénomène de biais et le cercle vicieux qu’il engendre.
La vague de sensibilisation actuelle à l’IA dans les organisations gagnerait à mettre particulièrement l’accent sur ce phénomène.
Des espaces de travail rassemblant les différentes parties-prenantes permettrait de prendre les bonnes options pour limiter ces effets et permettre de disposer d’une IA riche et reflétant davantage la diversité du monde physique.