Le design éthique, vous connaissez?

Une dépendance intrusive

Les jeux comme Pokémon Go, Minecraft tout comme Facebook avec son News Feeds ou autres applications de ce type alimentent des émotions vives et sont passés maîtres dans l’art de la gratification instantanée et de la dépendance.  À la lumière de ce nouveau phénomène, la nécessité d’entamer une réflexion sur l’impact du numérique dans nos vies me semble très à propos. Voici un texte à saveur philosophique portant sur ces nouveaux mouvements que sont les designs éthiques et de l’attention.

Depuis 2016, vue la réalité et l’impact grandissant des technologies sur nos vies, le mouvement du design éthique semble prendre de l’expansion dans la sphère créative. Cette tendance souhaite donner du sens à l’innovation en humanisant les technologies. Cela se faisant au profit de la société et de ses habitants plutôt que dans l’intérêt des entreprises qui cherchent à garder l’utilisateur captif. Il s’agit de développer une mouvance  conception numérique durable inscrite dans une démarche plus éthique, une économie d’attention. On responsabilise les entreprises numériques afin d’éviter l’exploitation des vulnérabilités psychologiques (ex. : les biais cognitifs et les interactions sociales sont de puissants moteurs d’activation des comportements).

Les vulnérabilités psychologiques

Qu’est-ce que cela signifie en termes concrets? L’humain est bombardé du flux incessant de sollicitations que nous envoie le numérique. Les ingénieurs en informatique apprennent à pénétrer la psyché des gens et à rendre les produits plus attrayants et efficaces en captant et en accrochant les utilisateurs pour stimuler leurs comportements.

• Comment faire en sorte que ces connaissances et applications développées servent un dessein plus éthique?
• Comment faire respecter les valeurs sociales et remettre les connexions humaines au centre de l’attention?

Connecter les gens entre eux

Bon nombre de spécialistes se sont questionnés sur les approches pour y arriver. Bien que la déconnexion soit une option, elle n’est pas réaliste à long terme et ne règlerait pas le problème.  Certains, comme Tristan Harris, pensent que la réponse à la dépendance est de connecter les gens entre eux. Cela afin que les technologies nous aident à combler ces besoins humains fondamentaux au lieu de prendre leur place.  Pour ce faire, il faut qu’elles changent. Ce ne sera pas quantitatif, comme par exemple avoir moins de notifications. Tous ces écrans seraient radicalement différents, ils serviraient à créer, selon leur design initial, du lien social.

Cela implique que les designers pensent différemment. Ne pas simplement tenter de trouver les meilleurs moyens de garder l’utilisateur le plus longtemps possible sur leur plateforme, mais bien de les aider à connecter entre eux.  Par exemple, LinkedIn pourrait chercher par diverses approches à connecter les travailleurs et chercheurs d’emplois. Il pourrait former la main d’oeuvre en vue d’atteindre ce but. D’autres applications, par exemple lors d’une séance de yoga le matin, pourraient nous inciter à l’effectuer avec nos ami(e)s pour partager ce moment.

Il est donc apparu essentiel, suite aux impacts négatifs du numérique,  de requalifier les domaines de design en se questionnant sur des problèmes moraux. Il importe de prendre en compte ces nouvelles formes de design et leur impact sur nos sociétés. Tentons de clarifier les deux notions importantes de ce billet. Notons que le design de l’attention a été créé en partie à la suite de l’essor du mouvement du design éthique.

Qu’est-ce que la notion de design de l’attention?

Tristan Harris, ancien ingénieur informatique chez Google, a été l’un des instigateurs de ce mouvement en mettant en évidence une nouvelle problématique. «La technologie pirate l’esprit des gens, ce qui crée une société prise en otage par cette technologie qui nous manipule pour nous faire perdre le plus de temps possible dans leurs interfaces et ainsi monétiser notre attention». [1]

Nommé « design de l’attention » (Humane technology) son but ultime est de faire en sorte que les technologies nous redonnent du pouvoir au lieu de nous transformer en boulimiques avides de notifications et de flux d’infos. On pourrait ainsi réaligner la technologie avec les meilleurs intérêts de la société et ainsi réduire les problèmes de santé (anxiété, stress, trouble de l’attention, etc.) et de relations sociales auxquelles les jeunes et futures générations feront faces.

Des technologies qui seraient à notre service?

Voici la solution que préconise le Centre pour une technologie plus humaine (Center for Humane Technology).

Il faut commencer par comprendre les mécanismes humains et les vulnérabilités de ce dernier et faire preuve d’une approche compatissante pour designer le numérique dans le but de protéger l’utilisateur.

• Sommes-nous sujets au stress, à la surcharge ou à l’indignation?
• Sommes-nous sujets aux persuasions ciblées? (ex. : un message utilisant notre personnalité et nos traits à notre détriment ou dans un but intéressé)
• Sommes-nous sujets à céder à la tentation d’être disponible 24/7 pour les autres?

Le but étant de parvenir à mettre en place des standards, des politiques ou des modèles d’affaires dans lesquels le design s’alignerait à la manière dont désir réellement vivre l’humain plutôt que de lui suggérer des recettes toutes faites qui ne sont pas nécessairement bonnes pour sa santé.

Qu’est-ce que le design éthique?

Le design éthique s’adresse en premier lieu à ceux qui conçoivent le service soit généralement les designers et leurs équipes. Ce qui est central à cette approche est la question du respect de l’intégrité cognitive des utilisateurs des technologies.

Il pourrait se définir comme un design favorisant de bons comportements, encré dans des valeurs morales ou légales à définir.

L’approche du design éthique se définit par trois éléments essentiels:

• Ne pas se limiter au domaine du numérique, même si c’est celui qui induit probablement les changements les plus radicaux dans nos sociétés et nous touche davantage.
• Considérer l’impact de nos propres valeurs sur ce que l’on conçoit et ne pas prendre pour acquis que ce qui est éthique chez soi l’est dans une autre culture. Les valeurs et la culture tant du designer que de la société dont il fait partie l’influencent et sont donc des éléments clés.
• Envisager la conception dans son ensemble et non pas uniquement à travers un seul prisme.

Ainsi, le design éthique cherche à trouver un équilibre fragile entre sensibilisation des créateurs, des décideurs et des utilisateurs.

Au final, il est indispensable de distinguer l’éthique des designers dans leur pratique du  métier, ce que l’on peut qualifier de “Ethics for Design”, de l’éthique portée par les designers et leurs conceptions, c’est-à-dire “Ethics by Design”. [2]

Quelques questions que soulève le design éthique?

• Comment aider les utilisateurs à reprendre la main et le contrôle de leur temps?
• Comment développer des outils qui permettent aux utilisateurs d’atteindre leurs propres objectifs plutôt que ceux des concepteurs ?
• Comment encourager des modèles d’affaires qui reposent sur une captation bienveillante de l’attention des utilisateurs ?
• Comment sortir des flux d’incitations et de récompenses qui favorisent les comportements compulsifs et dépendants ?
• Peut-on promouvoir un design responsable, durable, qui ne cherche pas à exploiter nos vulnérabilités et nous redonne de la liberté ?[3]

Comment différencier le design éthique du design de l’attention?

Ce sont deux mouvements qui mettent de l’avant la prise de conscience sociale des utilisateurs pour concevoir un monde numérique respectueux.

Contrairement au design de l’attention qui ne concerne que les problèmes de design d’une application, le design éthique vise à considérer l’ensemble et non seulement une partie des problèmes de la conception numérique (comme incluant plusieurs aspects comme le design de l’attention, la transparence algorithmique ou l’accès aux données personnelles, etc).

En conclusion

Je suis pour ma part d’avis que nous sommes rendus à un point où il devient essentiel de se poser des questions.  Comment faire en sorte que les outils, applications numériques et technologiques en essor (Intelligence artificielle, big data, robots, etc.) soient au service des connexions humaines? Comment éviter la manipulation de la psychologie humaine dans un but commercial et lucratif, générant un sentiment de nécessité, d’urgence et de dépendance plutôt malsain?

C’est une réflexion qui arrive à point nommé puisque nous n’en sommes encore qu’aux premiers balbutiements des nouvelles technologies. À cogiter…

Notes de bas de page

[1] https://humanetech.com/problem#the-way-forward

[2] https://medium.com/designers-%C3%A9thiques/designers-%C3%A9thiques-pour-une-prise-en-compte-globale-des-impacts-du-design-bcab25811d5d

[3] https://medium.com/designers-%C3%A9thiques/ethics-by-design-2834390d32b1