Photo © Karel Duerinckx

Plus la technologie s’inscrit dans notre vie, plus nous devrions nous poser des questions sur son impact sur notre autonomie, notre vie privée et notre quotidien. Dr Katleen Gabriels, professeure adjointe à l’Université de Maastricht et philosophe morale spécialisée en éthique informatique, est l’auteure de l’ouvrage Onlife, hoe de digitale wereld je leven bepaalt (« Onlife, comment le monde numérique définit notre vie »).

La convivialité, l’efficacité et le divertissement ne doivent pas nous faire fermer les yeux sur les mauvais côtés de la technologie. Nous sommes tous conscients que nos données sont stockées en masse, et qu’Amazon (Alexa), Apple (Siri) et Google réécoutent nos conversations privées, comme l’a démontré l’enquête révélatrice de la VRT sur Google Assistant. Bien que les entreprises concernées affirment que cela leur permet d’améliorer leurs algorithmes et leur prestation de services, le fait est que ces données sont enregistrées.

Retenir l’attention
Gabriels : « Le modèle économique de plateformes gratuites telles que Facebook, Twitter, etc. s’est déplacé vers le divertissement dès la conception (distraction by design). Leur but ultime est de retenir notre attention le plus longtemps possible. Nous devons les interpeller à ce sujet, parce qu’elles font des choix qui ont des conséquences problématiques sur le plan éthique. Les développeurs ont aussi une responsabilité personnelle, mais ils ne tiennent pas suffisamment compte des conséquences de leurs actes. C’est pourquoi il faudrait leur offrir des outils au cours de leur formation et établir un code de conduite obligatoire. Les développeurs de smartphones, par exemple, se sont rendu compte qu’ils ne s’étaient pas posé de questions à l’époque. Ils ont conçu ce téléphone intelligent pour eux-mêmes lorsqu’ils avaient la vingtaine, sans penser qu’ils auraient un jour une famille avec des enfants qui l’utiliseraient aussi. Entre-temps, ils plaident en faveur d’un serment d’Hippocrate pour les ingénieurs et les concepteurs, analogue à celui des médecins. »

Pensée critique
Gabriels : « Je m’inquiète que nous ne puissions plus nous déconnecter en raison de notre dépendance vis-à-vis des géants américains de la technologie et d’Internet. En d’autres termes, nous sommes constamment traqués, car nous portons toujours notre smartphone sur nous et nos données sont stockées via des plateformes en ligne, des cartes de fidélité, l’IdO, la domotique, etc. Le problème est que ce suivi est invisible. Supposons que des hommes vêtus en noir et portant des lunettes de soleil teintées nous suivent en permanence : cela nous effraierait et nous fermerions nos rideaux. Et pourtant, pour mes étudiants, WhatsApp est un canal de communication si important que la publicité ne les dérange pas. Seule une étudiante turque a noté que dans son pays, on s’attire des ennuis en publiant certaines choses. D’où l’importance capitale d’enseigner la pensée critique aux jeunes, car cette hyperconnexion nous fait divulguer de nombreuses informations personnelles. Les décisions doivent pouvoir être prises en toute liberté et de façon anonyme. »

Ni bien ni mal
« Que penser, par exemple, de cette forme de soins à domicile où une startup hollandaise suit, sur base de l’IA, à l’aide d’une caméra, des personnes nécessitant des soins à domicile ? Ce système est vendu comme un outil permettant de faire des économies de soins et de coûts, mais qui veut être filmé en permanence pour des raisons de sécurité et de soins ? Si la caméra comme moyen d’éviter aux personnes âgées d’aller en maison de repos peut être un argument, il convient de prendre en compte tous les aspects : l’efficacité ne suffit pas, car le bien-être et la qualité de vie sont tout aussi importants. En tant que société, il faut en débattre. »

Les données et notre santé
« Le problème de la collecte de données se pose également dans le secteur de la santé. La question est de savoir ce qu’il advient de toutes ces données. Si l’application est gratuite, vous savez que vos données seront revendues ; surtout avec des applications américaines, vous pouvez en être sûrs. Malgré la réglementation RGPD, les entreprises repoussent souvent les limites de la législation et le grand public ne trouve pas toujours le chemin vers l’information. » Gabriels estime que même l’initiative gouvernementale Vitalink, qui permet aux prestataires de soins de partager facilement et en toute sécurité les données numériques de leurs patients, devrait obligatoirement fournir des informations plus claires au citoyen sur ce à quoi il donne son consentement. Laisser le médecin s’en charger ou remettre un dépliant au patient ne suffit pas. Gabriels : « Non, car que font les gens dans la pratique ? Ils demandent ce que font les autres et ils suivent sans se renseigner. Cela peut paraître ridicule, mais l’on pourrait intégrer un scénario dans une série populaire comme ‘Plus belle la vie’ pour sensibiliser avec empathie et créativité les téléspectateurs aux questions de la protection de la vie privée et amorcer ainsi le débat social. »

L’éthique et l’enseignement
« Le problème est aussi que l’enseignement n’est pas à la page ; les compétences numériques ne font partie du programme que depuis cette année. Pas étonnant que nous soyons à la traîne ! Il faut également adapter la formation des pharmaciens et des médecins afin de les préparer à leur future profession, dans laquelle ils seront confrontés aux données et aux nouvelles technologies telles que l’IA, la chirurgie robotique, etc. L’éthique devrait être une branche obligatoire dans toutes les orientations. »

Peu connu
« La prise de conscience s’améliore, malheureusement aussi à cause des scandales. Le problème est qu’on ne touche pas le public qu’il faudrait atteindre, malgré un certain nombre d’initiatives. » Une belle initiative est l’ASBL Action Médias Jeunes, qui a pour mission de susciter une attitude réflexive et critique des jeunes face aux médias, aussi bien de masse que ceux développés autour d’Internet et du numérique (réseaux sociaux, applications mobiles, jeux vidéo…), sans oublier les objets connectés, la robotique, la réalité augmentée… Le site mhealthbelgium.be, lancé par Maggie De Block, qui permet de vérifier la fiabilité d’une application santé, est encore trop peu connu. Tout comme celui de l’Institut belge de santé Sciensano.be, une alternative fiable à Docteur Google, permettant de procéder à des choix éclairés pour une meilleure santé. La Région bruxelloise veut par ailleurs créer un centre de référence en intelligence artificielle.

International
Il y a du changement dans l’air, malgré une certaine lenteur. Le gouvernement hollandais vient de lancer un projet de 20 millions d’euros sur l’éthique et l’IA. Gabriels : « Par ailleurs, le RGDP est bien évidemment le fruit d’une coopération internationale et en début d’année, le groupe d’experts européens sur l’IA a publié des lignes directrices en matière d’éthique. Les choses évoluent donc lentement, mais sûrement. »

Entre-temps, nous attendons avec impatience le prochain livre de Gabriels, Regels voor robots. Ethiek in tijden van artificiële intelligentie (« Des règles pour les robots. L’éthique à l’ère de l’intelligence artificielle »), à paraître cet automne, uniquement en néerlandais.