Photo © Karel Duerinckx
Plus la technologie s’inscrit dans notre vie, plus nous devrions nous poser des questions sur son impact sur notre autonomie, notre vie privée et notre quotidien. Dr Katleen Gabriels, professeure adjointe à l’Université de Maastricht et philosophe morale spécialisée en éthique informatique, est l’auteure de l’ouvrage Onlife, hoe de digitale wereld je leven bepaalt (« Onlife, comment le monde numérique définit notre vie »).
La convivialité, l’efficacité et le divertissement ne doivent pas nous faire fermer les yeux sur les mauvais côtés de la technologie. Nous sommes tous conscients que nos données sont stockées en masse, et qu’Amazon (Alexa), Apple (Siri) et Google réécoutent nos conversations privées, comme l’a démontré l’enquête révélatrice de la VRT sur Google Assistant. Bien que les entreprises concernées affirment que cela leur permet d’améliorer leurs algorithmes et leur prestation de services, le fait est que ces données sont enregistrées.
Retenir l’attention
Gabriels : « Le
modèle économique de plateformes gratuites telles que Facebook, Twitter, etc.
s’est déplacé vers le divertissement dès la conception (distraction
by design). Leur but ultime est de retenir notre
attention le plus longtemps possible. Nous devons les interpeller à ce sujet, parce
qu’elles font des choix qui ont des conséquences problématiques sur le plan éthique.
Les développeurs ont aussi une responsabilité personnelle, mais ils ne tiennent
pas suffisamment compte des conséquences de leurs actes. C’est pourquoi il
faudrait leur offrir des outils au cours de leur formation et établir un code
de conduite obligatoire. Les développeurs de
smartphones, par exemple, se sont rendu compte qu’ils ne s’étaient pas posé de
questions à l’époque. Ils ont conçu ce téléphone intelligent pour eux-mêmes lorsqu’ils
avaient la vingtaine, sans penser qu’ils auraient un jour une famille avec des
enfants qui l’utiliseraient aussi. Entre-temps, ils plaident en faveur d’un
serment d’Hippocrate pour les ingénieurs et les concepteurs, analogue à celui
des médecins. »
Pensée critique
Gabriels : « Je
m’inquiète que nous ne puissions plus nous déconnecter en raison de notre
dépendance vis-à-vis des géants américains de la technologie et d’Internet. En
d’autres termes, nous sommes constamment traqués, car nous portons toujours
notre smartphone sur nous et nos données sont stockées via des plateformes en
ligne, des cartes de fidélité, l’IdO, la domotique, etc. Le problème est que ce
suivi est invisible. Supposons que des hommes vêtus en noir et portant des
lunettes de soleil teintées nous suivent en permanence : cela nous effraierait
et nous fermerions nos rideaux. Et pourtant, pour mes étudiants, WhatsApp est
un canal de communication si important que la publicité ne les dérange pas. Seule
une étudiante turque a noté que dans son pays, on s’attire des ennuis en publiant
certaines choses. D’où l’importance capitale d’enseigner la pensée critique aux
jeunes, car cette hyperconnexion nous fait divulguer de nombreuses informations
personnelles. Les décisions doivent pouvoir être prises en toute liberté et de
façon anonyme. »
Ni bien ni mal
« Que penser,
par exemple, de cette forme de soins à domicile où une startup hollandaise suit,
sur base de l’IA, à l’aide d’une caméra, des personnes nécessitant des soins à domicile ?
Ce système est vendu comme un outil permettant de faire des économies de soins
et de coûts, mais qui veut être filmé en permanence pour des raisons de
sécurité et de soins ? Si la caméra comme moyen d’éviter aux personnes
âgées d’aller en maison de repos peut être un argument, il convient de prendre
en compte tous les aspects : l’efficacité ne suffit pas, car le bien-être
et la qualité de vie sont tout aussi importants. En tant que société, il faut en
débattre. »
Les données et notre santé
« Le problème de
la collecte de données se pose également dans le secteur de la santé. La
question est de savoir ce qu’il advient de toutes ces données. Si l’application
est gratuite, vous savez que vos données seront revendues ; surtout avec des
applications américaines, vous pouvez en être sûrs. Malgré la réglementation
RGPD, les entreprises repoussent souvent les limites de la législation et le
grand public ne trouve pas toujours le chemin vers l’information. » Gabriels estime que même l’initiative gouvernementale Vitalink, qui permet
aux prestataires de soins de partager facilement et en toute sécurité les
données numériques de leurs patients, devrait obligatoirement fournir des
informations plus claires au citoyen sur ce à quoi il donne son consentement. Laisser
le médecin s’en charger ou remettre un dépliant au patient ne suffit pas.
Gabriels : « Non, car que font les gens dans la pratique ? Ils
demandent ce que font les autres et ils suivent sans se renseigner. Cela peut
paraître ridicule, mais l’on pourrait intégrer un scénario dans une série
populaire comme ‘Plus belle la vie’ pour sensibiliser avec empathie et
créativité les téléspectateurs aux questions de la protection de la vie privée
et amorcer ainsi le débat social. »
L’éthique et l’enseignement
« Le problème
est aussi que l’enseignement n’est pas à la page ; les compétences
numériques ne font partie du programme que depuis cette année. Pas étonnant que
nous soyons à la traîne ! Il faut également adapter la formation des
pharmaciens et des médecins afin de les préparer à leur future profession, dans
laquelle ils seront confrontés aux données et aux nouvelles technologies telles
que l’IA, la chirurgie robotique, etc. L’éthique devrait être une branche obligatoire
dans toutes les orientations. »
Peu connu
« La prise de conscience s’améliore, malheureusement aussi à cause des scandales. Le problème est qu’on ne touche pas le public qu’il faudrait atteindre, malgré un certain nombre d’initiatives. » Une belle initiative est l’ASBL Action Médias Jeunes, qui a pour mission de susciter une attitude réflexive et critique des jeunes face aux médias, aussi bien de masse que ceux développés autour d’Internet et du numérique (réseaux sociaux, applications mobiles, jeux vidéo…), sans oublier les objets connectés, la robotique, la réalité augmentée… Le site mhealthbelgium.be, lancé par Maggie De Block, qui permet de vérifier la fiabilité d’une application santé, est encore trop peu connu. Tout comme celui de l’Institut belge de santé Sciensano.be, une alternative fiable à Docteur Google, permettant de procéder à des choix éclairés pour une meilleure santé. La Région bruxelloise veut par ailleurs créer un centre de référence en intelligence artificielle.
International
Il y a du changement dans l’air, malgré une certaine lenteur. Le gouvernement hollandais vient de lancer un projet de 20 millions d’euros sur l’éthique et l’IA. Gabriels : « Par ailleurs, le RGDP est bien évidemment le fruit d’une coopération internationale et en début d’année, le groupe d’experts européens sur l’IA a publié des lignes directrices en matière d’éthique. Les choses évoluent donc lentement, mais sûrement. »
Entre-temps, nous attendons avec impatience le prochain livre de Gabriels, Regels voor robots. Ethiek in tijden van artificiële intelligentie (« Des règles pour les robots. L’éthique à l’ère de l’intelligence artificielle »), à paraître cet automne, uniquement en néerlandais.
Published by