Digi, nano, bio, neuro - ou pourquoi les technologies convergentes devraient nous préoccuper
Dirk Helbing s'attend à ce que les technologies numériques pénètrent de plus en plus profondément dans le corps humain à l'avenir. Il estime toutefois que la société est mal armée pour faire face aux risques. Pour protéger nos données les plus intimes contre les abus, il propose un nouveau cadre juridique.
- Lire à haute voix
- Nombre de commentaires
Dans mes recherches, je m'intéresse aux conséquences de la digitalisation pour l'homme, la société et la démocratie. Dans ce contexte, il faut également garder à l'esprit la convergence dans les sciences informatiques et les sciences de la vie - c'est-à-dire ce qui devient possible lorsque les technologies numériques convergent de plus en plus avec les biotechnologies, les neurotechnologies et les nanotechnologies.
Les technologies convergentes sont considérées comme le terreau d'innovations profondes. Mais elles font de plus en plus dispara?tre les frontières entre les mondes physique, biologique et numérique. Les réglementations traditionnelles spécifiques aux disciplines deviennent alors inefficaces.
Dans un commun page externe?tude mon co-auteur Marcello Ienca et moi-même avons récemment étudié les risques et les défis sociétaux de la convergence technologique - et conclu que les conséquences pour les individus et la société sont radicales.
Il nous tient à c?ur d'attirer l'attention sur ces défis et risques des technologies convergentes et d'expliquer pourquoi nous estimons qu'il est nécessaire d'accompagner les développements technologiques d'une réglementation forte au niveau international.
Nous pouvons bien observer depuis quelques années, avec la digitalisation, quelles sont les conséquences si l'on laisse le changement technologique aux forces du marché sans contr?le.
Fausses informations et manipulation sur le web
En 2015, il y a presque 10 ans, le Manifeste numérique a été publié.1 L'un d'entre nous, ainsi que huit autres experts européens, avaient alors mis en garde contre le scoring, c'est-à-dire l'évaluation des personnes, et contre le big nudging.2,Une forme subtile de manipulation numérique. Cette dernière repose sur des profils de personnalité établis à l'aide de cookies et d'autres données de surveillance. Peu de temps après, le scandale Cambridge Analytica a montré au monde comment la société d'analyse de données tentait d'influencer le vote lors d'élections démocratiques par le biais d'annonces personnalisées (micro-targeting).
Entre-temps, les démocraties du monde entier sont sous pression. La propagande, les fausses nouvelles et les discours de haine polarisent et sèment le doute, tandis que la vie privée s'étiole. Nous nous trouvons dans une sorte de guerre de l'information pour nos têtes, dans laquelle les entreprises publicitaires, les groupes technologiques, les services secrets et les militaires se disputent l'influence sur notre pensée et notre comportement. Pendant ce temps, l'AI Act de l'Union européenne, qui vient d'être adopté, tente de ma?triser les dangers évoqués précédemment.
Mais les technologies numériques évoluent rapidement et de nouvelles possibilités de manipulation se dessinent déjà. En effet, lorsque les technologies numériques et nanotechnologiques convergent avec les biotechnologies et neurotechnologies modernes, des applications révolutionnaires, à peine imaginables auparavant, deviennent possibles.
Des microrobots pour la médecine de précision
Par exemple dans la médecine personnalisée : la miniaturisation progressive de l'électronique permet de plus en plus d'exploiter les organismes vivants et les êtres humains avec des capteurs et une puissance de calcul en réseau. Le WEF a déjà proclamé l'"Internet des corps" en 2020.3, 4
Les pilules numériques, qui combinent les médicaments traditionnels avec une fonction de surveillance, en sont un exemple. Celles-ci pourraient contr?ler la médication et enregistrer les données physiologiques des patient(e)s (voir ces Article de blog).
Les spécialistes s'attendent à ce que la technologie des capteurs atteigne t?t ou tard l'échelle nanométrique. Des nanoparticules magnétiques ou des composants nanoélectroniques d'un diamètre allant jusqu'à 100 nanomètres permettraient de transporter des substances actives, d'interagir avec des cellules et de collecter de grandes quantités de données sur les fonctions corporelles. On pourrait ainsi détecter les maladies à un stade précoce et les traiter de manière personnalisée, espère-t-on. On parle aussi souvent de médecine de précision (High Precision Medicine).
Des nano-électrodes enregistrent les fonctions cérébrales
Des électrodes miniaturisées capables de mesurer et de manipuler simultanément l'activité de milliers de neurones, ainsi que des outils d'IA toujours plus performants pour l'analyse des signaux cérébraux sont deux approches qui conduisent actuellement à des avancées très discutées dans le domaine de l'interface cerveau-ordinateur. Gr?ce à la nano-neurotechnologie, l'idée est que le smartphone et d'autres applications d'IA pourraient peut-être bient?t être commandés directement par la pensée.
"Bien avant que la médecine de précision et la neurotechnologie ne fonctionnent de manière fiable, ces technologies seront déjà utilisables contre les humains."Dirk Helbling
Les grands projets de cartographie du cerveau humain devraient également en profiter.5 A l'avenir, le Brain Activity Mapping pourrait en principe lire nos pensées et nos sentiments, mais aussi les influencer de l'extérieur - ce dernier point étant probablement nettement plus efficace que les méthodes de manipulation utilisées jusqu'ici, comme le Big Nudging.
Les électrodes classiques ne sont toutefois pas adaptées à une connexion durable entre les cellules et l'électronique - il faut pour cela des interfaces durables et biocompatibles. Une proposition consiste donc à transmettre des signaux par optogénétique, c'est-à-dire à utiliser des impulsions lumineuses pour commander des gènes dans des cellules spéciales.6 Des circuits étonnants pourraient ainsi être mis en ?uvre (voir Actualités ETH "Contr?ler les gènes par la pensée").
Le revers de la médaille de la convergence
Il faut bien l'admettre : Les applications citées peuvent para?tre futuristes. Pour l'instant, il s'agit surtout de visions ou de premiers stades de développement. Mais les recherches se poursuivent à un rythme soutenu dans le monde entier. Les milieux militaires sont également intéressés par l'utilisation de technologies convergentes à leurs fins.7, 8
Le revers de la médaille de la convergence, ce sont des risques considérables, par exemple que des acteurs étatiques ou privés accèdent à des données hautement sensibles et les utilisent de manière abusive pour surveiller et influencer les gens. Plus nos corps sont connectés, plus nous sommes vulnérables à la cybercriminalité et au piratage. En outre, il n'est pas exclu que des applications militaires existent déjà.7 Une chose est cependant certaine : bien avant que la médecine de précision et la neurotechnologie ne fonctionnent de manière fiable, ces technologies seront déjà utilisables contre des êtres humains.
"Il faut une véritable autodétermination informationnelle - il faudrait que nous reprenions le contr?le de nos données personnelles."Dirk Helbling
Le problème : les cadres réglementaires spécialisés actuels ne suffisent pas à contenir la convergence technologique. Comment pouvons-nous garder le contr?le de notre vie s'il est de plus en plus possible d'influencer nos pensées, nos sentiments et nos décisions par des moyens numériques ?
La convergence nécessite un contr?le convergent
Dans notre récent document, nous concluons que les technologies convergentes nécessitent une réglementation internationale tout aussi convergente. Nous esquissons un nouveau cadre juridique mondial et proposons dix principes de gouvernance pour combler le vide réglementaire qui menace.9
Notre cadre souligne la nécessité de mesures de protection pour préserver les fonctions corporelles et mentales de toute intervention non autorisée et pour garantir l'intégrité personnelle et la vie privée, par exemple par le biais de droits neurologiques.
Afin de réduire les risques et de prévenir les abus, les futures réglementations devraient être inclusives, transparentes et dignes de confiance. Le principe de la gouvernance participative, qui implique tous les groupes pertinents et garantit que les préoccupations des minorités concernées sont également prises en compte dans les processus de décision, est central.
Enfin, il faut une véritable autodétermination informationnelle - il faudrait que nous reprenions le contr?le de nos données personnelles. Cela vaut également pour les jumeaux numériques de notre corps et de notre personnalité. Car elles permettent de pirater notre santé et notre pensée - pour le meilleur et pour le pire.10
Avec notre contribution, nous souhaitons lancer un débat public sur les technologies convergentes. En effet, malgré leur grande pertinence, nous estimons que ce sujet est trop peu abordé. Un discours continu sur les avantages, les risques et les règles judicieuses peut aider à orienter la convergence technologique de manière à ce qu'elle serve les gens et ne leur nuise pas.
Dirk Helbing a rédigé cette contribution en collaboration avecpage externeMarcello Ienca, qui a travaillé à l'ETH Zurich et à l'EPFL et qui est désormais professeur assistant d'éthique de l'IA et des neurosciences à l'Université technique de Munich.
1 Manifeste numérique : page externeDémocratie numérique plut?t que dictature des données (2015) Spectre de la science
2 page externeVous êtes la cible ! (2024) Mois suisse
3 page externeL'Internet des corps est là : Tackling new challenges of technology governance (Relever les nouveaux défis de la gouvernance technologique) (2020) Forum économique mondial
4 page externeTracking how our bodies work could change our lives (2020) Forum économique mondial
5 page externeNanotools pour la neuroscience et la cartographie de l'activité cérébrale (2013) ACS Nano
6 page externePotentiel d'innovation de l'interaction homme-machine (2016) Académie allemande des sciences techniques
7 page externeHuman Augmentation - The Dawn of a New Paradigm. Un projet aux implications stratégiques (2021) UK Ministry of Defence
8 page externeLe changement de comportement au c?ur de la guerre (2017) Militaire Spectator
9 Helbing D, Ienca M : page externePourquoi les technologies convergentes nécessitent une réglementation internationale convergente (2024) Ethique et technologie de l'information
10 page externeWho is Messing with Your Digital Twin ? Body, Mind, and Soul for Sale ? Dirk Helbing TEDx Talk (2023)