Les enjeux éthiques de la conduite automatisée et connectée : rapport de la commission d'éthique et recommandations

Le rapport de la commission d’éthique sur la conduite automatisée et connectée rendu en juin a été présenté cette semaine par le Ministre fédéral des transports et des infrastructures digitales Alexander Dobrindt. Présidée par le docteur Udo di Fabio, un ancien juge de la Cour Constitutionnelle allemande et maintenant professeur à l’Université de Bonn, elle regroupe des experts de différentes disciplines allant de la philosophie, du droit, des sciences sociales à l’évaluation de l’impact des technologies, de l’industrie automobile et du développement de logiciels. Son objectif est de « développer les orientations éthiques nécessaires à la conduite automatisée et connectée ».

La commission prend acte des développements technologiques en matière automobile. « L’automatisation partielle est déjà un standard » en la matière. Bientôt, les véhicules autonomes seront une réalité. Or, cette évolution s’accompagne d’une amélioration de la sécurité au point qu’on « ne peut pas exclure qu'à la fin de ce développement, il y aura des véhicules motorisés qui seront intrinsèquement sûrs, c’est-à-dire qu’ils ne seront jamais impliqués dans un accident ». Toutefois, la Commission nuance en affirmant qu’il « ne sera pas possible d’empêcher complètement les accidents (…) étant donné les réalités du trafic routier hétérogène et non connecté ». Cela reste insuffisant pour rejeter, par principe, les voitures autonomes. Leurs avantages « en termes de mobilité accrue, de sécurité améliorée et de gains de temps dépassent prima vista les risques inhérents à ces systèmes ».

Cette perspective doit pousser les gouvernements à réfléchir sur ces sujets. C’est le rôle de la commission que d’éclairer le pouvoir allemand sur les enjeux éthiques de la conduite autonome. À ce titre, elle a émis vingt recommandations, ce qui serait une première mondiale en la matière. 

La problématique du moindre mal

Le panel d’experts se penche notamment sur les « situations de dilemme ». Concrètement, vous conduisez à bord de votre voiture autonome qui détecte plusieurs enfants jouant sur la route. Quel doit être votre comportement ? Éviter les enfants au risque de vous tuer ou leur rentrer dedans pour préserver votre vie ? C’est le dilemme du tramway qui conduit à avoir le choix entre deux maux. « Facile », me direz-vous. « Des deux maux, je choisis le moindre ». Sauf qu’il est difficile d’envisager à l’avance tous les scénarios possibles dans leur complexité. Or, c’est justement ce que l’on demande aux ingénieurs et aux programmeurs de voitures autonomes.
Pour les aider, la commission émet une recommandation basée sur des principes généraux. Le droit à la vie s’impose sur toutes autres considérations, particulièrement la propriété si celle-ci est susceptible d’être endommagée. Il convient de préciser qu’il s’agit du droit à la vie des êtres humains qui prend le dessus sur celui des animaux. Mais en tant qu’êtres sensibles, leur protection doit prévaloir sur celle de la propriété.

En cas de dommages susceptibles d’affecter deux personnes ou deux groupes de personnes, la commission est moins catégorique. En cas d’urgence, le véhicule ne doit pas choisir l’un plutôt que l’autre. Il n’y a pas de « sacrifice » ou de « compensation » à faire car cela conduirait les informaticiens à introduire des critères discriminatoires dans leurs programmes.

À ce titre, l’individu doit être considéré comme « sacro-saint ». On remarquera que cela n’est pas d’une grande aide pour les programmeurs. D’ailleurs, la commission n’a pas de solution au cas où plusieurs vies sont menacées de façon imminente. « La seule chose qui importe est de sauver autant de personnes innocentes que possibles » se contente-t-elle d’affirmer. Cela relève-t-il de la simple arithmétique ? L’emploi de l’adjectif « innocent » signifie-t-il que la vie du ou des « coupable(s) » (cela pourrait être le groupe d’enfants qui n’a rien à faire sur une route) ne doit pas être privilégiée ? Les experts bottent en touche en attendant que des études détaillées soient conduites. Toutefois, ils ajoutent plus loin une précision indiquant que « ceux impliqués dans des risques de mobilité ne doivent pas sacrifier ceux qui ne le sont pas ».

Sécurité vs liberté

Le rapport s’attarde également sur les contraintes posées par les voitures autonomes sur la liberté d’action du conducteur. À une époque pas si lointaine, la voiture était considérée comme un signe d’indépendance (l’objet du passage à l’âge adulte) si ce n’est comme un symbole de liberté : c’est Barry Newman fonçant à toute allure pour échapper à la police dans Point Limite Zéro, Steve McQueen s’offrant une course poursuite mémorable en Ford Mustang dans Bullitt ou encore l’épopée sanglante de Bonnie & Clyde. Pas sûr que cette image romantique perdure avec les voitures autonomes.

Si la commission vante leurs bénéfices en terme de sécurité, elles doivent néanmoins s’accorder avec le principe de liberté. « Il n’y a pas de règle éthique qui place [la première] avant [la seconde »], assène-t-elle sans ambiguïté. De même, le conducteur est libre de recourir ou pas aux possibilités offertes par les procédures automatisées. Celles-ci peuvent l’assister en lui conseillant de ne pas prendre le volant s’il est fatigué mais il conserve la prérogative finale de décider.

Big data, sécurité et vie privée

Par ailleurs, la panel s’intéresse au problème des masses de données (big data). Ce sont celles relatives aux conducteurs (vitesse moyenne, durée de la conduite, état de fatigue…), celle des autres et de leurs véhicules mais également celles relatives au temps, à la route… Principe général : l’utilisateur a pleine souveraineté sur ses données personnelles qu’il décide de protéger ou de divulguer comme bon lui semble. Néanmoins, il n’est pas sûr que ce pouvoir puisse s’exercer aussi facilement en pratique en raison de la complexité de ces systèmes.

C’est pourquoi l’État doit intervenir en amont en assurant une protection. Cela peut passer par l’octroi de certifications relatives aux fonctions de conduite automatisées. En outre, la recherche en matière de technique d’anonymisation doit faire l’objet d’investissements. Des procédures et des solutions techniques doivent permettre aux utilisateurs d’être informés de l’état et de l’utilisation de ces bases de données. Il faut s’assurer que toutes les parties prenantes consentent à leur utilisation ce qui nécessite une approche juridique.

Une responsabilité éparpillée

Enfin, se pose l’épineux problème de la responsabilité. L’autonomie invite à repenser la voiture en terme de système. Il n’y a plus un engin piloté par un conducteur mais un système faisant intervenir plusieurs acteurs : le véhicule, la route (équipée de capteurs sources d’information), tous les éléments de l’infrastructure de communication… Il en résulte un partage de responsabilité qu’il convient de déterminer en cas d’accident. Si les fabricants sont responsables de la sûreté fonctionnelle des systèmes, les opérateurs de télécommunications peuvent être pointés du doigt en cas de défaillance dans la transmission des données. À cet égard, on peut envisager la création d’un catalogue mis à jour de scénarios sur la base des erreurs recensées. L’idée serait que le véhicule puisse se référer à ce document et désactiver les fonctions de conduite automatisées au cas où la situation corresponde à un scénario déjà vue. L’engin pourrait aussi se mettre continuellement à jour pour éviter les risques d’erreurs, à l’instar de n’importe quel système informatique.
En définitive, il convient de saluer le travail de cette communication d’éthique qui expose avec clarté les difficultés posées par les véhicules autonomes et pose parfois plus de questions qu’il n’apporte de réponse. Un rapport qu’il convient d’inverser au plus vite car le progrès technologique, lui, n’attend pas.