Les machines doivent-elles suivre une éthique ? Doit-on tenter de leur inculquer une certaine forme de conscience ? Autant de questions que se posent les scientifiques qui travaillent sur des projets tels que la voiture autonome, là où l’intelligence artificielle prend la main sur les activités humaines.
Depuis l’émergence des véhicules autonomes (sans conducteurs), les ingénieurs font face à des défis, qui dépassent les questions purement techniques :
Dans une situation d’urgence, où des vies sont en jeu, quel serait le comportement à adopter ? Quels critères devraient influencer la prise de décision ? Entre usagers, constructeurs, piétons, comment définir les limites de leurs responsabilités ?
Par exemple, la voiture perd le contrôle. Elle a donc le choix entre percuter un mur, tuant ainsi les personnes présentes dans la voiture, ou continuer sur sa trajectoire, tuant ainsi des piétons. Elle sera alors dans l’obligation d’effectuer un choix sur des critères qui la dépasse : Faut-il sacrifier le moins de personnes possibles ? Faut-il sauver les plus jeunes ? La machine doit-elle favoriser les hommes, les femmes ? Une personne handicapée vaut-elle autant qu’une personne en bonne santé ?
Toutes ces questions, bien qu’instaurant un certain malaise lorsqu’elles sont posées, sont nécessaires au bon développement de ce type d’innovations.
Et c’est dans ce contexte qu’est née « The Moral-Machine ». Ce projet, développé par une équipe de chercheur du MIT MediaLab, a pour objectif de récupérer un grand nombre de données, via une sorte de « jeu », dans lequel vous serez amené à faire ce genre de choix. Les données recueillis alimenteront une grande étude sur le comportement humain, sa moralité, ses valeurs. En effet, contrairement à l’Homme, la machine ne prend en compte dans ses calculs que des faits rationnels et logiques.
Participez à la recherche : http://moralmachine.mit.edu/
Pour porter plus loin les enjeux de cette question on peut citer l’auteur de science-fiction Isaac Asimov. Etant l’un des premiers à évoquer la robotique, il définit 3 lois pour empêcher l’Homme d’abuser des robots, et inversement. Ces lois sont tellement importantes qu’elles ont d’ailleurs été, en 2007, à l’origine d’une charte robot-éthique en Corée du Sud.
- Un robot ne peut porter atteinte à un être humain, ni en restant passif, permettre qu’un humain soit en danger.
- Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi
- Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.
Ces lois, censées régir une relation saine entre l’Homme et la machine, s’érigent alors en obstacle au développement de la voiture autonome.
On notera d’ailleurs que la question se pose également dans le monde des affaires : en effet, il est peu probable que les consommateurs fassent l’achat d’un véhicule qui pourrait prendre la décision de les sacrifier au nom d’une éthique définie, tenant simplement dans quelques lignes de code.
En conclusion, un grand nombre de questions sont encore à résoudre. Les comités d’éthique ainsi que les scientifiques, ou encore le pouvoir législatif ont encore beaucoup à faire, même si, déjà aujourd’hui, ce genre d’innovations se trouvent devant nos portes, et tendent à se démocratiser bien plus rapidement que nous le pensions possible il y a encore quelques années.
Thomas
Les sources :
http://www.futura-sciences.com/tech/dossiers/robotique-trois-lois-robotique-1836/page/2/
