Machine Morale : dilemmes moraux pour les machines intelligentes

Initiative intéressante. Le MIT propose avec le site http://moralmachine.mit.edu/hl/fr de juger des cas moraux devant lesquels des machines intelligentes (principalement des voitures autonomes) pourraient être confrontées. En dernier recours, faut-il foncer dans un mur et tuer les occupants de la voiture ou dévier la trajectoire et écraser un piéton ?

Le site propose des scénarios que vous devez juger. Vous avez toujours deux choix possibles, avec l’explication détaillée des différents déroulements. D’un clic, on choisit de faire vivre l’enfant plutôt que le chat qui traverse, ou la mamie à la place d’un voleur. Et si le feu des piéton est rouge mais qu’ils traverse ? Ca laisse place à la réflexion.

Vous verrez treize cas et ensuite le site vous demandera de compléter vos choix par des curseurs. Par exemple, doit on plutôt laisser vivre un humain ou un animal.

Vous pouvez également créer vos propres scénarios et ils seront ainsi proposés en test aux prochains internautes. Au final, on ne sait pas si ces tests en ligne serviront un jour pour modifier les algorithmes des voitures autonomes mais ça a le mérite de poser des questions d’ordre éthique sur les choix parfois difficiles.

Ca rappelle forcément les trois lois de la robotique qu’avait écrit Isaac Asimov il y a plus de 70 ans (en 1942). Pour rappel ces lois étaient :

  1. un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger
  2. un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi
  3. un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi

Remplacez le robot par la voiture fonctionnant avec une IA et nous y sommes. Si ça semble évident, les cas à venir montreront certainement qu’il n’est pas toujours facile d’appliquer ces lois. En attendant, à vous de juger et de définir si oui ou non un humain doit vivre … ou mourir.

 

Vous avez aimé ? Partagez 🙂

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *