Problème de chariot - Trolley problem
Le problème du chariot est une série d' expériences de pensée en éthique et en psychologie , impliquant des dilemmes éthiques stylisés de savoir s'il faut sacrifier une personne pour en sauver un plus grand nombre. La série commence généralement par un scénario dans lequel un tramway ou un tramway en fuite est sur le point d'entrer en collision et de tuer un certain nombre de personnes (traditionnellement cinq) sur la piste, mais un conducteur ou un passant peut intervenir et détourner le véhicule pour tuer une seule personne. sur une autre piste. Ensuite, d'autres variantes du véhicule en fuite et des dilemmes de vie ou de mort analogues (médicaux, juridiques, etc.) se posent, chacune contenant le choix de ne rien faire, auquel cas plusieurs personnes seront tuées, ou d'intervenir et d'en sacrifier une au départ. personne "sûre" pour les sauver.
Les opinions sur l'éthique de chaque scénario s'avèrent sensibles aux détails de l'histoire qui peuvent sembler sans importance pour le dilemme abstrait. La question de la formulation d'un principe général pouvant expliquer les différents jugements survenant dans différentes variantes de l'histoire a été soulevée dans un article de philosophie de 1967 par Philippa Foot , et surnommé « le problème du chariot » par Judith Jarvis Thomson dans un article de 1976 qui a catalysé un grande littérature. Ainsi, dans ce sujet, le problème du chariot fait référence au méta-problème de la raison pour laquelle différents jugements sont rendus dans des cas particuliers, appelés cas de chariot , exemples , dilemmes ou scénarios .
La version la plus basique du dilemme, connue sous le nom de « Bystander at the Switch » ou « Switch », est :
Il y a un chariot en fuite dévalant les voies ferrées . Devant, sur les voies, il y a cinq personnes ligotées et incapables de bouger. Le chariot se dirige droit sur eux. Vous vous trouvez à quelque distance dans la gare de triage, à côté d'un levier. Si vous tirez sur ce levier, le chariot passera à un autre ensemble de rails. Cependant, vous remarquez qu'il y a une personne sur la voie latérale. Vous avez deux (et seulement deux) options :
- Ne faites rien, auquel cas le chariot tuera les cinq personnes sur la voie principale.
- Tirez le levier, détournant le chariot sur le rail latéral où il tuera une personne.
Quelle est l'option la plus éthique ? Ou, plus simplement : quelle est la bonne chose à faire ?
Philippa Foot a introduit ce genre de problèmes de décision en 1967 dans le cadre d'une analyse des débats sur l'avortement et la doctrine du double effet . Les philosophes Judith Thomson , Frances Kamm et Peter Unger ont également analysé le dilemme en profondeur. L'article de 1976 de Thomson a lancé la littérature sur le problème du chariot comme un sujet à part entière. Les caractéristiques de cette littérature sont des scénarios alternatifs colorés et de plus en plus absurdes dans lesquels l'homme sacrifié est plutôt poussé sur les rails comme un poids pour arrêter le chariot, fait prélever ses organes pour sauver des patients transplantés, ou est tué de manière plus indirecte qui complique la chaîne. de causalité et de responsabilité.
Les formes antérieures de scénarios de chariots individuels étaient antérieures à la publication de Foot. Frank Chapman Sharp a inclus une version dans un questionnaire moral donné aux étudiants de premier cycle de l' Université du Wisconsin en 1905. Dans cette variante, l' aiguilleur du chemin de fer contrôlait l'aiguillage, et le seul individu à sacrifier (ou non) était l'enfant de l'aiguilleur. Le philosophe du droit allemand Karl Engisch a discuté d'un dilemme similaire dans sa thèse d'habilitation en 1930, tout comme le juriste allemand Hans Welzel dans un ouvrage de 1951. Dans son commentaire sur le Talmud , publié bien avant sa mort en 1953, Avrohom Yeshaya Karelitz considérait la question de savoir s'il est éthique de dévier un projectile d'une foule plus nombreuse vers une plus petite.
À partir de 2001, le problème du chariot et ses variantes ont été largement utilisés dans les recherches empiriques sur la psychologie morale . Cela a été un sujet de livres populaires. Des scénarios de type chariot surviennent également lors des discussions sur l'éthique de la conception de véhicules autonomes , ce qui peut nécessiter une programmation pour choisir qui ou quoi frapper lorsqu'une collision semble inévitable.
Dilemme originel
La version de Foot de l'expérience de pensée, maintenant connue sous le nom de « Trolley Driver », s'est déroulée comme suit :
Supposons qu'un juge ou un magistrat soit confronté à des émeutiers exigeant qu'un coupable soit trouvé pour un certain crime et menaçant autrement de prendre leur propre vengeance sanglante sur une partie particulière de la communauté. Le vrai coupable étant inconnu, le juge ne se considère capable d'empêcher l'effusion de sang qu'en piquant un innocent et en le faisant exécuter. A côté de cet exemple en est placé un autre dans lequel un pilote dont l'avion est sur le point de s'écraser décide s'il doit passer d'une zone plus à une zone moins habitée. Pour rapprocher le plus possible le parallèle, on peut plutôt supposer qu'il est le conducteur d'un tramway en fuite, qu'il ne peut diriger que d'une voie étroite sur une autre ; cinq hommes travaillent sur une piste et un homme sur l'autre ; toute personne sur la piste où il entre est vouée à être tuée. Dans le cas des émeutes, la foule a cinq otages, de sorte que dans les deux exemples, l'échange est censé être la vie d'un homme contre la vie de cinq.
Une vision utilitariste affirme qu'il est obligatoire de se diriger vers la piste avec un seul homme dessus. Selon l'utilitarisme classique, une telle décision serait non seulement admissible, mais, moralement parlant, la meilleure option (l'autre option étant aucune action du tout). Un autre point de vue est que puisque les torts moraux sont déjà en place dans la situation, le passage à une autre voie constitue une participation au tort moral, rendant une personne partiellement responsable de la mort alors que sinon personne ne serait responsable. Un opposant à l'action peut également souligner l' incommensurabilité des vies humaines. Selon certaines interprétations de l'obligation morale , le simple fait d'être présent dans cette situation et de pouvoir influencer son issue constitue une obligation de participer. Si tel est le cas, alors décider de ne rien faire serait considéré comme un acte immoral si l'on valorise cinq vies plus qu'une.
Recherche empirique
En 2001, Joshua Greene et ses collègues ont publié les résultats de la première enquête empirique significative sur les réponses des gens aux problèmes de chariot. En utilisant l'imagerie par résonance magnétique fonctionnelle , ils ont démontré que les dilemmes « personnels » (comme pousser un homme hors d'une passerelle) engagent préférentiellement les régions cérébrales associées à l'émotion, tandis que les dilemmes « impersonnels » (comme détourner le chariot en actionnant un interrupteur) engagent préférentiellement les régions associées à raisonnement contrôlé. Pour ces motifs, ils plaident en faveur d'un double processus de prise de décision morale . Depuis lors, de nombreuses autres études ont utilisé des problèmes de chariot pour étudier le jugement moral, en étudiant des sujets tels que le rôle et l'influence du stress, l'état émotionnel, la gestion des impressions, les niveaux d'anonymat, différents types de lésions cérébrales, l'excitation physiologique, différents neurotransmetteurs et facteurs génétiques. sur les réponses aux dilemmes des chariots.
Les problèmes de chariot ont été utilisés comme mesure de l'utilitarisme, mais leur utilité à de telles fins a été largement critiquée .
En 2017, un groupe dirigé par Michael Stevens a réalisé la première expérience réaliste de problème de chariot, où les sujets ont été placés seuls dans ce qu'ils pensaient être une gare de commutation de train, et ont montré des images qu'ils pensaient être réelles (mais étaient en fait préenregistrées) d'un train descendant une voie, avec cinq ouvriers sur la voie principale et un sur la voie secondaire ; les participants avaient la possibilité de tirer le levier pour détourner le train vers la voie secondaire. La plupart des participants n'ont pas tiré sur le levier.
Données de l'Enquête
Le problème du chariot a fait l'objet de nombreuses enquêtes dans lesquelles environ 90 % des personnes interrogées ont choisi de tuer le un et de sauver les cinq. Si la situation est modifiée où celui qui a sacrifié pour les cinq était un parent ou un partenaire romantique, les répondants sont beaucoup moins susceptibles d'être prêts à sacrifier la vie.
Une enquête réalisée en 2009 par David Bourget et David Chalmers montre que 69,9% des philosophes professionnels changeraient (sacrifieraient un individu pour sauver cinq vies) en cas de problème de tramway, 8% ne changeraient pas, et les 24% restants avaient un autre point de vue ou ne pouvait pas répondre.
Critique
Dans un article de 2014 publié dans le Social and Personality Psychology Compass , les chercheurs ont critiqué l'utilisation du problème du chariot, arguant, entre autres, que le scénario qu'il présente est trop extrême et sans lien avec des situations morales réelles pour être utile ou éducatif.
Brianna Rennix et Nathan J. Robinson de Current Affairs vont encore plus loin et affirment que l'expérience de pensée est non seulement inutile, mais aussi carrément préjudiciable à la psychologie humaine. Les auteurs sont d'avis que faire des calculs froids sur des situations hypothétiques dans lesquelles chaque alternative entraînera une ou plusieurs morts horribles revient à encourager un type de pensée dépourvu d'empathie humaine et assume le mandat de décider qui vit ou meurt. Ils remettent également en question la prémisse du scénario. "Si je suis forcé contre ma volonté dans une situation où des gens mourront et que je n'ai pas la capacité de l'arrêter, en quoi mon choix est-il un choix "moral" entre des options significativement différentes, par opposition à un spectacle d'horreur que je viens de voir poussée dans, dans laquelle je n'ai aucune agence significative du tout ?"
Dans son article de 2017 publié dans Science, Technology, and Human Values , Nassim JafariNaimi expose la nature réductrice du problème du chariot dans la formulation des problèmes éthiques qui servent à défendre une version appauvrie de l'utilitarisme. Elle soutient que l'argument populaire selon lequel le problème du tramway peut servir de modèle à la moralité algorithmique est basé sur des prémisses fondamentalement erronées qui servent les plus puissants avec des conséquences potentiellement désastreuses sur l'avenir des villes.
En 2017, dans son livre On Human Nature , Roger Scruton critique l'utilisation de dilemmes éthiques tels que le problème du chariot et leur utilisation par des philosophes tels que Derek Parfit et Peter Singer comme moyens d'illustrer leurs points de vue éthiques. Scruton écrit : « Ces « dilemmes » ont le caractère utile d'éliminer de la situation à peu près toutes les relations moralement pertinentes et de réduire le problème à un seul problème d'arithmétique. Scruton pense que ce n'est pas parce que quelqu'un choisirait de changer de voie pour que le train heurte une personne au lieu des cinq qu'il soit nécessairement conséquentialiste . Pour montrer les failles des réponses conséquentialistes aux problèmes éthiques, Scruton souligne des éléments paradoxaux de la croyance en l'utilitarisme et des croyances similaires. Il pense que l' expérience de pensée machine de Nozick réfute définitivement l' hédonisme . Dans son article de 2017 The Trolley Problem and the Dropping of Atomic Bombs, Masahiro Morioka considère le largage de bombes atomiques comme un exemple du problème du trolley et souligne qu'il y a cinq "problèmes du problème du trolley", à savoir, 1) la rareté, 2) l'inévitabilité, 3) la zone de sécurité, 4) la possibilité de devenir une victime, et 5) le manque de recul des victimes décédées qui ont été privées de liberté de choix.
Dans un article de 2018 publié dans Psychological Review , les chercheurs ont souligné que, en tant que mesures des décisions utilitaires, les dilemmes sacrificiels tels que le problème du chariot ne mesurent qu'une facette des tendances proto-utilitaires, à savoir les attitudes permissives envers le mal instrumental, tout en ignorant la préoccupation impartiale pour le plus grand bien. En tant que tel, les auteurs ont soutenu que le problème du chariot ne fournit qu'une mesure partielle de l'utilitarisme.
Problèmes connexes
Les problèmes de chariot mettent en évidence la différence entre les systèmes éthiques déontologiques et conséquentialistes . La question centrale que ces dilemmes mettent en lumière est de savoir s'il est juste ou non d'inhiber activement l' utilité d'un individu si cela produit une plus grande utilité pour d'autres individus.
La forme Switch de base du problème du chariot prend également en charge la comparaison avec d'autres dilemmes connexes :
Le gros homme
Comme auparavant, un chariot dévale une piste vers cinq personnes. Vous êtes sur un pont sous lequel il va passer, et vous pouvez l'arrêter en mettant quelque chose de très lourd devant lui. Il se trouve qu'il y a un homme très gros à côté de vous - votre seul moyen d'arrêter le chariot est de le pousser sur le pont et sur la piste, le tuant pour en sauver cinq. Faut-il continuer ?
La résistance à cette ligne de conduite semble forte ; lorsqu'on leur demande, une majorité de personnes approuvera le fait de tirer sur le commutateur pour sauver un filet de quatre vies, mais désapprouvera de pousser le gros homme à sauver un filet de quatre vies. Cela a conduit à des tentatives pour trouver une distinction morale pertinente entre les deux cas.
Une distinction possible pourrait être que dans le premier cas, on n'a pas l'intention de nuire à qui que ce soit - nuire à l'un n'est qu'un effet secondaire de l'éloignement du chariot des cinq. Cependant, dans le second cas, nuire à l'un fait partie intégrante du plan pour sauver les cinq. C'est un argument que Shelly Kagan considère (et finalement rejette) dans son premier livre Les limites de la moralité .
On peut prétendre que la différence entre les deux cas est que dans le second, le sujet a l'intention de la mort de quelqu'un pour sauver les cinq, et c'est faux, alors que, dans le premier, ils n'ont pas une telle intention. Cette solution est essentiellement une application de la doctrine du double effet , qui dit que l'on peut prendre des mesures qui ont de mauvais effets secondaires, mais que vouloir délibérément nuire (même pour de bonnes causes) est faux.
Implications pour les véhicules autonomes
Des variantes du dilemme original Trolley Driver se posent dans la conception de logiciels pour contrôler les voitures autonomes . Des situations sont prévues dans lesquelles une collision potentiellement mortelle semble inévitable, mais dans lesquelles les choix effectués par le logiciel de la voiture , tels que contre qui ou quoi s'écraser, peuvent affecter les détails de l'issue mortelle. Par exemple, le logiciel doit-il valoriser davantage ou moins la sécurité des occupants de la voiture que celle des victimes potentielles à l'extérieur de la voiture.
Une plate-forme appelée Moral Machine a été créée par le MIT Media Lab pour permettre au public d'exprimer son opinion sur les décisions que les véhicules autonomes devraient prendre dans des scénarios qui utilisent le paradigme du problème du chariot. L'analyse des données collectées via Moral Machine a montré de grandes différences dans les préférences relatives entre les différents pays. D'autres approches utilisent la réalité virtuelle pour évaluer le comportement humain dans des contextes expérimentaux. Cependant, certains soutiennent que l'enquête sur les cas de type trolley n'est pas nécessaire pour résoudre le problème éthique des voitures sans conducteur, car les cas de trolley ont une sérieuse limitation pratique. Il devrait s'agir d'un plan descendant afin de s'adapter aux approches actuelles de gestion des urgences en intelligence artificielle.
En outre, une question demeure de savoir si la loi devrait dicter les normes éthiques que tous les véhicules autonomes doivent utiliser, ou si les propriétaires ou les conducteurs individuels de voitures autonomes devraient déterminer les valeurs éthiques de leur voiture, telles que favoriser la sécurité du propriétaire ou de la famille du propriétaire par rapport à la sécurité. d'autres. Bien que la plupart des gens ne seraient pas disposés à utiliser une voiture automatisée qui pourrait se sacrifier dans un dilemme de vie ou de mort, certains pensent que l'affirmation quelque peu contre-intuitive selon laquelle l'utilisation de valeurs éthiques obligatoires serait néanmoins dans leur meilleur intérêt. Selon Gogoll et Müller, « la raison en est, tout simplement, que [les paramètres éthiques personnalisés] entraîneraient très probablement un dilemme du prisonnier . »
En 2016, le gouvernement allemand a nommé une commission pour étudier les implications éthiques de la conduite autonome. La commission a adopté 20 règles à mettre en œuvre dans les lois qui régiront les choix éthiques que feront les véhicules autonomes. Cette règle est pertinente pour le dilemme du chariot :
8. Les véritables décisions dilemmes, telles qu'une décision entre une vie humaine et une autre, dépendent de la situation spécifique réelle, incorporant le comportement « imprévisible » des parties concernées. Ils ne peuvent donc pas être clairement standardisés, ni programmés de telle sorte qu'ils soient éthiquement indiscutables. Les systèmes technologiques doivent être conçus pour éviter les accidents. Cependant, ils ne peuvent pas être standardisés pour une évaluation complexe ou intuitive des impacts d'un accident de telle manière qu'ils puissent remplacer ou anticiper la décision d'un conducteur responsable ayant la capacité morale de porter des jugements corrects. Il est vrai qu'un conducteur humain agirait illégalement s'il tuait une personne dans une situation d'urgence pour sauver la vie d'une ou plusieurs autres personnes, mais il n'agirait pas nécessairement de manière coupable. De tels jugements juridiques, rendus rétrospectivement et tenant compte de circonstances particulières, ne peuvent pas être facilement transformés en évaluations ex ante abstraites/générales et donc pas non plus en activités de programmation correspondantes. …
Incident de la vie réelle
Un cas réel se rapprochant du dilemme Trolley Driver s'est produit le 20 juin 2003, lorsqu'une file d'emballement de 31 wagons de marchandises sans pilote de l' Union Pacific se dirigeait vers Los Angeles le long de la voie principale 1. Pour éviter que le train en fuite n'entre dans les chantiers de l'Union Pacific à Los Angeles, où cela causerait non seulement des dommages, mais aussi où se trouvait un train de voyageurs Metrolink , les répartiteurs ont ordonné de diriger les voitures en fuite sur la voie 4, à travers une zone avec des logements à faible densité de résidents pour la plupart à faible revenu. . L'aiguillage vers la voie 4 était prévu pour des trajets de 15 mi/h, et le répartiteur savait que les wagons se déplaçaient beaucoup plus rapidement, ce qui a probablement causé un déraillement. Le train, transportant plus de 3 800 tonnes de bois et de matériaux de construction, principalement, a ensuite déraillé dans le quartier résidentiel de Commerce, en Californie, traversant plusieurs maisons de la rue Davie. L'événement a fait 13 blessures mineures, dont une femme enceinte endormie dans l'une des maisons qui a réussi à s'échapper par une fenêtre et a évité des blessures graves causées par le bois et les roues de train en acier qui sont tombées autour d'elle.
Dans la culture populaire
Des dilemmes similaires ont été proposés dans des histoires de science-fiction, y compris dans " The Cold Equations " ( Tom Godwin , 1954), dans lequel un pilote doit décider s'il doit retenir un passager clandestin, ce qui entraînerait une panne de carburant de son navire, ou terminer son mission de fournir des médicaments vitaux à six colons.
Cinéma, théâtre et télévision
Une expérience de problème de chariot a été menée dans la saison deux, épisode un de la série YouTube Original Mind Field , présentée par Michael Stevens , mais aucun article n'a été publié sur les résultats.
Le problème du chariot constitue la principale prémisse de l'intrigue d'un épisode de The Good Place , également nommé « The Trolley Problem ». Il est ensuite référencé et résolu dans la deuxième saison dans le contexte de l'univers de la série par Michael ( Ted Danson ), qui déclare que l'abnégation est la seule solution.
