Braquage de Pascal
Le braquage de Pascal est une expérience de pensée en théorie de la décision démontrant un problème dans l'attendue de la maximisation de l'utilité. Un agent rationnel doit choisir des actions dont les résultats, pondérés par leur probabilité, ont une utilité plus élevée. Mais certains résultats très improbables peuvent avoir de très grandes utilités, et ces utilités peuvent croître plus rapidement que la probabilité ne diminue. Cela entraîne une situation où l’agent doit logiquement se concentrer davantage sur des cas extrêmement improbables avec des récompenses invraisemblablement élevées, ce qui mène d’abord à des choix contre-intuitifs, puis à l’incohérence générale à mesure que l’utilité de chaque choix tend vers l'infini.
L'admissibilité de cette page est à vérifier ().
Motif : Peu de sources montrant la notoriété de ce concept. J'ai essayé de trouver des sources sur les interwikis, toutefois ces derniers n'en comportent quasiment pas.
Vous êtes invité à compléter l'article pour expliciter son admissibilité, en y apportant des sources secondaires de qualité, ainsi qu'à en discuter. Si rien n'est fait, cet article sera proposé au débat d'admissibilité un an au plus tard après la mise en place de ce bandeau.| 1. | Préciser le motif de la pose du bandeau. | Précisez le motif de la pose du bandeau en utilisant la syntaxe suivante :
{{admissibilité à vérifier|date=mai 2024|motif=remplacez ce texte par le motif}} |
|---|---|---|
| ou | Créer l'espace de discussion. (cette méthode est préférable) |
Créez une section "Admissibilité" en page de discussion de l'article en y précisant le motif de la pose du bandeau. Dans ce cas, utilisez la syntaxe suivante :
{{admissibilité à vérifier|date=mai 2024|motif=pdd}} |
| 2. | Informer les utilisateurs concernés. | Pensez à avertir le créateur de l'article, par exemple, en insérant le code ci-dessous sur sa page de discussion :
{{subst:avertissement admissibilité à vérifier|Braquage de Pascal}}
|
Le braquage est nommé en référence au Pari de Pascal. Mais, contrairement à celui-ci, il ne requiert pas de récompense infinie[1]. Cela évite de nombreuses objections au dilemme du pari de Pascal qui sont basées sur la nature de l'infini[2]. Ainsi, le braquage de Pascal est un paradoxe apparent qui reste dans la lignée des décisions aux mathématiques finies.
Énoncé du problème modifier
Le terme « Pascal's mugging » (braquage de Pascal) qui désigne ce problème a été inventé par Eliezer Yudkowsky dans un article du forum LessWrong . Le philosophe Nick Bostrom a ensuite élaboré l'expérience de pensée sous la forme d’un dialogue fictif. Par la suite, d’autres auteurs publièrent leurs propres versions des événements en ce basant sur ce premier dialogue et en adoptant le même style littéraire.
Dans la description de Bostrom, Blaise Pascal est abordé par un braqueur désarmé. Ne pouvant le détrousser par la force, l'agresseur lui propose un marché: le portefeuille de Pascal en échange de la promesse du braqueur qu'il lui rendra demain le double de la somme prise. Pascal refuse, soulignant qu'il est peu probable que l'accord soit honoré. Le monte-en-l'air lui propose ensuite des sommes de plus en plus élevées, en rétorquant que si la probabilité qu'il soit honnête n'est qu'une chance sur 1 000 tant que la somme promise représente un retour sur investissement plus élevé que 1 000, il est rationnel d'accepter. Pour toute probabilité faible mais strictement supérieure à 0 qu'il soit honnête il existe un montant fini qui rend rationnel le pari. Ainsi, le braqueur fini par convaincre Pascal en lui offrant 1 000 quadrillions de jours heureux de vie en échange de 10 livres seulement dans son portefeuille.
Dans un exemple de Yudkowsky, le voleur réussit son coup en affirmant que la vie de 3^^^^3 personnes simulés sur un ordinateur dépendent des 5 dollars de Pascal. Puisque ce nombre utilise la notation des puissances itérées de Knuth, l'écrire en base 10 nécessiterait plus de matériel d’écriture qu’il n’y a d’atomes dans l’univers connu. Ce n'est pas une conséquence infinie qui est un jeu—l'infini étant un concept controversé qui ne frappe pas suffisamment l'esprit humain pour être conséquent—mais bien un nombre si astronomique que le représenter est physiquement possible.
Ainsi, puisque l'esprit humain n'est pas capable de donner une probabilité aussi infime que 1/3^^^^3 à un événement et puisqu'un agent rationnel est forcé d'attribuer une probabilité strictement supérieure à zero à un événement tel que celui décrit dans les propos du braqueur, il s'ensuit logiquement que Pascal devrait lui donner 5 dollars.
Le prétendu paradoxe résulte de deux visions incohérentes. D’un côté, la logique veut que la bonne décision est de donner les 5 dollars. De l’autre, payer l’agresseur est intuitivement irrationnel en raison de son caractère exploitable. Si la personne braquée accepte cette séquence logique, elle peut alors être exploitée à plusieurs reprises pour tout son argent.
Ces argument peuvent également s'appliquer à d'autres systèmes théoriques comme l'éthique conséquentialiste.
Importance du problème modifier
Le philosophe Nick Bostrom postule que le braquage de Pascal, tout comme le pari de Pascal, est un exemple des conséquences désastreuses qu'auraient une théorie de la décision défectueuse si on dotait une intelligence artificielle de celle-ci. Le braquage de Pascal peut également être pertinent concernant les risques existentiels, qui sont des événements à priori à faibles probabilités, mais aussi à hauts enjeux. Ainsi, si on postule une probabilité de 1% à l’événement de "extinction humaine par intelligence artificielle" alors mitiger ce risque deviendrait immédiatement une priorité mondiale d'après la logique braquage de Pascal, puisque 1% de 8 milliards de morts représente un poids moral de 80 millions de morts. (Sans compter le poids moral qualitatif qu'implique une rupture permanente dans l'histoire humaine et l'empêchement d'une éventuelle réalisation de la colonisation spatiale et l'existence de générations futures[3].)
Références modifier
- Olle Häggström, Here Be Dragons, 3.10: Cryonics, (ISBN 978-0198723547)
- Bostrom, « Pascal's mugging », Analysis, vol. 69, no 3, , p. 443–445 (DOI 10.1093/analys/anp062, JSTOR 40607655, lire en ligne)
- « Astronomical Waste: The Opportunity Cost of Delayed Technological Development », sur nickbostrom.com (consulté le )
Liens externes modifier
