jeudi 2 mars 2017

Un robot n'est pas une personne, une personne n'est pas un robot

Mon ami Pierre Berger n'est pas d'accord avec ce que j'ai écrit dans « Taxer les robots serait une faute historique » : « on peut très bien considérer, dit-il, qu'un robot a une intention propre. N'importe quel objet physique a une intention propre : continuer d'exister ou de se mouvoir selon les lois de Newton... »

Selon Pierre Berger des choses (une pierre, une goutte d'eau, etc.) peuvent avoir des intentions et donc penser : la « chose qui pense » étant pour lui une réalité (alors qu'elle est pour moi une chimère), il ne peut pas concevoir ce qui distingue un robot d'une personne.

Chacun est libre de choisir la façon dont il voit le monde et l'animisme, qui attribue une âme aux choses, enchante l'imagination poétique et la rêverie. Je ne critiquerai donc pas le point de vue de Pierre Berger mais il me semble qu'il l'empêche de voir certaines choses.

Le fait est que les systèmes d'information ont fait apparaître un être nouveau dans les institutions : l'« être humain augmenté », désormais porteur de la compétence individuelle et qui résulte de la symbiose de la personne et de l'automate, ordinateur ou robot.

Pour réussir cette symbiose les institutions doivent savoir organiser l'action conjointe de la personne et de l'automate en attribuant à chacun des deux les tâches qu'il fait mieux que l'autre : tandis que notre cerveau sait interpréter des situations particulières, se débrouiller devant l'imprévu, concevoir des idées et des choses nouvelles, l'automate exécute plus vite et plus exactement que nous ne pouvons le faire la suite d'instructions que comporte son programme.

Les systèmes d'information organisent en outre le réseau qui assure la synergie des compétences individuelles. Cette synergie, qui procure son efficacité à l'action collective, ne peut s'instaurer que si les organisateurs tiennent compte du fait que chacune des compétences individuelles résulte de la symbiose d'une personne et de l'automate.

Pour pouvoir réussir cette symbiose il faut savoir penser ce qui distingue l'automate et la personne mais qui est invisible si l'on postule que l'automate est une personne, car alors on ne peut plus concevoir en quoi ils diffèrent.

Si l'on nie la différence entre le robot et la personne, il sera en outre naturel de considérer les personnes comme des robots et donc d'attendre d'elles qu'elles agissent en exécutant un programme. C'est ce que font les entreprises qui téléguident l'action de leurs agents en l'enfermant dans des consignes détaillées et strictes : elles croient qu'ils répugneraient à prendre des initiatives, à faire preuve de créativité et de responsabilité, etc., alors qu'en fait c'est elles qui sont incapables de leur déléguer la légitimité qui le permettrait.

C'est ainsi que l'on rencontre, derrière les guichets de la SNCF, des impôts, de la sécurité sociale, des banques, etc., des agents auxquels un système d'information interdit d'user de leur bon sens en face du client qui présente un cas particulier. Ces institutions tournent le dos à l'efficacité en gaspillant une ressource naturelle, l'intelligence de leurs agents.

Les régimes totalitaires ont assimilé les personnes aux machines : ils ont ambitionné de créer un « homme nouveau » qui comme elles serait puissant, précis, infatigable et impitoyable. Ceux qui assimilent aujourd'hui les robots aux personnes, et donc les personnes aux robots, annoncent le retour de ce totalitarisme.

8 commentaires:

  1. Le commentaire de Pierre Berger qui attribue des intentions aux choses me laisse pantois. Que l'on s'en réfère à Thomas d'Aquin ou à Husserl, l'intentionnalité qualifie un état psychologique associé à un objet. Si je dis « je suis gourmand », il n'y a pas d'intention, mais si je le dis en regardant un pot de confiture, ma gourmandise est intentionnelle. Bref, les pierres en sont dépourvues, totalement.

    RépondreSupprimer
  2. Pour ou contre taxer les robots ?
    Permettez moi se petit raisonnement par l'absurde.
    Admettons que l'on taxe les robots.
    Qu'est-ce qui pourrait inciter les entreprises qui rêvent d'évasion fiscale à se soumettre à cet impôt.
    Vous l'avez dit les machines ont un fonctionnement imperturbable et l'iconomie a besoin de l'alliage de l'homme avec une ( et de plus en plus plusieurs) machine pour former le cerveau d'œuvre.
    Maintenant l'humain est beaucoup plus fragile que la machinerie et peut-être surmené par une machine qui a sa propre cadence.
    Donc il y a un risque que l'emploi de robots par une entreprise conduise à des incidents avec ses salariés.
    Si le régime de taxation est suffisamment bien fait celui-ci peut montrer que l'entreprise prend bien en compte et limite se genre de risque.
    Ce qui peut être un plus pour ses investisseurs.

    RépondreSupprimer
  3. Je manque de temps pour rédiger mais vous trouverez un raisonnement un peu similaire ici : http://estherclemenpurpen.blogspot.fr/2016/12/bonjour-je-mappelle-marek-esmesqua-et_58.html
    Pour ce qui est de l'animisme, très rapidement cela me fait penser à une réflexion du musicien arturo o ferill qui disait que dans un objet aussi complexe qu'un instrument de musique, le créateur a un peu laisser de son âme...enfin il le formulait d'une façon assez intéressante

    RépondreSupprimer
  4. Voici les critères que propose le chirurgien et pionnier de la robotique chirurgicale Guy Vallancien dans son livre Homo Artificialis (Michalon 2017) pour distinguer la machine de l'homme :
    - vivant (relation, nutrition, reproduction) (p.50)
    - prise de recul, second degré, créativité, intuition (p.58)
    - don de soi (p.65)
    - rire, passion partagée (p.67)
    - empathie, valeurs, croyances, culture (p.68)
    - adaptabilité à l'imprévisible (p.75)
    - rire d'un jeu de mots (p.79)
    - se sacrifier pour un idéal (p.87)
    - apprendre les limites à ne pas dépasser pour respecter la dignité humaine (p.88)
    - chair et esprit indissociables (p.92)

    RépondreSupprimer
  5. Merci à Michel de ce papier argumenté.
    Il y a deux questions différentes:
    - Un robot est-il (peut-il être) une personne ? c'est un débat qui remonte loin, et fait l'objet d'une énorme littérature. Je note la citation de V. Lorphelin et y répondrai peut-être plus tard en détail.
    - Faut-il taxer les robots . c'est un problème pratique d'organisation de l'économmie, à un moment où les robots (machines, algorithmes, etc.) menacent de nombreux emplois (y compris celui de journaliste, qui m'a nourri pendant 30 ans. Plusieurs candidats à la Présidentielle s'en sont préoccupés, avec des solutions assez radicales chez Benoit Hamon (taxation des robots, revenu universel) et plus limitées (et plus raisonnables à court terme) chez Emmanuel Macron.

    RépondreSupprimer
  6. Il y a deux questions différentes :
    - Un robot est-il une personne? Question métaphysique, qui remonte loin (Descartes, sinon les Grecs) et d'une énorme littérature. Sur la liste de Vallancien, je répondrai peut-êre en détail par la suite.
    - Faut-il taxer les robots? On taxe bien le foncier, qui n'est pas une personne. Est-ce la bonne solution face au remplacement de nombreux emplois par des machines? Benoit Hamon l'a pensé. Emmanuel Macron a propose des solutions qui sont en tous cas plus crédibles à court terme.

    RépondreSupprimer
  7. Proposition pour un plan de travail collectif sur "un robot est-il une personne" (et questions équivalentes autour de l'IA).
    (Je précise que pour moi la question reste ouverte, je ne suis pas dogmatique).
    Nous pourrions, dans une structure plus stable qu'un blog, utilisant un site (par exemple diccan.com), recenser sans préjugé les différences de celles que donne Vallancien), et pour chacune, discuter la validité, donner la biblio, etc.

    Juste un exemple: une machine peut-elle se nourrir? Oui, dans une certaine mesure (cellule solaire). Un peu plus demain (j'ai entendu parler d'une machine qui pourrait se nourrir d'herbe).
    Qui serait intéressé pour monter au moins l'amorce d'un tel site, précis, factuel et sans préjugés ?

    RépondreSupprimer
  8. J'ai mis en ligne un germe de liste de "jamais" et quelques commentaires en http://diccan.com/Berger/Jamais.html

    RépondreSupprimer