jeudi 30 mars 2017

Citations utiles

Voici une petite collection de citations qui illustrent les raisonnements sur l'informatisation et les systèmes d'information :

« Fondamentalement, l’ordinateur et l’homme sont les deux opposés les plus intégraux qui existent. L’homme est lent, peu rigoureux et très intuitif. L’ordinateur est super rapide, très rigoureux et complètement con » (Gérard Berry, professeur d'informatique au Collège de France, entretien avec Rue89, 26 août 2016).

« The hope is that, in not too many years, human brains and computing machines will be coupled together very tightly, and that the resulting partnership will think as no human brain has ever thought and process data in a way not approached by the information-handling machines we know today » (Joseph Licklider, « Man Computer Symbiosis », IRE Transactions on Human Factors in Electronics, mars 1960).

« The strongest chess player today is neither a human, nor a computer, but a human team using computers » (Devdatt Dubhashi et Shalom Lappin, « AI Dangers: Imagined and Real », Communications of the ACM, février 2017).

« In mathematics we are usually concerned with declarative (what is) descriptions, whereas in computer science we are usually concerned with imperative (how to) descriptions » (Harold Abelson et Gerald Jay Sussman, Structure and Interpretation of Computer Programs, MIT Press, 2001, p. 22).

« L'information n'est pas une chose, mais l'opération d'une chose arrivant dans un système et y produisant une transformation. L'information ne peut pas se définir en dehors de cet acte d'incidence transformatrice et de l'opération de réception » (Gilbert Simondon, Communication et information, Les éditions de la transparence, 2010).

« Un professeur de l'ESCP a fait une étude sur près de 300 entreprises dans le monde. Il démontre que 9 % des collaborateurs s'arrachent pour faire avancer les choses, 71 % n'en ont rien à faire et 20 % font tout pour empêcher les 9 % précédents d'avancer » (Georges Epinette, Antémémoires d'un dirigeant autodidacte, Cigref-Nuvis, 2016, p. 24).

« Les approches bureaucratiques ignorantes de la nature du travail cherchent à éliminer toute pensée, activité coûteuse dont la rentabilité n'est pas immédiatement perceptible. D'où l'échec que le « perfectionnement » des procédures ne fera qu'amplifier. L'application trop systématique d'idées parfaitement logiques peut engendrer des catastrophes »(Laurent Bloch, Systèmes d'information, obstacles et succès, Vuibert, 2005).

jeudi 2 mars 2017

Un robot n'est pas une personne, une personne n'est pas un robot

Mon ami Pierre Berger n'est pas d'accord avec ce que j'ai écrit dans « Taxer les robots serait une faute historique » : « on peut très bien considérer, dit-il, qu'un robot a une intention propre. N'importe quel objet physique a une intention propre : continuer d'exister ou de se mouvoir selon les lois de Newton... »

Selon Pierre Berger des choses (une pierre, une goutte d'eau, etc.) peuvent avoir des intentions et donc penser : la « chose qui pense » étant pour lui une réalité (alors qu'elle est pour moi une chimère), il ne peut pas concevoir ce qui distingue un robot d'une personne.

Chacun est libre de choisir la façon dont il voit le monde et l'animisme, qui attribue une âme aux choses, enchante l'imagination poétique et la rêverie. Je ne critiquerai donc pas le point de vue de Pierre Berger mais il me semble qu'il l'empêche de voir certaines choses.

Le fait est que les systèmes d'information ont fait apparaître un être nouveau dans les institutions : l'« être humain augmenté », désormais porteur de la compétence individuelle et qui résulte de la symbiose de la personne et de l'automate, ordinateur ou robot.

Pour réussir cette symbiose les institutions doivent savoir organiser l'action conjointe de la personne et de l'automate en attribuant à chacun des deux les tâches qu'il fait mieux que l'autre : tandis que notre cerveau sait interpréter des situations particulières, se débrouiller devant l'imprévu, concevoir des idées et des choses nouvelles, l'automate exécute plus vite et plus exactement que nous ne pouvons le faire la suite d'instructions que comporte son programme.

Les systèmes d'information organisent en outre le réseau qui assure la synergie des compétences individuelles. Cette synergie, qui procure son efficacité à l'action collective, ne peut s'instaurer que si les organisateurs tiennent compte du fait que chacune des compétences individuelles résulte de la symbiose d'une personne et de l'automate.

Pour pouvoir réussir cette symbiose il faut savoir penser ce qui distingue l'automate et la personne mais qui est invisible si l'on postule que l'automate est une personne, car alors on ne peut plus concevoir en quoi ils diffèrent.

Si l'on nie la différence entre le robot et la personne, il sera en outre naturel de considérer les personnes comme des robots et donc d'attendre d'elles qu'elles agissent en exécutant un programme. C'est ce que font les entreprises qui téléguident l'action de leurs agents en l'enfermant dans des consignes détaillées et strictes : elles croient qu'ils répugneraient à prendre des initiatives, à faire preuve de créativité et de responsabilité, etc., alors qu'en fait c'est elles qui sont incapables de leur déléguer la légitimité qui le permettrait.

C'est ainsi que l'on rencontre, derrière les guichets de la SNCF, des impôts, de la sécurité sociale, des banques, etc., des agents auxquels un système d'information interdit d'user de leur bon sens en face du client qui présente un cas particulier. Ces institutions tournent le dos à l'efficacité en gaspillant une ressource naturelle, l'intelligence de leurs agents.

Les régimes totalitaires ont assimilé les personnes aux machines : ils ont ambitionné de créer un « homme nouveau » qui comme elles serait puissant, précis, infatigable et impitoyable. Ceux qui assimilent aujourd'hui les robots aux personnes, et donc les personnes aux robots, annoncent le retour de ce totalitarisme.