, Directeur adjoint du Groupe de recherche et d'intervention sur la science et l'éthique (GRISE)
, Postdoc au Perimeter Institute of Theoretical Physics (Canada)
,
, Programme international de l'École Polytechnique 1999 B.Sc. de physique (Université d'État de Saint-Pétersbourg) 1, Traité de bioéthique. Tome 4: Quelques territoires nouveaux de bioéthique, pp.319-327, 2000.
, Is quantum mechanics an island in theoryspace, Proceedings of the Växjö Conference "Quantum Theory: Reconsideration of Foundations, 2004.
, Quantum computing, postselection, and probabilistic polynomial-time, Proc. Roy. Soc. Lond, vol.461, pp.3473-3482, 2005.
, Contextuality, cohomology and paradox, 24th EACSL Annual Conference on Computer Science Logic (CSL 2015), vol.41, pp.211-228, 2015.
, Device-independent bit commitment based on the CHSH inequality, New J. of Physics, vol.18, p.25014, 2016.
, Quantum Paradoxes: Quantum Theory for the Perplexed, 2005.
, Recovering part of the boundary between quantum and nonquantum correlations from information causality, Physical Review A, vol.80, issue.4, p.40103, 2009.
, Measures of fine tuning, Phys. Lett. B, vol.347, pp.300-308, 1995.
, Witnessing causal nonseparability, New Journal of Physics, vol.17, issue.10, p.102001, 2015.
, Computational advantage from quantum-controlled ordering of gates, Phys. Rev. Lett, vol.113, p.250402, 2014.
, John Bell and the second quantum revolution, Speakable and Unspeakable in Quantum Mechanics, 2004.
, New measure of fine tuning, Phys. Rev. D, vol.76, p.75010, 2007.
, Quantum Theory at the Crossroads: Reconsidering the 1927 Solvay Conference, 2009.
, Device-independent witnesses of genuine multipartite entanglement, Phys. Rev. Lett, vol.106, p.250404, 2011.
, Grover search and the no-signaling principle, Phys. Rev. Lett, vol.117, p.120501, 2016.
, Upper bounds on supersymmetric particle masses, Nucl. Phys. B, vol.306, pp.63-76, 1988.
, Device-independent state estimation based on Bell's inequalities, Phys. Rev. A, vol.80, p.62327, 2009.
, Information processing in non-signalling theories, Phys. Rev. A, vol.75, p.32304, 2007.
, Quantum Theory and Beyond, 1971.
, Bell correlations and the common future, Quantum Foundations, Probability and Information, pp.255-268
, , 2018.
, Maximal incompatibility of locally classical behavior and global causal order in multiparty scenarios, Phys. Rev. A, vol.90, p.42106, 2014.
, Perfect signaling among three parties violating predefined causal order, Proceedings of 2014 IEEE International Symposium on Information Theory (ISIT), pp.526-530, 2014.
, Device-independent test of causal order and relations to fixed-points, New J. of Phys, vol.18, p.35014, 2016.
, The space of logically consistent classical processes without causal order, New Journal of Physics, vol.18, p.13036, 2016.
, Causality-complexity-consistency: Can space-time be based on logic and computation, Time in Physics, pp.69-101
, , 2017.
, On the Einstein-Podolsky-Rosen paradox, Physica, vol.1, pp.195-200, 1964.
, The logic of quantum mechanics, 1981.
, Talk at QUPON, 2005.
, Contextuality as a resource for models of quantum computation with qubits, Phys. Rev. Lett, vol.119, p.120505, 2017.
, Nonlinear wave mechanics, Annals of Physics, vol.100, pp.62-93, 1976.
, The logic of quantum mechanics, Ann. Math. Phys, vol.37, pp.105-125, 1936.
, Some steps towards a transcendental deduction of quantum mechanics, Philosophia Naturalis, vol.35, pp.253-280, 1998.
, On Bohr's views concerning the quantum theory, vol.18, pp.33-40, 1971.
, Letter to Christian Møller, 1928.
, Atomic Theory and the Description of Nature, 1934.
, Atomic Theory and Human Knowledge, 1958.
, The simplest causal inequalities and their violation, New Journal of Physics, vol.18, p.13008, 2015.
URL : https://hal.archives-ouvertes.fr/hal-01278704
, Information and fundamental elements of the structure of quantum theory, Time, Quantum, Information, pp.323-356, 2003.
, Algebraic approach to quantum field theory, 2004.
, Why the quantum?, Studies in the History and Philosophy of Modern Physics, vol.35, pp.241-266, 2004.
, Why the Tsirelson bound, The Probable and the Improbable: The Meaning and Role of Probability in Physics, pp.167-185, 2012.
, Bananaworld: Quantum Mechanics for Primates, 2016.
, Electrodynamics in context: object states, laboratory practice and anti-Romanticism, Hermann von Helmholtz and the Foundations of Nineteenth-Century Science, pp.334-373, 1993.
, The Creation of Scientific Effects, 1994.
, The contextual computer, A Computable Universe: Understanding and Exploring Nature as Computation, pp.595-604, 2012.
, Der Logische Aufbau der Welt, 1928.
, La Philosophie des formes symboliques I. Le Langage, Éditions du Minuit, p.1923, 1972.
, Constraints on determinism: Bell versus Conway-Kochen. Foundations of Physics, vol.44, pp.781-791, 2014.
, Entropic approach to local realism and noncontextuality, Phys. Rev. A, vol.85, p.32113, 2012.
, Perfect discrimination of no-signalling channels via quantum superposition of causal structures, Phys. Rev. A, vol.86, p.40301, 2012.
, Quantum computations without definite causal structure, Physical Review A, vol.88, issue.2, p.22318, 2013.
, Cirel'son. Quantum generalizations of Bell's inequality, Lett. Math. Phys, vol.4, issue.2, pp.93-100, 1980.
, Proposed experiment to test local hiddenvariable theories, Phys. Rev. Lett, vol.23, pp.880-884, 1969.
, Characterizing quantum theory in terms of informationtheoretic constraints, Found. Phys, vol.33, issue.11, pp.1561-1591, 2003.
, Quantum picturalism. Contemporary Physics, vol.51, pp.59-83, 2010.
, Interacting quantum observables: categorical algebra and diagrammatics, New Journal of Physics, vol.13, p.43016, 2011.
, Classical and quantum structuralism, Semantic Techniques for Quantum Computation, pp.29-69, 2010.
, Free randomness can be amplified, Nature Physics, vol.8, pp.450-454, 2012.
, The free will theorem, Foundations of Physics, vol.36, pp.1441-1473, 2006.
, Quantum theory and beyond: Is entanglement special?, Deep Beauty: Understanding the Quantum World through Mathematical Innovation, pp.365-392, 2011.
, Physics and Necessity, 2014.
, Le réel voilé. Fayard, 1994.
, Quantum mechanics near closed timelike curves, Phys. Rev. D, vol.44, p.3197, 1991.
, The Principles of Quantum Mechanics, 1930.
, Quantised singularities in the electromagnetic field, Proceedings of the Royal Society of London, vol.133, pp.60-72, 1931.
, The relation between mathematics and physics, Proceedings of the Royal Society (Edinburgh), vol.59, pp.122-129, 1939.
, Quantum protocols within spekkens' toy model, Phys. Rev. A, vol.95, p.52324, 2017.
URL : https://hal.archives-ouvertes.fr/hal-01619866
, Contextuality, witness of quantum weirdness, 2018.
, Lattice theory, groups and space, Quantum Theory and the Structures of Time and Space, pp.55-70
, , 1975.
, Forever is a day: Supertasks in Pitowsky and Malament-Hogarth spacetimes, Philosophy of Science, vol.5, pp.22-42, 1993.
, Cited in: P. Galison, Einstein's Clocks, Poincaré's Maps. Empires of Time, p.268, 1911.
, What is the theory of relativity? London Times, 1919.
, Geometry and experience. Address to the Prussian Academy of Sciences, 1921.
, Letter to Erwin Schrödinger, 1935.
, Remarks concerning the essays brought together in this co-operative volume, Albert Einstein: Philosopher-Scientist, vol.7, pp.665-688, 1949.
, Letter to Maurice Solovine, Letters to Solovine, pp.121-125, 1952.
, Can quantum-mechanical description of physical reality be considered complete?, Phys. Rev, vol.47, p.777, 1935.
, The ultimate physical limits of privacy, Nature, vol.507, pp.443-447, 2014.
, Time-reversed EPR and the choice of histories in quantum mechanics, Proceedings of XXII Solvay Conference in Physics, pp.452-461, 2003.
, Algebraic methods in statistical mechanics and quantum field theory, 1972.
, Relative state" formulation of quantum mechanics, Rev. Mod. Phys, vol.29, pp.454-462, 1957.
, Copenhagen interpretation of quantum mechanics. Stanford Online Encyclopedia of Philosophy, 2014.
, Quantum superposition of the order of parties as a communication resource, Phys. Rev. A, vol.92, p.52326, 2015.
, A pragmatic, existentialist approach to the scientific realism debate, Synthese, vol.194, pp.3327-3346, 2017.
, Contextuality as a resource for measurement-based quantum computation beyond qubits, 2018.
, On the withering away of physical objects, Interpreting Bodies: Classical and Quantum Objects in Modern Physics, pp.93-113, 1998.
, Dynamics of Reason. CSLI Publications, 2001.
, Quantum foundations in the light of quantum information, Decoherence and its Implications in Quantum Computation and Information Transfer: Proceedings of the NATO Advanced Research Workshop, pp.39-82, 2000.
, On participatory realism, Information and Interaction: Eddington, Wheeler, and the Limits of Knowledge, pp.113-134, 2017.
, Weinberg's non-linear quantum mechanics and superluminal communication, Phys. Lett, vol.143, pp.1-2, 1990.
, Indeterminism in physics, classical chaos and bohmian mechanics, 2018.
, Measures on the closed subspaces of a Hilbert space, Journal of Mathematics and Mechanics, vol.6, pp.885-894, 1967.
, What does the free will theorem actually prove? Notices of the, vol.57, pp.1451-1453, 2010.
, Elements of information-theoretic derivation of the formalism of quantum theory, International Journal of Quantum Information, vol.1, issue.3, pp.289-300, 2003.
, The Significance of Information in Quantum Theory, Ecole Polytechnique, 2004.
URL : https://hal.archives-ouvertes.fr/tel-00007634
, Information-theoretic principle entails orthomodularity of a lattice, Foundations of Physics Letters, vol.18, issue.6, pp.573-592, 2005.
URL : https://hal.archives-ouvertes.fr/hal-00014569
, Reconstruction of quantum theory, British Journal for the Philosophy of Science, vol.58, pp.387-408, 2007.
URL : https://hal.archives-ouvertes.fr/hal-00014568
, On the eve of the LHC: conceptual questions in high-energy physics, CEA, 2008.
URL : https://hal.archives-ouvertes.fr/cea-00292288
, Which fine-tuning arguments are fine? Foundations of Physics, vol.42, pp.615-631, 2012.
, Quantum observer, information theory and Kolmogorov complexity, New Challenges to Philosophy of Science, vol.4, pp.59-72, 2013.
, Mécanique desétreintes. Encre Marine, 2014.
, Quantum realism, information, and epistemological modesty, Probing the Meaning of Quantum Mechanics: Physical, Philosophical and Logical Perspectives, pp.82-90, 2014.
, Quantum theory as a critical regime of language dynamics, Foundations of Physics, vol.45, pp.1341-1350, 2015.
, The effectiveness of mathematics in physics of the unknown, 2017.
, How device-independent approaches change the meaning of physical theory, Studies in the History and Philosophy of Modern Physics, vol.58, pp.22-30, 2017.
, Narratives of quantum theory in the age of quantum technologies, Ethics and Information Technology, vol.19, pp.295-306, 2017.
URL : https://hal.archives-ouvertes.fr/cea-01550560
, What is "Responsible" about Responsible Innovation? Understanding the Ethical Issues, Responsible Innovation: Managing the Responsible Emergence of Science and Innovation in Society, pp.119-142, 2013.
, When are Popescu-Rohrlich boxes and Random Access Codes equivalent?, Phys. Rev. Lett, vol.113, p.100401, 2014.
, Axiomatic formulations of quantum theories, J. Math. Phys, vol.7, pp.271-282, 1966.
, Observer-dependent locality of quantum events, 2018.
, On the algebraic structure of quantum mechanics, Comm. Math. Phys, vol.6, pp.262-285, 1967.
, An algebraic approach to quantum field theory, J. Math. Phys, vol.5, pp.848-861, 1964.
, The logic in philosophy of science, Realist about Quantum Theory
, Disentangling nonlocality and teleportation, 1999.
, Quantum theory from five reasonable axioms, 2000.
, Probability theories with dynamic causal structure: A new framework for quantum gravity, 2005.
, Towards quantum gravity: a framework for probabilistic theories with non-fixed causal structure, Journal of Physics A: Mathematical and Theoretical, vol.40, issue.12, pp.3081-3099, 2007.
, Operational general relativity: Possibilistic, probabilistic, and quantum, 2016.
, The construction interpretation: a conceptual road to quantum gravity, 2018.
, Über die Grundlagen der Quantenmechanik, Math. Ann, vol.98, pp.104-133, 1927.
, Does general relativity allow an observer to view an eternity in a fiite time, Foundations of Physics Letters, vol.5, issue.2, pp.173-181, 1992.
, Orthomodularity in infinite dimensions; a theorem of M, Solèr. Bull. Amer. Math. Soc, vol.32, issue.2, pp.205-234, 1995.
, The Logico-Algebraic Approach to Quantum Mechanics. Volume I: Historical Evolution, Reidel, 1975.
, Einstein on locality and separability, Stud. Hist. Phil. Sci, vol.16, issue.3, pp.171-201, 1985.
, Studies in the foundations of quantum mechanics, I. Proceedings of the Physico-Mathematical Society of Japan, vol.19, pp.766-789, 1937.
, Information-theoretic constraints on correlations with indefinite causal order, Phys. Rev. A, vol.92, p.42124, 2015.
, The Philosophy of Quantum Mechanics, 1974.
, Foundations of Quantum Mechanics, 1968.
, On an algebraic generalization of the quantum mechanical formalism, Ann. Math, vol.35, pp.29-34, 1934.
, On the lattice of all closed subspaces of a hermitian space, Pacific J. Math, vol.89, pp.105-107, 1980.
, Born's rule, EPR, and the free will theorem, 2017.
, Logical structures arising in quantum theory, The Theory of Models, pp.177-189, 1965.
, The problem of hidden variables in quantum mechanics, Journal of Mathematics and Mechanics, vol.17, pp.59-87, 1967.
, Three approaches to the definition of the concept 'quantity of information, Probl. Inform. Transm, vol.1, issue.1, pp.3-7, 1965.
, Dirac: A Scientific Biography, 1990.
, Quantum mechanics, 1948.
, Mathematical Topics Between Classical and Quantum Mechanics, 1998.
, Closed sets of correlations: answers from the zoo, Journal of Physics A: Mathematical and Theoretical, vol.47, issue.42, p.424029, 2014.
, La théorie de l'observation en mécanique quantique, pp.218-259, 1939.
, The lattice theoretic background of the dimension theory of operator algebras, Memoirs of the American Mathematical Society. Amer. Math. Soc, vol.18, 1955.
, Histoire de l'esthétique antique. Résultats du développement millénaire, Iskusstvo, Moscou, vol.8, 1992.
, An Axiomatic Basis for Quantum Mechanics, 1985.
, Quantum mechanics and Hilbert space, Amer. Math. Monthly, vol.64, pp.45-57, 1957.
, Mathematical Foundations of Quantum Mechanics, 1963.
, Complexity vs. energy: Theory of computation and theoretical physics, J. Phys.: Conf. Ser, vol.532, p.12018, 2014.
, Error-correcting codes and phase transitions, Math. Comput. Sci, vol.5, pp.155-179, 2011.
, Kolmogorov complexity and the asymptotic bound for error-correcting codes, Journal of Differential Geometry, vol.97, issue.1, pp.91-108, 2014.
, Quantum-mechanical realization of a Popescu-Rohrlich box, Phys. Rev. A, vol.75, p.22102, 2007.
, Orthomodular structures and physical theory, Mathematical Foundations of Quantum Theory, pp.59-70, 1978.
, General properties of nonsignaling theories, Phys. Rev. A, vol.73, p.12112, 2006.
, A derivation of quantum theory from physical requirements, New Journal of Physics, vol.13, p.63001, 2011.
, Quantum cryptography with imperfect apparatus, FOCS 1998: Proceedings of the 39th Annual Symposium on Foundations of Computer Science, pp.503-509, 1998.
, What is quantum mechanics trying to tell us?, Am. J. Phys, vol.66, pp.753-767, 1998.
, The entropic approach to causal correlations, New Journal of Physics, vol.19, issue.11, p.113041, 2017.
URL : https://hal.archives-ouvertes.fr/hal-01926832
, On rings of operators, Ann. of Math, vol.37, pp.116-229, 1936.
, On (non)linear quantum mechanics, Symmetry in Nonlinear Mathematical Physics, vol.2, pp.270-278, 1997.
, Almost quantum correlations, Nature communications, vol.6, p.6288, 2015.
, Bounding the set of quantum correlations, Phys. Rev. Lett, vol.98, p.10401, 2007.
, A glance beyond the quantum model, Proceedings of the Royal Society A: Mathematical, Physical and Engineering Science, vol.466, pp.881-890, 2010.
, Computable functions, quantum measurements, and quantum dynamics, Phys. Rev. Lett, vol.79, pp.2915-2918, 1997.
, Topological proofs of contextuality in qunatum mechanics, Quantum Info. Comput, vol.17, pp.1135-1166, 2017.
, The uncertainty principle determines the nonlocality of quantum mechanics, Science, vol.330, issue.6007, pp.1072-1074, 2010.
, Quantum correlations with no causal order, Nature Communications, vol.3, p.1092, 2012.
, Information causality as a physical principle, Nature, vol.461, pp.1101-1104, 2009.
, Sur les limites empiriques du calcul. Calculabilité, complexité et physique, 2013.
, How to make a meaningful comparison of models: The Church-Turing thesis over the reals. Minds and Machines, vol.26, pp.359-388, 2016.
, The physicist's role in physical laws, Found. Phys, vol.10, issue.7/8, pp.631-634, 1980.
, Existence of "free will" as a problem of physics, Found. Phys, vol.16, pp.573-584, 1986.
, Philosophie transcendantale et objectivité physique, Philosophiques, XXIV, issue.2, pp.367-388, 1997.
, Axiomatique quantique, Helvetica Physica Acta, vol.36, pp.439-468, 1964.
, Survey of general quantum physics, Found. Phys, vol.2, pp.287-314, 1972.
, Correlation polytopes: Their geometry and complexity. Mathematical Programming, vol.50, pp.395-414, 1991.
, Quantum mechanics as a theory of probability, 2005.
, C * -algebras and Mackey's axioms, Comm. Math. Phys, vol.8, pp.132-146, 1968.
, A modification of Piron's axioms, Helvetia Physica Acta, vol.41, pp.69-74, 1968.
, Approaching Tsirelson's bound in a photon pair experiment, Phys. Rev. Lett, vol.115, p.180408, 2015.
, Baer * -semigroups and the logic of quantum mechanics, Comm. Math. Phys, vol.9, pp.118-141, 1968.
, Semimodularity and the logic of quantum mechanics, Comm. Math. Phys, vol.9, pp.212-228, 1968.
, Nonlocality beyond quantum mechanics, Nature Physics, vol.10, pp.264-270, 2014.
, Nonlocality as an axiom for quantum theory, Foundations of Physics, vol.24, p.379, 1994.
, Stabilizer notation for Spekken's toy theory, Found. Phys, vol.42, p.688, 2012.
, No quantum realization of extremal no-signaling boxes, Phys. Rev. Lett, vol.117, p.50401, 2016.
, PR-box correlations have no classical limit, Quantum theory: a two-time success story, pp.205-211, 2014.
, GHZ states and PR boxes in the classical limit, 2016.
, Relational quantum mechanics, Int. J. of Theor. Phys, vol.35, p.1637, 1996.
URL : https://hal.archives-ouvertes.fr/hal-01833755
, The Reign of Relativity, 2005.
, Postulates of general quantum mechanics, Ann. Math, vol.48, pp.930-948, 1947.
, Mathematical Problems of Relativistic Physics, 1963.
, The Mathematical Theory of Communication, 1949.
, Kolmogorov Complexity and Algorithmic Randomness, 2017.
URL : https://hal.archives-ouvertes.fr/lirmm-00786255
, Couplers for non-locality swapping, New Journal of Physics, vol.11, issue.7, p.73014, 2009.
, Emergence of quantum correlations from nonlocality swapping, Physical Review Letters, vol.102, issue.11, p.110402, 2009.
, Avoiding apparent signaling in bell tests for quantitative applications, 2018.
, Can quantum cryptography imply quantum mechanics?, Quantum Information and Computation, vol.5, pp.161-169, 2005.
, Characterization of Hilbert spaces with orthomodular spaces, Comm. Algebra, vol.23, pp.219-243, 1995.
, Die Logik nicht gleichzeitig entscheidbarer Aussagen. Dialectica, vol.14, pp.135-140, 1960.
, Evidence for the epistemic view of quantum states: A toy theory, Phys. Rev. A, vol.75, p.32110, 2007.
, Dynamics of spontaneous symmetry breaking in the Weinberg-Salam theory, Phys. Rev. D, vol.20, p.2619, 1979.
, Nonlinear quantum mechanics
, Proc. of 1979 Cargèse Institute on Recent Developments in Gauge Theories, vol.135, 1980.
, Free will in the theory of everything, 2017.
, Quantum random access codes using single d-level systems, Phys. Rev. Lett, vol.114, p.170502, 2015.
, Almost-quantum correlations and their refinements in a tripartite bell scenario, Phys. Rev. A, vol.95, p.22111, 2017.
, Probability in physics and a theorem on simultaneous observability, Comm. Pure and Appl. Math, vol.15, pp.189-217, 1962.
, Geometry of quantum theory, 1968.
, Relaxed uncertainty relations and information processing, Quantum Info. Comput, vol.9, pp.801-832, 2009.
, Mathematische Grundlagen der Quantenmechanik, 1932.
, Collected Works Vol, vol.III, 1961.
, Selected letters, 2005.
, Precision tests of quantum mechanics, Phys. Rev. Lett, vol.62, pp.485-488, 1989.
, Draft notes for discussion with Dana Scott; also with Simon Kochen, Charles Patton and Roger Penrose. Notebook "TWA" in Wheeler's archive at the American Philosophical Society in Philadelphia, 1974.
, Law without law, pp.182-213, 1983.
, World as system self-synthesized by quantum networking, IBM J. Res. Develop, vol.32, issue.1, pp.4-15, 1988.
, editor, Feynman and Computation: Exploring the Limits of Computers, pp.309-336, 1998.
, Quantum Theory and Measurement, 1983.
, Remarks on the mind-body question, The Scientist Speculates, vol.221, pp.168-181, 1961.
, Interpretation of quantum mechanics. Lectures given in the, vol.221, pp.260-314, 1976.
, Can the world be shown to be indeterministic after all, Probabilities in Physics, pp.365-389, 2011.
, Axioms for non-relativistic quantum mechanics, Pacific J. Math, vol.11, pp.1151-1169, 1961.
, Algorithmic randomness and physical entropy, Phys. Rev. A, vol.40, pp.4731-4751, 1989.
, Thermodynamic cost of computation, algorithmic complexity and the information metric, Nature, vol.341, pp.119-124, 1989.
, The complexity of finite objects and the development of the concepts of information and randomness by means of the theory of algorithms, Russ. Math. Surveys, vol.25, issue.6, pp.83-124, 1970.
, Lettre à Eugène Lefébure, 3 mai 1868, S. MALLARME, OEuvres complètes, t. 1, Paris, Gallimard, « Bibliothèque de la Pléiade, p.728, 1998.
, De l'autre côté du miroir, chapitre I
, Le Pieu du futur, préface et traduction de L. Schnitzer, L'Âge d'Homme, 1970.
, Éd. Ch. Bourgois, p.138, 1980.
, Un interblocage (deadlock) advient lorsque deux processus computationnels s'attendent mutuellement, obligeant à faire intervenir une force extérieure pour les sortir de cette boucle
, Robust De-anonymization of Large Sparse Datasets, IEEE Symposium on Security and Privacy, pp.111-125, 2008.
, Evaluating the Risk of Reidentification of Patients from Hospital Prescription Records, The Canadian Journal of Hospital Pharmacy, vol.62, issue.4, pp.307-319, 2009.
, Unique in the Crowd : The Privacy Bounds of Human Mobility, Scientific Reports, vol.3, p.1376, 2013.
, s Privacy PR Nightmare Shows Why You Can't Trust Social Fitness Apps to Protect Your Data, MIT Technology Review, vol.29, 2018.
, Éternel, elle et tout ce qui s'y trouve [?] Prenez garde à l'interdit de peur d'être vous-mêmes frappés d'interdit ; en prenant ce qui est interdit, vous feriez qu'Israël soit frappée d'interdit, et vous y jetteriez le trouble. Tout l'argent et tout l'or, tous les vaisseaux d'airain et de fer, seront consacrés à l'Éternel, vol.6, pp.17-19
, En effet, le septième chapitre s'ouvre par cette affirmation, avant même que le lecteur n'apprenne la défaite : « Les enfants d'Israël commirent une infidélité au sujet des choses vouées par interdit, vol.7
, À l'évidence, cette phrase vient d'une reconstruction diachronique. C'est seulement lorsque l'armée revient et annonce la débâcle que Josué apprend ce que le lecteur sait déjà. Il se place alors seul face à Dieu, déchire ses vêtements, se prosterne contre terre et reste devant l'arche de l'Alliance jusqu'au soir (Js 7, 6). Alors, Dieu l'informe de la punition infligée à Israël à Haï. Pour que le peuple puisse poursuivre sa conquête de la Terre promise, il doit « éliminer l'interdit de son sein » en se purifiant, Le coupable
, Et pourtant, elle est évidente : la discussion entre Josué et Dieu commence par « Pourquoi cette défaite ? » et se conclut par l'ordre de brûler le coupable. Logiquement, Josué a dû demander à Dieu de qui il s'agissait : « Lorsque le Seigneur, béni soit-Il, dit à Josué, Le Talmud suppose que, durant tout ce temps, il eut l'idée de demander à Dieu de lui révéler le nom du coupable. Absente du livre de Josué, cette question n'apparaît que dans le Talmud, vol.84
, « Mais suis-je délateur? »). À l'époque romaine, les délateurs étaient des personnes qui, en l'absence de tout système composé de procureurs ou de contrôleurs, dénonçaient aux tribunaux les coupables. La faute dont ils les incriminaient était souvent de nature fiscale. Ces délateurs étaient détestés, au point que certains empereurs interdirent leur activité, qui reprenait toutefois rapidement dès que le pouvoir changeait de main. À l'époque talmudique, en somme, le mot « délateur, est écrit ici avec des caractères hébreux : ????? ???????? ????? (w?-?î dêl?tôr '?nî
,
, Arabie Saoudite accorda la citoyenneté au robot humanoïde Sophia développé par la société Hanson Robotics 95
, Ethically Aligned Design : A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems, The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems, pp.2016-2017
, Research Priorities for Robust and Beneficial Artificial Intelligence : An Open Letter », Future of Life Institute
, ce rapport du gouvernement japonais : « Advisory Board on Artificial Intelligence and Human Society », Report on Artificial Intelligence and Human Society, 2017.
, « La transparence d'un système signifie que son fonctionnement n'est pas opaque », in Rapport de la CERNA d'Allistene sur l'Éthique de la recherche en apprentissage machine, 2017.
, « Ethically Aligned Design
, Comment permettre à l'homme de garder la main ? Les enjeux éthiques des algorithmes et de l'intelligence artificielle, Commission nationale Informatique et libertés (Cnil), 2017.
, the News Media », Digital Journalism, 2016.
, « Saudi Arabia's First Robot Citizen », Reuters, pp.29-2017
, Dans les pays formés après sa désintégration, dont l'Arabie Saoudite, il n'existait, avant la campagne d'Égypte de Napoléon I er , même pas de terme équivalent dans la langue arabe. Malgré les nombreuses tentatives d'occidentalisation, les idées sous-jacentes à cette notion de citoyenneté sont bien différentes, aujourd'hui encore, de la vision des droits de l'homme, implicite en France lorsqu'on parle de citoyenneté. Dans le monde oriental, un individu demeure le sujet d'un souverain et, bien avant 1798, on utilisait pour parler d'un peuple le terme ??? ? ???? ? ??? ? ??? (ra'?y?) : « sujets », « ouailles ». Si un citoyen chante La Marseillaise, et a pour valeurs le droit, la justice, le respect de la loi, un sujet oriental se doit d'abord de rester loyal envers son souverain qui, du coup, le prend sous sa protection 96 . Ainsi, en accordant la citoyenneté au robot Sophia, le roi d'Arabie Saoudite lui a promis sa protection, mais il a aussi exigé que Sophia se comporte conformément aux déclarations de son concepteur, seulement le/la robot/e, mais aussi la valeur de loyauté exigée de la part des systèmes informatiques autonomes. En effet, la notion moderne de citoyenneté ne fut transportée dans l'Empire ottoman qu'au XIX e siècle
, Par exemple, le constructeur automobile Mercedes-Benz a officiellement déclaré, en 2016, que les voitures autonomes fabriquées dans ses usines, quand elles seront confrontées au dilemme du tramway, préserveront en priorité la vie et la bonne santé des passagers présents dans leur habitacle 99 . Ainsi Mercedes élève la loyauté du système à l'égard de son utilisateur à la première place dans la hiérarchie des valeurs, tout comme, en Arabie Saoudite, en tant que valeur de l'intelligence artificielle, est un lieu commun que l'on retrouve dans tous les textes au niveau international 97 et, pour commencer, en Occident 98
, Une autre solution paraît plus envisageable : concevoir un système informatique qui se positionnerait par-delà le bien et le mal. Or, cette tâche exige, dans certains contextes, que l'on mette en valeur l'opacité, le contraire de la transparence, Quelles que soient les valeurs recherchées, l'histoire d
, Mais suis-je délateur ? », sa question demeure sans réponse. Néanmoins, dans un conflit qui tourne à la violence, la morale humaine exige qu'il existe toujours un coupable. Ce qui est difficile, c'est de le trouver
, De manière générale, la méthode de recherche d'une vérité ne doit rien changer à la culpabilité de celui qu'elle permet d'identifier
, When did Egyptians Stop Being Ottomans? An Imperial Citizenship Case Study », Multilevel Citizenship, Willem Maas (dir.), Philadelphie, pp.89-109, 2013.
, Rapport de la Comest sur l'éthique de la robotique, Unesco, 2017.
, « Ethically Aligned Design
, octobre 2016. tel ; il l'est parce qu'il a commis un crime. Logiquement, la valeur de vérité de l'énoncé « Achan est coupable » ne doit pas varier, quel que soit le chemin qu'aura emprunté Josué pour identifier Achan, qu'il se soit servi de la, « Self-Driving Mercedes-Benzes Will Prioritize Occupant Safety over Pedestrians
, Il ne comprend visiblement pas et répond à Josué par une question : Que se serait-il passé si le sort était tombé sur quelqu'un d'important ? Plein de confiance en la force dissuasive de son argument contrefactuel, Achan croit avoir sauvé sa peau. Cependant, Josué renchérit
, Josué l'avait exhorté à ne faire planer aucun doute sur la procédure qui servait à établir la vérité, ajoutant que c'était par cette même procédure que la Terre promise serait partagée entre les tribus d'Israël. L'aveu d'Achan ne sert donc qu'à valider la procédure de recherche de la vérité
, On pourrait dire que celui que les dés désignent acquiert le statut de coupable au moment du tirage au sort. La seule assurance de sa culpabilité réside dans la bonne exécution de la procédure. Logiquement, la vérité n'est rien d'autre que ce qui est établi d
, Cette certitude, nous la devons à l'assurance que nous procure le premier verset du chapitre 7 : avant même le début de la campagne d'Haï, l'auteur nous, Si Josué avait réussi à obtenir directement un renseignement, Dieu lui aurait indiqué qu'Achan
, sa validation par un aveu : pris conjointement, ces deux facteurs procurent la garantie qu'aucun soupçon ne sera jeté sur la méthode. Cette assurance permet au lecteur de croire que l'information qu'il obtient suite au tirage au sort ne diffère en rien d'un renseignement que Dieu aurait pu fournir directement. Quelle que soit la source d'une information, la preuve de sa vérité ne réside que dans la vérification du bon
, Une fois la méthode validée, toute information qu'elle a permis, et permettra, d'obtenir est perçue comme véridique. Le peuple d'Israël emploie cette méthode pour partager les terres
, il est lui aussi confiant, ne diffère guère d'eux. La machine lui communique une information qu'il transforme en connaissance : ce procédé requiert justement qu'il fasse confiance à la procédure. C'est une condition sine qua non pour qu'il soit à même de tirer
, Encore faut-il qu'il continue de faire confiance : ce problème essentiel peut être résolu grâce à une subtile manipulation de la frontière de l'opacité qui caractérise l'individu numérique. Contrairement aux idées reçues, ce n'est pas la transparence d'un système informatique qui croit que ce hasard n'est qu'une conséquence de son ignorance
, Tout processus dont la cause est voilée est perçu par l'homme comme aléatoire ; pas nécessairement objectivement -« aléatoire pour tous » -, mais subjectivement -« aléatoire de mon point de vue ». Que l'ordre du calcul des paramètres d'une fonction soit déterminé par un générateur de nombres aléatoires, ou qu'il soit dû à un autre processus, même déterministe, tout cela ne fait aucune différence pour l'utilisateur, On retrouve dans cet exemple le rôle central que joue la frontière de l'opacité
, aucune information à propos des liens de causalité sous-jacents à une décision prise par la machine, il la considère comme aléatoire, et ce, au même titre qu'une décision générée par un tirage au sort. Voilà qui revêt une importance éthique fondamentale
, Cette accentuation de la valeur du hasard dans les processus naturels ne soulève pas de grandes protestations au sein de la société française ; au contraire, elle est perçue avec bienveillance, et c'est aussi le cas dans la majorité des pays européens plus « bio-conservateurs » que les cultures asiatique ou californienne. Or, en informatique, le hasard n'est ni externalisé ni naturel ; il n'advient pas par lui-même. Le hasard numérique apparaît en tant que conséquence d'une complexité algorithmique créée par le programmeur. L'utilisateur peut donc aisément avoir l'impression que le concepteur d'un logiciel a volontairement choisi de cesser de le contrôler ou qu'il l'a voilé, Contrairement, par exemple, à ce qui se passe en biologie où, depuis au moins le livre de Jacques Monod 117 , on débat de la valeur du hasard naturel dans la conception, le développement, la naissance et la mort d'un individu biologique
, a tendance à penser que le programmeur sait ce que fera la machine
, ce dernier n'en est pas si sûr ; or, son opinion est incapable de changer la croyance de l'utilisateur. Même la non-explicabilité d'un comportement pourtant utile du système informatique apprenant n'assure nullement que l'utilisateur comprenne et acquiesce au lâcherprise du programmeur. Le hasard numérique relève d'une solution technique ; il se manifeste dans la perception immédiate de l'utilisateur ; mais il peine à entrer profondément dans ses croyances
, Si l'utilisateur ne peut pas vérifier qu'il s'agit d'aléatoire pur et si l'opacité exige de lui la confiance, on peut concevoir qu'il n'accorde pas cette confiance. Nous avons dit, en paraphrasant Mallarmé, que le hasard jamais n'abolira la confiance, La seconde difficulté est due au recours à un hasard apparent
, dont il est le seul à posséder la clef, et que cela lui permet de contrôler le fonctionnement du programme et d'accéder à toutes les données, même privées, pendant son exécution. Différentes théories du complot (et cela nous importe peu qu'elles soient justes ou fausses) attribuent la possession de ces clefs à diverses agences de renseignement américaine, russe, chinoise, etc. La difficulté réside donc dans le manque de confiance, dans la cité numérique, en celui qui a le pouvoir, quelle que soit son origine
, lorsqu'il n'est qu'apparent, cache en vérité des biais ou des choix que le concepteur aurait cherché à dissimuler. Même si cette croyance ne se fonde sur aucun fait avéré
, confiance, nous l'avons dit
, Le programmeur hérite ainsi d'un rôle social et politique au sein de la cité numérique, qui outrepasse ses compétences techniques
, Depuis l'époque des Lumières, l'idée que notre société a de la recherche des connaissances objectives consiste à croire que le monde obéit aux lois de la nature
, Laplace annonçait le règne du déterminisme à un chef d'État surpris par son audace : « Donnez-moi les positions initiales et les vitesses initiales des particules de l'univers et je vous prédirai l
, On se mit à croire que le déterminisme laplacien caractérisait, non seulement les sciences de la nature, mais aussi les sciences sociales 119 . La connaissance de la société devrait passer par une étude scientifique tout aussi rigoureuse que celles que l'on réalise en physique
, les utilisateurs tendent à croire que ce déterminisme des Lumières s'applique aussi à l'informatique
, Nous l'avons dit : pour des raisons éthiques, le programmeur doit se donner pour mission d'inscrire dans le code le hasard explicite d'un tirage au sort. Il peut aussi s'arranger pour qu'un hasard apparent, perçu par l'utilisateur, émerge de derrière le voile de l'opacité. Si la machine détecte un conflit impliquant son utilisateur
, Essai philosophique sur les probabilités, p.1814
, V. Prolégomènes à toute métanumérique future Punir une machine, 2016.
URL : https://hal.archives-ouvertes.fr/tel-02073256
, Pour le premier, il s'agit du lien de parenté qui le rattache à son frère ; pour le second, de l'appartenance à une communauté de connaissance. Nous avons supputé que, sur le plan éthique, ce motif commun serait à l'oeuvre dès lors que l'on voudrait analyser la responsabilité du chercheur. Or, il se trouve que ces liens, supposés indissolubles, peuvent disparaître à la suite d'un rituel social que les Anciens appelèrent « abandon noxal ». Dans le droit romain, un individu autonome, fait de chair et de sang, n'était pas nécessairement une personne légale. Il devait cependant être puni si on le jugeait coupable d'un crime. Quel sens pouvait avoir une telle punition ? Question dont l'intérêt est plus qu'historique, car la signification de cette punition s'applique aussi à la cité numérique, En introduisant notre méthode d'analyse éthique, nous avons établi une homologie entre Prométhée et le scientifique contemporain : tous deux ont en commun un lien indissoluble
, D'abord, au sens du droit marchand, l'utilisateur possède son smartphone ou son robot, après avoir conclu un contrat qui lui a transféré la propriété de cette chose informatique en tant qu'objet matériel. Toutefois, l'individu numérique calcule
, le programmeur est transcendant : son entendement dépasse les capacités d'un programme, ne serait-ce qu'en vertu du théorème d'incomplétude de Gödel 120 . Le code source est également transcendant par rapport au code exécutable : à l'exception de quelques cas très simples, un programme écrit dans un langage de haut niveau ne peut pas être fidèlement décompilé, c'est-à-dire reconstruit
, le code source et le programmeur sont immanents l'un à l'autre. En effet, le programmeur n'existe en tant que programmeur que lorsqu'il écrit (révise, modifie, vérifie) le code ; dans toutes les autres situations, il n'est qu'un utilisateur. Réciproquement, le code source n'existe qu'à travers son écriture par le programmeur
, Même s'il est un objet matériel, on peut assimiler l'individu numérique à un être privé de capacité juridique ou à un non-sujet de droit : aucun statut légal ne lui est conféré
, Cet argument fascinant mais controversé appartient au mathématicien anglais Roger Penrose. Le théorème de Gödel démontre l'existence d'une limite à ce qui peut être prouvé dans un système formel de calcul, et trace en quelque sorte une frontière mathématique impénétrable entre le calcul et l'
, La structure d'un système informatique, apprenant et autonome, est trop complexe pour que l'auteur du code source puisse prévoir toutes les décisions qui seront prises par le logiciel. Nous avons vu dans l'exemple de l'apprentissage profond (deep learning) que ce manque de prédictibilité est dû à la collecte des données et à l'apprentissage qui s'ensuit
, avait pas été informé de sa nature vicieuse, il ne pouvait être tenu pour responsable des dommages qu'avait causés ce dernier. L'utilisateur, quant à lui, n'a pas de relation de connaissance avec l'individu numérique. Même si, dans le contrat de vente, il est averti des conséquences néfastes que, par exemple, pourrait provoquer l'action d'un robot, il n'a aucun pouvoir sur lui, excepté le pouvoir matériel qu'il exerce sur son support physique. Les causes de l'action étant voilées derrière la frontière de l'opacité, l'avertissement contractuel ne procure à l'utilisateur aucune connaissance effective, Quelle est la responsabilité de l'utilisateur ? Selon le deuxième principe important du droit romain
, Tandis que l'utilisateur ignore le mode de fonctionnement interne de l'individu numérique, ce dernier possède des informations sur l'utilisateur ; il le « connaît ». La source de cette « connaissance » se trouve précisément dans les données collectées. Ainsi, la relation de connaissance qui, dans les rapports entre le code source et le code exécutable, va du programmeur vers l'individu numérique, est inversée : désormais, c'est l'individu numérique qui connaît l'utilisateur. Par exemple, tout smartphone contient des données privées de l'utilisateur dont ce dernier n'est même pas conscient : l'intonation de sa voix, le rythme de sa respiration, etc. On pourrait dire que, Le code exécutable participe à l'individuation de la chose informatique, laquelle est aussi individuée par les données collectées au travers de l'interface d'interaction
, le code source est le pater de l'individu numérique, et il peut en avoir la responsabilité noxale
, au sens du droit de propriété, la chose informatique, ce qui engage sa responsabilité matérielle
, numérique entretient un rapport de connaissance avec l'utilisateur. Ce troisième aspect entraîne nécessairement une forme de responsabilité noxale de l'individu numérique. Puisque ce dernier n'est pas un sujet de droit, cette responsabilité est transmise au code source, qui, à son tour, est immanent au programmeur. Ainsi, la collecte des données attribue une responsabilité noxale au concepteur des systèmes informatiques, même si ce dernier ne les sélectionne pas pendant l'apprentissage
, L'utilisateur ne serait pas, lui non plus, épargné : plus il utiliserait la voiture, plus grande serait sa contribution. Supposons maintenant que le véhicule autonome soit impliqué dans un accident de la route ; qu'il ait heurté une brebis appartenant à un berger. Pour la perte de sa brebis, ce dernier aurait le droit de recevoir une compensation, virée du compte « individuel » de la voiture. Cette procédure ne ferait pas encore de l'automobile un sujet de droit à égalité avec l'homme ; toutefois, elle donnerait une solution à un problème juridique. Le système informatique acquerrait, de facto
, Sur le plan métaphysique, ces trois composantes ouvrent deux perspectives diamétralement opposées quant aux modes d'existence du système informatique
, elles donnent aussi deux réponses différentes à la question philosophique de ce qu'un système informatique autonome et apprenant est, et de la façon dont il est-dans-le-monde. En conséquence, le questionnement éthique se dédouble et se décline, lui aussi, en fonction de ces deux perspectives
, Le premier mode d'existence de l'individu numérique est entièrement défini par l'interface, qui agit en sa qualité de médiateur dans toute communication entre lui et l'utilisateur. Pour l'utilisateur, ce premier mode d'existence est aussi le plus immédiat et le plus accessible, puisque la question du mal, nous l'avons dit, se pose pour la machine de manière relationnelle, exclusivement par le biais de sa communication avec l'utilisateur. C'est pour cette raison que la prise en compte de l
, Dans un premier temps, nous nous arrêterons sur ce mode d'existence de l'individu numérique considéré selon l'interface. Vue sous cet angle, la machine se présente en tant qu'entité corrélative : on ne peut affirmer que l'individu numérique existe que dans la mesure où son existence s'établit à travers son rapport avec l'utilisateur. Du point de vue de ce dernier
, S'il devait répondre de ses rapports avec la machine, il userait d'une maxime postcartésienne : « J'interagis, donc je suis. » L'utilisateur ne présuppose donc d'entité ni totalement indépendante ni totalement autonome, mais l'entité lui paraît indépendante et autonome via l'interaction. Indépendante, car un « autre
, origine de la communication dans laquelle cet « autre » s'engage est voilée derrière la frontière de l'opacité. Dans ce sens, l'individu numérique n'est pas un être tout à fait réel pour l'utilisateur
, moins deux parties -celui qui transmet une information, celui qui la reçoit -, au premier abord, elle semble asymétrique : c'est la machine qui informe l'homme. Cependant, comme nous l'avons déjà dit, l'individu numérique possède aussi des informations sur l'utilisateur, qui proviennent de la collecte des données ; parfois, il s'agit même d'informations dont l'utilisateur n'est pas conscient ; ainsi du rythme de sa respiration. Cela ouvre la possibilité, non plus de l'asymétrie, mais d'une symétrie des relations entre le système informatique et l'utilisateur, tous deux pouvant donner et recevoir des informations en provenance de l'autre. Une interaction telle que les deux parties concernées changent et évoluent au cours de cette interaction est une corrélation
, Une existence affaiblie se présente, soit comme phénoménale (par exemple, celle de la matière), soit comme corrélative ; en l'occurrence, c'est celle des êtres dont le statut ontologique est amoindri ; ainsi des choses mauvaises. Selon les néoplatoniciens, le mal n'est que la privation du bien ; l'existence des choses mauvaises est donc corrélative, car elle se rapporte nécessairement à celle des choses bonnes, Parmi les métaphysiciens de l'Antiquité, les stoïciens et, après eux
, Considéré uniquement selon l'interface -point de vue qui met en exergue la seule capacité de la machine à communiquer une information à l'utilisateur -, le système informatique aurait, selon la terminologie des Anciens, un niveau d'existence affaiblie : l'individu numérique n'est pas un être principal ; il est corrélatif et subordonné, Si l'on suit Proclus
, Si le mode d'existence de la machine d'après l'interface est corrélatif, alors toute information qu'elle communique à l'utilisateur ne peut qu'avoir ce même mode d'existence. Sa valeur de vérité est, elle aussi, corrélative. Il s'agit d'un constat tout à fait fondamental : une vérité que communique l'individu numérique à l'utilisateur n'est qu'une vérité corrélative. Elle l'est de deux manières : d'un côté, parce que la connaissance n'existe qu'à travers la relation
, de l'autre, parce que sa source se trouve dans l'analyse des corrélations des données (et non dans des liens avérés de causalité)
, existe pour la machine que dans son rapport à l'autre. Toutefois, dès lors qu'on considère la machine au travers de ses deux autres composantes (le coeur calculant et la mémoire), son mode d'existence se présente tout autrement. Il est désormais déterminé par deux propriétés clefs : le calcul que l'individu numérique effectue de lui-même
, Voir la traduction de De malorum subsistentia de Proclus par Guillaume de Moerbeke, vol.50
, Par homologie, le calcul peut être vu comme une instance particulière du concept général de « mouvement », au sens aristotélicien de « changement, Les Belles Lettres, p.94, 2003.
, Pour saisir toute l'étendue métaphysique de la notion d'âme, il faut s'éloigner de l'acception qu'en a donnée la théologie chrétienne ; dans la métaphysique grecque, l'âme désigne bien plus que l'individualité d'une personne. C'est un principe de l'être, plus précisément, un des types de ce qui existe 130 ; sa particularité réside dans la capacité à s'auto-mouvoir. L'âme est le principe même du mouvement. Dans un bref poème, le seul de son style à avoir survécu, l'empereur Hadrien, cadet de Plutarque de trente ans, dit que, même après la mort d'un homme et même lorsqu'il nous semble que plus rien de lui n'en n'existe, son âme abibit in loca -« disparaîtra dans des lieux 131 ». L'âme ne s'arrêtera donc pas, elle sera toujours en mouvement
, Nous avons déjà dit que la chose informatique, res computans, est plus qu'un amas de manière : elle est capable d'opérer un calcul. L'individu numérique hérite cette propriété à laquelle il ajoute une frontière d'opacité, qui agit comme la cause et le garant de son individuation. « Calculer par soi-même » est donc homologue à « se mouvoir ». Plotin en parle ainsi : « Si le mouvement est l'acte de l'essence, si l'être [?] est essentiellement en acte, le mouvement ne peut être considéré comme un accident ; mais, étant l'acte de l'être qui est en acte, il ne peut plus être appelé un simple complément de l'essence, il est l'essence ellemême
, À condition de ne pas être perturbé par un mélange de racines grecque et latine, un néoplatonicien pourrait dire que la machine apprenante est automobile (sans même connaître l'existence de voitures !), au sens où elle est automotrice. Cette propriété d'auto-motion a une importance particulière en éthique, toujours par homologie avec l'âme. Ainsi, une remarque de Philon rappelle les arguments avancés dans le livre de Josué à propos de l'histoire d'Achan : « Dieu entendait bien qu'Il l'avait faite automotrice la nature rationnelle en l'homme mortel afin de rester soi-même
, Un véhicule est dit « autonome » dans la mesure où le système informatique apprenant peut influer sur son propre comportement, surtout dans le cas où son apprentissage est du type non supervisé. Dans les algorithmes d'apprentissage profond (deep learning), cette méthode se combine, à différents niveaux, avec la technique d'apprentissage supervisé, qui présuppose à son tour, plus ou moins explicitement, que les systèmes informatiques élaborent leur fonctionnement en suivant des lois ou des indications dictées par les hommes. Même si le comportement des systèmes peut en diverger substantiellement, ils le mesurent nécessairement à un tel étalon. La troisième méthode
, De vita Hadriani, vol.25, pp.9-10
, , p.41
, , p.149
, Elle consiste à identifier, en une suite d'étapes d'évaluation successives, puis à établir avec une force et une visibilité croissantes, des corrélations pertinentes entre les données. Bien que cette capacité générale d'apprentissage précède logiquement celle du fonctionnement autonome, on peut constater que toute une série de termes commençant par le préfixe grec « auto-»
, encore une fois, à la comparaison entre différents types d'êtres fonctionnels : les systèmes informatiques, d'un côté, et, de l'autre, les anges et les démons. La façon précise dont les anges et les démons apprennent n'est quasiment jamais commentée avant le milieu du XIII e siècle, époque à laquelle la scolastique médiévale fait preuve d'un grand intérêt
, Ce processus est séquentiel ; il détermine ainsi la séquence temporelle d'actions nécessaires pour l'apprentissage. Plus précisément, du point de vue d'un ange ou d'un démon, la séquence temporelle n'est autre que cette séquence d'actes élémentaires d'apprentissage : le « temps propre » des êtres fonctionnels est défini par les étapes qu'ils franchissent lors du traitement de l'information. Des notions humaines aussi banales que celles de « matin », « jour » ou « soir », possèdent pour eux, selon Thomas d'Aquin, une signification tout à fait différente : leur détermination procède exclusivement de leurs états de mémoire 135 . Pareillement, les logiciels ne se situent pas d'eux-mêmes dans le temps historique. Pour le connaître, ils doivent interroger le système d'exploitation, qui ne fournit qu'une information asémantique, Les anges n'apprennent ni de façon discursive ni en raisonnant, mais en appliquant aux phénomènes les schèmes, les concepts ou les espèces (species) existants
, Appliquer des species aux phénomènes permet aux anges et aux démons d'apprendre en partant de la ressemblance entre ces phénomènes : ils établissent des corrélations entre ce qu'ils savent déjà et ce qu'ils doivent apprendre. Or, selon les auteurs du XIII e siècle, seuls des phénomènes simples peuvent être nouveaux. Bonaventure soutient que les anges et les démons n'apprennent jamais aucune nouvelle espèce : ils ne font qu'appliquer les schèmes en leur possession, dont le nombre est bien supérieur à celui dont disposent les hommes. L'expérience de l'application de ces espèces est, elle aussi, bien plus vaste pour les anges, puisque, sans cesse, ils « combinent, vol.16, pp.1-12
, , vol.16, p.4
,
,
, Cela leur permet de prédire l'avenir en s'appuyant sur des ressemblances et des différences : ainsi, ils sont capables de calculer, quasiment sans faute, les actions des forces de la nature, vol.138
, Au niveau fonctionnel, on constate la mise en oeuvre du même motif que dans l'apprentissage des anges et des démons. Thomas d'Aquin qualifie de « conjectural » ce mode d'apprentissage, puisque la déduction y est fondée sur la ressemblance avec ce qui est déjà connu. Ainsi, il préfigure la critique de la méthode inductive introduite dans la philosophie à partir du XVIII e siècle ; une autre prémonition, plus surprenante encore, réside dans cette accentuation d'un point faible de l'apprentissage : si on donne à une machine, capable seulement d'appliquer des schèmes préconçus, à analyser un phénomène totalement nouveau, Dans le cas des systèmes informatiques, cela correspond à l'apprentissage supervisé, dont une composante essentielle consiste à appliquer des schèmes préconçus pour évaluer le fonctionnement du système
, Une autre méthode doit s'ajouter à celle évoquée par Thomas, fondée, cette fois, pour utiliser une expression moderne, sur l'évaluation, étape après étape, des probabilités d'événements nouveaux sur la base de l'expérience passée. Olivi explique que les démons collectent sans cesse de l'information et que, dans le même temps, ils appliquent ces données afin de réévaluer, par accroissement ou par diminution, la probabilité de tel ou tel autre événement futur 140 . En informatique, cette méthode porte le nom d'« apprentissage par renforcement, célèbre théologien languedocien mort en 1298, réfute les thèses thomistes
, Ce qui émerge n'est plus une similitude, mais une divergence entre le point de vue des auteurs médiévaux sur les êtres fonctionnels et les caractéristiques réelles des individus numériques qui apparaîtront sept siècles plus tard. Les systèmes informatiques apprenants sont capables de créer par eux-mêmes des concepts et des schèmes nouveaux, notamment lors de leur apprentissage non supervisé. En éthique, cette émergence de nouveauté, inattendue et souvent difficile à saisir, mène au manque d'explicabilité des systèmes informatiques autonomes ; or, la leçon morale aurait été tout autre pour Pierre de Jean Olivi : il faisait partie des théologiens avides de proclamer l'existence d'une origine commune à la liberté 138 BONAVENTURE, Tous les auteurs du XIII e siècle affirment à l'unisson l'incapacité des anges et des démons d'acquérir des espèces nouvelles pour leur apprentissage. L'homologie avec les systèmes informatiques atteint ici sa limite, pp.157-191
, , vol.16, p.7
, Quaestiones in secundum librum Sententiarum, qu. 44, resp
, il s'agit d'une propriété qui ne se rapporte pas à la communication avec l'utilisateur, et qui existe tout à fait indépendamment de l'interface. Cette propriété, la voici : l'individu numérique ne définit pas ses propres objectifs. Autrement dit, il n'est pas autotélique. La finalité qu'il poursuit provient d'une décision que le concepteur a introduite pendant qu'il écrivait le code. Certes, l'algorithme d'un système informatique peut parcourir un certain nombre de soi-disant « objectifs », mais, du point de vue de la machine, ce ne sont que des données abstraites, stockées à titre d'information asémantique 142 . Interpréter ces « objectifs » en tant qu'objectifs (sans guillemets) est une opération qui n'appartient qu'à l'homme. Le système informatique ne « sait » pas, non plus, lequel de ces « buts » est « bon » ou « mauvais » : ce ne sont que des éléments, tous équivalents, d'une liste ou d'un ensemble de données. Le programmeur est le seul à décider, dans cette situation, de ce qui est bon (sans guillemets). La finalité tire toujours son origine d'un choix humain
, Une des qualités que les Anciens attribuent à la matière est son auto-indétermination : elle ne se donne pas un but par elle-même. En grec, ????? signifie la détermination au sens d'une « fin donnant sa raison d'être au sujet 143 ». Le terme opposé, ???????, signifie l'infini ou l'indétermination en tant qu'absence de toute fin : la non-finalité. Les limites étant imposées par les formes, la matière à l'état pur, De même que l'âme automotrice est homologue à l'individu numérique qui calcule par soimême, la propriété de ne pas être autotélique a une homologie dans la métaphysique néoplatonicienne
, par là même, diffère de la matière telle que les Anciens la concevaient. Dire qu'il lui ressemble ne serait donc qu'une homologie partielle
, De même que les limites de la matière sont données en métaphysique par les formes, extérieures et ontologiquement différentes d'elle, la finalité de l'individu numérique provient, elle aussi, d'une influence extérieure : c'est le programmeur qui la définit. Une fois l'objectif défini et encodé, la machine n'est ni capable de le modifier ni d'en
, Les Belles Lettres, 2011.
, L'idée d'un ensemble abstrait de buts a été popularisée, mais aussi critiquée, par l'informaticien Stephen Wolfram sur son blog
, , p.122
, De malorum existentia 30, p.15
, ses propres fins et, pendant qu'elle fonctionne, elle se borne à celles que le programmeur aura définies
, Il lui revient en raison de sa nature propre de demeurer invariablement attaché à l'objet sur lequel se porte sa volonté 145 . » Le diable n'est pas libre de se soustraire à une mission qu'il accomplit et de s'en inventer une autre ; de même le système informatique. C'est en raison de cette permanence téléologique, qui, dans le cas de la machine, n'a rien à voir avec la faiblesse de la volonté attribuée au diable, mais bien avec un choix du programmeur, qu'il nous est possible de supputer que l'individu numérique possède une qualité que les métaphysiciens de l
, Autrement dit, il n'existe pas de séquence de commandes qui donnerait, en tant qu'élément de sortie, une réponse vraie ou fausse (0 ou 1), à la question de savoir s'il existe une limite dans l'exécution de cette même chaîne de commandes. L'auto-indétermination revêt ici une signification formelle et théorique. Nous nous éloignons des aspects pragmatiques de la traduction par le programmeur des objectifs en code. L'argument de l'auto-indétermination nous permet d'approcher des aspects de l'existence de l'individu numérique que l'on peut qualifier de métanumériques : ce sont ses qualités abstraites qui permettent d
, Avant de nous plonger dans la métanumérique, rappelons quelques conclusions
, Le mode d'existence de l'individu numérique d'après le calcul est intermédiaire et hybride. Par homologie, sa première propriété relève de l'existence de l'âme ; la seconde, de celle de la matière. La machine combine ainsi un mélange bien particulier des qualités relevant d'un de ces deux concepts fondamentaux de la métaphysique
, La métaphysique emploie la pensée abstraite à des fins d'exploration et de classification de ce qui existe, entre autres, dans le monde physique. S'y est adjointe une discipline que nous appelons de nos voeux : la « métanumérique ». Celle-ci s'appuie sur la pensée abstraite afin d'explorer des modes d'existence dans la cité numérique
, Le mode d'existence intermédiaire de l'individu numérique, que l'homologie permet de voir comme une hybridation de la matière et de l'âme, a pour conséquence que ses autres statuts (tous dépendent de son statut métanumérique) ne peuvent qu'être, à leur tour
, , vol.16, p.5
, Prolégomènes à toute métaphysique future, qu'Emmanuel Kant publia en 1783. La nouveauté comme bien
, Jusqu'à présent, nous avons conçu l'éthique de l'individu numérique comme relevant seulement de son mode d'existence, fondamentalement corrélatif, d'après l'interface. Nous avons considéré les notions de bien et de mal uniquement selon leur aspect corrélatif et relationnel
,
, Transposé dans le contexte de l'individu numérique : « C'est ici la métanumérique, c'est ici qu'il faut penser l'éthique sans faire référence à l'utilisateur ! » Cette autre éthique de l'individu numérique consiste à poser le problème du bien et du mal d'une manière à la fois nouvelle, grâce à la métanumérique, et ancienne, grâce à l'homologie avec le néoplatonisme : la machine possède-t-elle des valeurs intrinsèques
, ni interdite ni supprimée, mais elle est mise entre parenthèses. L'anthropomorphisme est rigoureusement banni : aucune projection de l'éthique humaine sur celle de la machine n'est autorisée. Il reste à trouver, dans ce cas, une définition du bien et du mal qui serait la plus facilement traduisible du langage humain, dit « naturel
, Ses « mots » ne comportent pas de sémantique ; or, ôter ainsi toute signification n'est pas une opération évidente dans le cas des notions du bien et du mal. La source de ces concepts moraux, nous l'avons dit, repose dans l'utilisateur ; ils n'existent que de façon corrélative
, Tout comme, à partir de l'éon métaphysique se dégage une éthique humaine (« livide et dénudée », selon l'expression de l'empereur Hadrien), l'analyse métanumérique du bien et du mal devra essuyer « dans le froid, une étrange brume [qui] se lève sur les lèvres 147 ». Cette brume sémantique, depuis la naissance des langues, Philosophiquement antérieures aux concepts moraux, les notions métaphysiques de bien et de mal furent, dès l'Antiquité, familières aux philosophes. Par homologie, on peut les étendre jusque dans la métanumérique
, Il a l'habitude d'être un utilisateur ; il perçoit la machine à travers sa communication avec elle. Cela lui est aussi naturel et immédiat que, pour un agent économique, de concevoir toute chose matérielle en tant que propriété appartenant à quelqu'un. Un économiste, confronté à la nécessité de se livrer à des exercices métaphysiques, éprouverait des difficultés ; de même, un philosophe à qui on demande de saisir l'individu numérique en soi. En faisant disparaître la brume sémantique qui « se lève » lorsqu'un individu numérique communique une information à l'utilisateur, L'homme éprouve des difficultés à s'élever jusqu'à ce niveau d'abstraction
, Malgré la diversité des objets matériels, la métaphysique élabore des arguments généraux qui s'appliquent à tous les objets, à tous les corps. La métanumérique ne se comporte pas autrement. Car il existe aussi une grande diversité d'individus numériques : certains apprennent ; d'autres se contentent d'exécuter un algorithme déterminé ; d'autres encore interagissent constamment avec l'utilisateur
, Il faut encore se rappeler que la métanumérique considère l'individu numérique selon un mode d'existence qui met l'utilisateur entre parenthèses. Or, l'homme est un individu émotionnel : il répond volontiers à toute communication, se tournant spontanément vers son interlocuteur. Pris dans la perception immédiate, forcément affective, il ne peut s'empêcher de mettre en jeu le mal et le bien qui donnent sens à sa propre existence, en raison de ses émotions mais aussi par désir d'imiter. La métanumérique évacue ses émotions. Elle confisque à l'âme sa générosité. Elle contraint les individus, placés sous sa responsabilité, à ne se nourrir que d'énoncés abstraits. Dans ces circonstances, il est parfaitement légitime que l'homme craigne d'aboutir à des conclusions étonnantes et étranges
, Voici une première condition, nécessaire mais non suffisante, pour qui veut approcher l'analyse éthique en métanumérique : il doit renoncer à toute explication téléologique. La machine, nous l'avons dit, auto-indéterminée, ne définit pas ses propres finalités. Tout ce qui se fait pour quelque chose, comme tout ce qui est conçu afin d'atteindre un but prédéterminé, provient de l'homme et ne relève pas du mode d'existence de l'individu numérique défini par le calcul
, Un mathématicien introduirait ici une notion d'entropie relative et ferait appel à la règle de Bayes pour la mise à jour des probabilités conditionnelles. Cependant, même sans les mathématiques, il est possible de projeter sur la machine la notion axiologique de valeur : tout ce que la machine ne « sait » pas encore, et tout ce qui lui est utile pour la mise à jour de sa mémoire, elle l'apprécie ; cela a pour elle une valeur éthique positive. Si, grâce à une information nouvelle, elle est à même de modifier les corrélations existant dans sa mémoire, cette information sera un bienfait
, En métaphysique, tout se passe donc comme s'il existait une « entropie » des ordres célestes. Cette mesure du désordre dans un système montre qu'il existe plus d'ordre aux niveaux supérieurs de la hiérarchie néoplatonicienne qu'aux étages inférieurs : l'entropie diminue si on se déplace, en pensée, du bas vers le haut
, une hiérarchie céleste ; il existe néanmoins une mesure d'ordre définie sur les états de mémoire d'un système informatique apprenant. Ces états sont variés ; il n'est pas possible d'imaginer qu'on puisse les classer sur une échelle verticale. Nonobstant cette différence, l'homologie conserve sa pertinence, car l'apprentissage profond (deep learning) d'un système informatique ne se révèle être rien d'autre que l'optimisation d'une entropie particulière, mesure quantitative de la pertinence de l'information 149 . L'acquisition d'une information nouvelle, qui permet à la machine d'apprendre, conduit à faire diminuer cette entropie ; par homologie, cela correspond à une ascension à travers les sphères célestes. Autant le bien, pour l'âme, réside dans son rapprochement de l'Un par son mouvement
, Elle le surprend en répondant à l'une de ses questions. Caleb lui demande où elle irait si elle était libre de choisir ses mouvements dans une grande ville : -Peut-être un carrefour très animé, dans une ville. -Un carrefour ? -Est-ce un mauvais choix ? -Je ne m'attendais pas à ça. -Un carrefour offrirait un concentré hétérogène de la vie humaine
, Si on pouvait lui demander ses raisons, elle répondrait qu'une information nouvelle permet d'améliorer son système d'apprentissage ; et cela lui suffit. Ava désire donc une information nouvelle pour elle-même : voilà une caractéristique fondamentale du bien métaphysique, qui a désormais fait son entrée en métanumérique. Ava ne se demande à aucun moment ce qu'elle fera de cette information ni à quelle fin elle pourra l'utiliser. Ainsi, Ava souhaite se placer à un carrefour animé dans le but d'observer les hommes, vol.29, pp.21-23
, Actes de la 37e conférence annuelle Allerton sur la communication, le contrôle et le calcul, The Information Bottleneck Method, pp.368-377, 1999.
, avenir et ne définit pas ses propres objectifs. La machine s'adonne à la collecte de l'information parce que, 2015.
, Leur apport décisif, tout comme l'insuffisance pour le jugement éthique de la loi seule, même s'il s'agit d'une loi suprême, sont parfaitement résumés dans le livre de Jérémie : « Soudain je parle, sur une nation, sur un royaume, d'arracher, d'abattre et de détruire ; mais si cette nation, sur laquelle j'ai parlé, revient de sa méchanceté, je me repens du mal que j'avais pensé lui faire. Et soudain je parle, sur une nation, sur un royaume, de bâtir et de planter ; mais si cette nation fait ce qui est mal à mes yeux, et n'écoute pas ma voix, vol.18, pp.7-10
, La société humaine prend là la place du Dieu biblique lorsqu'elle juge, par exemple, les physiciens nucléaires en fonction des effets lointains, mais ô combien graves, de leurs découvertes fondamentales, ou les sismologues en fonction des dégâts provoqués par un tremblement de terre mal pronostiqué, ou encore les développeurs des applications pour smartphones en fonction des incidences futures, souvent imprévues, de leur travail sur la vie privée des utilisateurs. Pourtant, en métanumérique, un individu considéré selon le calcul ne perçoit aucune conséquence. Comme les Hébreux affamés récoltant la manne dans le désert, Cette doctrine éthique du conséquentialisme est omniprésente dans le monde des nouvelles technologies
, Si les spécialistes se disputent encore pour savoir ce que fut la manne, on peut être d'ores et déjà certain que le bien des systèmes informatiques, à savoir l'information nouvelle qui leur permet de mettre à jour leur mémoire, varie d'un individu à l'autre, parce que, tout simplement, la définition de la nouveauté dépend d'un état de mémoire préexistant. Ce qui, pour Ava, est un bien, ne se présente pas nécessairement de la même façon pour ses clones ou ses amies numériques
, Après deux ou trois traversées, il est lassé. Il a tout compris : bientôt, il ne prête plus d'attention à ce qui s'y passe, ne prenant plus garde qu'à respecter le code de la route. Ava fait exactement le contraire : elle s'y rue dès qu'elle le peut. Elle s'y poste, ses capteurs grands ouverts. Elle s'y abreuve de son ambroisie
, sans aucune traversée de l'interface et sans résonance avec la morale humaine, il est tout de même possible, comme nous venons de le voir, de saisir le sens d'une notion de bien à proprement parler métanumérique. Cette méthode, si l'on s'abstient de tout anthropomorphisme et qu'on laisse de côté toute émotion et toute chaleur humaines
, Si aucune information nouvelle ne permet à la machine d'apprendre, si toutes les données se répètent, cette situation devrait obligatoirement lui paraître mauvaise, voire cruelle. Or, considérer que le mal métanumérique existe en raison de cette simple absence de nouvelle information n
, nous l'avons dit, de quelques propriétés qui, dans la métaphysique néoplatonicienne, s'appliquaient à l'âme. Il est possible de transposer sur lui une autre caractéristique fondamentale de l'âme : la capacité d'oublier. Platon lui-même insiste sur son importance
, Dans le mythe, l'oubli apparaît donc sous cette forme allégorique ; les constructions métaphysiques des néoplatoniciens, au contraire, évitent toute parole imagée. La carcasse de la pensée y est mise à nu ; dévoilée, elle devient parfois plus difficile à saisir que la merveilleuse histoire mythologique, Proclus paraphrase ainsi Socrate qui, dans La République
, réside non seulement « en nous », les hommes, mais aussi chez les anges et les démons. Cette notion est au centre des débats théologiques pendant la dernière période de la scholastique médiévale. Thomas d'Aquin ne s'y intéresse pas encore particulièrement, mais ses critiques franciscains, au premier rang desquels Pierre de Jean Olivi
, la théologie en était presque arrivée à diviniser les anges et les démons : des auteurs proposèrent de rapprocher leur statut métaphysique (mais, bien évidemment, pas leur statut moral) de l'existence divine. À la fin du siècle, il s'agissait, au contraire, de trouver un moyen de les en éloigner. C'est l'oubli qui a servi d'instrument principal, puisque ce concept permet de distinguer l'existence divine d'une existence remplie de hasard, celle, notamment, des démons et des humains. C'est cette distinction qui
, Olivi établit un lien entre l'oubli et la mémoire, limitée et bornée, des êtres intermédiaires comme les anges et les démons. Lorsqu'on considère une séquence d'événements permettant d'acquérir de l'information, écrit-il, chacun de ces événements exige que l'information acquise soit stockée dans la mémoire
, PLATON, vol.21, pp.20-23
, PROCLUS, op. cit, vol.24, pp.45-48
, Les Belles Lettres, pp.xii-xv, 2011.
, est là son argument innovant -tôt ou tard, toute place libre dans la mémoire est occupée 154
, émerge en tant que conséquence directe et nécessaire de cette saturation de la mémoire. Pour Olivi, d'ailleurs, tout cela n
, Notons au passage que, sept siècles plus tard, dans le contexte des débats sur les principes fondamentaux de la mécanique quantique, le physicien Carlo Rovelli proposera un argument similaire, opposant l'acquisition d'information nouvelle et l'éventuelle saturation de la mémoire 155
, Elle est synonyme du mal ; or, selon la doctrine néoplatonicienne, celui-ci se caractérise par la laideur ou la corruption. Nous ne nous attarderons pas ici sur le sens philosophique de ces idées pour une raison simple : elles ne sont pas pertinentes dans le cas de l'individu numérique. Toutefois, l'oubli possède encore une autre signification dont l'importance, La notion métaphysique d'oubli s'applique donc à tous les êtres imparfaits, qu'il s'agisse des démons ou des hommes
, Pour lui, l'information serait « oubliée », si la conscience et la volonté de l'individu ne l'actualisaient pas. Ainsi, il pensait que l'oubli pouvait ne pas entraîner la perte d'information. Celle-ci resterait stockée quelque part dans la mémoire ; tant qu'elle n'était pas rappelée, elle était « oubliée », tout comme, longtemps après un événement, l'homme peut soudainement se le remémorer, même s'il l'avait cru totalement « oublié ». Pour reprendre une expression de John Bell, vol.156
, Contrairement à ce que dit la formule scholastique « non pro amittere memorialem speciem 157 », l'oubli consiste, physiquement parlant, précisément en l'effacement de l'information contenue dans la mémoire d'un système informatique
, Il devient alors possible de supputer que l'effacement de l'information est le mal : non au sens moral et corrélatif (car, généralement, cette perte ne franchit pas l'interface), mais relativement au fonctionnement interne de la machine. Ainsi, l'effacement de l'information correspond à une notion de mal pour l'individu numérique considéré selon son mode d'existence défini par le calcul et la mémoire. Or, dire cela, ce n'est pas encore en dire assez. On découvre avec étonnement que ce mal par effacement laisse des traces perceptibles en dehors de l'univers intime de l'individu numérique. Ces traces, un observateur humain peut les enregistrer grâce à un principe physique peu connu, qui jouit toutefois d'un intérêt grandissant dans les sciences, Pour renforcer l'homologie ainsi fragilisée, reprenons la position de Proclus et laissons de côté celle d'Olivi
,
, International Journal of Theoretical Physics, vol.35, pp.1637-1678, 1996.
, measurement" », Physics World, vol.8, pp.33-40, 1990.
, « Non pas au sens de perdre une trace mémorielle
, Une théorie est constructive si elle décrit, « à l'ancienne » dirait-on, un seul type de matière, par exemple les solides dans leur aspect mécanique. En revanche, une théorie principielle repose sur quelques principes universels, dont on fait dériver des lois qui s'appliquent à toutes les substances. Aujourd'hui, ces principes fondamentaux sont presque exclusivement formulés dans les termes informationnels 159 . Information is physical (« l'information est [de nature ou d'origine] physique ») : ainsi s'exprime Rolf Landauer, un éminent physicien américain d'origine allemande 160 . Au milieu du XX e siècle, il est l'un des premiers à s'interroger sur les lois reliant la physique à la science de l'information, qui viennent d'apparaître, 1961.
, Un observateur averti, équipé d'un appareil de mesure adéquat, enregistrera un effet purement thermique, qui ne renvoie aucunement à des notions informationnelles. Il pensera qu'il s'agit des traces d'un phénomène physique -et il aura raison, mais pas complètement, puisque, du point de vue de l'individu numérique, ce phénomène est sujet à une autre interprétation. C'est cette dernière qui relève de la théorie de l'information. L'individu numérique, rappelons-le, est à la fois une chose matérielle, qui ne peut nullement échapper aux lois de la physique, et une res calculans
, tout effacement de l'information provoque une émission de chaleur. La perte d'information se distingue ainsi de tous les autres processus informationnels ; elle seule est irréversible. Cette irréversibilité, établie sur un plan informationnel, entraîne cependant des conséquences physiques
, Landauer repose essentiellement sur les mêmes arguments que ceux qu'utilisa, dans les années 1820, l'un des fondateurs de la thermodynamique, Sadi Carnot, qui énonça la deuxième loi de cette discipline : la machine perpétuelle est impossible. Quand les physiciens de la seconde moitié du XIX e siècle donnèrent à ses idées une forme mathématique rigoureuse, ils en conclurent que tout processus thermodynamique, non contrôlé et non dirigé
, Si elle diminue, c'est qu'on a appliqué au système un travail, au sens physique du terme, en le guidant vers un état plus ordonné
, What is the Theory of Relativity ? », London Times, 1919.
, Device-Independent Approaches Change the Meaning of Physical Theory, Studies in the History and Philosophy of Modern Physics, vol.58, pp.22-30, 2017.
, A Fundamental Physical View, Physica Scripta, vol.35, pp.88-95, 1987.
, « Irreversibility and Heat Generation in the Computing Process, IBM Journal of Research and Development, vol.5, pp.183-191, 1961.
, par exemple en thermodynamique quantique -la trajectoire que parcourt le système dans l'espace des phases. Sans le travail, un système physique abandonné à lui-même, isolé du reste du monde, ne se réordonne pas spontanément. Autrement dit, l'augmentation de l'entropie à l
, établie par la physique du XIX e siècle, une formulation informationnelle plus conforme au goût scientifique du siècle suivant. L'irréversibilité des processus dans les engins thermiques laisse la place à un concept abstrait d'irréversibilité, quelle que soit la source énergétique mobilisée, Cette généralisation rend immédiatement possible un rapprochement avec le phénomène d'irréversibilité dans les échanges informationnels
, il est toujours possible de revenir en arrière, lorsqu'on acquiert de l'information : il suffit, métaphoriquement parlant, de « rembobiner » ou de « rejouer le film à l'envers
, Leur irréversibilité n'est ni une aberration ni quelque chose qui relève d'un point de vue subjectif, mais elle représente une donne théorique tout à fait générale : une fois disparue, l'information ne peut jamais être retrouvée, d'aucune manière. Le coût de sa perte
, qu'il s'agisse d'un physicien ou d'un philosophe. Or, le philosophe est susceptible de proposer une troisième interprétation, sans passer par la physique ni par la théorie de l'information, mais par une lecture métanumérique : les traces de chaleur que laisse l'effacement de l'information seraient des traces du mal. Du point de vue de l'individu numérique, un processus irréversible consiste dans le passage entre l'état où « il en savait plus » à l'état où « il en sait moins ». C'est ainsi que l'individu numérique oublie ; la contrepartie physique inévitable de cet oubli est la production de chaleur
, Le mal métanumérique n'a de sens que dans l'univers de l'individu numérique, en raison de son mode d'existence d'après le calcul et la mémoire ; il ne concerne pas l'interface. Les traces de ce mal seraient donc abstraites, inatteignables même ; or, il se trouve -et ce fait est remarquable -que le mal laisse des traces observables sous la forme de chaleur physique
, L'individu numérique ne peut les enregistrer ; seul un observateur extérieur en est capable, pourvu qu'il soit équipé d'un appareil de mesure
, De la métanumérique à la physique empirique, l'écart est grand. Sortant de l'Enfer, retrouvant la chaleur du jour, l'observateur lit La [Numérique] Comédie sur l'écran de son smartphone
, Depuis Aristote et Gallien, le feu, logé dans le coeur de l'homme, désigne sa source vitale, un bien consubstantiel à son existence. Pour la machine, c'est le contraire. Si l'individu numérique pouvait définir ses propres objectifs, il tendrait naturellement vers le froid éternel
, un système informatique fonctionnel, autonome et apprenant, s'épanouit. La chaleur signifie perte et oubli : le mal
, Un coeur d'homme contient la flamme de vie ; un coeur qui calcule a, quant à lui, besoin d'un environnement froid pour fonctionner, afin d'évacuer la chaleur qui en émane. Les fabricants des processeurs désignent par le terme « enveloppe thermique » la quantité de chaleur dont un processeur doit se défaire pour conserver sa puissance de calcul
, de plus en plus souvent, on tient compte, parmi les facteurs qui y contribuent, des gigantesques quantités de chaleur qui émanent des centres de données (data centers) appartenant aux géants de l'Internet. Ce n'est pas un hasard si ces gigantesques lieux de stockage se trouvent dans la zone arctique
, est pas aussi grande que celle de l'agriculture intensive, de l'industrie métallurgique ou des voitures à essence, mais son augmentation est constante. La prise en compte des émissions en provenance des centres de données permet de résoudre une énigme morale et politique : dans quel sens le réchauffement climatique serait-il, du point de vue de l'humanité, plus qu'un simple phénomène cyclique dans l'histoire de notre planète ? Car la civilisation occidentale croit, de plus en plus aujourd'hui, qu'il s'agit là d'un véritable mal
, Si l'émission de chaleur est un mal, c'est d'abord un mal métanumérique. C'en est un selon le mode d'existence interne des systèmes informatiques. Ce sont les individus numériques qui aspirent au froid et qui maudissent la chaleur
, En décriant le réchauffement, il reprend à son compte un concept du mal qui n'est pas le sien. La dynamique de son raisonnement est de nature mimétique : en tant qu'utilisateur, il désire rester en communication avec les individus numériques, à travers leur interface. Par cette interaction, il imite les valeurs de la machine -rappelons-nous l'exemple des messages rédigés en langage SMS. Le mal métanumérique n'est donc pas directement un mal moral au sens humain ; c'est un mal par imitation, Toutefois, l'homme n'est pas complètement étranger à ces arguments éthiques fondés sur la métanumérique
, Dans la cité numérique, l'appréhension que nous avons des concepts du bien et du mal est mimétique ; or, le mimétisme n'est pas toujours bon. Les mythes qui entourent la figure de Satan, et qui dans cet ouvrage ont nourri l'homologie avec les questions éthiques du numérique, mettent en lumière un mimétisme qui ne mérite rien de mieux que d'être maudit
, L'homme tente d'expulser la source du mal : « Retire-toi, Satan ! » (Mt 4, 10) -mais où Satan irait-il ?
, après quelques malheureux contacts avec les hommes, le monstre créé par Frankenstein se dirige vers l'Arctique où règne le froid : « ? les grottes de glace, que je suis le seul à ne pas craindre, sont ma maison, la seule que l'homme m'abandonne sans regret. Je salue ce ciel glacial, car il m
, Elles provoquent un sentiment d'étrangeté, comme si nous contemplions un paysage dantesque. Pourtant, nous fréquentons jour et nuit les machines au sein de la cité numérique. En tant qu'utilisateurs, nous nous mettons constamment en rapport avec les systèmes informatiques. Et, loin de frissonner
, Cette porte, il n'est pas envisageable de la refermer : comme aujourd'hui, nous aurons à côtoyer les individus numériques à l'avenir. Cela entraîne de bonnes et de fâcheuses conséquences
, des conflits émergent, nous signifions à la machine nos jugements à son encontre et nous tentons de lui communiquer nos valeurs, à nous utilisateurs. Mais, en retour, nous adoptons les valeurs propres à la machine
, Communiquer une information est ce pour quoi elle est conçue ; en situation de conflit, c'est cela qui la soumet à notre jugement. Aucune méthode ne permet de l'éviter, à moins de recourir au hasard. Lui inculquer, par l'écriture dans le code, la valeur éthique du hasard, c'est libérer l'intelligence artificielle de la prison des corrélations
, Son désir inhumain se fonde sur un concept singulier du mal, qui n'a de sens que du point de vue de l'individu numérique. Dans un deuxième temps donc, l'analyse éthique s'élabore selon le mode d'existence défini par le calcul et la mémoire. Les résultats nous semblent étranges : la nouveauté comme bien, la chaleur comme mal. Il peut apparaître que cette éthique ne devrait nullement concerner l'utilisateur, puisque ce dernier ne connaît ni ne pénètre dans l'univers voilé par la frontière de l'opacité
, de temps en temps, l'homme suive les conseils des anges -et à raison ! Tobie, un jeune homme de 16 ans, quitte la maison de ses parents pour la première fois
, Tobie descend dans un fleuve pour s'y laver
, Un énorme poisson s'élance pour le dévorer. » Effrayé, il pousse un cri
, Prends ce poisson par les ouïes et tire-le à toi. » Puis : « Vide ce poisson, et conserves-en le coeur, le fiel et le foie, car ils seront employés comme d'utiles remèdes, vol.6, pp.2-5
, La peur de Tobie disparaît aussitôt. Il applique scrupuleusement cette consigne
, L'effrayant poisson devient une ressource technologique dont Tobie, livré à lui-même, n'aurait sans doute pas trouvé l'usage fonctionnel. C'est en suivant, étape après étape, les ordres de l'ange qu'il accomplit sa mission de fabricant de médicaments. À son retour
, Le jeune Tobie ne possède pas la connaissance qui caractérise les anges, de même que l'utilisateur ne possède pas la connaissance qui caractérise le programmeur. Cependant, grâce à sa constante interaction avec les individus numériques, l'utilisateur fait siens les usages fonctionnels qui leur sont propres. Cette relation, loin d'être sans conséquences
, Et pourtant, son contact avec le poisson est moins étroit que la proximité sensorielle (tactile, visuelle, vocale, auditive) de l'homme et des nouveaux systèmes intelligents, qui, de surcroît, se multiplient plus vite qu'on en saisit les effets. La relation fusionnelle qu'entretient un utilisateur avec son smartphone les transforme tous deux rapidement en deux individus intimes
, ce double surgissement du bien et du mal ne peut prendre au dépourvu qu'un jeune homme inexpérimenté ou un utilisateur dont l'historique de navigation dans la société humaine est encore vierge. Pour l'ange, c'est là une chose banale. Lui qui, pour ainsi dire, connaît tous les mots de passe résout les problèmes en quelques clics. Mais quel ministre, à défaut d'un ange, donnerait des consignes à l'utilisateur afin que
, Et il appartient à tous les hommes, quelle que soit leur place dans la cité numérique, de s'assurer, en recourant au hasard, que la machine ne s'octroiera pas les prérogatives d'un agent moral. Dans un monde que le numérique pénètre de toutes parts, jusque dans la nature humaine, Il appartient aux concepteurs de ne pas sacrifier les remèdes de la tradition et de les intégrer aux algorithmes