France

Raja Chatila : « Penser n’est pas calculer »

Dans une contribution au « Monde des livres », le spécialiste d’intelligence artificielle et d’éthique explique pourquoi il est inexact et dangereux de réduire l’humain à la machine.

Temps de Lecture 2 min.

Article réservé aux abonnés

[Le Forum philo Le Monde Le Mans, prévu les 8 et 9 novembre sur le thème « Etre humain? », est reporté en raison du confinement.]

Contribution. « Les machines peuvent-elles penser ? » C’est avec cette question et son « jeu de l’imitation » qu’Alan Turing (1912-1954), inventeur de la « Machine de Turing universelle » – modèle théorique de l’ordinateur – a introduit, il y a exactement soixante-dix ans, un débat qui se poursuit encore, autour de l’intelligence artificielle.

Aujourd’hui, au vu des capacités impressionnantes de certains logiciels comme AlphaGo, champion mondial du jeu de Go en 2016 et 2017, puis AlphaZero, on pourrait être tenté de croire que ce n’est plus qu’une question de temps avant que les systèmes fondés sur l’intelligence artificielle égalent, voire surpassent, les capacités humaines. Mais aussi performants soient-ils, ces résultats sont trompeurs.

En évitant soigneusement de définir ce qu’est « penser », la question de Turing et la démarche de l’intelligence artificielle assimilent de facto la pensée humaine à l’opération d’une machine de Turing. Or celle-ci a été inventée pour répondre à une question fondamentale en mathématiques : « Quelles sont les fonctions calculables ? », et la réponse est « celles pour lesquelles il existe un algorithme (de calcul) qui s’arrête ». La machine de Turing, l’ordinateur, n’est capable que de dérouler des algorithmes – c’est-à-dire des calculs systématiques – qui s’arrêtent quand le résultat est atteint. Elle pourrait calculer indéfiniment et ne jamais s’arrêter si la fonction n’était pas calculable.

Nous sommes capables de « sortir » de l’algorithme

La pensée humaine est-elle algorithmique ? Dans un très grand nombre de cas, en particulier quand nous réalisons des actions routinières, nous avons bien l’impression d’effectuer une séquence de « calculs » que nous avons intégrés. Cela ressemble à l’apprentissage par renforcement en robotique.

Mais, contrairement à ces robots, nous sommes capables de « sortir » de l’algorithme, de penser autre chose, de décider autrement qu’en choisissant parmi des options qui nous sont présentées. Et il ne s’agit pas de choix aléatoires. Comment ? On ne le sait pas. Des recherches considérables en neurosciences essaient de percer le mystère. L’architecture de notre cerveau, le fonctionnement même des neurones restent des sujets de recherche ouverts. Le rôle différencié des aires cérébrales, leur articulation, l’architecture globale et le fonctionnement dynamique du cerveau sont probablement à l’origine des capacités cognitives humaines.

Il vous reste 19.95% de cet article à lire. La suite est réservée aux abonnés.

Vous pouvez lire Le Monde sur un seul appareil à la fois

Ce message s’affichera sur l’autre appareil.

Découvrir les offres multicomptes

Football news:

Giroud sur un éventuel départ de Chelsea: Laissez-moi profiter de la victoire, j'ai marqué 4 buts. Ensuite, nous verrons
Le dernier match à domicile du CSKA en Ligue Europa. Ils vont enfin gagner?
Casillas-Ronaldo: seulement 750 buts? Tu peux et mieux 😏
Le président du PSG à propos de 3-1 avec Manchester United: Nous nous battons pour la Ligue des Champions et nous nous montrons toujours dans les moments importants
La Lazio a sorti le match nul contre le Borussia grâce à un penalty controversé: Schulz a percuté Milinković-Savić, le serbe a bien touché
José Mourinho: Tottenham est l'un des chevaux les plus importants de la Ligue Europa, nous participons à la course
Cherevchenko est le meilleur entraîneur du RPL en novembre. Il devance Semak et Tedesco