Le 26 mars 2023, Léo Duff publiait une vidéo intitulée « Et si l’intelligence artificielle…nous avait inventés ?« .
C’est une vidéo qui s’inscrit de manière très pertinente dans le contexte actuel, la nouvelle tendance tech étant centrée sur les IA grand public et leur évolution aussi rapide qu’impressionnante.
Sa vision atypique de la tech couplée à la qualité de ses analyses donne un mélange qui sonne souvent juste.
Il mène au cours de celle-ci une réflexion très intéressante sur notre rapport à l’IA et à notre propre intelligence.
Il me semblait donc pertinent de revenir sur certains points, pour y apporter une contradiction, ou approfondir.
AlphaGo, créative ?
« Lorsqu’elle place le coup 37, elle sait que les chances qu’un humain tente ce coup sont de 1 sur 10 000. Mais elle le fait quand même. Elle a agi au-delà de ce qu’on lui a enseigné. Au point où c’est elle qui nous a donné une leçon. »
Et si l’intelligence artificielle…nous avait inventés ?, Léo Duff
La vidéo prend pour point de départ la victoire de l’intelligence artificielle AlphaGo sur l’ex-champion du monde de Go, Lee Sedol.
Durant la 2e manche l’opposant à Sedol, AlphaGo a joué un coup improbable qui finira plusieurs tours plus tard par retourner le match en sa faveur.
Lee Sedol expliquera plus tard que c’est à ce moment là qu’il a compris que l’intelligence artificielle était capable de faire preuve de créativité, et Léo vient appuyer ces propos dans sa vidéo en expliquant qu’AlphaGo avait joué ce coup en dépit de la faible probabilité qu’un humain ne le joue.
Le problème, c’est que ça ne marche pas tout à fait comme ça.
L’apprentissage d’AlphaGo s’est fait en deux temps, chacun employant une méthode différente :
- Apprentissage supervisé : AlphaGo a analysé des dizaines de milliers de parties, toutes jouées par des humains, afin de déterminer quels coups avaient le plus de chance de mener à la victoire dans une situation donnée.
- Apprentissage par renforcement : on a fait jouer AlphaGo contre des instances d’elle-même avant de lui faire analyser ces parties, afin de lui permettre d’affiner son modèle en fonction des situations de jeu.
AlphaGo n’a pas été entraîné pour trouver les coups les plus joués par les humains, mais pour trouver les coups ayant le plus de chances d’amener à la victoire.
Au jeu de Go, un coup à l’épaule (ou Katatsuki) consiste à juxtaposer diagonalement une de ses pierres à une de celles de l’adversaire.
C’est une stratégie considérée comme risquée, car bien qu’elle permette de préparer le terrain pour une future offensive, elle ouvre néanmoins des failles dans la défense du joueur.
AlphaGo n’a pas véritablement fait preuve de créativité : après avoir analysé des dizaines de milliers de parties, elle est simplement arrivée à la conclusion que les joueurs humains qui sortaient victorieux de la situation dans laquelle elle se trouvait étaient ceux favorisant la prise de risque du katatsuki.
Peut-être que le coup avait bel et bien 0,01 % de chances d’être joué par un humain, mais il s’agissait bien du coup qui avait statistiquement le plus de chances de la mener à la victoire.
Si AlphaGo pensait cela, c’était parce qu’elle avait « vu » des humains l’utiliser, et gagner.
Toute chose remise dans son contexte, le « coup 37 » était bel et bien surprenant.
Non pas car il était créatif et innovant, mais parce qu’il a brisé une idée pré-conçue que les joueurs de Go tenaient pour vraie.
Celle que le katatsuki était trop risqué pour pouvoir être utilisé dans cette situation, en particulier lors d’une compétition.
Je crois fermement que l’intelligence artificielle n’est pas capable de faire preuve de créativité, ou du moins pas encore.
Cependant, en analysant des données dont nous faisons nous-même abstraction, elle est capable de mettre en lumière des vérités que nous avons occulté.
C’est la raison pour laquelle on a constaté une amélioration de la prise de décisions chez les joueurs de Go depuis l’arrivée d’AlphaGo.
AlphaGo n’est pas allée au-delà de ce qu’on lui a appris. Elle n’a fait que nous rappeler avec quoi nous l’avons nourrie.
L’intelligence humaine
« Ce n’est pas seulement des calculs, c’est de l’inspiration, de la créativité, de l’intelligence pure. Cela nous pose un énorme problème d’identité. »
Et si l’intelligence artificielle…nous avait inventés ?, Léo Duff
Qu’est-ce qui fait que nous sommes humains ?
De nombreux philosophes se posent la question depuis maintenant des milliers d’années, mais à une heure où nous nous sentons de plus en plus remplaçables par nos propres machines, elle semble revêtir une importance nouvelle.
Comme le souligne justement Léo Duff dans sa vidéo : l’humanité se définit elle-même par son intelligence, mais sans définition universelle de l’intelligence, elle se définit par un concept qu’elle n’est pas sûre de comprendre.
Là où il manque cruellement de nuance, c’est qu’il oublie de distinguer l’intelligence de l’intelligence humaine.
Si AlphaGo peut être considéré comme intelligente du fait de sa capacité à résoudre des problèmes, on ne peut pas pour autant considérer qu’elle possède une intelligence humaine.
De tous les traits qu’il évoque pour parler de notre intelligence, presque aucun n’est réellement propre à l’être humain.
- Des animaux tels que les primates sont capables d’apprendre à se servir d’outils.
- Des modèles mathématiques sont capables de résoudre des problèmes.
- Presque tous les animaux possèdent un moyen de communiquer avec les autres individus de leur espèce, et c’est également le cas de certains végétaux.
Ce qui nous distingue de l’animal, ce n’est pas le concept de l’intelligence. C’est autre chose.
La question de la créativité
« La créativité, c’est l’intelligence qui s’amuse. »
Albert Einstein
En prenant la définition la plus simple possible de la créativité, peut-être qu’il est possible d’affirmer de manière très discutable que l’intelligence artificielle est déjà capable d’en faire preuve.
En revanche, essayer d’étoffer la définition ne fera que nous éloigner de cette thèse.
L’intelligence artificielle n’est pas encore capable de créer, car elle est incapable de comprendre les concepts qu’on lui transmet.
Elle n’a, pour ainsi dire, pas de culture.
Quand AlphaGo joue au jeu de Go, elle ne comprend pas ce qu’est le Go. Elle ne comprend même pas ce qu’est un jeu.
Tout ce qu’elle sait, c’est que pour une donnée d’entrée, elle est récompensée si elle retourne une donnée de sortie satisfaisante.
Et en le tournant en ces termes, on est déjà en train de personnifier une ligne de code dans un programme.
AlphaGo n’a pas de motivation intrinsèque à jouer au jeu. Elle ne peut ni le trouver intellectuellement stimulant, ni particulièrement agréable.
Sa recherche de récompenses est codée en dur dans son programme. On ne peut donc même pas parler de motivation extrinsèque.
Elle n’a pas de motivation, elle est simplement obligée de se comporter ainsi.
En d’autres termes, elle n’a pas de volonté propre.
Lorsque nous sommes mis dans des états de privations avancés, il devient extrêmement difficile, pour ne pas dire impossible, de résister aux pulsions de faim et de soif.
« La seule barrière entre nous et l’anarchie, ce sont nos neuf derniers repas. »
Alfred Henry Lewis
En revanche, je suis tout à fait capable de m’empêcher d’aller scroller sur TikTok pendant 3 heures, bien que cette activité soit récompensée par mon cerveau via la sécrétion de dopamine.
Je suis configuré pour assurer ma propre survie, mais tout ce qui n’y est pas directement lié dépend, au moins en partie, de ma propre volonté.
Il n’y a pas d’IA créative
L’une des définitions possibles de la créativité que donne Wikipédia est la suivante :
L’acte créatif peut être considéré comme le fruit d’une volonté de puiser quelques informations provenant de la mémoire (logique ou irrationnelle) et de les réorganiser d’une manière nouvelle, poussée par l’imagination, l’instinct, l’inspiration, les émotions fortes…
Créativité, Wikipédia
Sans culture, sans volonté, et sans aucune capacité à ressentir des émotions, l’intelligence artificielle est en réalité incapable d’être créative.
À mon sens, la créativité en elle-même est une capacité propre à l’intelligence humaine.
Cela ne signifie pas qu’on ne rendra jamais l’intelligence artificielle créative, seulement que le faire nécessiterait de lui permettre de vivre une expérience profondément humaine.
Quid des IA génératives ?
Ainsi, ChatGPT, MidJourney, StableDiffusion ne seraient pas créatives ?
Ma réponse, c’est que non, elles ne le sont pas.
Auriez-vous oublié que ces intelligences artificielles n’attendent spécifiquement que vos instructions pour se mettre en marche ?
Elles ne font rien d’elles-mêmes, elles attendent vos idées.
Si le succès dépend de l’exécution, la créativité, quant à elle, réside dans l’idée.
L’intelligence artificielle a remplacé le pinceau, mais elle n’a aucunement remplacé l’artiste.
« ChatGPT et les technologies similaires sont des applications de complétion de texte. Rien de plus, rien de moins. Leurs réponses étonnantes sont la démonstration de la prévisibilité des humains, à condition qu’elles aient assez de données sur notre façon de communiquer. »
AI isn’t close to becoming sentient — the real danger lies in how easily we’re prone to anthropomorphize it, The Conversation U.S.
MidJourney a beau être capable de générer des rendus incroyablement détaillés, sans une prompt réfléchie à laquelle on aurait insufflé une culture et des émotions, l’image ne transmettra absolument rien.
Ceux qui se sentent menacés par MidJourney sont ceux qui se définissent par leur technique plutôt que par leur imagination.
Pendant ce temps, les personnes à la technique faible mais à l’imagination débordante n’ont jamais été aussi prolifiques que depuis que ces IA leurs sont devenues accessibles.
L’IA générative est un outil, pas un cerveau.
Entre science et philosophie
« La définition de l’intelligence, comment elle se produit, comment elle se mesure, tout cela varie selon les cultures, les sciences, les philosophies et les croyances. »
Et si l’intelligence artificielle…nous avait inventés ?, Léo Duff
Pour parler de l’intelligence, Léo Duff se réfère à deux courants de pensée : le physicalisme, et le dualisme.
Pour faire simple :
- Le physicalisme part du principe que tout ce qui existe est physique ou matériel. Chaque chose dans l’univers serait ainsi modélisable par la physique, y compris la vie et l’intelligence.
- Le dualisme oppose le matériel et le spirituel, deux entités opposées qui constitueraient une seule unité : notre univers. Nos émotions et nos pensées existeraient ainsi sur un plan de l’existence qui nous serait alors inaccessible.
Ce qui est intéressant ici, c’est que le physicalisme nous dit que notre intelligence n’est que le fruit d’une machine biologique extrêmement complexe.
Nous pouvons donc essayer de la comprendre et de la répliquer.
En revanche, le dualisme nous explique que notre intelligence appartient à un domaine qui nous est hors de portée, et par conséquent nous ne pourrons jamais la comprendre
Ainsi, selon qu’une philosophie ou l’autre se révèle vraie, la finalité de la course à l’IA connaîtra une fin bien différente.
Dans un cas, on arrivera un jour ou l’autre à insuffler l’intelligence humaine à une de nos créations.
Dans l’autre, seul un être divin serait capable de réaliser cet exploit.
Ce qui nous différencie des machines
« Pour faire simple, nous ne sommes rien de plus que des amas de produits chimiques et d’impulsions électriques. »
Et si l’intelligence artificielle…nous avait inventés ?, Léo Duff
Si le physicalisme finit par l’emporter, qu’est-ce que cela impliquerait pour nous ?
Si notre cerveau peut être répliqué pour créer des machines, alors nous sommes nous-même des machines.
C’est en réponse à cette problématique-là que Léo Duff introduit dans sa vidéo le sujet de la conscience.
Contrairement aux machines, nous sommes conscients.
Conscients du monde qui nous entoure, mais surtout conscients de nous-même.
Sauf que, se référant à des travaux de recherche récents, Léo explique que cette conscience de soi pourrait être une illusion.
Et là, j’ai du mal à voir où il veut en venir.
La conscience est-elle une illusion ?
« Le cerveau est une incroyable machine qui orchestre notre perception du monde pour créer un spectacle captivant. Mais si c’est lui qui l’orchestre, ce « moi » n’est qu’une illusion. »
Et si l’intelligence artificielle…nous avait inventés ?, Léo Duff
Que veut-il dire par « illusion » ?
En quoi le fait que notre cerveau organise notre perception du monde ferait de notre conscience une illusion ?
Tout cela est pourtant bien réel : nous voyons, entendons, pensons et ressentons.
Les images que nous voyons et les sons que nous entendons ne sont certes que des interprétations que notre cerveau construit à partir des informations qu’il reçoit, mais cela ne change rien.
Si notre cerveau traite pour nous la plupart des informations qu’il reçoit sans pour autant nous les faire parvenir, cela ne veut pas dire que tout est faux pour autant.
C’est justement cette séparation entre les automatismes de notre cerveau et nos pensées qui rend la conscience bien réelle.
C’est là tout le sens métaphysique de la locution « Cogito ergo sum » / « Je pense, donc je suis » : la seule certitude du sujet pensant, c’est celle de sa propre existence.
Descartes était pour le coup dualiste, mais cette locution conserve son sens même dans un contexte physicaliste.
Ayant besoin d’exister pour douter, nous ne pouvons pas raisonnablement douter de notre propre existence, et par extension de l’existence de notre conscience.
J’imagine qu’il cherche à dire que la conscience n’est pas une entité distincte, seulement un produit de notre cerveau.
Cependant, je trouve ce choix de mot étrange, au vu des implications que l’on peut mettre derrière.
D’où vient la conscience ?
Dans sa vidéo, Léo semble relier l’intelligence humaine à l’expérience consciente.
Comme évoqué plus tôt, je suis d’accord avec cette proposition.
Je suis persuadé que pour donner une intelligence humaine à une machine, il faut lui permettre de vivre une expérience profondément humaine.
En revanche, cela pose des questions aussi bien sur le plan biologique que philosophique.
Comment fait-on apparaître la conscience ?
Actuellement, la communauté scientifique étudie plusieurs possibilités.
J’ai décidé d’en évoquer ici deux pour lesquelles les implications sur le domaine de l’intelligence artificielle sont assez intéressantes.
La théorie de l’information intégrée
Selon cette première théorie, la conscience serait définie par la capacité d’un système à intégrer de l’information.
Tout système traitant de l’information aurait un certain degré de conscience.
Ainsi, plus un système serait capable d’intégrer et de traiter efficacement l’information, plus il serait conscient.
Ce ne résout pas forcément le problème du « pourquoi », mais cela expliquerait au moins le « comment ».
La différence entre les expériences conscientes humaines et animales serait donc simplement due à la meilleure capacité du cerveau humain à traiter l’information.
En extrapolant un peu, on peut supposer qu’une intelligence artificielle consciente, ça ne serait rien de plus qu’une IA possédant une grande capacité à traiter des informations variées.
Ainsi, une potentielle Intelligence Artificielle Générale serait, par nature, consciente.
Conscience et mécanique quantique
Notez qu’on ne parlera pas ici du mysticisme quantique, mais bel et bien de théories évoquées par des physiciens.
En revanche, celles-ci n’ont jamais été prouvées, elles ne constituent donc pas une connaissance.
Elles sont d’ailleurs vivement critiquées par une partie de la communauté scientifique, les phénomènes quantiques étant censés relever du domaine sub-atomique, et non de structures aussi grosses que le cerveau.
Nous sommes donc plus dans de la philosophie que dans la physique, mais ce sont à mon sens des hypothèses intéressantes à considérer dans le cadre de notre raisonnement.
Selon l’hypothèse de l’esprit quantique, le fonctionnement du cerveau impliquerait des phénomènes de superpositions d’états et d’intrications qui expliqueraient l’apparition de la conscience.
Pour faire simple, la conscience serait ainsi générée par la matière, suivant une certaine configuration.
Cette propriété de la matière étant intrinsèquement liée à la mécanique quantique, cela expliquerait pourquoi nous sommes incapables de la simuler avec notre informatique actuelle.
Si cette théorie devait se vérifier, cela aurait une implication assez importante quant à notre capacité à reproduire notre propre intelligence.
Cela nécessiterait alors de faire usage des capacités propres aux ordinateurs quantiques.
Ce qui est intéressant avec cette théorie, c’est qu’elle permet de libérer la conscience du déterminisme de la physique classique.
Elle expliquerait également la persistance de la conscience malgré des phénomènes biologiques tels que le renouvellement des cellules du corps, car bien que restant physicaliste dans l’idée, on peut tout de même la rapprocher d’une certaine forme de dualisme.
Synthèse
D’après ces hypothèses, il serait tout à fait possible de recréer notre conscience.
Ce qui changerait, ça serait la difficulté de la manœuvre.
Dans un cas, le simple fait de construire un système capable de traiter des informations variées de manière très efficace suffirait à faire apparaître la conscience.
Dans l’autre, il nous faudrait pouvoir définir le rôle de phénomènes complexes qu’on ne maîtrise pas encore dans l’apparition de la conscience, et faire un plein usage des capacités uniques des ordinateurs quantiques.
La singularité et l’ère post-AGI
« La singularité technologique (ou simplement la Singularité) est l’hypothèse selon laquelle l’invention de l’intelligence artificielle déclencherait un emballement de la croissance technologique qui induirait des changements imprévisibles dans la société humaine. »
Singularité technologique, Wikipédia
L’innovation technologique est exponentielle.
Plus on crée de technologies, plus on a de technologies permettant d’en créer des nouvelles.
Ainsi, tout va toujours de plus en plus vite.
La singularité technologique, c’est en fin de compte l’apparition d’une Intelligence Artificielle Générale (AGI) capable de reproduire l’intelligence humaine, et par conséquent pouvant faire preuve de créativité.
En d’autres termes : une technologie pouvant créer d’autres technologies.
Et effectivement, cela risque de nous poser un énorme problème d’identité.
C’est là-dessus que je rejoins complètement Léo : « On verra peut-être plus de changements dans les 50 prochaines années que dans les 5 000 dernières. Le plus grand défi de l’intelligence artificielle, ce n’est pas de parvenir à définir ce qu’elle est, mais d’enfin comprendre qui nous sommes. Nous devons répondre aux questions existentielles sur notre propre intelligence, notre éthique, la raison de notre existence, pour préparer le futur potentiel dans lequel nous devrons transmettre ces règles à une nouvelle intelligence avant qu’elle nous dépasse. »
Conclusion
Là où Léo Duff fait, à mon, sens une erreur de raisonnement, c’est qu’il considère que l’intelligence artificielle fait d’ores et déjà preuve de créativité.
Au contraire, je pense que la créativité est encore une capacité propre à l’intelligence humaine.
Ainsi, le seul moyen d’obtenir une IA créative serait de lui conférer une intelligence humaine, et cela impliquerait de lui faire vivre, de manière intentionnelle ou non, une expérience consciente.
J’ai choisi de ne pas évoquer les implications morales et éthiques d’un tel acte.
Pour être honnête, je n’ai pas encore de réponse à apporter, et c’est à mon sens un sujet qui mérite d’être traité en profondeur.
Évitons de personnifier les machines
Il me semble contre-productif de considérer que l’IA peut être créative, en partie car cela contribue à la personnifier.
Il n’y a, à ce jour, aucune bonne raison de croire qu’il existe une IA consciente quelque part.
Tout ce que nous faisons pour l’instant, c’est nous projeter sur des boîtes qui font des statistiques et des probabilités.
Nous y voyons des signes d’humanité car elles sont devenues très performantes sur des tâches que nous étions jusqu’alors les seuls à pouvoir accomplir.
Seulement, ce ne sont que des boîtes qui font des statistiques et des probabilités.
En tant qu’humains, nous sommes psychologiquement prédisposés à anthropomorphiser notre environnement, mais cela ne doit pas nous empêcher de voir les choses pour ce qu’elles sont.
Un monde où une majorité de personnes seraient sincèrement persuadées que ChatGPT pourrait envahir le monde, ce serait aussi un monde où on établirait un degré d’innovation inacceptable.
Cela mettrait bien sûr en danger notre niveau de connaissances, mais il me semble aussi que cela pourrait mettre en péril notre futur en tant qu’espèce.
Une humanité qui mettrait un coup de frein à sa capacité d’innovation, ça serait également une humanité qui stagnerait et qui se rendrait incapable de surmonter ses plus gros obstacles.
Pour aller plus loin
Et si l’intelligence artificielle…nous avait inventés ? : https://www.youtube.com/watch?v=VeeBT5Bhyno
AlphaGo, dissection d’une évolution : https://datalchemy.net/blog/alphago
AlphaGo vs Lee Sedol: Post Match Commentaries : https://www.alexirpan.com/2016/03/17/alphago-lsd.html
Créativité : https://fr.wikipedia.org/wiki/Cr%C3%A9ativit%C3%A9
AI isn’t close to becoming sentient – the real danger lies in how easily we’re prone to anthropomorphize it : https://medium.com/@ConversationUS/ai-isnt-close-to-becoming-sentient-the-real-danger-lies-in-how-easily-we-re-prone-to-b767c96552a2
Conscience (biologie) : https://fr.wikipedia.org/wiki/Conscience_(biologie)
Pourquoi avons-nous développé une conscience ? : https://www.youtube.com/watch?v=VeoHfFTaaBw
