L'IA pose la question de l'identité

1. Le problème de l'IA
2. Nous faire dire ce que l'on n'a pas dit
3. Surpopulation et technologie
4. Que reste-t'il aux Hommes ?
5. L'ADN à la rescousse ?
6. Une question sans réponse satisfaisante
7. Conclusion

Comment nous définissons-nous, nous-mêmes, en tant qu'individus ? Qu'est-ce qui fait notre "identité" ? Est-ce notre visage, notre apparence physique, notre nom ?

Le Larousse nous donne une définition philosophique :

Caractéristique de deux ou de plusieurs objets de pensée, qui, tout en étant distincts par le mode de désignation, par une détermination spatio-temporelle quelconque, présentent exactement les mêmes propriétés. --- Larousse

Il est intéressant de noter que les autres définitions évoquent surtout la similitude entre deux objets ou personnes, voire de l'identité de groupes, mais rarement de l'identité d'un individu. Évidemment, c'est parce que l'identité implique une comparaison, néanmoins je trouve ces définitions insuffisantes, voire inexactes.

C'est ce qui m'intéresse dans la réflexion présente : l'identité d'un individu précis, spécifique, singulier, unique.

¶Le problème de l'IA

L'Intelligence Artificielle permet des choses qui, aujourd'hui, sont montrées comme des curiosités dans une foire médiévale, mais qui, selon moi, posent un problème essentiel de sémantique et philosophique.

À l'heure actuelle, on débat essentiellement sur la paternité de l'oeuvre produite par une IA générative (capable de produire du contenu). Mais ce genre de débat ne profite qu'à une frange de l'espèce humaine, une part minuscule : les gens qui savent concevoir et/ou utiliser ces IA génératives, car finalement, discuter de la paternité de l'oeuvre revient simplement à décider qui bénéficiera de rentes.

Un autre usage des IA, plus "ancien" si l'on peut dire, est le deepfake, cette technique qui consiste à placer le visage d'une personne sur le corps d'une autre (schématiquement). Ajoutons à cela la capacité technique de remplacer la voix d'une personne par une autre, voire simplement la synthèse vocale utilisée depuis longtemps en informatique, et on détient toutes les clés pour faire dire à n'importe qui ce qu'il n'a jamais dit.

Bien sûr, on s'est déjà inquiété de cette possibilité, depuis longtemps d'ailleurs. Et ça tombe bien parce que ce n'est pas de ça dont je veux vous parler ici.

Ce qui m'intéresse, c'est comment nous nous définissons en tant qu'individus. Car si l'on peut usurper notre voix, notre écriture, notre visage, c'est qu'aucun de ces éléments ne constitue notre identité, notre singularité. Dès lors, comment nous définir ? Comment s'assurer que les autres nous perçoivent tels que nous sommes ?

¶Nous faire dire ce que l'on n'a pas dit

Imaginez quelqu'un qui vous veut du mal, et réalise un deepfake vous montrant vous, votre visage, dans une vidéo faisant l'apologie du terrorisme, et répande cette vidéo sur les réseaux sociaux. C'est techniquement faisable. Vous ne pouvez que vous en défendre a posteriori : il n'existe nul moyen préventif contre ce genre de malveillance.

Évidemment, il existe - encore - des outils pour déterminer la véracité d'une vidéo (par exemple, FakeCatcher d'Intel), ou plus exactement, pour déterminer les chances qu'une vidéo donnée soit en réalité un deepfake. Mais pour combien de temps encore ? Et que se passera-t'il le jour où même les outils les plus perfectionnés n'en seront plus capables ?

Même sans parler des outils, les gens en général ne sont pas capables de faire la différence entre un deep-fake bien conçu et une vidéo authentique. Certains le sont, mais probablement pas la majorité.

Cet exemple extrême m'aide à illustrer ce que je prends pour un état de fait : nous nous définissons par notre apparence, par notre voix, et plus généralement, par ce que nos sens peuvent percevoir. Un phénomène aisément mis en lumière lorsque nous nous confrontons à de vrais jumeaux.

Mais, si l'IA vient s'intercaler entre deux personnes, que ce soit par l'intermédiaire d'une vidéo, d'un extrait audio, ou de tout ce que l'informatique est capable de produire aujourd'hui ou demain, comment s'assurer que "l'autre" est bien l'individu authentique que l'on attend ?

C'est très précisément l'idée derrière le test déjà décrit en 1950 par Alan Turing.

En informatique, c'est le problème que les certificats ont tenté de résoudre. Schématiquement - encore une fois - quand vous allez sur un site en https avec un petit cadenas vert, vous vous "assurez" que le site en question est bien celui qu'il prétend être. Un tel mécanisme ne peut évidemment pas fonctionner entre deux personnes physiques, à moins de se présenter des cartes d'identité qui elles-mêmes pourraient être fausses (de même que le certificat d'un site Internet - rappelons-nous toujours de l'incident SuperFish survenu en 2015, suite auquel j'ai publié un billet pour lequel je me suis fait vertement critiquer).

¶Surpopulation et technologie

Notre identité, notre singularité, ce qui fait de chacun de nous des êtres uniques, ne peut pas tenir en ce que nos sens perçoivent, ils sont trop limités pour ça.

On notera que les chiens ne devraient jamais avoir à se poser la question de définir leur identité : leur odorat leur suffit parfaitement, et ce pour plusieurs raisons.

Premièrement, parce qu'ils ne seront jamais amenés à vivre en grands groupes. Nous autres humains nous nous sommes rassemblés en cités de milliers d'habitants au moins depuis l'Antiquité (un point que j'aborde dans L'Humain, cette espèce primitive). Notre nombre associé à notre proximité géographique nous a amenés à nous donner des noms, puis des prénoms, des surnoms, des pseudonymes, des descriptions physiques, de genre, de "race", d'ethnie, etc. Autant d'éléments mis bout-à-bout pour tenter de définir notre identité propre dans des groupes composés de toujours plus d'individus.

Les chiens sauvages (en fait, les loups) vivent en meutes dépassant rarement les quarante individus. Leur sensibilité olfactive suffit amplement à distinguer deux individus dans un tel groupe, et même - et surtout - de reconnaître les individus n'appartenant pas au groupe.

Deuxièmement, parce qu'ils n'ont pas notre technologie. Un chien ne peut pas, et a priori ne pourra jamais, usurper l'identité d'un autre chien. Certes, ils se reconnaissent entre eux lorsqu'ils se voient, mais ils confirment l'identité d'un individu rencontré par son odeur (ils se reniflent).

S'ils avaient la technologie pour usurper l'identité - l'odeur - d'un autre chien, il deviendrait évident que la question de la nature de l'identité se poserait à eux aussi.

Notons que je prends comme exemple le chien parce que c'est probablement l'animal le plus proche de nous, mais en réalité, j'aurai pu utiliser n'importe quel animal ou même végétal en exemple. J'aurai simplement adapté mon texte en fonction des techniques "sensorielles" réellement utilisées (on pourrait commencer à parler de sémiochimie - dont je parle aussi dans mon livre - mais on s'écarterait trop du sujet).

Retenons simplement le postulat de ma réflexion : la définition de l'identité d'un individu ne peut plus se faire que sur des critères aussi simples que son nom ou sa description physique à l'Âge de l'IA car l'IA n'a pas de contrainte spatiale ni de population, au contraire de l'environnement humain qui est borné par des limites physiques et surpeuplé.

¶Que reste-t'il aux Hommes ?

Si l'on part du principe que, dès aujourd'hui, l'IA est capable de reproduire fidèlement une voix ou même un visage, de plus en plus en temps réel, on peut aussi légitimement se dire que prochainement, il lui sera aussi possible de reproduire d'autres traits que l'on pense caractéristiques.

À vrai dire, ça a déjà été fait cette année : une IA a été utilisée pour "reconstruire" une oeuvre de Van Gogh, avec des traits de pinceaux difficilement discernables de ceux donnés par l'artiste. On ne peut donc déjà plus considérer que le trait "typique" de Van Gogh lui soit spécifique.

Or, on parle de l'oeuvre d'un artiste, quelqu'un réputé pour sa singularité, sa compétence particulière. Et l'IA brille déjà dans d'autres domaines également, tels que la composition musicale, voire écrite. Alors, que reste-t'il aux Hommes, aux "communs", aux anonymes, qui n'ont pas de compétence particulière ? Comment les définir individuellement dans un monde où l'IA est capable, dans certaines conditions, d'égaler les plus habiles représentants de l'espèce ? Quelle est leur singularité ?

Il est déjà difficile de "se faire un nom" à travers une population de huit milliards d'individus, alors qu'en sera-t'il lorsque ces milliards d'individus entrerons en compétition avec l'IA ?

C'est tout l'intérêt de ma question donnée en introduction. Si l'on ne peut donner une définition de l'identité, comment pouvons-nous nous distinguer, non seulement entre nous humains, mais aussi de l'IA ? Or, cette distinction est cruciale puisque sans elle, nous ne pouvons pas déterminer la véracité d'une situation donnée impliquant au moins un individu humain.

¶L'ADN à la rescousse ?

On pourrait penser que l'ADN permettrait d'établir l'identité d'un individu spécifique, mais un contre-exemple vient d'office s'y opposer : le cas des vrais jumeaux qui partagent strictement le même ADN.

Et ce n'est pas le seul contre-exemple : le clonage. Je rappelle ici que le clonage n'est pas une technologie humaine : c'est le moyen de reproduction le plus répandu dans le Vivant.

Je rappelle également que l'ADN n'est pas infaillible, et qu'il peut subir des mutations au cours du temps - c'est d'ailleurs une propriété utilisée par les vaccins à ARNm.

¶Une question sans réponse satisfaisante

Je pense qu'actuellement, nous ne sommes pas en mesure de définir formellement l'identité d'un individu autrement que par la somme de ses actions au cours du temps.

Une définition très insatisfaisante, parce qu'elle n'est pas utilisable en pratique. Il faut une vie pour raconter une vie, et nous vivons dans une société humaine où le temps est central et notre attention minimale. Nous estimons ne pas pouvoir perdre de temps à tenter de comprendre à qui l'on parle. Nous estimons même que quelques secondes d'une vidéo diffusée sur les réseaux sociaux suffisent à établir l'identité d'une personne. Avant de se rendre compte, trop tard, que nous nous sommes trompés.

Cela pourrait être sans conséquences si nous n'étions pas fondamentalement mauvais : nous pourrions nous tromper sur une personne en estimant d'office qu'elle est "mauvaise" alors qu'elle est, en réalité, quelqu'un de "bien". Notre erreur serait positive. Malheureusement, le temps me persuade du contraire.

Nous ignorons, volontairement ou non, les démons cachés dans la psyché humaine. Jusqu'à présent, nous le faisions impunément. Mais avec l'avènement de l'IA et les exemples de dérives qui commencent à s'accumuler (ce qu'on appelle techniquement "les biais", racistes, sexistes, etc.), cette ignorance nous est constamment rappelée, et notre seule façon d'y répondre, c'est de supprimer ces biais par des moyens techniques, alors que le problème est fondamentalement social.

C'est le fil conducteur de ma pensée, matérialisée dans mon livre.

Je retiens aussi que nous nous refusons - apparemment - à définir l'identité comme étant la singularité d'une personne unique. Nous usons de l'inclusion et de la positivité toxique pour répandre l'idée que l'identité ne peut être que communautaire. C'est le bon vieil adage "l'union fait la force", qui, en réalité, ne profite qu'à ceux qui en usent.

¶Conclusion

Je crois que, maintenant plus que jamais, il est fondamental de parler d'identité singulière, individuelle, égotiste, afin que l'IA ne signe pas la fin de l'Homme dans son ensemble.

C'est par cette réflexion que je comprends pourquoi, seulement maintenant, certains ont peur que l'IA nuise à l'Humain. Non pas pour des prétextes de science-fiction, où les robots prennent le pouvoir ou décident "d'appuyer sur le bouton", mais pour des raisons sociales. À cause de notre incapacité à valoriser les individus, seulement les groupes, et à cause de notre acharnement à répondre aux problèmes sociaux avec des mesures techniques.

Valoriser les individus au lieu des groupes nous permettrait de mieux les identifier, plus rapidement et plus efficacement. Leur unicité pourrait briller dans un monde de surenchère de technologie d'IA générative.

Je ne parle pas de mettre sur le devant de la scène des prouesses non issues de la technologie. Je parle, de façon beaucoup plus pragmatique, de valoriser les compétences individuelles des gens qui nous entourent. Leur dire ce qu'ils font de bien. Leur dire pourquoi ce sont des gens biens.

Car pour l'heure, c'est tout ce qui nous distingue de l'IA : notre sincérité et tout ce en quoi elle puise.