COMMENT NOUS INTERROGE L’INTELLIGENCE ARTIFICIELLE ?

… ou l’illusion de l’homme fasciné par la technologie qui aimerait cacher  la métaphysique sous-jacente, mais ne pourra s’empêcher de faire l’économie  de la question de l’homme.

Interview de DOMINIQUE GREINER, théologien et journaliste Par OLIVIER DUNAND (P85)

Monsieur Greiner, pourquoi vous intéressez-vous  à l’intelligence artificielle ? Cela vient de la conjonction d’au moins deux facteurs. D’une part, comme théologien et comme journaliste, j’ai été amené à m’intéresser aux impacts sociaux des technologiques issues du numérique. La question de l’IA est donc venue assez naturellement. Et comme beaucoup, j’ai été surpris par les avancées de l’IA générative avec la mise à disposition du grand public d’un outil comme ChatGPT en novembre 2022. Cette forme d’intelligence artificielle est appelée à se développer et à prendre une place de plus en plus importante dans notre existence. Entre-temps, j’ai été sollicité pour rejoindre un groupe de travail de la Conférence des évêques de France en vue de réfléchir aux conséquences et enjeux de ces nouveaux domaines1.
D’autre part, comme professionnel des médias, je suis confronté, et de façon encore plus prégnante que je le pensais, aux interrogations et défis économiques qu’amène l’IA. Nos équipes ont déjà exploré les potentialités de l’IA dans la production de textes, d’images, de vidéos, de sons. La question se pose donc de l’utilisation de l’IA dans nos productions éditoriales. Par exemple, dans une revue d’enfants, va-t-on utiliser une image d’animal produite par l’IA alors que nous disposons de photos réalisées par des professionnels ? Aujourd’hui, les outils dont nous disposons sont si performants qu’il est très difficile de faire la différence entre la photo de la réalité et la production de l’IA. Le seul paramètre économique nous ferait pencher pour l’IA. Ce critère n’est certainement pas suffisant. Mais dans une entreprise comme Bayard, l’IA ne touche pas que la production éditoriale. De nombreuses tâches sans grande valeur ajoutée, comme le reporting comptable ou financier, peuvent être aujourd’hui confiées à l’IA. Ce qui veut dire nous avons une problématique majeure pour accompagner la transformation de certains métiers appelés à disparaître.

Comment définiriez-vous l’IA ?
Je reprends volontiers l’image proposée par un chercheur en IA et qui va parler à un public d’ingénieurs. Vous savez comment fonctionne une régression. Vous avez des données qui constituent un nuage de points. Les outils statistiques permettent d’obtenir une droite qui passe à travers ce nuage de points (voir schéma ci-contre). Mais cette droite est purement théorique. Elle est composée de points qui pour la plupart ne correspondent pas à la réalité. L’IA générative ne fait pas autre chose : en réponse à une demande qui lui est faite, elle traite des milliards de données et l’algorithme “invente” une réponse à partir de ces données. Cette réponse est en quelque sorte une moyenne, mais ne correspond pas à la réalité… Dans le même temps, les algorithmes apprennent de leurs erreurs et ce qu’ils restituent comme réponse est de plus en plus vraisemblable. Mais il faut toujours garder à l’esprit que la réponse n’est pas la réalité ! Surtout que nous ne savons pas quelles sources les algorithmes ont mobilisé pour produire leurs réponses, et comment ils ont été entraînés.

Quelles questions pose l’IA ? 
Cette droite est composée de points qui pour la plupart ne correspondent pas à la réalité. L’IA générative fait de même : elle traite des milliards de données et l’algorithme “invente” une réponse, qui est en quelque sorte une moyenne, mais ne correspond pas à la réalité. Dans le cadre du groupe de travail animé par un service de la Conférence des évêques de France, les chercheurs ont adressé une question aux philosophes et théologiens : quelle est la nature des productions de l’IA générative ? L’IA est certes une création humaine. Mais peut-on encore qualifier d’humaines les réponses produites par l’IA ? La question est stimulante. Elle montre des chercheurs et des concepteurs en quelque sorte dépassés par leur propre création.
Et cela pose des questions en termes de propriété intellectuelle : pour produire une réponse, l’IA a utilisé des ressources d’autres qui peuvent prétendre avoir un droit sur le résultat. Ou encore, si l’IA produit une réponse erronée et que cela cause un préjudice à une personne, qui est responsable au civil, voire au pénal ? L’IA soulève donc un problème capital de régulation. J’estime pour ma part qu’il y a un enjeu essentiel de démocratie derrière ces questions. C’est donc une bonne chose que l’Europe ait commencé à encadrer les usages de l’IA2. L’IA est en effet entre les mains d’acteurs privés supranationaux qui imposent leurs produits et leurs normes. Mais ils ne sont guère transparents sur leurs stratégies, sur la nature de leurs algorithmes qui de fait ne sont jamais neutres en termes de valeurs… Il y a donc derrière l’IA des enjeux scientifiques, économiques, politiques, culturels. Il est donc normal qu’il y ait un débat public à son sujet et qu’un cadre réglementaire soit établi. D’autres régions du monde seront peut-être moins regardantes sur ces questions. Je pense à la Chine qui a une grande avance en matière de reconnaissance faciale. Mais ce n’est pas dans le monde le pays le plus démocratique et le plus respectueux des droits individuels. Cela doit nous interroger. L’IA peut facilement nous faire basculer dans une société de contrôle. Comme elle peut contribuer à réduire la “biodiversité” des idées et des opinions : on le voit avec les réseaux sociaux gouvernés par des algorithmes avant tout soucieux d’audience et de revenus publicitaires. Il n’y a même plus de débats possibles. Le devenir de la démocratie est donc concerné. Il en va du respect des libertés de chacun.

Quel est le point de vue du théologien ? 

Nous vivons dans une société où un certain nombre de nos repères anthropologiques sont sérieusement bousculés. Certaines frontières qui hier semblaient aller de soi sont remises en question. Les théories du genre brouillent la distinction homme-femme (on peut même changer de sexe). Les distinctions homme-animal ou homme-machine sont elles aussi sérieusement interrogées. Avec l’IA, c’est la distinction entre le réel et l’artefact qui ne va plus de soi. Qu’est-ce qui est “vrai”, naturel ? Et qu’est-ce qui est un produit de l’algorithme ? Comme nous avons de plus en plus de mal à distinguer ce qui est la production directe de l’esprit humain (un livre, une œuvre d’art) et ce qui est la production d’une IA. Cela amène le théologien à s’interroger sur la spécificité de l’humain, sur le sens de son activité, sur ce que signifie l’intelligence humaine… que nous reste-t-il en propre si la machine nous ressemble à ce point ? Qu’est-ce qui fait de nous des humains si nous ne sommes plus en capacité d’exercer la maîtrise sur ce que nous avons produit ? Des théologiens s’interrogent aussi sur la nature de l’IA : si l’homme est créé à l’image de Dieu, comme l’enseigne la Bible, peut-on dire que l’IA est une créature humaine à l’image de l’homme ? En tout cas, l’IA nous oblige à approfondir la façon dont l’homme se comprend lui-même. L’homme n’a pas la capacité de calcul et de traitement de données qu’a l’IA. Mais c’est peut-être son imperfection, sa vulnérabilité, son caractère parfois déraisonnable qui le distinguent de la machine et font toute sa singularité ! 

Quels chemins voyez-vous pour l’avenir ?

Nous vivons un moment de changements profonds et rapides. Nul ne peut encore dire où nous conduirons les développements de l’IA. Il y a donc une grande part d’inconnu. Les promesses sont certes grandes. Mais cela ne nous dispense pas de rester vigilants, car il en va du devenir de nos libertés les plus fondamentales. Il faut donc apprendre à explorer les potentialités et les limites de l’IA. Mais notre responsabilité doit aller plus loin. Puisque l’IA va puissamment transformer nos sociétés et nos vies individuelles, il est normal que nous puissions demander des comptes aux grands acteurs du secteur. L’IA ne peut pas rester une boîte noire. Nous sommes en droit d’exiger un minimum de transparence. ▲

DOMINIQUE GREINER Religieux assomptionniste, Dominique Greiner est membre du directoire de Bayard depuis septembre 2023, après avoir été rédacteur en chef religieux de La Croix pendant 14 ans. Économiste et théologien, il enseigne la théologie morale politique et sociale dans les facultés de théologie des Instituts catholiques de Lille et de Paris.