Autorité Cognitive et vérité
Je lisais récemment le billet d'une chercheuse qui s'interrogeait sur la notion d'autorité cognitive de l'IA dans sa forme conversationnelle. D'autres chercheurs ont relayé cette interrogation et n'ont pas manqué de faire le lien entre IA et vérité. Ils remarquent à juste titre que l'IA n'est qu'une autorité algorithmique dont les "outputs" se doivent d'être critiqués à l'aune de l'intelligence humaine. Voir: https://www.linkedin.com/pulse/when-ai-becomes-our-new-cognitive-authority-grok-case-muriel-vq0re/?trackingId=p%2BpCpBMdRauYWle7bQdmLg%3D%3D
Pour ma part, je suis plus préoccupé par la notion d'autorité et les principes sociaux dont cette autorité est en quelque sorte le garant suprême. Au Moyen-Âge, l'Université de Paris détenait cette autorité sur des domaines importants comme la médecine ou le droit. Elle intervenait en tant que dépositaire d'une connaissance universelle et ses décisions avaient valeur de jugement. Malgré des débats que nous qualifierons de rationnels, cela n'a pas empêché l'Université de Paris de juger par exemple que la quinine était un très mauvais remède contre la fièvre, allant jusqu'à interdire absolument son usage.
Une autorité en tant que dépositaire, arbitre et juge ne peut prendre qu'une forme institutionnelle basée sur les principes qui guident nos organisations sociales. Nous humains sommes des "penseurs" ayant comme moteur de nos réflexions, le doute, la critique, la lucidité, voire l'introspection, mais surtout prônant un dialogue continu et constructif avec les autres. Je crains que considérer l'IA comme une autorité cognitive ne soit la mort des "autres", il n'y a place que pour deux, l'IA et moi. L'altérité en tant que "anti-moi" est un concept que l'IA ne comprend probablement pas car elle est le miroir de nos individualités, que dis-je de nos propres identités et ne représente absolument pas les "autres". De plus, l'IA est totalement biaisée par l'identité du prompteur qui se satisfait très rapidement des réponses fournies. Bertrand de Saint-Sernin en parlant d'autorité disait que tout autorité devait s'assurer de la lucidité sur soi-même ET sur les autres.
Mais de quelle autorité avons-nous donc besoin puisque l'IA fait maintenant partie de nos habitudes? Comment s'assurer que l'IA soit disons lucide? Une piste avec Bertrand de Sain-Sernin qui indiquait que dans le cadre de la décision, il était nécessaire d'avoir une autorité de contrôle dont sa principale préoccupation était de vérifier la validité des informations. Et donc, retour à la case départ, ceux qui détiennent la vérité vous feront croire qu'ils sont les seuls à être en capacité de valider une information et l'IA de contrôler nos décisions. Mais que c'est facile de déléguer ... et de sombrer dans l'esclavage mental. Notons que cette notion d'autorité cognitive a toujours fait l'objet de débats. Ainsi, en 1936, un aéropage d'intellectuels américians s'est vu poser la question suivante: "Croyez-vous qu'il soit possible de développer une cour suprême du savoir organisé afin de guider intelligemment l'humanité ?". A défaut de pouvoir répondre à cette question, je peux au moins déjà recommander de ne pas laisser cette prérogative à l'IA. Avouez que c'est une jolie question ... à vos prompteurs!
