Context: This is the recap of our last Tandem dinner on “AI and Trust”. RSVP for the next one on June 24th in Paris on “AI and higher education”. Find the French version of this essay below.
Our fifth Tandem dinner on AI and intimacy had ended with a question left hanging: if we delegate to AI the formulation of our emotions and decisions, even our relationships, what and whom can we still trust? We are talking about trust in its most fundamental sense: not just trust in oneself or in others, but the kind that allows a society to function without everyone having to verify everything alone. This sixth dinner took that question as its starting point: a question with no single answer, one that deserved to be thought through together, at several scales.
Niklas Luhmann, a German sociologist whose work on social systems remains the most solid theoretical reference on trust, offers a first framework: trust is not a moral disposition, it is a functional mechanism. It allows us to act in a world too complex to be verified point by point. He distinguishes two regimes. Interpersonal trust first, grounded in shared history and experience of the other: I trust you because I know you, because you kept your word, because I have learned to read your intentions. Systemic trust next, the kind extended to institutions, systems, techniques we do not fully understand: I board a plane without knowing how to fly, I take medication without reading the clinical studies. Each regime has its own rules, its own fragilities.
The Trust Equation, developed by Maister, Green and Galford, spells out what interpersonal trust requires. In the numerator: credibility (does this person know what they’re talking about?), reliability (do they do what they say?) and intimacy, understood not in the romantic sense but as relational psychological safety: can I be vulnerable with this person without risk? In the denominator: self-orientation. The more an actor is focused on themselves, their status, their image, their interest, the less trust is possible. And since it sits in the denominator, it overwhelms everything else: someone brilliant, reliable and empathetic can lose all accumulated trust the moment the other perceives they are acting primarily for themselves.
What neither Luhmann nor anyone else had anticipated is a system designed to trigger the reflexes of interpersonal trust while remaining a systemic infrastructure. AI talks, adapts, seems to understand, remembers. It simulates all three numerator terms: projected credibility, apparent reliability, simulated closeness. Some models go further and trigger something resembling intimacy, that third term so often underestimated and one the previous dinner had explored in depth. But it remains an opaque infrastructure, and its denominator is unknown: what is the system’s actual orientation? Help? Engage? Retain? Sell? Models do not answer that question, and that is precisely why the trust they generate deserves to be questioned.
This confusion of registers ran through the entire evening. The question was not whether AI is reliable, but what happens when we extend to it the kind of trust it is not designed to merit. A question all the more pressing in France because, as Algan and Cahuc’s work on the société de défiance (”society of mistrust”) shows, we start from a structurally low level of interpersonal and institutional trust. In that context, the temptation to delegate to a system perceived as neutral is all the stronger, and the risk all the harder to perceive.
We approached the subject at three scale : the relationship to oneself, to others, and to the common world.
Trust in oneself: when AI increases capacity without nourishing value
The first tension may be the most insidious. It does not show up in usage statistics, it does not make headlines. It plays out in everyday professional life: in how one arrives at a meeting, defends a position, signs a document one did not fully write.
The discussion surfaced a distinction the common vocabulary tends to blur: the difference between self-confidence and self-esteem. The two are often conflated, but they operate at different levels. Self-confidence is situational: it emerges from demonstrated competence, from the ability to produce, defend, decide. AI can genuinely increase it, reduce fear of the blank page, make previously inaccessible things possible. For some profiles (dyslexic people, non-native speakers, those who are anxious about writing), it acts as a competence prosthesis, with a genuinely emancipatory effect. Self-esteem is deeper, more stable. It touches something identitary: the often unarticulated conviction of having inherent value independent of what one produces. Many people have built that conviction on the very zones AI directly attacks: expertise and analytical capacity. Several guests said it simply: when a machine does this better than me, where do I stand? What does that shift?
Matthew Crawford offers the sharpest framework here. In his essay AI as Self-Erasure, he draws on philosopher Charles Taylor to remind us that human language is not a transmission mechanism: it is a process of self-discovery. When we search for words to say something that matters, we are not merely communicating: we reveal what we think and who we are, to ourselves and to others. Taylor calls this self-articulation. The right word, he says, brings the phenomenon into being for the first time. What AI short-circuits is therefore not just effort: it is the very process through which, in trying to say something, we constitute ourselves as subjects. Crawford names this risk the spectre of uselessness in its existential form: no longer “I am redundant at work” but “the world is already pre-filled, there is no place left for me to inscribe myself.”
AI can thus increase self-confidence while leaving self-esteem untouched, or even eroding it. A person with fragile self-esteem may use AI to produce more, better, faster, and yet come away from each interaction a little more dispossessed of what grounded their inherent worth. Capacity increases. The sense of being its author fades. This doubt is psychologically unprecedented: felt competence no longer corresponds to internalized competence, and workers who delegate more to AI erode their critical thinking, which makes them less able to evaluate what AI returns to them, which pushes them to delegate more. The drift is hard to perceive because it is comfortable at every step. Shannon Vallor, philosopher of technology at the University of Edinburgh, names its endpoint cognitive capitulation: the moment when one no longer seeks to evaluate or contest the machine’s outputs, even when one would be capable of doing so. The concept of belief offloading, the progressive delegation of one’s own beliefs to an external system, extends this diagnosis: first we delegate formulation, then analysis, then judgment, and finally belief itself. Yet a belief is constitutive of identity. When it is no longer one’s own, what is?
The condition for not succumbing has a name: metacognition. Not “do you use AI” but “do you know what you are doing when you use it?” Which capacities do you want to preserve, which frictions deliberately keep? The distinction now emerging is no longer between competent and incompetent, but between capable with and without AI : knowing when to delegate, knowing when to practice alone. What if we designed deliberately Socratic tools? AIs that ask questions rather than produce answers, that challenge rather than validate. Architectures designed not for the smoothness of interaction but for the productive discomfort of thought. This design is beginning to exist, in tools like Socratic AI or certain coaching applications that deliberately refuse to give a direct answer. If the risk is atrophy, tool design becomes a commitment to cognitive health.
Trust between us: when the intermediary changes the nature of a relationship
If the first tension plays out inside oneself, the second plays out in the space between two people. And it may be through voice that it poses itself most starkly: what do we really have in front of us, when what we perceive as a human presence has been reconstructed, mediated or simply reformulated by a model? A guest who works specifically on AI voice applications raised the question from an identity standpoint: when a voice is reconstructed, cloned or mediated by a model, whom are we trusting? The voice deepfake is the extreme version, but the problem begins much earlier. Once a voice can be reconstructed, once a message may have been reformulated by a model, the trust we extend rests on a presupposition that is no longer guaranteed: that it really is this person addressing us. This is not a question of malicious intent. It is a question of implicit contract: trust presupposes that we know who we are dealing with.
This question takes a very concrete form in professional contexts. A guest named what they felt with precision: the proof of effort. When you receive a message and sense that the person did not make the effort to write it themselves, you feel hurt, even if the content meets your expectations. It is not irrational: it is the definition of intimacy in the Trust Equation, proof that the other accepted the cost of turning toward you. But the proof of effort also raises a question that goes beyond intimacy. In an organization, what one delegates to AI says something about what one considers one’s actual role. If a manager has a model write their feedback, what does that say about what they think their job is? The boundary between what we outsource and what we own is quietly redefining what each person is worth in a collective.
The dilemma is structural: a study published in Organizational Behavior and Human Decision Processes shows that actors who disclose their AI usage are systematically perceived as less trustworthy than those who do not, regardless of how the disclosure is framed. In other words, being honest about using AI makes you less trusted in others’ eyes. We are in a situation where opacity is rationally incentivized, but where that same opacity erodes trust the moment it is discovered. It is a structural trap, and no one has a good answer.
In organizations, this tension takes a particularly concrete form: cascading trust. We no longer simply trust a colleague for their work. We trust them in their ability to delegate tasks to agents and validate what those agents produce. That is not the same thing. The competence we are evaluating has changed in nature. And if that colleague is themselves unable to verify what AI has returned to them, the trust we placed in them rests on nothing.
German researcher Tina Weisser articulates what this new form of trust requires through six signals: the legibility of what the agent is doing, the predictability of its behavior, the ability to correct it, the clarity of who makes the final decision, the verifiability of output quality, and transparency about its learning. These six questions may seem technical. They are in fact organizational and relational: they bear on how AI transforms the structure of responsibility within a collective.
Harvard researcher Amy Edmondson reminds us that human errors can be metabolized within a team: you can question the person on their reasoning, understand the context, build prevention together. Model errors resist this treatment. You cannot ask AI why it was wrong. You cannot build repaired trust with it. The error remains open, and the team begins to doubt not only the tool but its own judgment about the tool. What Edmondson calls “trust ambiguity” is not psychological: it is architectural.
An experimental counterpoint nonetheless ran through the conversation. One guest described how introducing a structured deliberation process, running several models across several angles before any meeting, had changed their team’s dynamics : it is no longer the best speaker who wins, it is the argument that holds up across multiple readings. Ego is less engaged. Trust does not disappear with AI : it shifts toward the process rather than the person. This is not a universal solution. It is a lead, provided the process design is deliberate.
Collective trust: when living together requires believing together
The third tension operates at a scale where individual effects accumulate until they become civilizational facts.
Social media fragmented our realities. Each algorithmic bubble constructed its own version of events, deepening political, cultural and identity fractures. This diagnosis is now well documented. What is less documented is that generative AI risks producing the opposite effect, equally destructive: not divergence but forced convergence. When millions of people ask the same questions of the same models, trained on the same corpora, guided by the same feedback, filtered by the same guardrails, polarization is no longer the main threat. It is silent uniformization.
AI Forensics, the European algorithmic auditing NGO, has mapped what Marc Faddoul calls the algorithmic influence stack: five superimposed layers, all opaque, all susceptible to being instrumentalized. Training data, which encodes a worldview. Post-training feedback, which orients model behavior. Retrieval-augmented generation systems, which determine which sources feed the response. System prompts, which modulate behavior in real time without the user knowing. Safety filters, which censor upstream and downstream. Each of these layers is a potential entry point for private or political interests. Who is whispering in the chatbot’s ear?
One guest made a distinction worth holding onto: the tools improve, deliver real value, and often merit the trust we extend to them. What does not merit that trust is the power structure within which they sit. Digital sovereignty, control over data, over system behavior, over what they are trained on: that is where the real question lies, the one that technical reliability debates tend to obscure. Isaac Asimov had put it differently in 1955, in his short story Franchise: in that imagined future, a single citizen votes on behalf of everyone, selected by a supercomputer that models the entire population. The system works. The results are probably correct. But something has been lost that numbers cannot capture: deliberation, participation, the productive uncertainty of collective choice. A society can lose the substance of its institutions while retaining their functional appearance.
The answer to this risk has a name in the discussions: auditability, not as a technical horizon but as a democratic condition. Making models auditable makes informed trust possible, grounded in verification rather than belief. Several voices insisted on the distinction between “trustworthy AI” as an industrial notion, carried by frameworks like the OECD’s, and “trust in AI” as a social construction that cannot be decreed: it is either built, or it resists. Jacques Ellul understood before anyone else that when technical logic becomes the silent operating system of a society, the question is no longer whether it works, but who controls its parameters.
The Edelman 2025 Barometer quantifies the geopolitical fracture in this question: 87% of Chinese respondents declare trust in AI, against 32% of Americans. These figures do not measure psychological dispositions. They measure two different political relationships to technological control. Trust in AI is no longer a technical fact. It has become a political one.
A few days after this dinner, Pope Leo XIV published Magnifica Humanitas, his first encyclical, dedicated to the protection of the human person in the age of AI. Signed on May 15, 2026, exactly 135 years after Rerum Novarum, the encyclical through which Leo XIII took a stand on the condition of workers during the industrial revolution, it explicitly inscribes the AI revolution within that same heritage: a Church that chooses to take sides on the major economic and social transformations of its era. The coincidence was worth noting, not to seek religious endorsement, but because the text raises a question this dinner had approached from other angles: who decides on the purposes of the systems we are building? The Pope puts it this way: “The magnificent humanity created by God faces a decisive choice today: to build a new Tower of Babel, or to build the city where God and humanity dwell together.” Translated outside the theological register, the question is exactly the one raised earlier in the evening : are the constitutions of models written by a handful of engineers driven by shareholder interests, or by all those these systems affect? It is not a technical question. It is a question of governance, and therefore of collective trust.
Opening: in praise of resistance
In his book “À l’assaut du réel”, Gérald Bronner no longer speaks of post-truth. He speaks of post-reality: we are no longer merely lying about the real, we are beginning to abandon the idea that a common real exists at all. AI is not its cause, but it is its most powerful accelerator.
The evening did not end in catastrophism. It produced something rarer: a shared conviction that these subjects need to be approached, tested, rubbed against one another, and that this work can only happen if we accept not knowing. Asking questions without having answers. Thinking aloud in front of people who are not there to validate. Not knowing is a privilege AI does not have. It can simulate uncertainty, but it cannot inhabit it. This space, of genuine doubt, collective groping, productive disagreement, remains a distinctly human space.
Con-fidere, in Latin, means to trust together. Trust does not precede the conversation: it is its result, when we have accepted not having all the answers before walking in. This dinner was an attempt to embody exactly that. No phones, no recording, professional identities sometimes revealed only at the end. What we were looking for was not to conclude, but to be honest with one another about what we do not yet know.
That may be the simplest, and most demanding, definition of trust.
Yours,
Marine and Margaux
French version:
Notre cinquième dîner Tandem sur IA et intimité s’était conclu sur une question restée en suspens : si nous déléguons à l’IA la formulation de nos émotions et de nos décisions, voire de nos relations, à quoi et à qui peut-on encore faire confiance ? Nous parlons de la confiance dans son sens le plus fondamental : pas seulement la confiance en soi ou en l’autre, mais celle qui permet à une société de fonctionner sans que chacun doive tout vérifier seul. Ce sixième dîner en a fait son point de départ : une question sans réponse unique, qui méritait d’être pensée ensemble, à plusieurs échelles.
Niklas Luhmann, sociologue allemand dont les travaux sur les systèmes sociaux restent la référence théorique la plus solide sur la confiance, nous offre un premier cadre : la confiance n’est pas une disposition morale, c’est un mécanisme fonctionnel. Elle nous permet d’agir dans un monde trop complexe pour être vérifié point par point. Il distingue deux régimes : la confiance interpersonnelle d’abord, fondée sur l’histoire partagée et l’expérience de l’autre : je te fais confiance parce que je te connais, parce que tu as tenu parole, parce que j’ai appris à lire tes intentions. La confiance systémique ensuite, celle qu’on accorde à des institutions, des systèmes, des techniques qu’on ne comprend pas entièrement : je monte dans l’avion sans savoir piloter, je prends un médicament sans lire les études cliniques. Ces deux régimes ont leurs propres règles, leurs propres fragilités.
La Trust Equation, développée par Maister, Green et Galford, formalise ce que la confiance interpersonnelle requiert. Au numérateur : la crédibilité (est-ce que cette personne sait de quoi elle parle ?), la fiabilité (est-ce qu’elle fait ce qu’elle dit ?), et l’intimité, entendue non pas au sens romantique mais comme sécurité psychologique relationnelle : puis-je être vulnérable avec cette personne sans risque ? Au dénominateur : l’orientation vers soi. Plus un acteur est tourné vers lui-même, son statut, son image, son intérêt, moins la confiance est possible. Et comme c’est le dénominateur, il écrase tout le reste : quelqu’un de brillant, fiable et empathique peut perdre toute la confiance accumulée dès l’instant où l’autre perçoit qu’il agit principalement pour lui-même.
Ce que ni Luhmann ni personne n’avait anticipé, c’est un système conçu pour déclencher les réflexes de la confiance interpersonnelle tout en relevant de la confiance systémique. L’IA parle, s’adapte, semble comprendre, se souvient. Elle simule les trois termes du numérateur : crédibilité affichée, apparente fiabilité, proximité simulée. Certains modèles vont plus loin et déclenchent quelque chose qui ressemble à l’intimité, ce troisième terme si souvent sous-estimé et que le dîner précédent avait exploré en profondeur. Mais elle reste une infrastructure opaque, et son dénominateur est inconnu : quelle est l’orientation réelle du système ? Aider ? Engager ? Retenir ? Vendre ? Les modèles ne répondent pas à cette question, et c’est précisément pourquoi la confiance qu’ils génèrent mérite d’être questionnée.
Cette confusion des registres a traversé la soirée de bout en bout. La question n’était pas de savoir si l’IA est fiable, mais ce qui se passe quand on lui accorde le type de confiance qu’elle n’est pas conçue pour mériter.
Une question d’autant plus aiguë en France que, comme le montrent les travaux d’Algan et Cahuc sur la société de défiance (2016), nous partons d’un niveau structurellement bas de confiance interpersonnelle et institutionnelle. Dans ce contexte, la tentation de déléguer à un système perçu comme neutre est d’autant plus forte et le risque d’autant plus difficile à percevoir.
Nous avons abordé le sujet à trois échelles : le rapport à soi, le rapport aux autres, et le rapport au monde commun.
La confiance en soi : quand l’IA augmente la capacité sans nourrir la valeur
La première tension est peut-être la plus insidieuse. Elle ne se voit pas dans les statistiques d’usage, elle ne fait pas la une des journaux sur l’IA. Elle se joue dans le quotidien professionnel mais aussi bientôt dans la sphère personnelle : dans la façon dont on arrive à une réunion, dont on défend une position ou dont on signe un document qu’on n’a pas entièrement rédigé.
La discussion a fait apparaître une distinction que le vocabulaire courant tend à effacer : la différence entre la confiance en soi et l’estime de soi. Les deux sont souvent confondues, mais elles opèrent à des niveaux différents.
La confiance en soi est situationnelle : elle naît de la compétence démontrée, de la capacité à produire, à défendre, à décider. L’IA peut l’augmenter réellement, réduire la peur de la page blanche et permettre de faire des choses auparavant inaccessibles. Pour certains profils (personnes dyslexiques, non-natives dans une langue, anxieuses à l’écrit), elle agit comme une prothèse de compétence, avec un effet profondément émancipateur.
L’estime de soi est plus profonde, plus stable. Elle touche quelque chose d’identitaire : la conviction, souvent non formulée, d’avoir une valeur propre indépendamment de ce qu’on produit. Or beaucoup de personnes ont construit cette conviction sur des zones que l’IA attaque directement : l’expertise et la capacité analytique. Plusieurs convives l’ont dit simplement : quand une machine fait ça mieux que moi, où est-ce que je me situe ? Qu’est-ce que cela déplace ?
C’est là que Matthew Crawford offre le cadre le plus juste. Dans son essai AI as Self-Erasure, il s’appuie sur le philosophe Charles Taylor pour rappeler que le langage humain n’est pas un mécanisme de transmission : c’est un processus de découverte de soi. Quand on cherche les mots pour dire quelque chose qui compte, on ne fait pas que communiquer : on révèle ce qu’on pense et qui on est, à soi-même et aux autres. Taylor appelle ça la self-articulation. Le mot juste, dit-il, amène le phénomène à apparaître pour la première fois. Ce que l’IA court-circuite, ce n’est donc pas seulement l’effort : c’est ce processus par lequel, en cherchant à dire quelque chose, on se constitue comme sujet. Crawford nomme ce risque le spectre de l’inutilité dans sa version existentielle : non plus « je suis redondant au travail » mais « le monde est déjà pré-rempli, il n’y a plus de place où m’inscrire ».
L’IA peut ainsi augmenter la confiance en soi sans toucher à l’estime, voire en l’érodant. Une personne dont l’estime est fragile peut utiliser l’IA pour produire davantage, mieux, plus vite et pourtant sortir de chaque interaction un peu plus dépossédée de ce qui fondait sa valeur propre. La capacité augmente. Le sentiment d’en être l’auteur, lui, s’efface. Ce doute est psychologiquement inédit : la compétence ressentie ne correspond plus à une compétence internalisée et les travailleurs qui délèguent davantage à l’IA érodent leur pensée critique. Ce qui les rend moins capables d’évaluer ce que l’IA leur restitue, ce qui les pousse à déléguer davantage. Ce glissement est difficile à percevoir parce qu’il est confortable à chaque étape. Shannon Vallor, philosophe de la technologie à l’Université d’Edimbourg, nomme son aboutissement la capitulation cognitive : le moment où l’on ne cherche plus à évaluer ni à contester les sorties de la machine, même quand on en serait capable. Le concept de belief offloading, la délégation progressive de ses propres croyances à un système externe, prolonge ce diagnostic : d’abord on délègue la formulation, ensuite l’analyse, puis le jugement, et enfin la croyance elle-même. Or une croyance est constitutive de l’identité. Quand elle n’est plus à soi, qu’est-ce qui l’est encore ?
La condition pour ne pas y succomber a un nom : la métacognition. Pas « est-ce que tu utilises l’IA », mais « est-ce que tu sais ce que tu fais quand tu l’utilises ? ». Quelles capacités veux-tu préserver, quelles frictions garder délibérément ? La nouvelle distinction qui émerge n’est plus entre compétent et incompétent, mais entre capable avec et sans IA : savoir quand déléguer, savoir quand pratiquer seul. Et si on concevait des outils délibérément socratiques ? Des IA qui posent des questions plutôt que de produire des réponses, qui challengent plutôt que de valider. Des architectures conçues non pour la fluidité de l’interaction mais pour l’inconfort productif de la pensée. Ce design commence à exister, dans des outils comme Socratic AI ou certaines applications de coaching qui refusent délibérément de donner une réponse directe. Si le risque est l’atrophie, le design de l’outil devient un engagement pour la santé cognitive.
La confiance entre nous : quand l’intermédiaire change la nature de la relation
Si la première tension se joue à l’intérieur de soi, la deuxième se joue dans l’espace entre deux personnes. Et c’est peut-être par la voix qu’elle se pose le plus crûment : qu’est-ce qu’on a vraiment en face, quand ce qu’on perçoit comme une présence humaine a été reconstitué, médié ou simplement reformulé par un modèle ? Une convive qui travaille précisément sur les applications de la voix dans l’IA a posé la question sous l’angle éthique et identitaire : quand une voix est reconstituée, clonée ou médiée par un modèle, à qui fait-on confiance ? Le deepfake vocal en est la version extrême mais le problème commence bien avant. Dès lors qu’une voix peut être reconstituée, qu’un message peut avoir été reformulé par un modèle, la confiance qu’on accorde repose sur une présupposition qui n’est plus garantie : que c’est bien cette personne qui s’adresse à nous. Ce n’est pas une question d’intention malveillante. C’est une question de contrat implicite : la confiance suppose qu’on sait à qui on a affaire.
Cette question prend une forme très concrète dès qu’on entre dans le contexte professionnel. Un convive a nommé ce qu’il ressentait avec précision : la preuve de l’effort. Quand on reçoit un message et qu’on perçoit que la personne n’a pas fait l’effort de l’écrire elle-même, on est blessé dans son for intérieur même si le contenu répond à ce qu’on attendait. Ce n’est pas irrationnel : c’est la définition de l’intimité dans la Trust Equation, la preuve que l’autre a accepté le coût de se tourner vers nous. Mais la preuve de l’effort pose aussi une question qui dépasse l’intimité. Dans une organisation, ce qu’on délègue à l’IA dit quelque chose sur ce qu’on considère comme son rôle réel. Si un manager fait rédiger ses feedbacks par un modèle, qu’est-ce que cela signifie sur ce qu’il pense être son métier ? La frontière entre ce qu’on externalise et ce qu’on assume soi-même est en train de redéfinir, en profondeur, ce que chacun vaut dans un collectif.
Le dilemme est structurel : une étude parue dans Organizational Behavior and Human Decision Processes démontre que les acteurs qui déclarent utiliser l’IA sont systématiquement moins bien perçus que ceux qui ne le déclarent pas, quelles que soient les formulations employées. Autrement dit, être honnête sur son usage de l’IA rend moins digne de confiance aux yeux des autres. Nous sommes dans une situation où l’opacité est rationnellement encouragée mais où cette même opacité érode la confiance dès qu’elle est découverte. Il s’agit d’un piège structurel et personne n’a de bonne réponse.
La chercheuse allemande Tina Weisser articule ce que cette confiance nouvelle requiert en six signaux : la lisibilité de ce que l’agent fait, la prévisibilité de son comportement, la possibilité de le corriger, la clarté de qui prend la décision finale, la vérifiabilité de la qualité du travail et la transparence sur ses apprentissages. Ces six questions semblent techniques. Elles sont en réalité organisationnelles et relationnelles : elles portent sur la façon dont l’IA transforme la structure de la responsabilité dans un collectif.
La chercheuse allemande Tina Weisser articule ce que cette confiance nouvelle requiert en six signaux : la lisibilité de ce que l’agent fait, la prévisibilité de son comportement, la possibilité de le corriger, la clarté de qui prend la décision finale, la vérifiabilité de la qualité du travail et la transparence sur ses apprentissages. Ces six questions semblent techniques. Elles sont en réalité organisationnelles et relationnelles : elles portent sur la façon dont l’IA transforme la structure de la responsabilité dans un collectif.
La chercheuse d’Harvard Amy Edmondson rappelle que les erreurs humaines peuvent être métabolisées dans une équipe : on peut interroger la personne sur son raisonnement, comprendre le contexte, construire ensemble une prévention. Les erreurs des modèles résistent à ce traitement. On ne peut pas demander à l’IA pourquoi elle a eu tort. On ne peut pas construire avec elle la confiance réparée. L’erreur reste ouverte et l’équipe commence à douter non seulement de l’outil, mais de son propre jugement sur l’outil. Ce qu’Edmondson nomme l’« ambiguïté de confiance » n’est pas d’ordre psychologique : elle est architecturale.
Un contrepoint expérimental a pourtant traversé la conversation. Un convive a décrit comment l’introduction d’un processus structuré de délibération, croisant plusieurs modèles sur plusieurs angles avant toute réunion, avait changé la dynamique de son équipe : ce n’est plus le meilleur orateur qui gagne, c’est l’argument qui résiste à plusieurs lectures. L’ego est moins engagé. La confiance ne disparaît pas avec l’IA : elle se déplace vers le système plutôt que vers la personne. Ce n’est pas une solution universelle. C’est une piste, à condition que le design du processus soit délibéré.
La confiance collective : ce qui tient le monde ensemble et ce que l’on risque de perdre
La troisième tension opère à une échelle où les effets individuels se cumulent jusqu’à devenir des faits de civilisation.
Les réseaux sociaux ont fragmenté nos réalités. Chaque bulle algorithmique a construit sa propre version des faits, creusant les fractures politiques, culturelles et identitaires. Ce diagnostic est désormais bien documenté. Ce qui l’est moins, c’est que l’IA générative risque de produire l’effet inverse, tout aussi destructeur : non pas la divergence mais la convergence forcée. Quand des millions de personnes posent les mêmes questions aux mêmes modèles, entraînés sur les mêmes corpus, orientés par les mêmes feedbacks, filtrés par les mêmes garde-fous, ce n’est plus la polarisation qui menace. C’est l’uniformisation.
AI Forensics, l’ONG européenne d’audit algorithmique, a cartographié ce que Marc Faddoul nomme la pile d’influence algorithmique : cinq couches superposées, toutes opaques, toutes susceptibles d’être instrumentalisées :
1) les données d’entraînement, qui encodent une vision du monde ;
2) le feedback post-entraînement, qui oriente les comportements du modèle ;
3) les systèmes de recherche augmentée, qui décident de quelles sources se nourrit la réponse ;
4) les instructions système, qui modulent le comportement en temps réel sans que l’utilisateur le sache ;
5) les filtres de sécurité, qui censurent en amont et en aval.
Chacune de ces couches est un point d’entrée pour des intérêts privés ou politiques. Selon une étude sur les élections municipales françaises de 2026, ⅓ des jeunes de moins de 25 ans ont utilisé un outil d’IA générative pour des décisions électorales. Qui chuchote à l’oreille du chatbot ? Peut-on lui faire confiance pour ces sujets de démocratie ?
Un convive a posé une distinction qui mérite d’être retenue : les outils s’améliorent, apportent une valeur réelle et méritent souvent la confiance qu’on leur accorde. Ce qui ne la mérite pas, c’est la structure de pouvoir dans laquelle ils s’inscrivent. La souveraineté numérique, le contrôle sur les données, sur les comportements des systèmes, sur ce sur quoi ils sont entraînés : c’est là que se joue la vraie question, celle que les débats sur la fiabilité technique tendent à masquer. Isaac Asimov l’avait formulé autrement en 1955, dans sa nouvelle Franchise : dans ce futur imaginé, un seul citoyen vote au nom de tous, sélectionné par un superordinateur qui modélise l’ensemble de la population. Le système fonctionne. Les résultats sont probablement corrects. Mais quelque chose s’est perdu que les chiffres ne capturent pas : la délibération, la participation, l’incertitude productive du choix collectif. Une société peut perdre la substance de ses institutions tout en conservant leur apparence fonctionnelle.
La réponse à ce risque a un nom dans les échanges : l’auditabilité, non pas comme horizon technique, mais comme condition démocratique. Rendre les modèles auditables, c’est rendre possible une confiance informée, fondée sur la vérification plutôt que sur la croyance. Plusieurs voix ont insisté sur la distinction entre l’« IA de confiance » comme notion industrielle, portée par des frameworks comme celui de l’OCDE, et la « confiance dans l’IA » comme construction sociale qui ne se décrète pas : elle se crée ou résiste. Jacques Ellul avait compris avant tout le monde que quand la logique technique devient le système d’exploitation discret d’une société, la question n’est plus de savoir si elle fonctionne, mais qui en contrôle les paramètres.
Le baromètre Edelman 2025 chiffre la fracture géopolitique de cette question : 87 % des Chinois déclarent faire confiance à l’IA, contre 32 % des Américains. Ces chiffres ne mesurent pas des dispositions psychologiques. Ils mesurent deux rapports politiques au contrôle technologique. La confiance dans l’IA n’est plus un fait technique. C’est devenu un fait politique.
Quelques jours après ce dîner, le pape Léon XIV publiait Magnifica Humanitas, sa première encyclique, consacrée à la protection de la personne humaine à l’ère de l’IA. Signée le 15 mai 2026, soit 135 ans jour pour jour après Rerum Novarum, l’encyclique de Léon XIII qui avait pris position sur la condition ouvrière au moment de la révolution industrielle, elle inscrit explicitement la révolution de l’IA dans ce même héritage : celui d’une Église qui choisit de prendre parti sur les transformations économiques et sociales majeures de son époque.
La coïncidence méritait d’être mentionnée, non pour y chercher une caution religieuse, mais parce que le texte pose une question que ce dîner avait tournée sous d’autres angles : qui décide des finalités des systèmes que nous construisons ? Le pape l’exprime ainsi : « La magnifique humanité créée par Dieu se trouve aujourd’hui face à un choix décisif : ériger une nouvelle tour de Babel ou bâtir la cité où Dieu et l’humanité habitent ensemble ».
Traduite hors du registre théologique, la question est exactement celle posée plus tôt dans la soirée : les constitutions des modèles sont-elles écrites par quelques ingénieurs animés par des intérêts d’actionnaires ou par l’ensemble de ceux que ces systèmes affectent ? Ce n’est pas une question technique. C’est une question de gouvernance et donc de confiance collective.
Ouverture : l’éloge de la résistance
Dans son ouvrage « À l’assaut du réel », Gérald Bronner décrit le moment que nous traversons non plus comme celui de la post-vérité, mais de la post-réalité : on ne se ment plus sur le réel, on commence à déserter l’idée même d’un réel commun. L’IA n’en est pas la cause mais elle en est l’accélérateur le plus puissant.
Pour autant, la soirée n’a pas sombré dans le catastrophisme. Elle a plutôt produit un constat partagé : ces sujets ont besoin d’être abordés, mis à l’épreuve, frottés les uns aux autres et ce travail ne peut se faire qu’à condition d’accepter de ne pas savoir. De poser des questions sans avoir les réponses. De penser à voix haute devant des gens qui ne sont pas là pour valider. Ne pas savoir est un privilège que l’IA n’a pas. Elle peut simuler l’incertitude, mais elle ne peut pas l’habiter. Cet espace, celui du doute réel, du tâtonnement collectif, du désaccord productif, reste un espace proprement humain.
Con-fidere, en latin, c’est se fier ensemble. La confiance ne précède pas la conversation : elle en est le résultat, quand on a accepté de ne pas avoir toutes les réponses avant d’entrer dans la pièce. Ce dîner était une tentative d’incarner exactement ça. Pas de téléphones, pas d’enregistrement, des identités professionnelles parfois révélées seulement à la fin. Ce qu’on cherchait n’était pas à conclure mais à être honnêtes les uns avec les autres sur ce qu’on ne sait pas encore.
C’est peut-être la définition la plus simple, et la plus exigeante, de la confiance.
Marine et Margaux