Comment l’IA est-elle en train de nous rendre tous paranoïaques ?

• Les capacités de l’intelligence artificielle ont tendance à être survendues par les acteurs du secteur.
• L’humain au risque de l’intelligence artificielle revient sur les limites de cette technologie et aborde ses effets pervers, notamment le risque de créer une société paranoïaque, au sens clinique du terme.
• Le monde numérique, fait de surveillance et d’algorithmes de prédiction, tend à créer de la paranoïa chez les internautes.

Et si l’intelligence artificielle était, elle aussi, en train de provoquer une vague psychiatrique ? On a tendance à vanter les mérites de l’IA, à lui imaginer un futur prometteur fait de robots tueurs, de superintelligence et d’humains augmentés. Derrière le fantasme des humanoïdes de Westworld, il y a des questions plus immédiates qui mériteraient notre attention. C’est le travail difficile que se propose de faire L’humain au risque de l’intelligence artificielle publié ce jeudi aux Presses du Châtelet, coécrit par
Pierre Rabhi et Juliette Duquesne. L’ouvrage aborde les limites de l’intelligence artificielle – publicité ciblée, biais algorithmiques, surveillance… – et questionne la société que nous sommes en train de construire.

Avant toute chose, le terme « intelligence artificielle » pour parler d’une machine est galvaudé. Pour donner une idée, « les intelligences artificielles les plus abouties ont moins de sens commun que des rats », soulignait Yann Le Cun, directeur de la recherche en intelligence artificielle chez Facebook (FAIR) à Station F en 2018. Parler de capacité de calcul serait plus proche de la réalité de cette technologie. Pourtant, l’imaginaire collectif continue de lui attribuer des capacités fantasmatiques.

La rumeur des téléphones sur écoute

Derrière l’IA, il y a surtout des algorithmes qui se gavent de données pour se perfectionner. Et, souvent, la récolte de ces informations se fait sur le dos des citoyens. Les entreprises espionnent le comportement des internautes et recueillent toutes les données les concernant possible à des fins de publicité ciblée. « En Occident, la première surveillance, c’est celle des multinationales via la publicité ciblée », pointe Juliette Duquesne. L’impression de surveillance permanente crée un climat de parano.

Et les différents scandales ces dernières années (Cambridge Analytica, les révélations
d’Edward Snowden) ont tendance à alimenter la méfiance de la population. Il est de plus en plus difficile de distinguer le vrai du faux dans les pratiques des grands acteurs du numérique. Juliette Duquesne revient notamment sur une rumeur insistante ces dernières années selon laquelle nos téléphones enregistreraient nos discussions à des fins de publicité ciblée.

« J’ai posé la question à 80 personnes pour cette enquête et, même si c’est interdit, cela n’a pas été si simple d’avoir une réponse définitive, raconte la journaliste qui a toutefois réussi à se faire une idée. Selon plusieurs chercheurs et associations, les téléphones ne peuvent pas être sur écoute pour des raisons purement techniques : la batterie ne tiendrait pas le coup. « Le fait de ne pouvoir en nier l’existence avec certitude est révélateur de l’opacité des pratiques », analyse la journaliste. Ce qui a tendance à également augmenter le niveau de paranoïa sur Internet.

L’accélération des délires complotistes par les réseaux sociaux

Et même si les téléphones ne sont pas en permanence sur écoute pour des raisons purement techniques (et légales ?), les objets connectés, comme les enceintes, ou certaines boîtes mails, sont surveillés. L’ouvrage révèle d’autres pratiques méconnues et extrêmement problématiques. Selon une étude publiée en 2018, « certaines sociétés peu scrupuleuses réalisent des captures d’écran de l’utilisation de leur application, sans autorisation. Ces captures peuvent contenir, non délibérément, des informations personnelles comme des SMS et être transmises aux nombreux acteurs de la publicité ». Qui ne tomberait pas dans une forme de paranoïa dans un tel contexte ? Et ce n’est pas fini. Les réseaux sociaux eux-mêmes jouent un rôle important dans l’accélération des délires complotistes, à travers leurs algorithmes de recommandation, faisant sauter le dernier verrou de la santé mentale.

Que ce soit Facebook ou YouTube, ces plateformes mettent en valeur les contenus les plus « engageants », qui créent des réactions. Plus une publication fait réagir, plus elle est partagée et plus elle est mise en valeur. Et la plupart des gens réagissent à la peur et à l’indignation, analysait en 2019 Roger McNamee, investisseur de la première heure de Facebook et désormais repenti. « Les fake news ont environ deux fois plus de chances d’être relayées sur Twitter et le sont six fois plus rapidement », confirme Juliette Duquesne, citant une étude de 2018. Avec l’idée que tout ce qui est diffusé sur le Web peut être faux -les deep fake en sont une illustration-, le monde virtuel encourage une vision paranoïaque de la société, au sens clinique du terme.

« Le complotisme est une démission de la pensée. C’est aller chercher un autre qui expliquerait tout. On est absolument certain de tout, il n’y a plus besoin de penser, vous vous abandonnez à l’autre », analyse Marie-Jean Sauret, psychanalyste et chercheur à l’université Jean-Jaurès de Toulouse. « Douter de tout ou tout croire, ce sont des solutions également commodes, qui l’une et l’autre nous dispensent de réfléchir », confirmait (avec un siècle d’avance) le philosophe des sciences Henri Poincaré.

Le monde numérique pousse l’humain vers la paranoïa

Marie-Jean Sauret attribue ce glissement vers une vision paranoïaque du monde au capitalisme. Notre société « promeut le règne d’une idéologie scientiste qui répond à toutes les questions scientifiques et non scientifiques par le moyen de la science ». La science ne laisse pas de place à la nuance, c’est vrai ou c’est faux. « Le savoir de la science est paranoïaque par essence, poursuit-il. 2 + 2 = 4, c’est absolument certain ». Or, la métaphysique est incapable de rivaliser avec le savoir de la science. La question du sens de la vie ne trouve pas une réponse capable de résoudre l’ensemble des interrogations qui tracassent l’humain au cours de son existence.

Retrouvez la rubrique Futur(s) ici

Le complotisme apporte des réponses définitives là où l’humain n’en trouve pas. Il n’est plus question d’esprit critique, bien au contraire. « C’est un phénomène de crédulité : on a envie de croire », expliquait il y a quelques mois à 20 Minutes Rudy Reichstadt, fondateur de l’Observatoire du conspirationnisme. Le monde numérique pousse l’humain vers la paranoïa au sens clinique du terme. Et cet effet pervers de la technologie est d’autant plus préoccupant que, selon L’humain au risque de l’intelligence artificielle, l’IA n’est pas si efficace qu’on voudrait le croire. « Les programmes d’IA, très opaques, sont souvent mal évalués et continuent d’être employés, même s’ils apparaissent inefficaces, voire néfastes », souligne l’ouvrage.

« La question qu’on peut se poser, conclut Juliette Duquesne, c’est : est-ce que ça vaut le coup de créer une société complètement paranoïaque pour des programmes d’IA qui ne marchent pas si bien ? » Il est encore temps d’y réfléchir.

Source: Lire L’Article Complet