Newsletter Portfolio

L'interprétabilité des LLM : le sacrifice de la compréhension au profit de la performance

Le défi de l'interprétabilité est de comprendre comment les systèmes d'IA arrivent à une réponse donnée. Puisqu'ils sont "entraînés" sur de gigantesques corpus de données plutôt que directement programmés par les humains, une grande partie du comportement des systèmes d'IA reste impénétrable même pour leurs créateurs.

D'où ce paradoxe d'amplification médiatique (1) : entre célébration et ignorance, nous y voyons avec humour la marque du chat de Schrödinger qui demeure dans un état incertain tant qu'on ne l'examine pas directement.

Cette démarche d'interprétabilité prend cette même place de l'observateur en examinant ces systèmes d'apprentissage automatique (ici des LLM).

L'interprétatibilité des LLM, deux approches aujourd'hui

🗝️ INTERPRÉTABILITÉ des modèles LLM : enjeux

Il faut comprendre cette démarche comme un investissement pour l'évolution du domaine car la responsabilité des décisions algorithmiques consitue un défi scientifique (et démocratique) majeur entre notre besoin d'explication et leur efficacité.

Sans cette confiance, c'est à dire la compréhension scientifique et le cadre d'application, nous ne voyons pas vraiment qui voudrait prendre de tels risques, sauf pour du battage médiatique - appelé judicieusement "AI Hype" par certaine organisation (2)

🔄 Convergence des approches

La tendance majeure 2025 est encore cette convergence des approches, qui tend à se compléter plutôt qu'à s'opposer, avec des modèles d'évaluation intégrant nativement plus de transparence et des outils mécanistiques de plus en plus accessibles.

L'objectif est d'avancer toujours plus vers une synergie entre compréhension technique et transparence utilisateur.

🔬 Domaine de recherche jeune

Le domaine est très actif au nombre de publications mais c'est un domaine encore jeune qui pose des problèmes de qualité/applicabilité.

Problème de qualité Confondre hypothèses avec conclusions a été courant dans la recherche en interprétabilité mécanistique.

Biais de publication Beaucoup de techniques d'interprétabilité sont principalement évaluées sur de petits modèles "prototypés" et petites tâches, risquant de manquer des phénomènes critiques qui n'émergent que dans des contextes plus réalistes.

Les critères d'explicabilité, de transparence et de fiabilité sont nécessaires, propriétés qu'il est aujourd'hui encore difficile d'établir pour les algorithmes à base d'apprentissage en général et pour les grands modèles en particulier.

L'Ironie de notre Révolution IA

Admettons en guise de conclusion que pendant des années la performance des algorithmes primait au détriment de la compréhension, que nous nous enthousiasmons pour des systèmes que nous ne comprenons pas, et que le battage médiatique autour de l'IA s'avère souvent ridicule nous détournant du travail important qui consiste à rendre la technologie fonctionnelle (le QUOI et POURQUOI), donc autant de défis pour passer de la prouesse technique à l'utilité pratique avec fiabilité et sécurité.

Références citées

(1) La réalité derrière le battage médiatique de l'IA : une étude de l'IFS révèle un manque de préparation organisationnelle post consulté le 10/06/25 : https://www.actuia.com/actualite/la-realite-derriere-le-battage-mediatique-de-lia-une-etude-de-lifs-revele-un-manque-de-preparation-organisationnelle/

(2) Management bought the AI hype, IFS post consulté le 10/06/25 : (https://www.ifs.com/news/corporate/ifs-ai-research)

Interprétabilité et Explicabilité des systèmes d'IA

L'interprétabilité et l'explicabilité jouent un rôle fondamental dans l'IA éthique, car elles permettent de garantir la transparence, la responsabilité et la justice dans les décisions algorithmiques.

Voici un tableau récapitulatif des différences entre interprétabilité et explicabilité :

Automated Media (2019) de Mark Andrejevic

Ce livre s'imposait avec notre projet d'automatisation éditoriale mais finalement nous tenons plus de l'automation tool (outil d'aide) que de l'automated media (média automatisé) au sens d'Andrejevic.

Ce livre est un incontournable pour les étudiants et chercheurs en études critiques des médias intéressés par les intersections entre médias, technologie et économie numérique. Autant l'ouvrir à tous !

Cette reflexion critique porte sur la façon dont l'automatisation transforme notre rapport aux médias et à l'information, questionnant les enjeux de pouvoir et de contrôle dans une société de plus en plus automatisée.

🔍 Concept central

L'auteur développe le concept de "biais de l'automatisation" à travers trois logiques principales : la pré-emption, l'opérationnalisme, et ce qu'il appelle la "framelessness" (absence de cadre). Il fournit un aperçu des implications de ces développements pour le sort de l'expérience humaine.

📊 Enjeux de l'automatisation médiatique

Automatisation médiatique = Technologie + Contrôle + Standardisation
Biais d'automatisation = Pré-emption + Opérationnalisme + Framelessness

Les trois logiques du biais d'automatisation :

Biais d'automatisation :
├── 🎯 Pré-emption
│ └── Anticipation algorithmique
├── ⚙️ Opérationnalisme
│ └── Logique utilitariste
├── 🚫 Framelessness
│ └── Absence de cadre critique

🎯 Implications pour l'expérience humaine

Si ces questions de systématisation ou d'hybridation productive vous intéressent :

Notre propos souligne l'importance de maintenir une distance critique face à l'automatisation médiatique, afin de mieux comprendre ses impacts sur notre rapport à l'information et aux médias.

➡️ En comprenant ces mécanismes, sommes-nous en capacité d'anticiper leurs implications?

Développer une compréhension critique de l'automatisation médiatique correspond finalement à une analyse des transformations numériques contemporaines.

📜 RÉFÉRENCES