Sujet de Thèse

Cognition explicable : Fusionner l'IA symbolique et l'IA connexionniste pour améliorer l'explicabilité des modèles cognitifs dans les systèmes d'IA humaine
Département : MPSI

Durée : 01/10/2025 - 30/09/2028


Autres encadrants :
MdC Danilo AVOLA
Description
L'intégration des approches symboliques et connexionnistes en intelligence artificielle représente une avancée majeure pour la conception de modèles cognitifs explicables dans les systèmes Homme-IA. Les progrès rapides de l'apprentissage profond ont conduit à des percées significatives dans divers domaines, notamment le traitement du langage naturel, la vision par ordinateur et les systèmes autonomes. Cependant, une limitation majeure de ces modèles réside dans leur manque d'interprétabilité. Contrairement à la cognition humaine, qui repose sur un raisonnement structuré, symbolique et une représentation explicite des connaissances, ces systèmes artificiels fonctionnent comme des boîtes noires. Ce manque de transparence est particulièrement problématique dans les applications critiques telles que la médecine, le droit, la finance et l'automatisation industrielle, où l'explicabilité est essentielle pour garantir la confiance, la responsabilité et la conformité réglementaire. Ce projet de doctorat vise à combler le fossé entre l'IA symbolique et connexionniste en développant un cadre hybride qui intègre la logique formelle, les ontologies et les représentations structurées des connaissances dans les architectures d'apprentissage profond. La recherche se concentrera sur quatre axes clés. Premièrement, elle développera des représentations cognitives formelles des connaissances en s'appuyant sur l'Analyse Formelle des Concepts, les ontologies et les cadres logiques pour structurer les connaissances du domaine et imposer des contraintes de raisonnement. Deuxièmement, elle explorera des stratégies d'apprentissage hybrides intégrant des contraintes symboliques dans l'apprentissage profond, permettant aux réseaux neuronaux d'incorporer des connaissances préalables tout en affinant leurs représentations par apprentissage basé sur les données. Troisièmement, le projet étudiera les mécanismes d'explicabilité, y compris les graphes de connaissances, le raisonnement basé sur des règles et les mécanismes d'attention, afin de fournir des justifications transparentes et compréhensibles des décisions générées par l'IA. Enfin, le doctorat se concentrera sur la validation du cadre dans des applications réelles, en garantissant sa robustesse, son évolutivité et sa conformité aux exigences d'interprétabilité spécifiques à chaque domaine. Pour atteindre ces objectifs, le projet adoptera une approche multidisciplinaire et il développera des architectures neuro-symboliques capables d'effectuer un raisonnement structuré, garantissant que les conclusions générées par l'IA s'alignent avec les processus cognitifs humains et les connaissances des experts. De plus, la recherche explorera des cadres de raisonnement symbolique différentiables, permettant aux modèles d'apprentissage profond d'intégrer de manière fluide des règles logiques et des structures hiérarchiques de connaissances. Les contributions attendues de ce doctorat incluent le développement d'un nouveau cadre hybride d'IA pour la cognition explicable, l'introduction de nouvelles méthodologies pour intégrer l'IA symbolique aux modèles connexionnistes, ainsi que la définition de nouvelles métriques pour mesurer l'interprétabilité, la vérifiabilité et la robustesse des systèmes d'IA. La recherche présentera également des études de cas dans des domaines où l'explicabilité est cruciale, notamment un cadre IA-driven permettant d'intégrer dynamiquement des sources de données hétérogènes, comme les systèmes cyber-physiques industriels, et la formalisation des clusters sémantiques pour les systèmes intelligents centrés sur l'humain de l'entreprise MG-IB, qui participe à la chaire Human-AI. La connaissance symbolique sera basée sur des règles de physique telles que celles appliquées dans l'industrie. En harmonisant les forces de l'IA symbolique et de l'apprentissage profond, ce projet aspire à établir un nouveau standard pour l'intelligence artificielle explicable.
Mots-clés
  • IA explicable
  • modèles cognitifs
  • IA neurosymbolique
  • analyse formelle des concepts
  • apprentissage
Conditions
Contexte / localisation :
Trois ans d'Octobre 2025

Employeur :
Université de Lorraine en cotutelle avec l'université "La Sapienza" de Rome Italie.
Lieu: Nancy (France) et Rome (Italie)
Rémuneration: 1800 euros / mois
Le candidat idéal pour ce doctorat doit avoir une solide formation universitaire en informatique, en intelligence artificielle, en
apprentissage automatique, en sciences cognitives, en mathématiques ou dans un domaine étroitement lié. Une maîtrise ou un
diplôme équivalent est requis, avec des cours ou une expérience de recherche antérieure dans des domaines tels que l'apprentissage
automatique, l'apprentissage profond, l'IA symbolique et la représentation des connaissances. Une solide compréhension de la logique
formelle, du raisonnement mathématique et de la modélisation cognitive serait très avantageuse.
D'un point de vue technique, le candidat doit avoir une expertise en apprentissage automatique et en apprentissage profond, y compris
la maîtrise de cadres tels que TensorFlow ou PyTorch. Une expérience des architectures d'apprentissage profond telles que les
transformateurs, les réseaux neuronaux convolutifs (CNN), les réseaux neuronaux récurrents (RNN) et les réseaux neuronaux
graphiques (GNN) est attendue. La capacité à mettre en oeuvre et à optimiser les modèles en utilisant l'apprentissage auto-supervisé,
les mécanismes d'attention, la distillation des connaissances et les techniques de robustesse adverses sera essentielle. En outre, la
familiarité avec les méthodes d'IA explicables telles que SHAP, LIME, la visualisation de l'attention et le raisonnement contrefactuel
est importante pour relever les principaux défis de ce doctorat.