← Publications & recherche

DEMNE: Determination of Extraction Method for Named Entity

Longeac C. et al.

Manuscrit détaillant le framework en cascade DEMNE, les cinq métriques de caractérisation de corpus utilisées pour la sélection de paradigme, et les résultats de calibration par recherche en grille sur trois corpus d'oncologie français.

Résultats, en bref

DEMNE apprend, pour chaque entité, s'il faut la confier à des règles, à un modèle léger ou à un LLM. Trois lectures : sa capacité à généraliser d'un domaine clinique à l'autre, sa performance corpus par corpus en oncologie, et son avance sur des stratégies à niveau fixe.

Figure 3

Généralisation entre domaines cliniques

évalué sur →OncoQUAEROMACCoptimisé surOncologie0,9540,5000,622QUAERO0,6650,8020,644MACCROBAT0,7310,4520,859Onco + QUAERO0,9080,6350,726Onco + MACC0,9380,5000,733QUAERO + MACC0,7450,8020,844Les trois0,9240,6350,659
faibleélevée
Chaque ligne est une configuration optimisée sur un domaine ; chaque colonne, le domaine sur lequel on l'évalue. Plus la case est foncée, plus la concordance de routage est élevée. La diagonale domine — chaque configuration est meilleure sur son propre domaine — mais les cases hors diagonale restent élevées : les règles de routage apprises transfèrent d'un corpus clinique à un autre.
Table 5

Performance par corpus — oncologie

CorpusConcordanceCost-score
Cantemist1,0001,000
ESMO 20251,0001,000
Oncolog-IA0,8630,842
Global (in-domain)0,9540,947
Validation croisée (LOCO)0,8660,837
Protocole B, domaine oncologique. Concordance = part des entités routées vers le niveau optimal ; cost-score = qualité pondérée par le coût de calcul. Sur Cantemist et ESMO 2025 le routage est parfait ; en validation croisée inter-sites (LOCO) il tient à 0,866.
Comparatif

Pourquoi le routage adaptatif

0.000.250.500.751.000.9540.947DEMNE0.7290.582Toujours RULES0.1480.209Toujours LLMConcordanceCost-score
Deux stratégies naïves : tout confier aux règles, ou tout confier au LLM. Les règles seules sont rapides mais ratent les cas complexes (0,729) ; le LLM seul est coûteux et étonnamment peu concordant (0,148). Le routage adaptatif de DEMNE atteint 0,954 de concordance pour un cost-score de 0,947.