Valorisation d`une publication scientifique

Transcription

Valorisation d`une publication scientifique
Module national d’enseignement Recherche et Innovation en
Imagerie (R2I) des Radiodiagnostics et Imagerie Médicale
Valorisation d’une publication scientifique:
Bibliographies (IF, H, SIGAPS)
P. Devos –DRCI – CHRU de Lille
EA 2694
[email protected]
Plan
• La recherche… et son évaluation
• Origine de la bibliométrie
• Méthodes et indicateurs
• Un exemple en médecine : SIGAPS
• Le financement des CHU
DESC Radiologie 11/03/2010
La recherche … et son évaluation
La recherche… et son évaluation
•
Une problématique qui date des années 50.
•
Nécessité, pour les grands pays industrialisés, d’évaluer leur potentiel
scientifique et technologique.
•
1950 : naissance, au USA, de la National Science Fundation (NSF),
chargée de mesurer le niveau scientifique et technologique.
•
1958 : Création par Eugen Garfield, de l’Institute for Scientific
Information (ISI).
•
1960 : Mise en place de l’Organisation pour la Coopération et le
Développement Économique (OCDE).
DESC Radiologie 11/03/2010
La recherche… et son évaluation
•
1973 : Publication par la NSF des « Sciences Indicators »
•
1984 : Publication par l’OCDE des « Sciences and Technology
Indicators »
•
Mise en place des premières études internationales visant à évaluer et
comparer les niveaux scientifiques et technologiques des grand pays
industrialisés.
Naissance de la scientométrie
DESC Radiologie 11/03/2010
La scientométrie
Discipline ayant pour objectif d’étudier, à l’aide de méthodes quantitatives,
les processus de création, de diffusion et d’utilisation de la science.
• Généralement utilisée pour une évaluation macroscopique
(pays, région, institution, …)
• Basée sur la mise en place et l’analyse d’indicateurs
Utilisation fréquente de la bibliométrie
DESC Radiologie 11/03/2010
Quelques exemples …
•
De nombreuses études et classements
– Classement de Shanghai
– Études OST
– Rapport Even
– …
•
De nombreuses implications en terme de :
– Image de marque
– Attractivité (notamment pour les Universités)
– Financement (exemple des MERRI)
DESC Radiologie 11/03/2010
La bibliométrie
La bibliométrie se définit comme l'exploitation statistique des publications.
Cette analyse permet de rendre compte de l'activité des producteurs (chercheur,
laboratoire, institut...) ou des diffuseurs (périodique, éditeur...) de l'information
scientifique, tant d'un point de vue quantitatif que qualitatif.
• Quel niveau d’analyse ?
3 questions importantes
en bibliométrie :
• Quelle base de référence ?
• Quels indicateurs ?
DESC Radiologie 11/03/2010
Le niveau d’analyse
• Quel niveau d’analyse ?
–
–
–
–
–
–
International (Europe / Monde)
Européen
National (interCHU)
Équipe
Chercheur
…
• Méthodologie différente selon que l’on compare :
– 2 pays
– 2 institutions
– 2 chercheurs
DESC Radiologie 11/03/2010
Choix de la base d’analyse
•
De nombreuses bases disponibles :
–
–
–
–
•
Beaucoup de bases thématiques :
–
–
–
–
•
Science Citation Index
Pubmed
SCOPUS (Elsevier)
…
Médicales
Physiques / Chimie
Sciences de l’Ingénieur
…
Choisir la (ou les) bonnes base(s) !!!
DESC Radiologie 11/03/2010
Le Science Citation Index
•
Base éditée et commercialisée par Thomson Scientific
•
Plus de 7000 revues
•
Couvre de nombreux domaines scientifiques
•
Une des plus utilisées dans les études bibliométriques
•
Interface d’interrogation (Web of Science)
•
Coût élevé, accès restreint
•
Peu de revues françaises
DESC Radiologie 11/03/2010
Pubmed
•
Une des bases les plus utilisée en Sciences Biomédicales
•
19 millions de références depuis 1965
•
Outils d’extraction automatique disponibles
•
Très complète (MESH, GRANTS, GENE, …)
•
Gratuite
•
Couvre mal certains domaines :
–
technologies médicales
– sciences sociales
DESC Radiologie 11/03/2010
De nombreuses autres bases
•
SCOPUS : un des concurrents du SCI
– Nombreuses références
– Bonne couverture des revues françaises
•
INSPEC : Physique / Sciences de l’Ingénieur
•
EMBASE : Sciences biomédicales et Pharmaceutiques
•
PASCAL : Base CNRS
•
…
DESC Radiologie 11/03/2010
La validité des données
•
2 modes d’interrogation :
– Par adresse
– Par nom (Interrogation nominative)
•
Problèmes des homonymes : Possibilité d’avoir les mêmes nom et
prénom (ou initiales)
•
Normalisation des adresses : ex Lambret[Adresse]
– Centre Oscar Lambret
– 1, Av O. Lambret (CHRU !!!)
Nécessité de valider les données
(problème récurrent en bibliométrie)
DESC Radiologie 11/03/2010
Les indicateurs
• Le nombre total de publications / Part des publications
• Le nombre de citations / Part des citations
• L’Impact Factor de la revue et indices dérivés
• Le facteur h, facteur M, facteur g, …
• …
DESC Radiologie 11/03/2010
Le nombre de Publications
•
Un indicateur très simple, facile à collecter … pour un chercheur
•
Plus difficile à collecter pour une équipe ou un établissement
(exhaustivité, doublons, …)
DESC Radiologie 11/03/2010
Le nombre de citations
•
Plus difficile à obtenir, car disponible dans des bases comme le SCI ou
SCOPUS (payantes)
•
Dépend de la date de publication de l’article
DESC Radiologie 11/03/2010
Le Facteur d’Impact (Impact Factor)
•
Indice de citation d’une revue calculé par l’Institute for Scientific
Information (ISI)
•
Disponible dans le Journal of Citations Report (JCR)
•
Actualisé tous les ans
NB :
IF2008 =
Ex :
IF2008 (Radiology)=
Nombre de citations des articles parus en 2006 et 2007
Nombre d'articles publiés en 2006 et 2007
Nombre de citations de Radiology en 2006 et 2007
4425
=
= 5.996
Nombre d'articles publiés dans Radiology en 2006 et 2007 738
DESC Radiologie 11/03/2010
Le Facteur d’Impact
• Très utilisé et … très controversé
• Mesure le rayonnement d’une revue et pas d’un article
• Très variable d’une discipline à l’autre
• Avantage clairement les revues anglo-saxonnes
• Mais un des rares indices qui existe …
DESC Radiologie 11/03/2010
Le facteur H
•
•
Basé sur le nombre d’articles ET de citations
Peu d’articles beaucoup cités … et beaucoup d’articles peu cités
Article
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
Citations
12
10
10
8
6
5
4
4
4
3
3
2
2
1
1
0
0
0
0
0
14
12
10
8
6
4
2
0
0
5
10
15
20
« A scientist has index h if h of his/her Np papers have at least h citations
each, and the other (Np - h) papers have no more than h citations each. »
JE Hirsch
DESC Radiologie 11/03/2010
Quelques références
•
B. Godin, The emergence of S&T indicators: why did governments supplement statistics with
indicators, Research Policy, 2003, 679-691
•
E. Garfield, Fortnightly Review: How can impact factors be improved ?, British Medical Journal, 313
(1996) 411-413.
•
P.O Seglen, Why the impact factor of journals should not be used for evaluating research, British
Medical Journal, 314(1997) 498-502.
•
JE Hirsch, An index to quantify an individual’scientific research output, Physics, 2005
•
R. Costas , M. Bordons, The h-index: Advantages, limitations and its relation with other bibliometric
indicators at the micro level, Journal of Informetrics, In Press, March 2007
•
J. Imperial and A. Rodríguez-Navarro, Usefulness of Hirsch’s h -index to evaluate scientific research in
Spain, Scientometrics, 71(2), 2007, 271:282
•
L. Egghe, Theory and practice of the g-index, Scientometrics, Vol 69 (2006) 131-152
DESC Radiologie 11/03/2010
Quelques liens
•
http://www.nsf.gov/statistics/
•
http://www2.pasteur.fr/infosci/biblio/services/metrie/
•
http://www.isinet.com
•
http://www.obs-ost.fr/fr/
•
http://www.garfield.library.upenn.edu/impactfactor.html
•
http://www.springerlink.com/content/1588-2861/
•
http://www.elsevier.com/locate/respol
•
http://www.sigaps.fr
DESC Radiologie 11/03/2010
La bibliométrie et les sciences biomédicales :
l’exemple SIGAPS
Les sciences biomédicales
•
Usage courant des techniques de bibliométrie par les grands
organismes pour l’évaluation des chercheurs et équipes :
– l’INSERM : https://www.eva2.inserm.fr/EVA/jsp/Bibliometrie/index.jsp
– Le CNRS : http://www.cnrs.fr/comitenational/accueil.html
•
Enquêtes nationales : enquête réalisée par l’OST par exemple.
•
Ces outils permettent le calcul d’indicateurs d’activité mais ne
permettent pas :
– Les statistiques par service, pôle, discipline, …
– L’analyse des collaborations
– Une politique de recherche au niveau local
DESC Radiologie 11/03/2010
Recensement des Publications Scientifiques
•
Publications scientifiques :
– Un des éléments quantifiant la Recherche d’un Établissement, d’une
équipe, ou d’un chercheur.
– Indispensable : justification, évaluation interne/externe, MERRI, ...
•
Recensement difficile en pratique :
– Charge de travail énorme, exhaustivité
– Problème de doublons, de validation
•
Charge de travail des cliniciens ? Doit être MINIMALE
•
Proposition en Novembre 2001, d’un concept permettant la synthèse
automatique des publications.
Système d ’Interrogation, de Gestion et d ’Analyse des Publications Scientifiques
DESC Radiologie 11/03/2010
Principe de SIGAPS
Navigateur Web
Analyser
Recenser
Visualiser
Télécharger
SIGAPS
Agréger
Évaluer
0
Hôpital
Pôle
Service
Service
Pôle
Service
+
Impact Factor Categorie Couleur
IF > P90
A
Q3 < IF < P90
B
MED < IF < Q3
C
Q1 < IF < MED
D
IF < Q1
E
Inconnu
NC
A B C D E
DESC Radiologie 11/03/2010
Le recensement des publications
Basé sur l’interrogation nominative du serveur Pubmed
• Avantages :
–
–
–
–
–
Une des bases les plus utilisée en Sciences Biomédicales
19 millions de références depuis 1965
Outils d’extraction automatique disponibles
Très complète (MESH, GRANTS, GENE, …)
Gratuite
• Limites :
– Couvre mal certains domaines (technologies, sciences sociales)
Problèmes d’homonymes Æ Nécessité de valider les publications
Procédures de Validation intégrées au logiciel
DESC Radiologie 11/03/2010
L’Évaluation des articles
Max
0
P90
Échelle à 6 niveaux basée sur l’Impact Factor
A
•
Problème : l’IF varie fortement d’une discipline à une autre :
– Informatique Médicale, 0.431 à 2.091 (médiane=0.808)
B
– Biologie Cellulaire, 0.25 à 29.2 (médiane=2.188)
Q3
+
Classification statistique, par discipline, en 5 catégories (A à E)
correspondant aux percentiles de l’IF.
•
Revues non recensées par l’ISI (actes de congrès, par exemple),
sont affectées à la catégorie NC.
C
Médiane
Q1
•
D
E
Min
Non Classé par l’ISI
N
C
Avec cette classification, chaque discipline a 10%
de journaux en catégorie A, 15% in B, 25% in C, …
DESC Radiologie 11/03/2010
2 Exemples
• BLOOD :
–
–
–
–
Classé par l’ISI dans la discipline MA (HEMATOLOGY)
60 revues dans cette discipline
Calcul des percentiles (Q1=1.29, Q2=2.01, Q3=3.65, P90=5.68)
IF(BLOOD)=10.13 donc classé A
• AMERICAN JOURNAL OF CRITICAL CARE
– Classé par l’ISI dans les disciplines DS (CRITICAL CARE
MEDICINE) et RY (NURSING)
– 49 revues dans les disciplines DS ou RY
– Calcul des percentiles (Q1=0.58, Q2=0.85, Q3=1.28, P90=2.93)
– IF(AJCC)=1.34 donc classé B
DESC Radiologie 11/03/2010
Les revues de Radiologie
Discipline ISI : VY (RADIOLOGY, NUCLEAR MEDICINE & MEDICAL IMAGING)
ISSN
1619-7070
0278-0062
0020-9996
0161-5505
1361-8415
1053-8119
0033-8419
0001-2998
0363-9762
1555-4309
0938-7994
1065-9471
0360-3016
1083-3668
0740-3194
0094-2405
1535-3508
1536-1632
0952-3480
0031-9155
0271-5333
0167-8140
1053-4296
Titre
Eur J Nucl Med Mol Imaging
IEEE Trans Med Imaging
Invest Radiol
J Nucl Med
Med Image Anal
Neuroimage
Radiology
Semin Nucl Med
Clin Nucl Med
Contrast Media Mol Imaging
Eur Radiol
Hum Brain Mapp
Int J Radiat Oncol Biol Phys
J Biomed Opt
Magn Reson Med
Med Phys
Mol Imaging
Mol Imaging Biol
NMR Biomed
Phys Med Biol
Radiographics
Radiother Oncol
Semin Radiat Oncol
2001
NC
A
B
A
NC
A
A
B
E
NC
C
A
B
B
A
B
NC
NC
B
C
C
B
C
2002
A
A
B
A
A
A
A
B
E
NC
D
A
B
B
A
B
NC
B
C
B
C
B
C
2003
B
A
C
A
A
A
A
A
E
NC
C
A
B
B
B
B
NC
B
B
B
C
C
B
2004
A
A
C
A
A
A
A
A
C
NC
C
A
B
B
A
B
NC
B
B
B
B
C
C
2005
A
A
B
A
A
A
A
B
C
NC
C
B
B
B
B
B
NC
B
C
B
C
C
B
2006
A
A
B
A
A
A
A
A
C
D
B
B
B
B
B
B
NC
B
B
B
C
B
A
2007
A
A
A
A
A
A
A
A
B
D
B
A
B
B
B
B
NC
B
B
B
C
B
B
2008
A
A
A
A
A
A
A
A
B
B
B
B
B
B
B
B
B
B
B
B
B
B
B
Disponible dans SIGAPS (Menu Documentation)
DESC Radiologie 11/03/2010
Les niveaux d’Analyse
DESC Radiologie 11/03/2010
Les statistiques produites
•
Nombre de publications par an.
•
Place dans les auteurs croisée avec la catégorie.
•
Évolution par année et par catégorie.
•
Proportion d’articles de chaque catégorie.
•
Principales collaborations.
•
Liste des termes MESH recensés.
•
Détail des revues et nombre de publications.
•
Proportions d’articles en français et anglais.
•
Détail par discipline
•
Bibliographie aux normes de Vancouver, triée par année puis par auteur.
DESC Radiologie 11/03/2010
Exemple : Analyse d’un chercheur
DESC Radiologie 11/03/2010
Exemple : Analyse d’un chercheur
DESC Radiologie 11/03/2010
Le score SIGAPS
•
2 composantes :
– La catégorie de la revue (C1)
– La position dans les auteurs (C2)
8 si A
4 si Position =1
6 si B
C1=
4 si C
3 si Position =2 ou Dernier
C2=
3 si D
2 si Position =3
2 si E
1 sinon
1 si NC
Score = C1 * C2
Chaque article a un score qui varie de 1 à 32 points. Par exemple, un article A en 1er auteur a donc un score de
32 (8*4), un article NC en 5ème auteur, 1 points (1*1). Le score d’une équipe est la somme des scores de tous les
articles. Si un article contient plusieurs auteurs , le score retenu pour l’article correspond au maximum des scores
des auteurs, chaque article ne pouvant être comptabilisé qu’une seule fois.
DESC Radiologie 11/03/2010
Déploiement national du logiciel
Mission confiée par le Ministre chargé de la Santé en Juin 2006
« mission consistant à assurer la diffusion et l’utilisation du logiciel SIGAPS au sein de
l’ensemble des établissements hospitalo-universitaires, et à permettre la définition d’un
indicateur fiable du niveau de la production scientifique de ces établissements. »
!
Lille
Amiens
!
Rouen
!
Caen
Reims
AP/HP
!
Nancy
!
•
Déploiement sur 29 CHU,
20 CLCC et 27 CHG
•
Mise en place d’un serveur
national
•
Production d’indicateurs
!
Strasbourg
Rennes
Brest
Tours
Angers
!
Nantes
Dijon
Besançon
!
Poitiers
Limoges
Lyon
Clermont F
Grenoble
St Etienne
Bordeaux
Nîmes
!
!
Toulouse
Montpellier
!
Nice
Marseille
Fort- de France
Pointe à Pitre
DESC Radiologie 11/03/2010
Au niveau national : État des lieux
• 80 établissements équipés :
–
–
–
–
–
29 Centres Hospitaliers Universitaires
2 Centres Hospitaliers Régionaux
20 Centre de Lutte contre le Cancer
28 Centre Hospitaliers ayant une convention HU
Service de Santé des Armées
• 83 910 publications sur la période 2004-2008
– 17,5% classés A, 18,8% classés B
– IF moyen : 3.03
Bilan quantitatif et qualitatif, sur des données validées, de la
production scientifique réalisée par les établissements hospitaliers.
DESC Radiologie 11/03/2010
Le financement MERRI
Le financement : un peu d’histoire
• Financement des Hôpitaux :
– Passage progressif d’une dotation globale à un paiement à l’activité
– Mise en place du PMSI et de la T2A
• Spécificité des CHU : charges d’enseignement et de
recherche
• Abattement de 13% du point ISA
Grande disparité entre les établissements !!!
DESC Radiologie 11/03/2010
Le financement : un peu d’histoire
Financement de la recherche :
• Première étape : classification en 2005 des CHU en 3
catégories (Faibles chercheurs, Moyens chercheurs, Forts
chercheurs) avec des abattements différents.
• Deuxième étape : passage, en 2008, à un nouveau modèle
de financement basé sur :
– Un socle fixe visant à couvrir les frais de structure
– Une part modulable basé sur des indicateurs de résultats
– Une part variable (appels d’offre, structure labellisées, …)
DESC Radiologie 11/03/2010
La part modulable
• Représente environ 48% des financements MERRI (900 M€)
• Basé sur 4 indicateurs :
–
–
–
–
Publications (SIGAPS) : 57.5%
Enseignement (Nb étudiants) : 29%
Essais cliniques (SIGREC) : 10%
Brevets, valorisation : 3.5%
57.5% de la part modulable (~ 530 M€) basés sur SIGAPS
DESC Radiologie 11/03/2010
Et en euros ???
• En 2010, valeur du point : ~ 400€
• 1 article dans Radiology en 1er auteur : 32 points
• Environ 13000€ pour l’établissement
• Pendant 5 ans …
DESC Radiologie 11/03/2010
En conclusion …
• Publication = Visibilité !!! (AERES, DHOS, MESR, EPST, …)
– Pour le chercheur
– Pour l’institution
• Publication = Financement
• Attention :
– Au choix de la revue (référencement Pubmed, JCR, …)
– Utiliser, si possible, des adresses normalisées.
DESC Radiologie 11/03/2010
Des questions ?