6. Modélisation des données d`un Data warehouse

Transcription

6. Modélisation des données d`un Data warehouse
Le Data Warehouse
et les Systèmes
Multidimensionnels
1
1. Définition d’un Data warehouse (DW)
• Le Data warehouse (entrepôt de données) est une
collection de données orientées sujet, intégrées, non
volatiles et historisées, organisées pour le support
d ’un processus d ’aide à la décision (Inmon, 94).
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
2
1
1. Définition d’un Data warehouse
1. 1 Données orientées sujet
• Données structurées par thèmes (sujets majeurs de
l’entreprise) et non suivant les processus fonctionnels.
• Le sujet est transversal aux structures fonctionnelles et
organisationnelles de l’entreprise. On peut accéder aux
données utiles sur un sujet.
• L’intégration des différents sujets se fait dans une
structure unique.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
3
1. Définition d’un Data warehouse
1. 1 Données orientées sujet
• Il n ’y a pas de duplication des informations communes à
plusieurs sujets.
• La base de données est construite selon les thèmes qui
touchent aux métiers de l’entreprise (clients, produits,
risques, rentabilité, …).
• Les données de base sont toutefois issues des Systèmes
d’Information Opérationnels (SIO).
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
4
2
1. Définition d’un Data warehouse
1. 2. Données intégrées
• Les données, issues de différentes applications de
production, peuvent exister sous toutes formes différentes.
• Il faut les intégrer afin de les homogénéiser et de leur
donner un sens unique, compréhensible par tous les
utilisateurs.
• Elle doivent posséder un codage et une description unique.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
5
1. Définition d’un Data warehouse
1. 2 Données intégrées
• La phase d’intégration est longue et pose souvent des
problèmes de qualification sémantique des données à
intégrer (synonymie, homonymie, etc…).
• Ce problème est amplifié lorsque des données externes
sont à intégrer avec les données du SIO.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
6
3
1. Définition d’un Data warehouse
1. 3 Données non-volatiles
• Une information est considérée volatile quand les
données sont régulièrement mises à jour comme dans les
Systèmes d’Information Opérationnels.
• Dans un SIO, les requêtes portent sur les données
actuelles. Il est difficile de retrouver un ancien résultat.
• Dans un DW, il est nécessaire de conserver l’historique
de la donnée. Ainsi, une même requête effectuée à deux
mois d’intervalle en spécifiant la date de référence de la
donnée, donnera le même résultat.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
7
1. Définition d’un Data warehouse
1. 4 Données historisées
• Dans un SIO, les transactions se font en temps réel, et les
données sont mises à jour constamment. L ’historique des
valeurs de ces données n ’est généralement pas conservé
car il est inutile.
• Dans un DW, la donnée n’est jamais mise à jour.
• Les données du DW s ’ajoutent aux données déjà
engrangées.=> ajout de couches de données successives, à
la manière des strates géologiques
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
8
4
1. Définition d’un Data warehouse
1. 4 Données historisées
• Le DW stocke donc l’historique des valeurs que la
donnée aura prises au cours du temps.
• Un référentiel de temps est alors associé à la donnée afin
d’être capable d’identifier une valeur particulière dans le
temps.
• Les utilisateurs possèdent un accès aux données
courantes ainsi qu’à des données historisées.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
9
1. Définition d’un Data warehouse
1. 5 Support d ’un processus d ’aide à la décision
• Un DW est un système d ’information dédié aux applications
décisionnelles dont les principales contraintes sont :
• des requêtes complexes à plusieurs niveaux d ’agrégation
• la nécessité de disposer d ’informations synthétiques
(« reporting » de gestion, analyse des ventes, gestion de la
masse salariale, etc)
• le stockage des données sous une forme multidimensionnelle
• des mises à jour périodiques
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
10
5
2. Objectifs d’un Data warehouse
• permet le développement d ’applications décisionnelles et de
pilotage de l ’entreprise et de ses processus
• joue un rôle de référentiel pour l ’entreprise puisqu ’il permet de
fédérer des données souvent éparpillées dans différentes bases de
données
• offre une vision globale et orientée métier de toutes les données que
manipule l ’entreprise
• permet de faire face aux changements du marché et de l ’entreprise
• offre une information compréhensible, utile , rapide et à jour
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
11
3. Architecture d’un Data warehouse
Bases de
production
Dictionnaire
Bases externes
Extraction
Transformation
Chargement
Rafraîchissement
Data Warehouse
Outils
d’administration
Bases
multidimensionnelles
Datamarts
Outil ROLAP
Outils
multidimensionnels
MOLAP
Requeteur
ou tableau
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
Outil frontal
OLAP
12
6
3. Architecture d’un Data warehouse
3. 1 Les Bases de Données
• Bases de données internes:
•Bases de production de l’entreprise
•Bases créées par les utilisateurs
• Bases de données externes à l’entreprise qui nécessitent
leur identification, leur rapatriement et leur intégration.
•Données achetées à des fournisseurs de données
(Nielsen, INSEE, …)
•Données récupérées sur Internet
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
13
3. Architecture d’un Data warehouse
3. 2 Opérations sur les données
EXTRACTION
• Extraire les données de leur environnement d’origine
(bases de données relationnelles, fichiers plats, …).
• Utiliser une technique appropriée pour n ’extraire que
les données nécessaires : données créées ou modifiées
depuis la dernière opération d’extraction.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
14
7
3. Architecture d’un Data warehouse
3. 2 Opérations sur les données
TRANSFORMATION
• Une même donnée peut avoir une structure ou une valeur
différente en fonction de la base (production, externe,
utilisateurs) dont elle provient.
• On peut être confronté à des redondances (un même
client peut apparaître avec différents attributs et
propriétés selon la source consultée).
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
15
3. Architecture d’un Data warehouse
3. 2 Opérations sur les données
TRANSFORMATION
• Il faut supprimer certaines données aberrantes qui
risqueraient de fausser les analyses.
• Il faut donc épurer et transformer les données.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
16
8
3. Architecture d’un Data warehouse
3. 2 Opérations sur les données
CHARGEMENT/RAFRAICHISSEMENT
• Effectuer sur les données des opérations de calcul et
d’agrégation.
• Remplacer certaines bases si aucune
d’extraction satisfaisante n’est possible.
solution
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
17
3. Architecture d’un Data warehouse
3. 2 Opérations sur les données
CHARGEMENT/RAFRAICHISSEMENT
• Mettre en place des procédures de chargement et de
restauration (en cas de problème).
• Typiquement, la fréquence du chargement est quotidienne
et il est effectué en tout début de matinée.
• Si la disponibilité du système ne peut être interrompue,
envisager la mise en place de systèmes redondants.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
18
9
3. Architecture d’un Data warehouse
3. 2 Opérations sur les données
LES OUTILS
• On peut automatiser tout ou partie des opérations décrites.
• Des outils sont disponibles : Extract d’ETI, Genio de
Leonard ’s Logic, SAS/Warehouse Administrator de
SAS…
• Le développement d’outils spécifiques est envisageable
mais risque d ’alourdir les tâches.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
19
3. Architecture d’un Data warehouse
3. 3 Dictionnaire de Données
• Le dictionnaire de données regroupe les méta-données.
• Une méta-donnée représente une donnée sur les données.
Il s’agit de l’ensemble des informations qui permettent de
qualifier une donnée, notamment par sa sémantique, sa
règle de calcul, sa provenance, sa qualité, etc…
• les méta-données permettent de préciser de quelle table
provient la donnée, à quelles dates et heures elle en a été
extraite, l’état de la base à cet instant, etc...
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
20
10
3. Architecture d’un Data warehouse
3. 3 Dictionnaire de Données
• Une méta-donnée permet de « remonter la chaîne » et de
reconstituer l’ensemble d’événements et données qui ont servi à
obtenir l’information associée.
• Le dictionnaire de données contient toutes les informations
permettant d’exploiter les données.
• C’est un référentiel destiné aux utilisateurs et à l’administrateur
du DW.
• A ce jour, il n’existe pas de normes en ce qui concerne la
structure et la gestion des dictionnaires de données. Chaque outil
propose sa solution et son approche.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
21
3. Architecture d’un Data warehouse
3. 4 Les Data Marts
• Un data mart (magasin de données) est un DW focalisé sur un
sujet particulier, souvent au niveau départemental ou métier.
• C ’est donc un mini DW lié à un métier particulier de l ’entreprise
(finance, commercial, …).
• Un DW est souvent volumineux (plusieurs centaines de Go voire
quelques To ) avec des performances inappropriées (temps de
réponse trop longs). Un Data mart, quant à lui, comporte moins
de 50 Go, ce qui permet des performances acceptables.
• La création d’un data mart peut être un moyen de débuter un
projet de DW (projet pilote).
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
22
11
3. Architecture d’un Data warehouse
3. 5 Les bases multidimensionnelles et les outils OLAP
3.5.1 Les modèles de
données
Modèles de présentation
Modèles de diffusion
Modèles d’intégration
Bases de données opérationnelles
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
23
3. Architecture d’un Data warehouse
3. 5 Les bases multidimensionnelles et les outils OLAP
3.5.1 Les modèles de données
• Le modèle d ’intégration unifie les données opérationnelles.
• Le modèle de diffusion représente le modèle conceptuel des
données. Il correspond aux bases multidimensionnelles (serveur
OLAP).
• Le modèle de présentation est un complément au modèle
conceptuel. C’est à travers ce modèle que l’utilisateur voit les
données. Il correspond à différents outils physiques : les
tableurs, les requêteurs, les outils clients OLAP, etc...
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
24
12
3. Architecture d’un Data warehouse
3. 5 Les bases multidimensionnelles et les outils OLAP
3.5.2 Les outils OLAP (On-Line Analytical Processing)
• OLAP caractérise l’architecture nécessaire à la mise en place
d ’un système d’information décisionnel (SID).
• OLAP s’oppose à OLTP (On-Line Transactional Processing)
qui caractérise les SIO.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
25
3. Architecture d’un Data warehouse
3. 5 Les bases multidimensionnelles et les outils OLAP
3.5.2 Les outils OLAP (On-Line Analytical Processing)
• OLAP constitue l’ensemble des outils multidimensionnels
nécessaires à l’accès, stockage et à la manipulation des données
utiles pour un SIAD ou pour un EIS.
• OLAP désigne les outils d ’analyse s’appuyant sur les bases de
données multidimensionnelles.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
26
13
3. Architecture d’un Data warehouse
3. 5 Les bases multidimensionnelles et les outils OLAP
3.5.3 Les 12 règles de E.F. CODD (1993)
Vue multidimensionnelle : Les données sont structurées en dimensions
métiers.
Transparence : L ’utilisateur doit pouvoir utiliser les logiciels habituels
(tableurs, …) sans percevoir la présence d ’un outil OLAP.
Accessibilité : L ’outil doit se charger d ’accéder aux données stockées
dans n ’importe quel type de bases de données (interne + externe) et le
faire simultanément.
Performance continue dans les restitutions : A mesure que le nombre
de dimensions ou la taille de la base augmente, l’utilisateur ne doit pas
subir de baisse sensible de performance.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
27
3. Architecture d’un Data warehouse
3. 5 Les bases multidimensionnelles et les outils OLAP
3.5.3 Les 12 règles de E.F. CODD (1993)
Architecture client-serveur : Tout produit OLAP doit fonctionner en
mode C/S avec une répartition des traitements.
Dimension générique : Chaque dimension (avec l’analyse) doit
être équivalent aux autres à la fois dans sa structure et dans ses capacités
opérationnelles. Une seule structure logique dans l’ensemble des
dimensions.
Gestion dynamique des matrices creuses : OLAP doit gérer les cellules
non renseignées de manière optimale.
Support multi-utilisateurs : OLAP doit assurer un accès simultané aux
données, gérer l’intégrité et la sécurité de ces données.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
28
14
3. Architecture d’un Data warehouse
3. 5 Les bases multidimensionnelles et les outils OLAP
3.5.3 Les 12 règles de E.F. CODD (1993)
Opérations entre les dimensions : OLAP doit gérer des calculs associés
entre les dimensions sans faire appel à l ’utilisateur pour définir le
contenu de ces calculs
Manipulation intuitive : Minimiser le recours à des menus ou les allers
et retours avec l ’interface utilisateur
Flexibilité des restitutions : convivialité des états de gestion ou des états
de sortie - ergonomie
Nombre de dimensions et niveaux de hiérarchie illimité : l ’outil doit
gérer au moins quinze dimensions et ne pas limiter le nombre de niveaux
hiérarchiques.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
29
3. Architecture d’un Data warehouse
3. 5 Les bases multidimensionnelles et les outils OLAP
3.5.4 Fast Analysis of Shared Multidimensional Information (FASMI)
Analyse : fournir des possibilités d ’analyse (statistiques et autres)
Rapide : l ’essentiel des réponses doit être rendu dans un délai de moins
de cinq secondes
Information : accéder à l ’ensemble des données indépendamment de
leur localisation
Multidimensionnelle :fournir une vue conceptuelle multidimensionnelle
Partagée : être accessible à un grand nombre d ’utilisateurs et ne pas
limiter le nombre de niveaux hiérarchiques.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
30
15
3. Architecture d’un Data warehouse
3. 5 Les bases multidimensionnelles et les outils OLAP
3.5.5 Les outils relationnels OLAP
Outils relationnels : requêteurs, infocentres, jointures complexes
exemple : Business Objects (anciennes versions)
Hypercubes relationnels : les données sont stockées dans une BD
relationnelle, mais avec une structure adaptée aux données multidimensionnelles
exemple : SGBD relationnels
OLAP relationnel (ROLAP) : ces outils utilisent directement le modèle
relationnel. Au travers des méta-données, ils permettent de transformer
l ’analyse multidimensionnelle en requêtes SQL : distinguent les axes
d ’analyse et les faits à observer (modèles en étoile ou en flocon)
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
31
3. Architecture d’un Data warehouse
3. 5 Les bases multidimensionnelles et les outils OLAP
3.5.5 Les outils relationnels OLAP
Interface de
présentation
Hypercube virtuel
Base de données
relationnelle
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
32
16
3. Architecture d’un Data warehouse
3. 5 Les bases multidimensionnelles et les outils OLAP
3.5.6 Intégration Infocentre Hypercube
y Principe proche de l ’OLAP relationnel
y Intégration d ’un outil d ’infocentre et d ’un outil d ’analyse
multidimensionnelle dans une même interface située sur le poste
client
y L ’outil d ’infocentre assure la gestion d ’un référentiel commun, la
sélection des données et leur valorisation
y L ’outil multidimensionnel assure la création d ’un hypercube,
l ’implémentation des fonctionalités OLAP (consolidation, zoom
avant, glisser-déplacer, gestion des seuils, etc.)
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
33
3. Architecture d’un Data warehouse
3. 5 Les bases multidimensionnelles et les outils OLAP
3.5.6 Intégration Infocentre Hypercube
Hypercubes clients
Table de dimension
Table de dimension
Table de dimension
Serveur relationnel
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
Table de
Faits
Table de dimension
Table de dimension
34
17
3. Architecture d’un Data warehouse
3. 5 Les bases multidimensionnelles et les outils OLAP
3.5.7 Les outils multidimensionnels MOLAP
y Les BD multidimensionnelles sont propriétaires (pas de
standard)
y Les données sont dynamiquement structurées et compressées
(optimisation de l ’espace disque)
y Les données sont organisées en dimensions et hiérarchies
y Les formules de calcul sont généralement complexes
y Les temps de réponse sont constants
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
35
3. Architecture d’un Data warehouse
3. 5 Les bases multidimensionnelles et les outils OLAP
3.5.7 Les outils multidimensionnels MOLAP
Interface de
présentation
Serveur matriciel
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
36
18
3. Architecture d’un Data warehouse
3. 5 Les bases multidimensionnelles et les outils OLAP
3.5.7 Les outils multidimensionnels MOLAP
y La constitution de la base se fait selon le processus suivant
y extraction des données provenant des SGBD ou fichiers
y décomposition des données en dimensions, attributs et variables
y calcul des consolidations
y chargement de l ’hypercube selon la structure dimensionnelle
choisie
y L ’interrogation de la base possède les caractéristiques suivantes :
y interface graphique (drill down, slice and dice, etc)
y gestion des seuils et des alertes (codage couleurs)
y temps de réponse court et constant
y SQL non implémenté
y Exemple : Oracle Express
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
37
3. Architecture d’un Data warehouse
3. 6 Les limites du multidimensionnel
y Format et langage propriétaire
y Structure figée (l’hypercube doit être construit à chaque
modification)
y Accès au détail difficile
y Peu d ’outils disponibles
y Outils d ’administration insuffisants
y Difficulté de réaliser des sélections sur un hypercube
y Pas de standard ni pour la structure physique ni pour
l ’interrogation
y Manque de souplesse et absence de gestion de méta-données
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
38
19
3. Architecture d’un Data warehouse
3. 7 Conclusion
y Un marché florissant
y nombreux outils (ROLAP,MOLAP,..)
y concentration du nombre d ’éditeurs de logiciels
y Nécessité de méthodologie de conception
y démarche
y modélisation conceptuelle et logique
y implication des utilisateurs
y Un avenir réel
y l’informatique opérationnelle est mature
y la demande des utilisateurs est importante
y la technologie est disponible.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
39
4. Le Marché du Data warehouse
y Le marché du décisionnel regroupe une trentaine d’acteurs
y Les éditeurs peuvent être regroupés en quatre catégories
y solutions applicatives
y bases de données multidimensionnelles
y client ROLAP
y client OLAP
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
40
20
4. Le Marché du Data warehouse
4. 1 Les solutions applicatives
y L’offre la plus ancienne
y l’offre verticale (spécialisée dans un secteur tel que la banque ou
la grande distribution)
y l’offre horizontale (consacrée à une fonction précise)
y l’offre fondée sur un progiciel
y l’éditeur intègre généralement dans sa solution une base de
données multidimensionnelle
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
41
4. Le Marché du Data warehouse
4. 1 Les solutions applicatives
y exemples de produits :
Editeur
Produit
Fonction
Comshare
Boost sales and marging planning
Boost sales analysis
Prévision, planification
Analyse des ventes
Hyperion Software
Oracle
SAS Institute
Commander budget
Elaboration budgétaire
Commander FDC
Reporting, consolidation
Hyperion entreprise
Reporting, consolidation
Hyperion Pilar
Elaboration budgétaire
Oracle financial analyser
Elaboration budgétaire
Oracle sales analyser
Analyse des ventes
CFO Vision
Reporting
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
42
21
4. Le Marché du Data warehouse
4. 2 Bases de données multidimensionnelles
y Quatre acteurs principaux répartis en deux catégories :
y les spécialistes qui fournissent une technologie
multidimensionnelle performante
y les fournisseurs de solutions complètes capables de fournir
en plus de la base de données, un environnement de
développement, d’interrogation et d’administration.
Catégorie
Editeur
Produit
Spécialistes
Arbor Software
Aplix
Essbase
TMI
Autres
(environnement intégré)
Oracle
Gentia Software
Express
Gentia
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
43
4. Le Marché du Data warehouse
4. 3 Client ROLAP
y Offre la plus récente sur le marché
y l ’information est stockée dans une base de données
relationnelle et un dictionnaire permet de faire apparaître
l ’information sous forme multidimensionnelle
y l ’administrateur offre à l ’utilisateur un point de vue
multidimensionnel sur une base relationnelle
y les principaux acteurs sont :
Editeur
Produit
Business Objects
Business Objects
Microstrategy
DSS Agent
Information Advantage
Decision Suite
Informix
MetaCube
Platinum Technology
Info Beacon
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
44
22
4. Le Marché du Data warehouse
4. 4 Client OLAP
y Utilisation d ’un outil d’infocentre pour interroger les données
relationnelles, puis représenter l’information récupérée sous
forme multidimensionnelle
y solution proposée par les éditeurs d’infocentre
y deux outils sont utilisés : l’analyse multidimensionnelle et
l’infocentre relationnel
y inconvénients :
y pour alimenter l’outil multidimensionnel, il faut rapatrier un
volume de données important de la base relationnelle vers
l’outil
y le stockage physique des données multidimensionnelles
s’effectue sur le poste de travail, ce qui entraîne une
redondance des données
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
45
4. Le Marché du Data warehouse
4. 4 Client OLAP
y ces systèmes sont appelés DOLAP, pour Desktop OLAP
y principaux acteurs :
Editeur
Editeur
Fonction
Andyne
GQL
Pablo
Requêteur
Analyse OLAP
Cognos
Impromptu
Powerplay
Requêteur
Analyse OLAP
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
46
23
5. Développement d’un Data warehouse
5. 1 Introduction
5.1.1 Caractéristiques d ’un data warehouse à prendre en compte
• 4 caractéristiques du data warehouse jouent un rôle fondamental
dans les projets de ce type:
•Les évolutions technologiques: client-serveur et systèmes
ouverts permettent de construire le data warehouse par
intégration des composants les + adaptés.
•Le lien implicite à la stratégie de l ’entreprise: data
warehouses + proches de la stratégie de l ’entreprise que les
systèmes transactionnels.
•Une logique d ’amélioration continue (évolution des
demandes des utilisateurs, nouveaux objectifs de l ’entreprise)
•Un niveau de maturité (acquis décisionnel) différent selon
les entreprises.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
47
5. Développement d’un Data warehouse
5. 1 Introduction
5.1.2 Phases du processus de développement
• Démarche proposée=démarche incrémentale: le data warehouse
est construit application par application (décomposition en sousprojets ou « initiatives »).
• 3 grandes phases dans un projet de data warehouse:
•« Découvrir et définir les initiatives »: niveau entreprise;
distinction de 2 sous-phases: étude stratégique et élaboration
du plan d ’action.
•Définition de l ’infrastructure technique et organisationnelle
du data warehouse, conduite du changement: niveau entreprise.
•Mise en œuvre incrémentale des applications: niveau
projet.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
48
24
5. Développement d’un Data warehouse
5. 2 Phase 1: découvrir et définir les initiatives
5.2.1 Etude stratégique
• Rôle fondamental.
• Etape 1: sensibilisation, « sponsorship », préparation au
changement.
•Chaque acteur doit être convaincu de la nécessité et de
l ’importance du projet de data warehouse, et de la nécessité de
son implication.
•Rôle du sponsor du projet.
• Etape 2: identification des objectifs métier/entreprise assignés au
data warehouse.
•Effectuée par collaboration entre management, équipes
opérationnelles et équipes informatiques.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
49
5. Développement d’un Data warehouse
5. 2 Phase 1: découvrir et définir les initiatives
5.2.1 Etude stratégique
• Etape 3: identification des sous-projets (initiatives) permettant
d ’atteindre les objectifs précédemment identifiés.
•Les initiatives sont ordonnancées par priorité.
•Les initiatives sont indépendantes, bien délimitées, et leur
mise en œuvre est relativement courte (moins de 6 mois en
général).
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
50
25
5. Développement d’un Data warehouse
5. 2 Phase 1: découvrir et définir les initiatives
5.2.2 Elaboration du plan d ’action
• Etape 1: étude de faisabilité (existence et qualité des données,
contraintes techniques et organisationnelles).
• Etape 2: analyse coûts/bénéfices.
•Exemples: coût de développement, coût du matériel et du
logiciel…
•Estimations ne sont pas détaillées.
•Estimations sont de moins en moins détaillées selon le niveau
de priorité de l ’initiative.
• Etape 3: séquencement et planification des projets.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
51
5. Développement d’un Data warehouse
5. 3 Phase 2: définition de l ’infrastructure
5.3.1 Infrastructure technique
• Choix du ou des fournisseur(s) de technologies: choix entre un
unique fournisseur et plusieurs fournisseurs…
• Choix des outils: construire, acheter ou faire avec l ’existant?
• Choix
de
l
’architecture
du
data
warehouse:
centralisée/distribuée/répliquée, Intranet…
• Choix de la structure de stockage: relationnelle,
multidimensionnelle…
• Choix du matériel
• Choix des infrastructures destinées à l ’administration des
systèmes, à la gestion de la sécurité…
• …
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
52
26
5. Développement d’un Data warehouse
5. 3 Phase 2: définition de l ’infrastructure
5.3.2 Infrastructure organisationnelle
• Organisation typique des équipes de développement et
d ’exploitation:
•Un 1er centre de compétences responsable de l ’alimentation
du data warehouse à partir des systèmes de production.
•Un second centre de compétences responsable de la gestion et
du support du data warehouse proprement dit. Rôle des
administrateurs de bases de données.
•Un 3è centre de compétences responsable des flux
d ’informations entre les utilisateurs et leur poste de travail
d ’une part, et le data warehouse d ’autre part.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
53
5. Développement d’un Data warehouse
5. 3 Phase 2: définition de l ’infrastructure
5.3.3 Conduite du changement
• Rôle de la formation.
• Rôle des sponsors. Il est souvent souhaitable d ’identifier un
sponsor par initiative, chaque sponsor étant généralement
associé à une entité opérationnelle (marketing, finance,
ressources humaines…).
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
54
27
5. Développement d’un Data warehouse
5. 4 Phase 3: mise en œuvre des applications
5.4.1 Les 5 étapes
• Etape 1: étude préalable
•Définition et planification des étapes suivantes de manière
plus précise et détaillée que dans les phases précédentes.
•Analyse de l ’existant
•Etude des besoins.
• Etape 2: étude détaillée (cf. parties 6 et 7 + loin)
•Modélisation conceptuelle des données
•Modélisation logique multidimensionnelle
•Modélisation mathématique: définition des agrégations et des
formules.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
55
5. Développement d’un Data warehouse
5. 4 Phase 3: mise en œuvre des applications
5.4.1 Les 5 étapes
• Etape 3: réalisation
•Définition de l ’interface homme-machine
•Implémentation physique
•Intégration.
• Etape 4: déploiement
• Etape 5: mesures
•Bilan de la mise en œuvre de l ’application de data warehouse
(capitalisation d ’expérience)
•Mesures doivent être effectuées régulièrement.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
56
28
5. Développement d’un Data warehouse
5. 4 Phase 3: mise en œuvre des applications
5.4.2 Démarche itérative
• Mise en œuvre des applications peut s ’effectuer selon une
approche itérative, de type RAD (Rapid Application
Development).
• Phase de mise en œuvre des applications découpée en deux
sous-phases, avec déroulement des 5 étapes à chaque fois:
•Développement d ’un prototype (pilote)
•Déploiement, généralisation du pilote.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
57
5. Développement d’un Data warehouse
Projet 2
(déploiement)
Itérative inter-projets
Projet 3
(pilote)
Vision
projet
Projet 1
(déploiement)
Projet 2
(pilote)
P3
Itérative inter-projets
Projet 1
(pilote)
P2
Itérative inter-projets
PI
Vision
d’entreprise
5. 5 Conclusion: schéma général du processus
Projet 3
(déploiement)
Vision
d’entreprise
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat Incrémentale : multi projet
58
29
6. Modélisation des données d’un Data warehouse
6. 1 Introduction
6.1.1 Nécessité de techniques de modélisation spécifiques
Système transactionnel
Data warehouse
Redondances
A minimiser pour préserver la fiabilité
et la cohérence du système
(normalisation).
Autorisées.
Mises à jour
Oui
Non. Pas de mises à jour en ligne.
Mise à jour dans la phase de chargement/
rafraîchissement.
Modèle de données
Utilisateur n ’accède pas directement au modèle Utilisateur a un accès direct au modèle
de données.
de données.
Volumes de données
Résultats des transactions : volumes limités.
Requêtes manipulent souvent de gros
volumes de données.
Nombre de tables
manipulées dans les
requêtes
Faible en général
Elevé en général.
Requêtes prévisibles
Oui
Non dans de nombreux cas.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
59
6. Modélisation des données d’un Data warehouse
6. 1 Introduction
6.1.2 Modèle multidimensionnel
• 3 concepts fondamentaux:
•Les faits mesurent l ’activité. Les faits sont toujours
numériques. Les faits les plus importants et les plus utiles
sont valorisés de façon continue et additifs.
•Les dimensions sont les axes d ’analyse. Elles peuvent être
organisées en hiérarchies telles que la géographie, le
temps…
•Les attributs des dimensions qualifient celles-ci.
Typiquement, les attributs sont textuels et discrets (par
opposition aux faits).
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
60
30
6. Modélisation des données d’un Data warehouse
6. 1 Introduction
6.1.2 Modèle multidimensionnel
• Opérations fondamentales sur des bases multidimensionnelles:
•Drill-down (une donnée agrégée est visualisée à un niveau
de détail plus fin) et consolidation (les données sont
visualisées à un niveau plus agrégé). Le drill-down et la
consolidation se fondent sur l utilisation des hiérarchies entre
dimensions, et des fonctions agrégées (somme, nombre, min,
max, moyenne).
•Slicing and dicing: visualisation des données selon
différentes perspectives.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
61
6. Modélisation des données d’un Data warehouse
6. 1 Introduction
6.1.2 Modèle multidimensionnel
TRIMESTRE
ANNEE
DIMENSION
Attribut de dimension
Fait
CA
JOUR
MOIS
ts n
an oye
t
i
ab m
’h at
E re d ’ach
L
L
VI omb oir d
PRODUIT
- n ouv
e
- libellé
-p
ag
ôm
- prix unitaire
N
h
O c
GI de
R E au x
DE PRODUIT
-t
Copyright J. Akoka - I. Comyn-WattiauTYPE
- N.Prat
Un cube d’analyse des ventes
62
31
6. Modélisation des données d’un Data warehouse
6. 2 Modélisation Conceptuelle des données
y La plupart des démarches proposées aujourd’hui font l’impasse
sur cette phase
y Seuls Thomsen (Building Multidimensional Information
Systems, Wiley, 1997) et Akoka-Prat (Modélisation logique des
systèmes multidimensionnels, Revue des Systèmes de Décision,
1997) proposent une phase conceptuelle.
y Principe :
y établir un modèle conceptuel entité-association
y traduire ce modèle sous forme logique multidimensionnelle
par des règles de mapping
y transformations décrites plus loin
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
63
6. Modélisation des données d’un Data warehouse
6. 2 Modélisation Conceptuelle des données
y Exemple : SIAD de
média-planning
CONSOMMATEUR
N
N
ACHETE
code_conso
CSP
age
revenu
sexe
ville
etat_civil
unites_par_sem
N
PRODUIT
code_produit
nom_produit
unite_produit
MEDIA
UTILISE
utilisat_media
N
code_media
nom_media
prix_insertion
production_media
pourcent_limite
N
EST DU
1
TYPE_MEDIA
type_media
insertion
unite_media
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
64
32
6. Modélisation des données d’un Data warehouse
6. 3 Modélisation logique des données
6. 3.1 L’approche MAP (Akoka-Prat)
y LES CONCEPTS
y Une dimension est une donnée élémentaire permettant d’identifier
un objet (ex : code d ’un produit). C’est l ’axe d ’analyse
y Une variable permet de gérer les données multidimensionnelles.
Elle représente une quantité mesurable, un fait observé. Elle peut
être monodimensionnelle ou multidimensionnelle (ex : des unités
consommées peuvent être dimensionnées par un consommateur,
un produit...)
y Une relation caractérise un lien existant entre les dimensions,
deux ou plus (ex : lien entre le code d ’un média et le type du
média correspondant)
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
65
6. Modélisation des données d’un Data warehouse
6. 3 Modélisation logique des données
6. 3.1 L’approche MAP (Akoka-Prat)
y LA DEMARCHE
y effectuer la modélisation conceptuelle à l ’aide du modèle entitéassociation
y simplifier le schéma entité-association ainsi obtenu en :
y éliminant les associations d’ordre supérieur à 3
y éliminant les associations réflexives
y traduire le schéma ainsi simplifié en schéma multidimensionnel à
l’aide des règles de transformation suivantes :
y l’identifiant de chaque entité E-A devient une dimension dans
le schéma logique multidimensionnel
y les propriétés portées par une entité (autres que son identifiant)
deviennent des variables monodimensionnelles liées à la
dimension de cette entité
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
66
33
6. Modélisation des données d’un Data warehouse
6. 3 Modélisation logique des données
6. 3.1 L’approche MAP (Akoka-Prat)
y LA DEMARCHE
y les propriétés portées par les associations du schéma conceptuel
deviennent des variables multidimensionnelles dont les
dimensions sont les identifiants des entités liées à l’association
y (un lien d’héritage entre deux entités est traduit par une relation
dans le schéma logique multidimensionnel)
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
67
6. Modélisation des données d’un Data warehouse
6. 3 Modélisation logique des données
6. 3.1 L’approche MAP (Akoka-Prat)
y LA DEMARCHE
y une association dont une des cardinalités maximales au moins est
égale à 1 est traduite par une relation dans le modèle logique
multidimensionnel
y toute autre association est traduite au moyen d’une variable
multidimensionnelle liée à l’identifiant de chacune des entités
impliqués dans l ’association, sauf si l ’association est porteuse
d ’au moins une propriété dont la valeur est toujours définie.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
68
34
6. Modélisation des données d’un Data warehouse
6. 3 Modélisation Logique des données
6.3.2 Le modèle en étoile
y Le modèle en étoile se compose de deux type de table :
y les tables de dimensions qui représentent les axes d ’analyse.
Chaque table de dimension possède un ensemble d’attributs
permettant de décrire les aspects importants de cette
dimension. Chaque table est identifiée par une clé
y la table de faits concerne l’ensemble des mesures de
l’activité. Les enregistrements de cette table sont identifiés
par une clé composée de la concaténation des clés des tables
de dimension
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
69
6. Modélisation des données d’un Data warehouse
6.3 Modélisation Logique des données
6.3.2 Le modèle en étoile
y Il s ’agit d ’un modèle dénormalisé. Les tables de dimension sont
plates. Il existe une grande redondance des données
Dimension 1
Faits
Dimension 2
Clé Dimension 1 (D1)
Attribut
Clé D1
Clé D2
Clé D3
Mesure
Clé Dimension 2 (D2)
Attribut
Dimension 3
Clé Dimension 3 (D3)
Attribut
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
70
35
CONSOMMATEUR
y Exemple:
SIAD de
planning
y
y
média-
On distingue 2 étoiles (structure
multiétoile)
les relations entre étoiles sont
possibles par le biais de
dimensions communes à deux
ou plusieurs étoiles (ex : la
dimension consommateur est
commune aux 2 étoiles)
code_conso
CSP
age
revenu
sexe
ville
etat_civil
PRODUIT
code_produit
nom_produit
unite_produit
ACHETE
code_conso
code_produit
unites_par_sem
CONSOMMATEUR
MEDIA
code_conso
CSP
age
revenu
sexe
ville
etat_civil
code_media
nom_media
prix_insertion
production_media
pourcent_limite
type_media
insertion
unite_media
UTILISE
code_conso
code_media
utilisat_media
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
Règles de passage ER
71
Î modèle en étoile
•Règle 1 : Toute association binaire M-N ou ternaire ou plus
porteuse de propriétés devient une table de faits identifiée par
les clés des entités participantes.
•Règle 2 : Toute entité participant à une association de la règle 1
devient une table de dimensions reliée à la table de faits.
•Règle 3 : Toute entité E1 reliée à une entité E2 de la règle 2 par
une relation 1:N est transcrite dans la table de dimension de E2.
•Règle 4 : Toute entité E1 reliée à une entité E2 de la règle 2 par
un chemin de relations 1:N est transcrite dans la table de
dimensions de E2.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
72
36
6. Modélisation des données d’un Data warehouse
6. 3 Modélisation Logique des données
6.3.3 Le modèle en flocon
y Ce modèle est dérivé de celui en étoile. Toutefois, les tables de
dimensions sont normalisées et les redondances éliminées
TYPE_MEDIA
y exemple : Cas média-planning (partiel)
type_media
insertion
unite_media
CONSOMMATEUR
code_conso
CSP
age
revenu
sexe
ville
etat_civil
MEDIA
code_media
nom_media
prix_insertion
production_media
pourcent_limite
type_media
UTILISE
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
code_conso
code_media
utilisat_media
Règles de passage ER
73
Î modèle en flocon
•Règle 1 : Toute association binaire M-N ou ternaire ou plus
porteuse de propriétés devient une table de faits identifiée par
les clés des entités participantes.
•Règle 2 : Toute entité participant à une association de la règle 1
devient une table de dimensions reliée à la table de faits.
•Règle 3 : Toute entité E1 reliée à une entité E2 de la règle 2 par
une relation 1:N devient une sous-table de dimensions reliée à la
table issue de la règle 2.
•Règle 4 : Toute entité E1 reliée à une entité E2 traduite en une
sous-table de dimension en devient une sous-table de
dimensions.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
74
37
6. Modélisation des données d’un Data warehouse
6. 3 Modélisation Logique des données
6.3.4 Comparaison des modèles en étoile et en flocon
y Le modèle en flocon offre une vue plus claire de la structure de
l’information permettant notamment de déceler une hiérarchie
y la normalisation de ce modèle permet de plus de diminuer la
redondance, en réduisant la taille des tables de dimension. A
noter que Kimball a évalué le gain de place disque à 1 % de
l’espace disque total
y Kimball préfère le modèle en étoile sur la base de deux
arguments :
y la dénormalisation permet d ’améliorer les performances du
système lors de l ’exécution des requêtes
y le modèle est plus facile à apprendre par l ’utilisateur non
informaticien
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
75
7. Modélisation mathématique. Agrégations et
formules
y Formules : Quatre types de formules
y Descriptive : pour le choix d’alternative (ex : réparer un pont ou
en construire un nouveau)
y Prédictive : pour prédire des valeurs non mesurées (ex : si le taux
d’intérêt est corrélé avec une augmentation des ventes
domestiques, la formule prédictive déduira d ’une diminution des
taux d ’intérêt l ’augmentation future des ventes)
y Exploratoire : représentant les relations entre données (ex :
l’analyse de régression statistique)
y Prescriptive : ce sont de simples descriptions, ne comportant pas
de comparaisons (ex : les agrégations)
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
76
38
7. Modélisation mathématique. Agrégations et
formules
y Agrégations :
y Formules d’agrégations : composante clé du modèle
multidimensionnel (ex : sommes, moyennes, équations pondérées
conditionnelles)
y Formules non agrégatives : formules les plus couramment
utilisées (ex : ratios, produits, différences)
y Fonctions attachées aux dimensions ou aux règles : dans le cas de
ratios ou de formules à opérations multiples, il est préférable de
passer par des règles. Dans le cas d’une fonction à appliquer par
défaut avec des exceptions, il est préférable d’attacher la fonction
à la dimension
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
77
7. Modélisation mathématique. Agrégations et
formules
y Agrégations :
y Qualifications : lors de la rédaction de formules, il faut vérifier si
celles-ci sont justes pour la totalité de la hiérarchie
y Précédence des calculs : préciser l’ordre des calculs entre
différentes dimensions lorsque ceux-ci peuvent produire un
résultat différent
y Formules conditionnelles : utilisées dans le cas d’exceptions
connues
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
78
39
8. Conclusion et perspectives
8. 1 Conclusion
y Le data warehouse est probablement, avec Internet, l ’une des
tendances récentes que les entreprises exploiteront de + en +
dans les années à venir. Sujet « brûlant ».
y Le data warehouse est le cœur, l ’ossature du système
d ’information décisionnel.
y % des investissements informatiques consacrés à la production
et à la gestion devrait s ’inverser d ’ici 2003 au profit de
l ’informatique décisionnelle (source: Meta Group).
y Systèmes d ’information décisionnels = élément de
différentiation entre les entreprises (par opposition aux systèmes
transactionnels avec les ERP).
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
79
8. Conclusion et perspectives
8. 2 Quelques perspectives
y Agents « intelligents »:
yUn agent agit pour un utilisateur sans solliciter son
intervention explicite.
yUn agent « intelligent » est capable d ’apprendre en fonction
d ’événements extérieurs.
yTechnique de « push » (≠ « pull »): L ’utilisateur est averti
des événements remarquables (CA en-dessous d ’un seuil
prédéfini…).
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
80
40
8. Conclusion et perspectives
8. 2 Quelques perspectives
y Internet:
yComplémentarité Internet/data warehouse.
yInternet=moyen d ’acquisition de données externes.
yIntranet/Extranet=moyen d ’accès au data warehouse.
y CRM:
yCustomer Relationship Management (Gestion de la Relation
Client)
yUn des domaines d ’application privilégiés du data
warehouse.
Copyright J. Akoka - I. Comyn-Wattiau - N.Prat
81
41

Documents pareils

Data Warehouse

Data Warehouse La constitution de la base se fait selon le processus suivant extraction des données provenant des SGBD ou fichiers décomposition des données en dimensions, attributs et variables calcul des consol...

Plus en détail