APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Agenda
1. Einleitende Gedanken
2. Datenqualität im ERP-Umfeld
3. Datenqualität im Griff
4. Steuerungskreislauf für Stammdaten
5. Fragen & Antworten
2 © 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Agenda
1. Datenqualität – Einleitende Gedanken
2. Datenqualität im ERP-Umfeld
3. InfoZoom Data Quality – Datenqualität im Griff
4. Steuerungskreislauf für
Stammdatenmanagement (IZDQ & proALPHA)
5. Fragen & Antworten
3 © 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Anforderungen Datenqualität
Anfo
rderu
ngen a
n d
ie
Date
nq
ua
litä
t (D
Q)
gesetzliche Regelungen
sonstige Regelungen (z.B. Verbandsempfehlungen)
Com
plia
nce
= R
eg
elü
berw
achu
ng
betriebliche Regelungen Kunde Unternehmen Lieferant
Mitarbeiter
4
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Definieren
Messen
Analysieren Verbessern
Monitoren / Steuern
Datenqualität als kontinuierlicher Prozess Aufspüren neuer Problemfälle
Ganzheitliche Betrachtung der Daten
Definition eines Regelwerks (Business Rules)
Definition von Kennzahlen
Erstellung von Indexen
Analyse der Indexe
Feststellung des Gesamtindex
Bearbeitung der Regelverstöße
Historisiertes Controlling
Auswirkung von Maßnahmen
5
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Datenqualitätspyramide
6
Gesamtheit unterschiedlicher
Qualitätsmerkmale
Einzelaspekt der Datenqualität
Objektive, messbare Größe, die in
Bezug auf unterschiedliche
Ausprägungen eines Qualitäts-
merkmals sensitiv reagiert
Daten-
Qualität
Qualitäts-
Merkmale
Qualitäts-
Metriken
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Merkmale/Metriken zum Dateninhalt
7
Vollständigkeit Formatkonsistenz Zulässigkeit Plausibilität
(inhaltlich und zeitlich)
Format
nicht ok
Format ok
Nicht-
Definitions-
Bereich
Definitions-
bereich
Unschar-
fer Bereich
Feld
nicht leer
Feld
nicht leer
Feld leer
Feld leer
Feld
nicht leer
Feld leer
QM
QM
QM
Wert im
Wertebereich
Wert nicht im
Wertebereich
QM
Wert im
Wertebereich
Wert nicht im
Wertebereich
QM
Plausibilität greift nicht
Plausibilität greift
und ist ok
Plausibilität greift
und ist nicht ok
Plausibilität greift nicht
Plausibilität greift
und ist ok
Plausibilität greift
und ist nicht ok
IM
IM
QM
QM
Format
nicht ok
Format ok
QM
IM
Inhalt
Legende Qualitätsmetrik Interne Metrik
QM
IM
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Agenda
1. Datenqualität – Einleitende Gedanken
2. Datenqualität im ERP-Umfeld
3. InfoZoom Data Quality – Datenqualität im Griff
4. Steuerungskreislauf für
Stammdatenmanagement (IZDQ & proALPHA)
5. Fragen & Antworten
8 © 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Negativbetrachtung: Auswirkung schlechter Stammdaten
9 © 2014 proALPHA Software GmbH
Falsche Kontengruppe im Teilestamm
verursache falsche Buchungen in
Finanzbuchhaltung
Fehlende Bestandsbuchung aufgrund falscher
Schüttgutkennzeichen
Falsche Dispovorschläge
aufgrund unsauberer Dispoparameter
Unsaubere Statistiken wegen falscher
Regionen im Kundenstamm
Falsche Ermittlung der Steuer wg. falschen Steuergruppen im
Kundenstamm
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Warum ist Stammdatenqualität wichtig?
10 © 2014 proALPHA Software GmbH
bessere Prozessqualität
Reduzierung der Nacharbeit in
Folgeprozessen
Aussagefähigere Analysemöglichkeiten
Verminderung von Fehlbuchungen
Auffinden von Dubletten
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Stammdatenqualität im Rahmen von „ERP-Governance“
11 © 2014 proALPHA Software GmbH
Steuerungs- und Regelungssystem für die Entscheidungsfindung
Geschäftsprozess- und Konfigurationskontrolle
Regelwerk zur Umsetzung von Investitionsvorhaben
Steuerungs- und Regelungssystem für den Umgang mit Daten
Management der Systemumgebung und Kontrolle der Systemarchitektur
Qualitätssicherung und Testmanagement
Sicherheit
Endanwender Support Netzwerk
Anwenderbefähigung
Compliance und IT-Standards
Kontinuierliche
und
zielgerichtete
Nutzen-
steigerung
von proALPHA
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Daten „Governance“ im ERP-Umfeld beinhaltet die folgenden Themen:
Verankerung von Prinzipien der Datenverantwortung
Definition von Verantwortlichkeiten für die Pflege der Daten
Regelungen zur Datensicherheit
Verfahren zur Sicherung der Datenqualität
Steuerungs- und Regelungssystem für den Umgang mit Daten
12 © 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Einflussfaktoren auf die Stammdatenqualität – Beispiel
Teilestamm
13 © 2014 proALPHA Software GmbH
Pflegequalität
Teilestamm
Definierte Verant-
wortlichkeit für die
Datenpflege
Benutzer-
dokumentation für
die Teilestammpflege
Kontrollsystem für
die Datenqualität
Festgelegter Prozess
für die Teilestamm-
anlage inkl. Workflow
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Agenda
1. Datenqualität – Einleitende Gedanken
2. Datenqualität im ERP-Umfeld
3. InfoZoom Data Quality – Datenqualität im Griff
4. Steuerungskreislauf für
Stammdatenmanagement (IZDQ & proALPHA)
5. Fragen & Antworten
14 © 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Evolution einer Business Rule
15 © 2014 | humanIT Software GmbH
ILE140411
Daten-bestand
Regel-Entwurf
Data Mining
Sofort-Korrektur-
Maßnahme Bewertung
Regel-Repository Regel-Konkretisierung
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
InfoZoom Datenqualität (IZDQ)
16 © 2014 proALPHA Software GmbH
- Erstellung von Regeln und Jobs
- Kategorisierung von Regeln
- Speichern der
Analyseergebnisse
Optionen:
- Versand von Ergebnissen
- Datenvalidierung über
Webanbindung (z. B. Adressen)
- DQ-Stammblätter
- Informationsanreicherung
(…)
Externe
Systeme
pA Analyzer (optional)
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Aufspüren von Fehlern und Lücken
Automatisiertes Datenqualitäts-Controlling
Integration von InfoZoom-Technologie
Hochflexible Anwendung durch individuelle Regelwerksdefinition
Geringer Investitions- und Zeitaufwand
Anbindung an externe Systeme mit Ergebnisrückfluss
IZDQ - automatisiertes DQ-Reporting
17 © 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Direkter Import von FOX-Dateien nach IZDQ
Direkte Regelprüfung und Analyse
Vergabe von Regel-Restriktionen (Expert)
Hintergrundverarbeitung von Jobs (Batch)
Aktivitäten-Logging in Datenbank
CSV-Export von Inhalten für weiterverarbeitende Prozesse
Automatische Erstellung vorbereiteter Analysen (FOT/FOX)
IZDQ – Funktionen
18 © 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Agenda
1. Datenqualität – Einleitende Gedanken
2. Datenqualität im ERP-Umfeld
3. InfoZoom Data Quality – Datenqualität im Griff
4. Steuerungskreislauf für
Stammdatenmanagement (IZDQ & proALPHA)
5. Fragen & Antworten
19 © 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Die im folgenden gezeigte Integration ist kein fertiges Produkt, sondern zeigt die
prototypische Implementierung eines Steuerungskreislaufes mit InfoZoom Data
Quality und proALPHA® ERP.
Disclaimer
20 © 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
IZDQ in Verbindung mit proALPHA
21 © 2014 proALPHA Software GmbH
Tabellen
DQ001
DQ002
:
Regel 1
Regel 2
Regel 3
Regel 4
Regel 5
Regel 6
Regel 7
:
Job 1
Job 2
Job 3
Job 4
:
Kennzahlen
Historisierte
Indexe
FOX
Export
Übergabe
pA
Workflow
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Demo
22 © 2014 proALPHA Software GmbH
IZDQ
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
IZDQ Startbildschirm
23 © 2014 proALPHA Software GmbH
Übersicht der
erstellten Inhalte
Logging
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
IZDQ Tabellenübersicht
24 © 2014 proALPHA Software GmbH
Verfügbare
Tabellen
Zugehörige
Tabellenfelder
Anzahl
Objekte
Daten-
Preview
Tabellen-
Funktionen
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
IZDQ Regelübersicht
25 © 2014 proALPHA Software GmbH
Verfügbare
Regeln
Ansichts-
Filterung
Import
vordefinierter Regeln
Anzahl von Regeln
in der Ansicht
Export der Regel-
Definitionen (CSV) Regel-
Funktionen
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Regeltypen von IZDQ
Formel Frei definierbare Prüfungen und Berechnungen
Dublette Prüfung auf Dubletten mittels „Soundex“-Verfahren
Metadata Generierung von Metadaten der Tabelle
Import Import von Daten
SQL Export Export von Ergebnissen oder Definitionen
ETL Zuordnen von extern definierten ETL-Jobs (pentaho PDI)
IZDQ Regeltypen
26 © 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Beispiel: IZDQ Formel-Regel
27 © 2014 proALPHA Software GmbH
Regeldefinition
Kategorie-
Zuordnung
Regelgewichtung:
Wie ist die Regeln in der
Wichtigkeit zu bewerten?
100: hoch - 10: niedrig
Aktivschaltung
Regeltest
Tabellenzuordnung
Indexbildung
% der Datensätze, die
diese Regel erfüllen als
Kennzahl
Vergabe von
Berechtigungen
Definition von
Ausnahmen
Verfügbare
Felder
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Regeltest: 10% der Datenmenge als Preview
Beispiel: IZDQ Formel-Regel
28 © 2014 proALPHA Software GmbH
Formel-Regel
Index
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Definition von Ausnahmen
Beispiel: IZDQ Formel-Regel
29 © 2014 proALPHA Software GmbH
Feste Ausnahmen
Unscharfe Ausnahme
Wertauswahl
Freie
Texteingabe Unscharfe
Suche (enthält)
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Feldzuordnungen festlegen
Beispiel: IZDQ Formel-Regel
30 © 2014 proALPHA Software GmbH
Mapping
Quell-Felder
Ziel-Felder
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Dubletten in Kombination der Felder »Vorname«, »Name2«, »Name3«
Beispiel: IZDQ Dubletten-Regel
31 © 2014 proALPHA Software GmbH
Dubletten-
Definition
Tabellenzuordnung
Definition von
Ausnahmen
Verfügbare
Felder
Einstellung der
Genauigkeit
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Anzahl der Objekte der Tabelle »DQAdressen«
Beispiel: IZDQ Dubletten-Regel
32 © 2014 proALPHA Software GmbH
Metadata-
Funktion
Tabellenzuordnung
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Import der Datei »adressen.fox« in die Tabelle »DQAdressen«
Beispiel: IZDQ Import Regel
33 © 2014 proALPHA Software GmbH
FOX-Datei
Tabellenzuordnung
Feldmapping
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Export der Tabelle »Overview« in eine FOX-Datei (OEM)
IZDQ SQL Export-Regel
SQL-Statement
Vorlagenzuordnung CSV- oder FOX-
Format
Zieldatei
© 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Starten des ETL-Jobs »J-Statistik«
IZDQ ETL-Regel
Job-Auswahl
© 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
IZDQ Jobübersicht
Verfügbare Jobs
Jobs sind im Batch zeit-
gesteuert ausführbar
(cmd-Datei).
Bsp: »izqd 2« für Job 2
Zugeordnete
Regeln
Testen von Jobs
Speichern der
Regel-Zuordnung
Manuelles Starten
eines Batch-Jobs
© 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
IZDQ Analyseübersicht
Ergebnisse der
Formel-Regeln Analyse-Viewer
Navigation
Dubletten
-Analyse
Export der Daten
Dubletten-Index
© 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
IZDQ Kategorienübersicht
Angelegte Kategorien
© 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
IZDQ Konfigurationsübersicht
Nutzung von PDI
SQL-Server IP-Adresse
Zuordnung zu einer
InfoZoom/Analyzer Lizenz
Lizenztyp
© 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Beispiel: Entwicklung der Indexwerte
IZDQ Historienanalyse
Auswahl
Kennzahlentyp
Auswahl
Index
Darstellung
Indexwert
Darstellung
Abweichung
© 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Beispiel:
Erstellung eines PDF-Stammblattes mit Auflistung der Regelverletzungen
IZDQ PDI Erweiterung
Ausgabe des
Stammblattes
als PDF
Analyseinformationen
Stammdaten
© 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Mögliche abbildbare Prozesse (Auszug)
Automatischer Import der Rohdaten
Erstellung und Historisierung von Metadaten
Erstellung von Reporting-Tabellen
Erstellung von Reports (PDF, EXCEL etc.)
Erstellung von Stammdatenblättern je Sachbearbeiter
Automatischer Versand von Reports/Ergebnissen (Mail)
…
IZDQ PDI Erweiterung
© 2014 proALPHA Software GmbH
APP-2: Datenqualität und Datenanalyse mit InfoZoom und IZDQ
Agenda
1. Datenqualität – Einleitende Gedanken
2. Datenqualität im ERP-Umfeld
3. InfoZoom Data Quality – Datenqualität im Griff
4. Steuerungskreislauf für
Stammdatenmanagement (IZDQ & proALPHA)
inkl. Reporting
5. Fragen & Antworten
43 © 2014 proALPHA Software GmbH