1
IBM Watson meets reality- was geht... und wie?
… und wie geht’s?
Technische Umsetzung und Ihr Einstieg in KI-Projekte
Dipl. Ing. Gunther Pelzer
IBM Certfied Watson Developer @TIMETOACT.DE
IBMWatson
Salzburg 06.06.2018
2
Gunther Pelzer
• Dipl. Ing. für Nachrichtentechnik und Technische Informatik
• Anwendungs- & Software Entwickler bei der TIMETOACT in Köln seit 2001
• Projekte und POC‘s mit IBM Watson Technologie seit 2017
• Seit 2018 IBM Certified Watson Developer
3
KI-Projekte – ist das neu?
Erbringung menschlicher
Intelligenzleistungen durch Maschinen
Künstliche
IntelligenzMachine
Learning Deep
Learning
Maschinen wird es ermöglicht,
Wissen aus Erfahrung zu generieren
Permanentes maschinelles
Lernen auf der Basis statistischer Analyse großer Datenmengen
4
Die erste ultraintelligente Maschineist die letzte Erfindung,
die der Mensch je machen wird....
(Nach Irving Jhon Good)
Aus Tyrannei des Schmetterlings, Frank Schätzing
5
Und was ist Cognitive Computing?
Quelle: IBM Redbook
6
Welche KI Services bietet IBM Watson?
Personality Insights
Tone Analyzer
Speech to Text
Text to Speech
Discovery
(Discovery News)
Natural Language Understanding
Knowledge Studio
Visual Recognition
Language Speech
Knowledge Vision
Watson Assistant
Language Translator
Natural Language Classifier
AI Assistant
Empathy
7
Ganz neu eingetroffen ...
8
Wie fange ich an?
2. Registrierung für die IBM Cloud (früher Bluemix) mit der IBM-ID
1. Registrierung bei IBM
9
IBM Cloud Lite account
• 256 MB of instantaneous Cloud Foundry runtime memory, plus 2 GB with Kubernetes Clusters.
• Access to usage capped plans for select services, such as API Connect, Watson Assistant, Watson
Discovery, Internet of Things Platform, Data Science Experience and many more. Check out the full
list of available services.
• Efficiency features, such as auto sleep and garbage collection, to help you better manage your
resources.
• Usage tracking and cap alerts that notify you when you’re approaching your data thresholds.
a free account that never expires
10
Das Dashboard
11
Cloud Foundry?• Quelloffene Entwicklungsplattform für den Betrieb von Cloud-Applikationen
• IBM nutzt CF für das service model „Platform as a Service (PaaS)“
Application Runtime
Runtimes & Frameworks (node, java, python, ...)
Services (z.B. Watson , IoT, ...)
cf login
cf push
HTTP Route
Code & Manifest IBM Cloud
dev Rechner
12
Cloud Foundry !!!
13
Cloud Foundry !!!
14
Boilerplates
15
Cloud Foundry Apps
16
Katalog / Watson Services
17
„Showcase“ Watson Cognitive Computing
Watson Workspace
IBM Cloud
W a t s o n A s s i s t a n t
Eingangskanäle
Enterprise – Daten
(Mock Objekte)
Interaktives, multikanaliges Auskunftsystem für Wirtschaftsfragen
Alexa
Services
18
SPEECH TO TEXT
PUBLIC APIs
3rd PARTY APIs
USER DEVICE
EDGE SERVICES
APPLICATIONLOGIC
Watson Assistant(TRAINED AND DEPLOYED)
ANSWERSTORAGE
SECURITYINFORMATIONGOVERNANCE
TRANSFORMATION &CONNECTIVITY
DISCOVERYSERVICES
GROUNDTRUTH
KNOWLEDGE ENGINEER
BUSINESSPROCESS
ENTERPRISE APIs SERVICES
ENTERPRISE DATA
PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK
LEGEND
Application
ManagementData Store
SecurityCapabilitiesUser
Infrastructure services
IBMReferenzarchitektur
19
SPEECH TO TEXT
PUBLIC APIs
3rd PARTY APIs
USER ALEXASKILL
AMAZONLAMBDA
APPLICATIONLOGIC: NodeRED
ANSWERSTORAGE
SECURITYINFORMATIONGOVERNANCE
TRANSFORMATION &CONNECTIVITY
DISCOVERYSERVICES
GROUNDTRUTH
KNOWLEDGE ENGINEER
BUSINESSPROCESS
ENTERPRISE APIs SERVICES
ENTERPRISE DATA
PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK
LEGEND
Application
ManagementData Store
SecurityCapabilitiesUser
Infrastructure services
Watson Assistant(TRAINED AND DEPLOYED)
Watson WorkspaceUSER
SDK forNode.js
20
SPEECH TO TEXT
PUBLIC APIs
3rd PARTY APIs
USER ALEXASKILL
AMAZONLAMBDA
APPLICATIONLOGIC: NodeRED
ANSWERSTORAGE
SECURITYINFORMATIONGOVERNANCE
TRANSFORMATION &CONNECTIVITY
DISCOVERYSERVICES
GROUNDTRUTH
KNOWLEDGE ENGINEER
BUSINESSPROCESS
ENTERPRISE APIs SERVICES
ENTERPRISE DATA
PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK
LEGEND
Application
ManagementData Store
SecurityCapabilitiesUser
Infrastructure services
Watson Assistant(TRAINED AND DEPLOYED)
Watson WorkspaceUSER
SDK forNode.js
AI Service
1
Service Orchestrator
NodeRED -
Cloud Foundry App
2
Sprach - Eingangskanal
Alexa
3
Text - Eingangskanal
Watson Workspace
4
21
Watson Assistant
• Organisation über “Workspaces“
• Anlernen von User-„Intents“ anhand von Trainings-Beispielsätzen unterschiedlicher Ausprägung
• Definition von „Entitäten“
• Aufbau eines Interaktions-“Dialogs“ über Dialog-Knoten unter Verwendung von Intents und Entitäten
• Test & Training der Intenterkennung
Eingabe einer Frage / Text
& ggf. Kontext
Erkennung von Intents und Entitäten
Einstieg in den Dialogbaum
und Ausführen der Regeln
Ausgabe der Antwort und des
akt. Kontext
22
Cloud Foundry !!!
23
Watson Assistant – #Intents
24
Watson Assistant – @Entities
25
Watson Assistant – @Entities
26
Watson Assistant – Dialog
27
SPEECH TO TEXT
PUBLIC APIs
3rd PARTY APIs
USER ALEXASKILL
AMAZONLAMBDA
APPLICATIONLOGIC: NodeRED
ANSWERSTORAGE
SECURITYINFORMATIONGOVERNANCE
TRANSFORMATION &CONNECTIVITY
DISCOVERYSERVICES
GROUNDTRUTH
KNOWLEDGE ENGINEER
BUSINESSPROCESS
ENTERPRISE APIs SERVICES
ENTERPRISE DATA
PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK
LEGEND
Application
ManagementData Store
SecurityCapabilitiesUser
Infrastructure services
Watson Assistant(TRAINED AND DEPLOYED)
Watson WorkspaceUSER
SDK forNode.js
AI Service
1
Service Orchestrator
NodeRED -
Cloud Foundry App
2
Sprach - Eingangskanal
Alexa
3
Text - Eingangskanal
Watson Workspace
4
28
NodeRED App als Service Orchestrator
• NodeRED basiert auf einer Runtime die in Node.js geschrieben wurde.• Es bietet eine grafischen Fluss-Editor der über den Browser aufgerufen
und bedient wird.• Es existieren eine vielzahl NodeRED – Knoten die Services und APIs
“virtuell“ verbinden. • IBM hat NodeRED für die Cloud um Knoten für die Verwendung von
Watson Services erweitert.• Als Service Orchestrator integriert und verbindet die App Services,
Backendsysteme und Interfaces.• Der SO ist somit, von der Architektur her, die zentrale Komponente für
das Cognitive-Computing pattern.
29
Cloud Foundry !!!
30
31
SPEECH TO TEXT
PUBLIC APIs
3rd PARTY APIs
USER ALEXASKILL
AMAZONLAMBDA
APPLICATIONLOGIC: NodeRED
ANSWERSTORAGE
SECURITYINFORMATIONGOVERNANCE
TRANSFORMATION &CONNECTIVITY
DISCOVERYSERVICES
GROUNDTRUTH
KNOWLEDGE ENGINEER
BUSINESSPROCESS
ENTERPRISE APIs SERVICES
ENTERPRISE DATA
PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK
LEGEND
Application
ManagementData Store
SecurityCapabilitiesUser
Infrastructure services
Watson Assistant(TRAINED AND DEPLOYED)
Watson WorkspaceUSER
SDK forNode.js
AI Service
1
Service Orchestrator
NodeRED -
Cloud Foundry App
2
Sprach - Eingangskanal
Alexa
3
Text - Eingangskanal
Watson Workspace
4
32
Wie Alexa mit Watson Assistantzusammenkommt ...
Alexa
Amazon Alexa Developer Portal
Skill Interface Skill Service (AWS)
Amazon Lambda NodeRED - SO Watson Assistant
IBM CloudUser Input
Gesprochenen Text in „Intent“* auflösen & Text weiterleiten.
OnIntentpostRequestToCreditreform
Https://...
AssistantNode
Intenterk. &
Dialog Regeln
https ResponseCallback
FunctionAntwort
* pseudo-Intent: „Frage“
33
SPEECH TO TEXT
PUBLIC APIs
3rd PARTY APIs
USER ALEXASKILL
AMAZONLAMBDA
APPLICATIONLOGIC: NodeRED
ANSWERSTORAGE
SECURITYINFORMATIONGOVERNANCE
TRANSFORMATION &CONNECTIVITY
DISCOVERYSERVICES
GROUNDTRUTH
KNOWLEDGE ENGINEER
BUSINESSPROCESS
ENTERPRISE APIs SERVICES
ENTERPRISE DATA
PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK
LEGEND
Application
ManagementData Store
SecurityCapabilitiesUser
Infrastructure services
Watson Assistant(TRAINED AND DEPLOYED)
Watson WorkspaceUSER
SDK forNode.js
AI Service
1
Service Orchestrator
NodeRED -
Cloud Foundry App
2
Sprach - Eingangskanal
Alexa
3
Text - Eingangskanal
Watson Workspace
4
34
Watson Workspace
• IBMs Team- chat & collaboration Tool (wie z.B. Slack, MS Teams, ...)
• Verfügbar auf Mac, Windows, iOS, Android und Web !
• Zentrale Ablage für geteilte Bilder & Ressourcen
• Videokommunikation
• „Moments“ - Integration von KI zur intelligenten Zusammenfassung von Inhalten
• Umfangreiche Entwickler-Schnittstelle -> IBM Watson Work Services:
o Integration von Watson Assistant
o Hooks / Event-Listener / Aktionen
35
Cloud Foundrynode.js App NodeRED - SO Watson
Assistant
IBM Cloud
postRequestToCreditreform()
Https://...
AssistantNode
Intenterk. &
Dialog Regeln
https ResponseCallback
Function
IBM
Wa
tso
n W
ork
Se
rvic
es
Web -hook
register
event
Antwort
Anbindung von Watson Workspace
Watson Workspace
36
Vielen Dank für Ihre Aufmerksamkeit !
37
Watson Cognitive APIs & Tooling
Watson Business Solution
Pre-Built Architecture,
Watson Expert Services, and
Technical Assets
Your Data and Expertise
+ +
Configured, trained, and delivered in 4 weeksA foundational solution that is
tailored for your needs to demonstrate real value, quickly
ExpertAssist
38
Quelle: IBM
39
Quelle: IBM
40
Quelle: IBM
41
Quelle: IBM
42
Fragen ?