natürliche Sprachverarbeitung, Künstliche Intelligenz in...

Post on 16-Sep-2020

1 views 0 download

transcript

Künstliche Intelligenz in der Medizin: natürliche Sprachverarbeitung,

maschinelles Lernen und die datengetriebene Unterstützung von

Patienten

Roland Roller, PhD

2

3

Künstliche Intelligenz (KI)4

Verlauf des KI Hypes

Künstliche Intelligenz (KI)5

Artikel die KI diskutieren in Prozent zur totalen Anzahl an Artikeln pro Jahr (blau), sowie optimistische (gelb) und pessimistische (grün) Artikel. Aus Fast and Horvitz, (2017) [6]

Artikel die über KI diskutieren

Starke versus schwache KI6

source: https://ravereader.files.wordpress.com/2010/05/terminator1.jpg

Starke versus schwache KI7

source: https://ravereader.files.wordpress.com/2010/05/terminator1.jpg

Starke KI:Ziel - ähnlich intellektuelle Fertigkeiten von Menschen zu erlangen

Schwache KI:“Smarte” Applikation, spezialisiert auf ein Gebiet

KI Meilensteine (unvollständig)8

▪ 1956 - Dartmouth▪ 1965 - Joseph Weizenbaum’s ELIZA

○ Text-basierter Chatbot der einen Psychotherapeuten simuliert

▪ 1997 - IBM Deep Blue○ Computer Programm schlägt Schachweltmeister

Garry Kasparov▪ 2012 - ImageNet Moment

○ AlexNet [5] erzielt eine Performancesteigerung von 41% bei ImageNet Challenge

▪ 2016 - Google DeepMind’s AlphaGo ○ Go Champion Lee Sedol wird bezwungen

▪ … und vieles mehr

KI Meilensteine (unvollständig)9

▪ 1956 - Dartmouth▪ 1965 - Joseph Weizenbaum’s ELIZA

○ Text-basierter Chatbot der einen Psychotherapeuten simuliert

▪ 1997 - IBM Deep Blue○ Computer Programm schlägt Schachweltmeister

Garry Kasparov▪ 2012 - ImageNet Moment

○ AlexNet [5] erzielt eine Performancesteigerung von 41% bei ImageNet Challenge

▪ 2016 - Google DeepMind’s AlphaGo ○ Go Champion Lee Sedol wird bezwungen

▪ … und vieles mehr

https://en.wikipedia.org/wiki/File:ELIZA_conversation.jpg

KI Meilensteine (unvollständig)10

▪ 1956 - Dartmouth▪ 1965 - Joseph Weizenbaum’s ELIZA

○ Text-basierter Chatbot der einen Psychotherapeuten simuliert

▪ 1997 - IBM Deep Blue○ Computer Programm schlägt Schachweltmeister

Garry Kasparov▪ 2012 - ImageNet Moment

○ AlexNet [5] erzielt eine Performancesteigerung von 41% bei ImageNet Challenge

▪ 2016 - Google DeepMind’s AlphaGo ○ Go Champion Lee Sedol wird bezwungen

▪ … und vieles mehr

KI Meilensteine (unvollständig)11

▪ 1956 - Dartmouth▪ 1965 - Joseph Weizenbaum’s ELIZA

○ Text-basierter Chatbot der einen Psychotherapeuten simuliert

▪ 1997 - IBM Deep Blue○ Computer Programm schlägt Schachweltmeister

Garry Kasparov▪ 2012 - ImageNet Moment

○ AlexNet [5] erzielt eine Performancesteigerung von 41% bei ImageNet Challenge

▪ 2016 - Google DeepMind’s AlphaGo ○ Go Champion Lee Sedol wird bezwungen

▪ … und vieles mehr

"Suddenly people started to pay attention, not just within the AI community but across the technology industry as a whole." The Economist

KI Meilensteine (unvollständig)12

▪ 1956 - Dartmouth▪ 1965 - Joseph Weizenbaum’s ELIZA

○ Text-basierter Chatbot der einen Psychotherapeuten simuliert

▪ 1997 - IBM Deep Blue○ Computer Programm schlägt Schachweltmeister

Garry Kasparov▪ 2012 - ImageNet Moment

○ AlexNet [5] erzielt eine Performancesteigerung von 41% bei ImageNet Challenge

▪ 2016 - Google DeepMind’s AlphaGo ○ Go Champion Lee Sedol wird bezwungen

▪ … und vieles mehr

KI und Medizin13

source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg

“It’s quite obvious that we should stop training radiologists.” Prof Geoffrey Hinton, 2016

KI und Medizin14

source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg

▪ ChesXNet: Erkennungs von Pneunomie in Röntgenbilder [1] ○ ChestX-ray 14: 112.120 Bilder, 30.805 Pat.○ 121-layer Dense Convolutional Network○ Ausgabe: Wahrscheinlichkeit einer

Pneumonia, zusammen mit Heatmap

KI und Medizin15

source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg

▪ ChesXNet: Erkennungs von Pneunomie in Röntgenbilder [1]

KI und Medizin16

source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg

▪ ChesXNet: Erkennungs von Pneunomie in Röntgenbilder [1]

▪ Metastase-Erkennung [2]

KI und Medizin17

source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg

▪ ChesXNet: Erkennungs von Pneunomie in Röntgenbilder [1]

▪ Metastase-Erkennung [2]▪ Brustkrebs [3]

KI und Medizin18

source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg

▪ ChesXNet: Erkennungs von Pneunomie in Röntgenbilder [1]

▪ Metastase-Erkennung [2]▪ Brustkrebs [3]▪ ...

KI und Medizin19

source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg

▪ ChesXNet: Erkennungs von Pneunomie in Röntgenbilder [1]

▪ Metastase-Erkennung [2]▪ Brustkrebs [3]▪ …

=> viele ähnliche Entwicklungen in anderen Bereichen der Medizin

KI und Medizin20

source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg

▪ CloudMedx: KI besteht Medizinexamen [4]

KI und Medizin21

source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg

▪ CloudMedx: KI besteht Medizinexamen [4]○ Übertrifft Mensch○ Schneller (~73 Min vs. 5 Min)

KI und Medizin22

source: https://commons.wikimedia.org/wiki/File:Doctor_reviewing_pdq.jpg

▪ CloudMedx: KI besteht Medizinexamen [4]○ Übertrifft Mensch○ Schneller (~73 Min vs. 5 Min)

Gruppe1 - Menschen (Doktoren): Punkte zwischen 68 bis 81 (75 avg)

Gruppe2 - CloudMedx AI: Punkte 85

Gruppe3 - Menschen mit CloudMedxAI: Punkte 91

KI und Medizin23

▪ Zusammenfassung○ meist datengetrieben○ meist künstliches neuronales Netz○ oft strukturierte Daten

▪ Trotzdem:○ häufig simple Ansätze in Medizin○ es gibt viel Text○ Text kann wichtige Informationen

enthalten

Sprachtechnologie24

▪ Informationsextraktion○ Konzept, Relation, ...

▪ Konzept Normalisierung▪ Automatisiertes Zusammenfassen▪ Automatische Übersetzungssysteme▪ Text-Simplifizierung▪ Text-Klassifikation▪ ...

Sprachtechnologie25

▪ Erkennung von Selbstmordabsichten○ Exploring and learning suicidal ideation

connotations on social media with deep learning [11]

○ Supervised Learning for Suicidal Ideation Detection in Online User Content [12]

▪ Depressionserkennung○ Depression Detection and Prevention System by

Analysing Tweets. [13]

▪ Unterstützung von klinischen Vorhersagemodellen

○ Scalable and accurate deep learning with electronic health records [14]

NLP Pipeline26

Pat. hat viel Durst. Appetit gut. Stuhlgang normal.

NLP Pipeline27

Pat. hat viel Durst. Appetit gut. Stuhlgang normal.sentence splittingtokenization

NLP Pipeline28

Pat. hat viel Durst. Appetit gut. Stuhlgang normal.sentence splittingtokenization

NN VVFIN ADV NN . NN ADJD . NN ADJD part-of-speech tagging

advmodsubj

obj

punct

.

punct punct

amod amod

dependencies

NLP Pipeline29

Pat. hat viel Durst. Appetit gut. Stuhlgang normal.sentence splittingtokenization

named entity recognition

NN VVFIN ADV NN . NN ADJD . NN ADJD part-of-speech tagging

advmodsubj

obj

punct

.

punct punct

amod amod

dependencies

NLP Pipeline30

Pat. hat viel Durst. Appetit gut. Stuhlgang normal.sentence splittingtokenization

named entity recognition

NN VVFIN ADV NN . NN ADJD . NN ADJD part-of-speech tagging

advmodsubj

obj

punct

.

punct punct

amod amod

relation extraction

dependencies

NLP Pipeline31

Pat. hat viel Durst. Appetit gut. Stuhlgang normal.sentence splittingtokenization

named entity recognition

NN VVFIN ADV NN . NN ADJD . NN ADJD part-of-speech tagging

advmodsubj

obj

punct

.

punct punct

amod amod

relation extraction

Normalization

dependencies

NLP Pipeline32

Pat. hat viel Durst. Appetit gut. Stuhlgang normal.sentence splittingtokenization

named entity recognition

NN VVFIN ADV NN . NN ADJD . NN ADJD part-of-speech tagging

advmodsubj

obj

punct

.

punct punct

amod amod

relation extraction

Normalization- Candidate Search

dependencies

NLP Pipeline33

Pat. hat viel Durst. Appetit gut. Stuhlgang normal.sentence splittingtokenization

named entity recognition

NN VVFIN ADV NN . NN ADJD . NN ADJD part-of-speech tagging

advmodsubj

obj

punct

.

punct punct

amod amod

relation extraction

Normalization- Candidate Search

dependencies

NLP Pipeline34

Pat. hat viel Durst. Appetit gut. Stuhlgang normal.sentence splittingtokenization

named entity recognition

NN VVFIN ADV NN . NN ADJD . NN ADJD part-of-speech tagging

advmodsubj

obj

punct

.

punct punct

amod amod

relation extraction

Normalization- Candidate Search- Disambiguation

dependencies

MACSS & BigMedilytics35

35

MACSS & BigMedilytics36

Dieter, 70 years

1996 Heart transplant2006 Dialysis (drug toxicity)2013 Renal transplantDiabetes, skin tumors18 drugs, 30 Pills/day

37

Transplantation

General Practitioner

Clinical Physician

Patient

Lab preview

MACSS & BigMedilytics38

Keine Dysurie. Keine Ödeme. Appetit gut. Stuhlgang normal.sentence splittingtokenization

PIAT NN PIAT NN . NN . NN ADJD .. part-of-speech tagging

dependenciespunctdet

punct

amod

punct

amodpunctdet

ADJD

named entity recognition

factuality detectionX X

relation extraction

Normalization- Candidate Search- Disambiguation

No dysuria. No edema. Good appetit. Bowel movement normal.

MACSS & BigMedilytics39

KI und Sucht40

Quelle: https://blogs.faithlafayette.org/counseling/2019/01/the-sanity-and-insanity-of-addiction/

KI und Sucht41

Quelle: https://blogs.faithlafayette.org/counseling/2019/01/the-sanity-and-insanity-of-addiction/

KI und Sucht42

Quelle: https://blogs.faithlafayette.org/counseling/2019/01/the-sanity-and-insanity-of-addiction/

Quelle: http://www.china.org.cn/business/2010-01/22/content_19290333.htm

Predictors and patterns of problematic Internet game use using a decision tree model [10]

KI und Sucht43

Quelle: https://blogs.faithlafayette.org/counseling/2019/01/the-sanity-and-insanity-of-addiction/

Quelle: http://www.china.org.cn/business/2010-01/22/content_19290333.htm

Predictors and patterns of problematic Internet game use using a decision tree model [10]

Quelle: https://theislandjournal.files.wordpress.com/2012/06/where-to-find-help-for-a-gambling-problem2.jpg

Using cross-game behavioral markers for early identification of high-risk internet gamblers [9]

KI und Sucht44

Quelle: https://blogs.faithlafayette.org/counseling/2019/01/the-sanity-and-insanity-of-addiction/

Quelle: http://www.china.org.cn/business/2010-01/22/content_19290333.htm

Predictors and patterns of problematic Internet game use using a decision tree model [10]

Quelle: https://theislandjournal.files.wordpress.com/2012/06/where-to-find-help-for-a-gambling-problem2.jpg

Using cross-game behavioral markers for early identification of high-risk internet gamblers [9]

Quelle: https://www.deoveritas.com/blog/wp-content/uploads/2010/02/JD-smoke.jpg

Classifying Smoking Urges Via Machine Learning [7]

High-resolution Temporal Representations of Alcohol and Tobacco Behaviors from Social Media Data [16]

KI und Sucht45

Quelle: https://blogs.faithlafayette.org/counseling/2019/01/the-sanity-and-insanity-of-addiction/

Quelle: https://upload.wikimedia.org/wikipedia/commons/thumb/d/db/Aufse%C3%9F_Bier.JPG/1200px-Aufse%C3%9F_Bier.JPG

Quelle: https://theislandjournal.files.wordpress.com/2012/06/where-to-find-help-for-a-gambling-problem2.jpg

Quelle: http://www.china.org.cn/business/2010-01/22/content_19290333.htm

Quelle: https://www.deoveritas.com/blog/wp-content/uploads/2010/02/JD-smoke.jpg

Classifying Smoking Urges Via Machine Learning [7]

Football and Beer - a Social Media Analysis on Twitter in Context of the FIFA Football World Cup 2018 [8]

Using cross-game behavioral markers for early identification of high-risk internet gamblers [9]

Predictors and patterns of problematic Internet game use using a decision tree model [10]

High-resolution Temporal Representations of Alcohol and Tobacco Behaviors from Social Media Data [16]

Can Twitter be used to predict county excessive alcohol consumption rates? [15]

KI und Sucht46

Quelle: https://blogs.faithlafayette.org/counseling/2019/01/the-sanity-and-insanity-of-addiction/

Quelle: https://upload.wikimedia.org/wikipedia/commons/thumb/d/db/Aufse%C3%9F_Bier.JPG/1200px-Aufse%C3%9F_Bier.JPG

Quelle: https://theislandjournal.files.wordpress.com/2012/06/where-to-find-help-for-a-gambling-problem2.jpg

Quelle: http://www.china.org.cn/business/2010-01/22/content_19290333.htm

Quelle: https://www.deoveritas.com/blog/wp-content/uploads/2010/02/JD-smoke.jpg

Classifying Smoking Urges Via Machine Learning [7]

Football and Beer - a Social Media Analysis on Twitter in Context of the FIFA Football World Cup 2018 [8]

Using cross-game behavioral markers for early identification of high-risk internet gamblers [9]

Predictors and patterns of problematic Internet game use using a decision tree model [10]

High-resolution Temporal Representations of Alcohol and Tobacco Behaviors from Social Media Data [16]

Can Twitter be used to predict county excessive alcohol consumption rates? [15]

Studie: Daten von 1990-1995, ~300 Teilnehmer die mit dem Rauchen aufhören wollten, Handheld, 41 Features (Laune, Ort)▪ Vorhersage von Verlangen nach

Zigaretten (smoking urges)▪ Naive Bayes & Discriminant Analysis

=> 86% Genauigkeit

KI und Sucht47

Quelle: https://blogs.faithlafayette.org/counseling/2019/01/the-sanity-and-insanity-of-addiction/

Quelle: https://upload.wikimedia.org/wikipedia/commons/thumb/d/db/Aufse%C3%9F_Bier.JPG/1200px-Aufse%C3%9F_Bier.JPG

Quelle: https://theislandjournal.files.wordpress.com/2012/06/where-to-find-help-for-a-gambling-problem2.jpg

Quelle: http://www.china.org.cn/business/2010-01/22/content_19290333.htm

Quelle: https://www.deoveritas.com/blog/wp-content/uploads/2010/02/JD-smoke.jpg

Classifying Smoking Urges Via Machine Learning [7]

Football and Beer - a Social Media Analysis on Twitter in Context of the FIFA Football World Cup 2018 [8]

Using cross-game behavioral markers for early identification of high-risk internet gamblers [9]

Predictors and patterns of problematic Internet game use using a decision tree model [10]

High-resolution Temporal Representations of Alcohol and Tobacco Behaviors from Social Media Data [16]

Can Twitter be used to predict county excessive alcohol consumption rates? [15]

KI und Sucht48

▪ Methoden:○ Klassifikation○ Identifizierung von Charakteristiken○ Analyse

▪ Zweck:○ Unterstützung

▪ Grundlage:○ digitale Daten○ z.T. offensichtliche Auslöser

▪ Freiwillig & bewusst versus indirect▪ Retrospektiv versus prospektiv

Fazit - Sucht49

▪ Wenige Studien▪ Wenig Integration in den Alltag▪ Hauptsächlich Analyse & Charakteristik als

Prävention!▪ Was könnte fehlen?

○ Langzeitunterstützung○ stetige Datenerfassung○ Intervention

Herausforderungen50

▪ Datensicherheit versus Datenzugriff▪ Qualität der Daten▪ Menge der Daten▪ Interdisziplinär▪ Genauigkeit versus Trefferquote

“Take Home Message”51

▪ Künstliche Intelligenz wird nicht alle unsere Probleme lösen

“Take Home Message”52

▪ Künstliche Intelligenz wird nicht alle unsere Probleme lösen

▪ Künstliche Intelligenz kann ein hilfreiches Werkzeug sein um effizienter unsere Probleme zu lösen

“Take Home Message”53

▪ Künstliche Intelligenz wird nicht alle unsere Probleme lösen

▪ Künstliche Intelligenz kann ein hilfreiches Werkzeug sein um effizienter unsere Probleme zu lösen

▪ Es gibt noch viel Potential in Bezug auf KI und Sucht

Referenzen54

[1] Rajpurkar, P., Irvin, J., Zhu, K., Yang, B., Mehta, H., Duan, T., Ding, D., Bagul, A., Langlotz, C., Shpanskaya, K. and Lungren, M.P., 2017. Chexnet: Radiologist-level pneumonia detection on chest x-rays with deep learning. arXiv preprint arXiv:1711.05225.[4] http://www.cloudmedxhealth.com/press/cloudmedxclinical-ai-outperforms-human-doctors-on-a-us-medical-exam, Zugriff 19.06.2019[2] Liu, Y., Gadepalli, K., Norouzi, M., Dahl, G.E., Kohlberger, T., Boyko, A., Venugopalan, S., Timofeev, A., Nelson, P.Q., Corrado, G.S. and Hipp, J.D., 2017. Detecting cancer metastases on gigapixel pathology images. arXiv preprint arXiv:1703.02442.[3] Bejnordi, B.E., Veta, M., Van Diest, P.J., Van Ginneken, B., Karssemeijer, N., Litjens, G., Van Der Laak, J.A., Hermsen, M., Manson, Q.F., Balkenhol, M. and Geessink, O., 2017. Diagnostic assessment of deep learning algorithms for detection of lymph node metastases in women with breast cancer. Jama, 318(22), pp.2199-2210.[5] Krizhevsky, A., Sutskever, I. and Hinton, G.E., 2012. Imagenet classification with deep convolutional neural networks. In Advances in neural information processing systems (pp. 1097-1105).[6] Fast, E. and Horvitz, E., 2017, February. Long-term trends in the public perception of artificial intelligence. In Thirty-First AAAI Conference on Artificial Intelligence.[7] Dumortier, A., Beckjord, E., Shiffman, S. and Sejdić, E., 2016. Classifying smoking urges via machine learning. Computer methods and programs in biomedicine, 137, pp.203-213.[8] Roller, R., Thomas, P. and Schmeier, S., 2018, October. Football and Beer-a Social Media Analysis on Twitter in Context of the FIFA Football World Cup 2018. In 3rd Social Media Mining for Health Applications Workshop & Shared Task (p. 1).[9] Braverman, J., LaPlante, D.A., Nelson, S.E. and Shaffer, H.J., 2013. Using cross-game behavioral markers for early identification of high-risk internet gamblers. Psychology of Addictive Behaviors, 27(3), p.868.[10] Rho, M.J., Jeong, J.E., Chun, J.W., Cho, H., Jung, D.J., Choi, I.Y. and Kim, D.J., 2016. Predictors and patterns of problematic Internet game use using a decision tree model. Journal of behavioral addictions, 5(3), pp.500-509.[11] Sawhney, R., Manchanda, P., Mathur, P., Shah, R. and Singh, R., 2018, October. Exploring and learning suicidal ideation connotations on social media with deep learning. In Proceedings of the 9th Workshop on Computational Approaches to Subjectivity, Sentiment and Social Media Analysis (pp. 167-175).[12] Ji, S., Yu, C.P., Fung, S.F., Pan, S. and Long, G., 2018. Supervised Learning for Suicidal Ideation Detection in Online User Content. Complexity, 2018.[13] Gaikar, M., Chavan, J. and Shedge, R., 2019. Depression Detection and Prevention System by Analysing Tweets. Available at SSRN 3358809.[14] Rajkomar, A., Oren, E., Chen, K., Dai, A.M., Hajaj, N., Hardt, M., Liu, P.J., Liu, X., Marcus, J., Sun, M. and Sundberg, P., 2018. Scalable and accurate deep learning with electronic health records. NPJ Digital Medicine, 1(1), p.18.[15] Curtis, B., Giorgi, S., Buffone, A.E., Ungar, L.H., Ashford, R.D., Hemmons, J., Summers, D., Hamilton, C. and Schwartz, H.A., 2018. Can Twitter be used to predict county excessive alcohol consumption rates?. PloS one, 13(4), p.e0194290.[16] Huang, T., Elghafari, A., Relia, K. and Chunara, R., 2017. High-resolution temporal representations of alcohol and tobacco behaviors from social media data. Proceedings of the ACM on human-computer interaction, 1(CSCW), p.54

55

Vielen Dank!Kontakt: roland.roller@dfki.de

source: https://en.wikipedia.org/wiki/Bender_(Futurama)