Post on 29-Aug-2019
transcript
Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen
Hendrik Heuer hheuer@uni-bremen.de
Digitalisierungskongress 2018 Gemeinwohl in der digital vernetzten Gesellschaft: Wir arbeiten dran!
Bildquelle: Wikipedia - Jan Matejkos Stańczyk
Mein Ziel in diesem Vortrag
• Algorithmen des Maschinellen Lernens und ihre Konsequenzen für Gemeinwohl und Arbeitswelt verstehen und mitgestalten
• Wo kann KI durch bessere Prognosen, schnellere Entscheidungen und die Automatisierung von Routineaufgaben dazu beitragen, die Arbeitswelt zu verbessern?
• Wo bergen neue Möglichkeiten der Vorhersage und automatisierten Überwachung Gefahren für Arbeitswelt und Gesellschaft?
Bildquelle: Wikipedia - ENIAC
Panopticon
Bildquelle: Wikipedia - Presidio Modelo
Examples of Machine Learning
http://googleresearch.blogspot.com/2014/11/a-picture-is-worth-thousand-coherent.html
By Steve Jurvetson [CC BY 2.0]
Self-driving cars
Photo search
and many, many more ...
Recommendation systems
http://commons.wikimedia.org/wiki/File:Netflix_logo.svg [public domain]
Beispiele für Maschinelles Lernen & KI
Oben:SebastianRaschka-PracticalDataScience,Unten:JeffHinton-Google
“How cold is it outside?”
DeepRecurrent
Neural NetworkAcoustic Input Text Output
Reduced word errors by more than 30%
Speech Recognition
Google Research Blog - August 2012, August 2015
Speech Recognition
Beispiele für Maschinelles Lernen & KI
http://commons.wikimedia.org/wiki/File:American_book_company_1916._letter_envelope-2.JPG#filelinks [public domain]
https://flic.kr/p/5BLW6G [CC BY 2.0]
Text Recognition
Spam Filtering
Biology
Examples of Machine Learning
“ocean”Deep
ConvolutionalNeural Network
Your Photo
Automatic Tag
Search personal photos without tags.
Google Photos Search
Google Research Blog - June 2013
Image Recognition
Oben:SebastianRaschka-PracticalDataScience,Unten:JeffHinton-Google
Spam erkennenIMPERATIVE
PROGRAMMIERUNGMASCHINELLES
LERNEN
if "V!agrå" in mail: return "Spam"
else: return "Ham"
1. prognostiziere für viele Beispiele, ob Nachricht Spam ist
2. berechne Fehler 3. ändere Parameter,
um Fehler zu verringern 4. goto 1
Fei-Fei Li & Justin Johnson & Serena Yeung Lecture 2 - April 6, 201755
Example with an image with 4 pixels, and 3 classes (cat/dog/ship)
0.2 -0.5 0.1 2.0
1.5 1.3 2.1 0.0
0 0.25 0.2 -0.3
WInput image
56
231
24
2
56 231
24 2
Stretch pixels into column
1.1
3.2
-1.2
+-96.8
437.9
61.95
=Cat score
Dog score
Ship score
Instead of considering only the closest neighbor, we can also consider an arbitrarynumber, k, of neighbors. This is where the name of the k-nearest neighbors algorithmcomes from. When considering more than one neighbor, we use voting to assign alabel. This means that for each test point, we count how many neighbors belong toclass 0 and how many neighbors belong to class 1. We then assign the class that ismore frequent: in other words, the majority class among the k-nearest neighbors. Thefollowing example (Figure 2-5) uses the three closest neighbors:
In[11]:
mglearn.plots.plot_knn_classification(n_neighbors=3)
Figure 2-5. Predictions made by the three-nearest-neighbors model on the forge dataset
Again, the prediction is shown as the color of the cross. You can see that the predic‐tion for the new data point at the top left is not the same as the prediction when weused only one neighbor.
While this illustration is for a binary classification problem, this method can beapplied to datasets with any number of classes. For more classes, we count how manyneighbors belong to each class and again predict the most common class.
Now let’s look at how we can apply the k-nearest neighbors algorithm using scikit-learn. First, we split our data into a training and a test set so we can evaluate general‐ization performance, as discussed in Chapter 1:
36 | Chapter 2: Supervised Learning
Brustkrebs erkennenExample: breast cancer classification
Plot of two features: mean area vs. mean concave points, for two classes
7
J. Zico Kolter, 15-388/688, Practical Data
Science
J. Zico Kolter, 15-388/688, Practical Data
Science
Brustkrebs erkennenLinear classification example
Linear classification ≡ “drawing line separating classes”
8
Brustkrebs erkennenLinear classification example
Linear classification ≡ “drawing line separating classes”
8
Moritz Hardt, How big data
is unfair
ProPublica: Machine Bias
Verbrechen vorhersagen
3 LOW RISK 8 HIGH RISK
LOW RISK
HIGH RISK
X y' '
Verbrechen vorhersagen
Deutschlandfunk: Algorithmen im US-
Justizsystem Schicksalsmaschinen von Tom Schimmeck
"Die Kombination von großen Datenmengen und Machine Learning führt zu Manipulationsmethoden, die die Zukunft
von Demokratie und gesellschaftlichem Zusammenhalt gefährden. Dem muss zügig und mit Nachdruck und ohne
Scheu vor dem Eingriff in Geschäftsmodelle entgegengetreten werden.
Frank Rieger im Bayern 2 Zündfunk
Paul Butler: Visualizing Friendships
Persönlichkeitsmerkmale erkennenWeiße/r oder Afroamerikaner/in: 95%
Männlich oder Weiblich: 93%Heterosexuell oder homosexuell: 88%
Demokrat oder Republikaner: 85%Christlich oder muslimisch: 82%
Drogenerfahrung: 65% - 73%Ehe der Eltern hat bis zum 21. Lebensjahr gehalten: 60%
Kosinski et al.: Private traits and attributes are predictable from digital records of human
behavior
Persönlichkeitsmerkmale erkennen
Kosinski et al.: Private traits and attributes are predictable from digital records of human
behavior
Algorithmen-TÜV?
François Chollets Forderungen an ein Algorithmische Nachrichtenkuration
• das Optimierungsziel des Algorithmus transparent machen
• zeigen, welchen Einfluss diese System auf den täglichen Nachrichtenkonsum (news diet) haben
• Werkzeuge bereithalten, um diese Ziele zu beeinflussen
Was kann ver.di tun?
• Austausch zwischen Forschung & Gesellschaft fördern, Expertise aufzubauen
• individuelle Regulierung maschineller Systeme • Untersuchung und Sanktionierung von
Datensammel- und Algorithmennutzungspraktiken
• Informatikkompetenz auf allen Ebenen • der Idee, dass jedes soziale oder politische
Problem technologisch gelöst werden kann, entgegentreten
Welche Fragen, Probleme und Ideen bringt ihr mit?
Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen
Hendrik Heuer ifib & AGIM
Dr. Martin Beckmann ver.di-Bundesverwaltung
Totalüberwachung durch Verschärfung des bayerischen Polizeirechts
DVD-Vorstandsmitglied Thilo Weichert: „Die Regelung zur Mustererkennung ermöglicht es der Polizei, technisch Menschen aus einer Menschenmenge als verdächtig herauszufischen, nur weil sie als verdächtig programmierte Eigenschaften haben. Damit wird der digitalisierten Willkür und der Diskriminierung von Minderheiten die Tür geöffnet. Dies trifft auch für die Erstellung sog. genetischer Phantombilder zu. Diese Techniken befinden sich noch in einem Entwicklungsstadium, das mehr Fehler als polizeiliche Hilfe produziert.“
Quelle Text: datenschutzverein.de Bildquelle: https://twitter.com/SophiePassmann/status/981820891217702912
Bildquelle: Wikipedia - Erasmusbrücke, Rotterdam
Kann eine Brücke rassistisch sein? Langdon Winner