Seminar – Wintersemester 13/14

Filmseminar:Informatik und Ethik

Dr. Eike Schallehn (eike@iti.cs.uni-magdeburg.de )

Prof. Dr. Gunter Saake (saake@iti.cs.uni-magdeburg.de )Dr. Frank Lesske (frank.lesske@ovgu.de )

2

Überblick

• Themenklärung: Informatik und Ethik• Beispiele für Problemfelder• Rückblick auf alte Seminare• Filmvorschläge• Organisatorisches

• Ablauf• Anforderungen

• Literatur

3

Informatik

• Informatik ist die Wissenschaft von der systematischen und automatischen Verarbeitung von Informationen, insbesondere mit Hilfe von Computern.

• Explosionsartige Entwicklung seit Mitte des 20 Jh.• Zunehmende Durchdringung des Alltags• Aktuelle Trends: Informationsgesellschaft, Vernetzung, mobile

und eingebettete Systeme, Virtuelle Welten, Robotik, …

• Weiteres Grundwissen vorausgesetzt

4

Ethik /1

• Die Ethik (vom griechischen Ethos: Gewohnheit, Sitte, Brauch, …) ist ein Teilgebiet der Philosophie und befasst sich mit Moral, deren Aufgabe es ist, Kriterien für gutes und schlechtes Handeln und die Bewertung seiner Motive und Folgen aufzustellen.

• Beruht auf menschlicher Vernunft, d.h. der Fähigkeit zur Erkenntnis der Welt und Ableitung von allgemeinen Zusammenhängen als Grundlage des Handelns

5

Ethik /2

Ethik

Normative Ethik Deskriptive Ethik Metaethik

Angewandte Ethik Allgemeine Ethik

Bereichsethiken Sozialethik Individualethik

6

Ethik /3

• In diesem Seminar • Normative Ethik: „Festlegung“ von Vorschriften für moralisches Handelen• Deskriptive Ethik: Beschreibung der moralischen Grundlagen des Handelns

• Insbesondere relevant:• Sozialethik• Individualethik (Tugendethik)

• Aber auch Bereichsethiken• Informationsethik• Wissenschaftsethik• Technikethik• Computerethik • „Hacker-Ethik“• …

7

Moralisches Handeln

• Was ist gutes und schlechtes Handeln?• Zum Beispiel: Kategorischer Imperativ (Kant) als Menschen eigene

(„eingebaute“) Grundnorm:

„Handle nur nach derjenigen Maxime, durch die du zugleich wollen kannst, dass sie ein allgemeines Gesetz werde.“

Vulgo und grob angenähert:„Also, wenn das jeder machen würde …“ bzw.„Was du nicht willst, was man dir tu, das füg auch keinem andern zu.“

• „Gut“ basiert hier auf Nutzen (Glück, Entfaltung der Persönlichkeit, Erfüllung von Ansprüchen, …) für handelnde Person und alle anderen

[Technologien] erben ihre Werte von den Werten der Gesellschaften, in die sie eingebettet sind. In einer hoch militarisierten Gesellschaft sind Wissenschaft und Technologie von den Werten des Militärs geprägt.

In einer Gesellschaft, deren Werte hauptsächlich vom Streben nach Reichtum und Macht abgeleitet sind, sind sie entsprechend gestaltet. Die Werte der Wissenschaft, eingebettet in eine vernünftige Gesellschaft, würden vernünftig, also human sein. Dann würden die von ihr abgeleiteten Technologien nicht mehr dem Tod dienen, sondern dem Leben.

Joseph Weizenbaum, 8.1.2008

9

Beispiele für Problemfelder

• Problematische Anwendungen von IT, z.B.• Militärische Anwendungen• Kriminalität• Ausbeutung

• Einschränkung von Persönlichkeitsrechten• Privatsphäre (Datenschutz)• Selbstbestimmung• Freie Meinungsäußerung• Zugang zu Informationen

• Gesellschaftliche Effekte• Anonymität, Atomarisierung der Gesellschaft• Entmenschlichung der (Arbeits-)Welt

• Sicherheit von IT• Gefahrenpotentiale fehlerhafter IT

10

Potentiell Problematische Technologien

• Künstliche Intelligenz• Computerunterstützte oder vom Computer autonom

durchgeführte Entscheidungsprozesse• Roboter • Mensch-Maschine-Schnittstellen• Virtuelle Welten und interaktive Unterhaltungsmedien• Netze, das WWW• Datenerfassung und Zugang zu Daten im allgemeinen• Entschlüsselung des menschlichen Genoms• Überwachungstechnologien• …

11

Rückblick

• Film: Gattaca• Diskutierte Themen:

• Datenschutz• Diskriminierung durch Information • Überwachungsstaat• Entschlüsselung des menschlichen Genoms

• Eikes Einschätzung: mittelmäßig geeigneter Film, Bezug zum Thema etwas Schwach

12

Rückblick

• Film: Ben X• Diskutierte Themen:

• Gefahren der Virtuelle Realität• Spielsucht• Besonderheit der Nutzung von Informationstechnik durch (geistig)

Behinderte

• Eikes Einschätzung: sehr gut geeigneter Film

13

Rückblick

• Film: Stirb Langsam 4.0• Diskutierte Themen:

• Cyber War• Hacker-Ethik• Grenzen der Sicherheit von Systemen

• Eikes Einschätzung: extrem gut geeigneter Film, Bezüge sehr aktuell (Stichwort 2010: Stuxnet-Angriff)

14

Rückblick

• Film: I, Robot• Diskutierte Themen:

• Künstliche Intelligenz, künstliche Moral• Missbrauch von Technologien • Unmoralische Technologien

• Eikes Einschätzung: mittelmäßig geeigneter Film, schwacher Bezug zu aktuellen Entwicklungen (so weit sind wir noch nicht)

15

Rückblick

• Film: Startup• Diskutierte Themen:

• Was ist moralisches Verhalten von IT-Unternehmen? • Open Source Software, geistiges Eigentum• Unternehmenskultur in IT Firmen

• Eikes Einschätzung: gut geeigneter Film, Diskussion verschiedener aktueller Themen

16

Rückblick 2010/2011

• Das Netz (gut)• 23 (sehr gut)• Ghost in the Shell (ging so)• The Machine Stops (sehr gut!)• Star Trek (zwei Folgen TOS + TNG, in denen jeweils der

Computer das Schiff übernimmt, sehr gut)

17

Rückblick 2011/2012

• Gamer (gut)• Summer Wars (sehr gut)• Social Network (sehr gut)• Minority Report (gut)• Sneakers (gut)

18

Rückblick 2012/2013

• 8. Wonderland (sehr gut)• Surrogates (gut)• Colossus - The Forbin Project (sehr gut)• Staatsfeind Nr 1 (sehr gut)• Eagle Eye (sehr gut)• Trackdown (gut)

19

Vorschläge für Filme I

• Zahlreiche StarTrek-Folgen, vor allem The Next Generation

• Das Netz (USA 1995)Problemfelder: Daten und Bezug zur Wirklichkeit, Manipulation, Überwachungsstaat, Hacker-Ethik, Vernetzung …

• War Games (USA 1983)Problemfelder: Sicherheit von Computersystemen, Entscheidungsprozesse durch Computer, …

• Terminator I-III (USA 1984-2003)Problemfelder: Militärische Anwendungen, Entscheidungsprozesse durch Computer

• Welt am Draht (D 1973)Remake: The 13th Floor (D/USA 1999)Problemfelder: virtuelle Welten, künstliche Intelligenz

• Gattaca (USA 1997)Problemfelder: Entschlüsselung des menschlichen Genoms, …

20

Vorschläge für Filme II

• Matrix (USA 1999)• Tron (USA 1982)• Rasenmähermann (USA 1992)• Westworld (USA 1973) • Futureworld (USA 1976)• Dark Star (USA 1974)• 2001 – Odyssee im Weltraum (USA 1968)

21

Vorschläge für Filme III

• Total Recall (USA 1990)• Lemmy Caution gegen Alpha 60 (F/I 1965)• Stirb Langsam 4.0 (USA 2007)• Am Ende der Gewalt (F/D/USA 1997)• Wall-E (USA 2008)• A.I. (USA 2001)• The Social Network (USA 2010)• 8. Wonderland (Frankreich 2009)• …

22

Auswahl der Filme

• Allgemein: Bearbeitung in allein oder in Teams je nach Teilnehmerzahl

• Selbständige Auswahl eines Films (von der Liste oder nach eigenen Interessen)

• Ggf. Koordinaten mit anderen Teams notwendig (wer zuerst kommt, mahlt zuerst)

• Absprache eigener Vorschläge mit Dozenten• Passt Film inhaltlich zum Seminar?• Thema „anspruchsvoll“ genug?• Im Zweifelsfall: überzeugt uns!!

• Deadline: 15.10.2012!• Bis dahin müssen Themenvorschlag und Absprache geklärt sein!

23

Vorstellung der Filme

• Teams besorgen Filme selber• Bibliotheken, Videotheken, Fernsehaufnahmen, etc.• oder nachfragen (einzelne Filme bei Dozenten vorhanden)

• Gemeinsames Ansehen nach Möglichkeit ab 21.10.2013 jeweils zum offiziellen Seminartermin 11:15 Uhr in 29/307 • Abhängig von Anzahl Teams• Coke und Popcorn bitte selber mitbringen ;-)

• Andernfalls abgestimmte Termine (ggf. abends)

24

Vortrag I

• Vortrag (30-60 Minuten, je nach Teamgröße): Vorstellung des Films

Welches Problem zwischen Gesellschaft/Politik/Ethik und Informatik wird thematisiert?

Grundlagen aus philosophischer, sozialwissenschaftlicher, etc.Sicht

Rolle der Informatik/Technologien Versucht der Film neutral "aufzuklären" oder tendenziös zu "polemisieren"?

Bewertung der Verarbeitung der Thematik (z.B. auch Realitätsgehalt) Welche filmischen Mittel werden dabei eingesetzt? Offene Fragen …

• Anschließende Diskussion (Fragen an Teams, Studenten untereinander moderiert durch Teams)

25

Vortrag II

• WICHTIG: Es gibt keine ein-eindeutigen Interpretationen der Aussageabsicht! Viele (mehr oder weniger wahrscheinliche) Deutungen sind möglich, solange sie mit logischen Argumenten und Belegen aus dem Film unterlegt werden können!

• Termine • Abhängig von Teambildung• nach Absprache jeweils Montags 11:15

26

Diskussion

• Wie werden Informationstechnologien im Film dargestellt? • gut vs. böse• nützlich vs. gefährlich• beeinflussbar vs. unkontrollierbar• ...

• Gibt es (gemäß dem Film) eine Tendenz, die der Technologie innewohnt, oder ist diese immer von den Nutzern abhängig?

• Welche Auswirkungen beim Betrachter sind möglich? • Welchen Eindruck bekommt man von (der Beherrschbarkeit und

dem Charakter) der Informatik/Informationstechnologien? • …

27

Alternative und ergänzende Leistungen

• Vorträge zu folgenden Themen möglich:• Grundlagen der Ethik• Leben und Werk Joseph Weizenbaums• Überblicke:

Informationsethik Wissenschaftsethik Technikethik Computerethik / Hacker-Ethik

• …

28

Bewertung

• Vortrag + Diskussion (3CP)• Gemeinsame Beiträge werden für alle Team-Mitglieder gleich bewertet• Individuelle Beiträge zu Teamarbeit müssen für die Benotung erkennbar

sein, z.B. jeder Student stellt im Vortrag und in der Diskussion seinen eigenen Anteil dar

• Ggf. Rücksprache zwischen Team und Dozent

• Schriftliche Ausarbeitung oder ergänzende Kurzvorträge für Extra-Credits

• Anwesenheitspflicht! • mindestens x (voraussichtlich 12) Termine, davon wenigstens x-1 mal

anwesend • Kontrolle per Liste

29

Literatur I

• Computerphilosophie zur Einführung / Klaus Mainzer• Virtual morality : morals, ethics, + new media / ed. by Mark J. P.

Wolf• Netzethik : Grundlegungsfragen der Internetethik / Thomas

Hausmanninger; Rafael Capurro Hrsg.• Virtual reality : cognitive foundations, technological issues &

philosophical implications / Alexander Riegler ... (eds.)• Ethics and information technology; Dordrecht [u.a.] : Springer

Science + Business Media B.V, 1999-2004: Dordrecht• Alle möglichen Welten : virtuelle Realität - Wahrnehmung - Ethik

der Kommunikation;hrsg. von Manfred Faßler

30

Literatur II

• Cyberethik : Verantwortung in der digital vernetzten Welt / Anton Kolb

• Ethics and computing : living responsibly in a computerized world / Kevin W. Bowyer

• Computers, ethics & social values/ Deborah G. Johnson• Informationsethik / R. Capurro ... (Hg.)• Ethical aspects of information technology / Richard A. Spinello• KybernEthik / Heinz von Foerster

• Sowie allgemeine und spezielle Fachliteratur zu Philosophie, Ethik, Filmanalyse, Informatik, …

31

Terminplanung 2013 / 2014 (für 5 Gruppen)

1. 14.10. Einführung2. 21.10. Abstimmung3. 28.10. Film:4. 29.10. Film:5. 4.11. Film:6. 11.11. Film:7. 18.11. Film:8. 25.11. Vortrag und Diskussion:9. 2.12. Vortrag und Diskussion:10. 9.12 Vortrag und Diskussion: 11. 13.1. Vortrag und Diskussion: 12. 20.1. Vortrag und Diskussion: 13. 27.1. Puffer