„Jetzt sitzt Alexa heute nicht auf dem Podium, aber wir haben sie gefragt „Alexa, müssen wir uns vor künstlicher Intelligenz fürchten?“ und sie hat geantwortet: „Da bin ich mir nicht sicher“.“
Die Podiumsdiskussion zur Vorlesung „Alles unter Kontrolle – Herausforderungen der digitalen Gesellschaft“, an der auch Judith Gerlach, Staatsministerin für Digitales, teilnahm, stellte sich am 09. Juli Fragen rund um das Thema künstliche Intelligenz. Die anderen drei Experten Prof. Dr. Michael Beurskens, Dr. Andreas Böhm und Prof. Dr. Dominik Herrmann kommen aus den Bereichen Rechtswissenschaften, Data Science und Privatsphäre. Schon zu Beginn sind sie sich einig, dass man sich vor künstlicher Intelligenz nicht fürchten muss. Sie sehen jedoch begründete Angst gegenüber anderen damit einhergehenden Risiken.
Nach einleitenden Worten der Präsidentin Prof. Dr. Carola Jungwirth startet die Podiumsdiskussion mit der offensichtlichen Frage „Müssen wir uns vor Künstlicher Intelligenz (KI) fürchten?“
Die Antworten aller Podiumsgäste fallen ähnlich aus: Vor künstlicher Intelligenz müssen wir uns nicht fürchten, solange wir über genügend natürliche Intelligenz verfügen und diese einsetzen. Oder auch: Vor KI müssen wir uns nicht fürchten, eher vor den Menschen, die sie programmieren und somit steuern.
Um die Debatte über das Thema KI zu erleichtern, bittet die Moderatorin Katrina Jordan um eine Definition
„Wie definieren Sie KI?“
KI ist das aktuelle „Megathema“, die „Triebfeder der Digitalisierung“, so Staatsministerin Gerlach. Bei KI denken viele wohl sofort an Roboter mit sich verselbstständigender Intelligenz, die entweder die Weltherrschaft an sich reißen oder apokalyptische Szenarien auslösen, bei denen die Menschheit nicht allzu gut abschneidet. Doch genau hier setzt Gerlach an und klärt auf, dass dieses durch Film und Fernsehen geschürte Wissen über KI schon weit übers Ziel hinausschießt. Denn die dort vorkommende künstliche Intelligenz ist und bleibt zum heutigen Stand Science-Fiction. Sie betrifft Standpunkte, an denen wir noch gar nicht sind.
„Diese starke KI haben wir noch gar nicht“, stellt die Staatsministerin klar.
Auch Autonomie ist ein Stichwort, das für die Definitionen oft verwendet wird. Prof. Dr. Herrmann erklärt, dass es sich bei KI um technische Entscheidungen handelt, die der Mensch nicht mehr durchschauen kann.
„Beim Thema KI finden wir das furchteinflößend und bedenklich, allerdings verstehen die wenigsten AutofahrerInnen zu 100%, wie ihr Auto funktioniert. Es werden also bisher auch schon Entscheidungen abgegeben und der Mensch ist davon nicht so emotional berührt.“
Die Anwesenden hören eine kurze Anekdote über Gerlachs Oma, die gar nicht mehr zu einer Diskussion über KI bereit ist und ihr lediglich entgegnet:
„Kind, geh mir weg damit.“
KI im medizinischen Bereich ist ein Thema, das im Laufe der Podiumsdiskussion öfter angesprochen wird, beispielsweise als frühzeitige Erkennung von Hautkrebs. Allerdings kommt Frau Gerlach aktuell eher mit KI im Unternehmen (maschinelles Lernen bei der Produktion) in Kontakt.
„Was halten sie in den nächsten fünf bis zehn Jahren für möglich? Was wird uns betreffen?“
Auf diese Frage fallen die Antworten der Podiumsgäste wieder ähnlich aus: In den nächsten fünf Jahren ist nicht mit massiven, disruptiven Veränderungen zu rechnen, allerdings sind genaue Vorhersagen nicht möglich. In den Bereichen Medizin und Verkehr werden vermutlich als erstes Innovationen spürbar sein. Der (langsame) Umgang von Behörden mit der Digitalisierung wird anhand der Online-Terminvergabe des Münchner Kreisverwaltungsreferats (KVR) skizziert: nächster freier Termin, Mitte September.
Hier bietet sich der perfekte Nährboden, um die Diskussion weiter anzuheizen: Die Podiumsleiterin wirft in den Raum, dass man mit der Entwicklung mithalten müsse. Gerlach findet es schwer eine Spekulation abzugeben, denn keiner wisse, was in fünf Jahren komme.
„Wenn ich das wüsste“, lockert sie auf, „dann würde ich ein privates Start-Up gründen. Da kann man viel Geld machen. Kein Staatliches, die sind mies bezahlt.“
Für die Technologie der künstlichen Intelligenz müsse viel Geld in die Hand genommen werden, meint die Staatsministerin weiter und verweist insbesondere auf Asien oder Amerika. Gerlach sieht den Vorteil für Deutschland darin, einen Stempel zu schaffen, den andere nicht haben. Deutschland muss einen Mehrwert mit dem Siegel „Made in Germany“ kreieren. Auch einen europaweiten Zusammenschluss könnte sie sich vorstellen als „Made in Europe“. Prof. Dr. Herrmann findet, dass Deutschland auf dem richtigen Weg, allerdings zu zögerlich sei:
„Wir drücken aufs Bremspedal, wo andere einfach machen.“.
„Die große Herausforderung ist nicht die künstliche Intelligenz, sondern die natürliche“, rundet die Diskussionsleiterin das Thema ab. Doch wie gehen wir mit der Herausforderung Mensch um? In allen Bereichen sollte man sich den Mehrwert, die Chancen und die Risiken vor Augen führen. Schließlich sind es Menschen, die die Algorithmen programmieren. Gerlach zieht als Beispiel einen Bewerbungsprozess heran, der über eine künstliche Intelligenz abläuft. Die KI würde die Bewerber nach dem Muster aussortieren, wie der Chef bisher Mitarbeiter eingestellt hat. Dabei würde die Diversität von verschiedenen Kulturen oder auch Frauen- und Männeranteilen unbeachtet bleiben, solange diese nicht speziell in die KI programmiert wurde. Die Staatsministerin für Digitales gibt zu bedenken, dass wir die Intelligenz so für uns nutzbar machen müssten, dass auch ein Wertekonstrukt dahinter steckt. Allerdings stünden diese Leitlinien aktuell noch sehr in ihren Grundzügen. Dem schließt sich Prof. Dr. Herrmann an:
„Ich habe weniger Angst vor der KI, die ist mir egal. Das Problem ist, da stecken Menschen dahinter, die es absichtlich oder unabsichtlich [vergeigen].“
Er stellt heraus, dass wir ohnehin schon alles erlebt hätten, wofür KI missbraucht werden könnte. Als Beispiel verweist er auf ein YouTube Video zum Thema „21 Arten von Fairness“ und beteuert: „Es gibt nicht DIE Fairness.“. Herrmann erklärt, dass wir diesen Diskurs auch jetzt schon führen würden und es sich dabei nicht um ein technisches Problem handle, sondern um ein ethisches, menschliches Problem. Die zentrale Frage für Prof. Dr. Beurskens dabei ist, ob die Vorgänge der KI transparent genug seien.
Bevor die nächste Frage gestellt werden kann, muss die Staatsministerin für Digitales Judith Gerlach die Podiumsdiskussion wegen eines Folgetermins früher verlassen.
Im Anschluss an die Podiumsdiskussion lädt Jordan die Zuhörer dazu ein, Fragen zu stellen. Im Folgenden werden nur zwei der sechs Zuschauerfragen wiedergegeben.
Frage aus dem Plenum:
„Wenn Hautkrebs mithilfe von KI fälschlicherweise diagnostiziert wird, wer haftet dann?“ – Juristin
Prof. Dr. Beurskens hat darauf eine ganz klare Antwort:
„Der Arzt haftet bei einer falschen Diagnose, da die KI eins seiner Hilfsmittel ist. Er ist in derselben Haftungsverantwortung wie bei einem kaputten Röntgengerät.“
Dr. Böhm ergänzt, dass KI dem behandelnden Arzt die Entscheidung nicht abnehmen, sondern ihn unterstützen soll oder den Behandlungsprozess schneller machen soll.
Frage aus dem Plenum:
„Menschen werden aufgrund von technischen Entwicklungen immer fauler, was macht man als Lehrer, wenn Schüler zu faul zum Denken werden?“ – Lehramtstudent
Prof. Dr. Beurskens nennt als Stichwort das „Wikipedia-Phänomen“, das bereits Auswirkungen hat auf die Art wie wir lernen („Brauch ich nicht zu lernen, steht ja eh online.“). Das klassische Auswendiglernen wird seiner Meinung nach bald wegfallen.
Dr. Böhm pocht auch hier wieder auf eine gute Ausbildung und einen Anreiz, der für Lernende geschaffen wird, Dinge wirklich verstehen zu wollen.
„Der Mensch ist ein Überlebenstier und lernt mit der Zeit, wenn er denn lernen muss.“
Prof. Dr. Herrmann bringt ein persönliches Beispiel: Studierenden im ersten Semester soll vermittelt werden, dass sie denken lernen sollen und nicht zwangsläufig den Klausurenstoff. Ein effizientes Problemlöseverfahren ist für später viel wichtiger als gelernte Theorie.
Abschließend wird das Feedback von zwei Studierenden festgehalten:
Beide studieren BWL im 6. Semester und haben die Veranstaltung nur aus persönlichem Interesse besucht. Grundsätzlich fiel ihr Fazit positiv aus, allerdings wurde kritisiert, dass die wirklich relevanten Themen nur kurz angesprochen wurden und man sich in Belanglosigkeiten (Debatte um den Personalausweis, die im Artikel ausgelassen wurde) verliert. Beide hätten sich gewünscht, dass es mehr Antworten auf die Fragen gibt, welche Bereiche durch KI wegfallen werden und wie wir darauf reagieren sollen. Fragen an Frau Gerlach hätten eventuell schon während der Podiumsdiskussion eingebaut werden können.