"Wenn die Maschine Unsinn macht, zieh den Stecker raus!"

Über den Dächern von Berlin: Georg Schütte, Fruzsina Molnar-Gabor. Fotos: Gordon Welters.

Frau Molnár-Gábor, alle reden drüber. Wir heute auch – aber worüber eigentlich genau? Wie würden Sie "künstliche Intelligenz" definieren?

Molnár-Gábor: Ich habe bisher eigentlich nur Tagungen besucht, bei denen wir uns nicht auf eine Definition einigen konnten. Manche sagen, bereits die Biostatistik sei eine Form von KI gewesen und die KI daher nicht wirklich etwas Neues. Ich selbst würde die KI am ehesten darüber definieren, dass sie Entscheidungen und Aktionen maschinell übernehmen kann, die bisher Menschen getroffen und ausgeführt haben.

Schütte: Im Digitalrat der Bundesregierung sagt mir eine junge Unternehmerin: "Immer wenn wir nicht wissen, womit wir es zu tun haben, nennen wir es KI. Wenn wir es wissen, dann benennen wir es genauer, etwa als Mustererkennung von Gesichtern, also Gesichtserkennung, oder auf Röntgenbildern zur Krebsdiagnose." Ich finde, das charakterisiert die aktuelle gesellschaftliche Debatte sehr gut. Das Wort wird so allgemein benutzt, dass es bisweilen nicht mehr greifbar ist.

Ist diese mangelnde Greifbarkeit der Grund, warum sich in Teilen der Gesellschaft eine kritische Haltung gegenüber der KI aufgebaut hat?

Schütte: Es hilft, wenn wir das "Wer" der Betroffenen durch das "Was" der Betroffenheit ersetzen. Dass wir anstatt abstrakt über "Künstliche Intelligenz" zum Beispiel konkret über Roboter in der industriellen Produktion reden. Dann sind wir in der Lage, vorhandene Ängste zu adressieren und die real vorhandenen Gefahren einzuordnen. Gefahren, die damit anfangen, dass Roboter nicht mehr im Käfig agieren, sondern direkt mit Menschen zusammenarbeiten. Es geht also um die Frage, wie sich die Arbeitswelt verändert und wie wir die Sicherheit der Menschen am Arbeitsplatz sichern können. Darauf kann man dann konkrete Antworten geben.

Dann machen wir es doch mal konkret. Frau Molnár-Gábor, woran forschen Sie gerade?

Molnár-Gábor: Da erzähle ich Ihnen am besten von einem von der Volkwagenstiftung geförderten Projekt, das ich an der Heidelberger Akademie der Wissenschaften bearbeite und das Genombiologen, Ärzte und Juristen in Berlin und Heidelberg vereint. In Deutschland werden jedes Jahr rund 60.000 Prostata-Krebserkrankungen registriert. Wir unterstützen die Sammlung und Verarbeitung von individuellen Informationen über die einzelnen Studienteilnehmer, um daraus präzise Therapien für sie zu entwickeln. Dafür sequenzieren und entschlüsseln Biologen und Ärzte das Genom gesunder und kranker Menschen, sie verknüpfen klinische Daten mit weiteren Angaben über die Lebensführung, um mehr über die Ursachen der Erkrankungen zu erfahren. Um zu prognostizieren, auf welche Form der Behandlung wer am besten reagiert. Und, ganz wichtig, mithilfe einer Plattform ermöglichen wir den Patienten, sich untereinander zu vernetzen. All das kann mithilfe von KI erheblich vorangebracht werden.

Was können Sie zu dem Projekt als Juristin beitragen?

Molnár-Gábor: In erster Linie geht es um Haftungsrecht: Patienten, Ärzte, Softwareentwickler und Biologen, wer ist wofür verantwortlich? Für viele ist die KI immer noch eine Black Box, das macht das Zuordnen von Fehlern schwierig. Ist zum Beispiel der Arzt vom medizinischen Standard schuldhaft abgewichen, oder lag der Fehler im Algorithmus? Das Ziel ist es, den Menschen das Gefühl der Ohnmacht gegenüber der KI zu nehmen, die genau durch diese unklaren Begriffe und Zuordnungen entsteht.

Aber geht es nur um unklare Begriffe? Ist die Sorge, dass wir eine Technologie erschaffen, die am Ende uns beherrscht und nicht mehr wir sie, real? Das geht doch über Datenschutzsorgen und Haftungsfragen hinaus.

Molnár-Gábor: Da möchte ich eine berühmte Physikerweisheit zitieren: Wenn die Maschine Unsinn macht, zieh den Stecker raus. Außerdem müssen Forscher nicht immer alles umsetzen, was maschinell oder technologisch möglich ist.

Aber ist nicht genau das die Angst der Leute? Dass es immer irgendwo jemanden gibt, der doch das Fragwürdige umsetzt?

Molnár-Gábor: Das mag so sein, aber ohne konkrete Anwendungsbeispiele ist es schwer, mit den Menschen überhaupt über ihre Ängste ins Gespräch zu kommen.

Schütte: Und genau, weil wir die konkreten Anwendungsfälle brauchen, hat die VolkswagenStiftung frühzeitig ein Förderprogramm zur KI auf den Weg gebracht, das an der Schnittstelle von Technik- und Naturwissenschaft sowie anderen Feldern in den Sozial- und Geisteswissenschaften liegt und Forscherinnen wie Frau Molnár-Gábor unterstützt. Ich bin kein Psychologe, aber trotzdem wage ich zu sagen, dass wir den Menschen sicherlich nicht alle ihre Urängste nehmen können. Aber wenn wir genauer wissen, was Angst macht, dann können wir besser damit umgehen, und die Suche nach Lösungen kann beginnen.

Vielleicht haben wir es weniger mit Urängsten und mehr mit einem zutiefst mitteleuropäischen, deutschen Angst-Syndrom zu tun?

Molnár-Gábor: KI-Anwendungen wie Social Scoring schaffen für viele Chinesen tatsächlich mehr Vertrauen. In den USA sind die Menschen für die Vorteile, die sie sich von KI erwarten, tendenziell bereit, größere Risiken einzugehen. Nach dem Motto: Solange die Schädlichkeit nicht nachgewiesen ist, greifen wir gar nicht ein. In Europa wollen wir möglichst viele Eventualitäten vorher bedenken. Das spiegelt sich in den rechtlichen Regulierungen wider.

Experten warnen, die EU werde von anderen Weltregionen beim Thema KI abgehängt.

Schütte: In der grundlagenorientierten KI-Forschung spielen wir in der ersten Liga, die hohen Zahlen wissenschaftlicher Publikationen belegen das. Wir sind auf vielen Feldern vorn mit dabei, zum Beispiel beim Einsatz Künstlicher Intelligenz in der Biologie oder in den Lebenswissenschaften. Doch eines müssen wir uns immer fragen: Setzen wir die richtigen Schwerpunkte? Laut Expertenkommission Forschung und Innovation wird in China und in den USA zum Beispiel massiv an der neuronalen Künstlichen Intelligenz geforscht, und ja, auf diesem Feld laufen wir nach Einschätzung der Experten tatsächlich etwa fünf Jahre hinterher. Wo wir in Deutschland und Europa schwach sind: in der Innovation, an der Schnittstelle zwischen wissenschaftlicher Erkenntnis und unternehmerischer oder sozialer Anwendung.

Molnár-Gábor: Zum Glück tut sich da in letzter Zeit einiges, gerade in Deutschland. Es wurden viele Initiativen gestartet, von der Regulierung über die Forschungsförderung und die Einrichtung zusätzlicher KI-Professuren bis zur Unterstützung für Startups – Initiativen die jetzt allerdings auch gebündelt werden müssen, und dann werden sie neue Innovationen auslösen.

Zuletzt hörte man häufiger, die Amerikaner, Südkoreaner und Chinesen seien zwar technisch weiter, dafür aber entwickle Europa neue ethische Positionen und Rechtsgrundlagen für die KI. Klingt nach einer Form von Selbsttröstung.

Molnár-Gábor: Diese Trennung zwischen technologischen Innovationen und gesellschaftlichen Antworten halte ich für künstlich. Einige der vielversprechendsten, aber noch unerforschten Felder liegen in der interaktiven KI und in der sogenannten "Social AI". Wie kommuniziere ich als Mensch mit der Maschine und mit deren Algorithmen? Wie kann die Maschine das menschliche Miteinander entschlüsseln? Das sind Fragen, bei denen die Ethik eine entscheidende Rolle spielen kann. Natürlich kann man kritisch sehen sagen: Ethik verkauft sich nicht. Aber ich glaube, das ist zu kurz gedacht.

Schütte: Wenn wir wettbewerbsfähig bleiben wollen in Deutschland und Europa, müssen wir die Technologie beherrschen. Die besseren Regulierer zu sein und die Wertschöpfung der Technologie anderen zu überlassen, das kann es nicht sein. Aber wir können einen Schritt weitergehen und fragen: Was müssen die Prozesse, die Produkte, die Dienstleistungen mitbringen, die KI-basiert sind, welche Eigenschaften müssen sie haben, um die Akzeptanz der Menschen zu finden, von Patientinnen und Patienten in der Medizin, im Verkehr, in der Arbeitswelt? Die wissenschaftlichen Disziplinen bewegen sich längst aufeinander zu.

Herr Schütte, Sie sind Kommunikationswissenschaftler, Frau Molnár-Gábor, Sie sind Rechtswissenschaftlerin. Was antworten Sie aus ihren fachlichen Perspektiven Informatikern, die von sich behaupten, sie hätten mehr Expertise beim Thema KI?

Molnár-Gábor: Natürlich haben Informatiker immer noch die Hoheit über die Programmierung. Aber wenn wir Lösungen für die Gesellschaft finden wollen, dann sind die Hoheiten sehr schnell sehr breit zwischen der Informatik, den Natur-, Geistes- und Sozialwissenschaften verteilt. Mein Eindruck ist, dass die meisten Informatiker dieses Zusammenspiel inzwischen suchen, von gemeinsamen Lehrprojekten und Studiengängen bis hin zu interdisziplinären Forschungsprogrammen. Ich mache da nur gute Erfahrungen.

Schütte: Traditionell ist die deutsche Informatik stark aus der angewandten Mathematik, der Elektrotechnik und den Ingenieurwissenschaften herausgewachsen. Doch je stärker die Informatik globale gesellschaftliche Trends ausgelöst hat, desto mehr Anlass haben wir, in Deutschland selbstkritisch zu sein und neue Wege zu gehen. Anders gesagt: Der Problemdruck ist so groß geworden, dass die Disziplinen gar keine andere Wahl haben, als sich für einander zu öffnen. Stiftungen können sie dabei ein Stück weit unterstützen. Die Herausforderungen bei der KI machen diese Notwendigkeit der Vernetzung zwar besonders deutlich, wie in einem Brennglas. Doch dieselbe Interdisziplinarität brauchen wir auch auf anderen Forschungsfeldern.

Dieses Gespräch erschien zuerst in Impulse, dem Magazin der Volkswagen-Stiftung.