Kann die KI alle unsere Probleme lösen?

Klimawandel? Hunger? Naturkatastrophen? Epidemien? Krebs? Kein Problem, denn dagegen gibt es bestimmt eine Technologie – wenn nicht jetzt, dann in der nahen Zukunft. Und falls es mit der Entwicklung neuer Technologien mal nicht klappt, wird uns die Künstliche Intelligenz als universeller Problemlöser aus der Patsche helfen. So behaupten es die sogenannten Techno-Optimisten. Zweifel sind ihnen fremd, wären aber durchaus angebracht.

Das Techno-optimistische Manifest von Marc Andreessen liest sich wie ein FDP-Parteiprogramm auf Speed. Wir sollten uns die Erde weiter untertan machen, predigt Andreessen (die Älteren unter uns erinnern sich an ihn aus den Anfangstagen des World Wide Web als Netscape-Mitbegründer; heute agiert er vor allem als Investor). Schließlich hätte die Menschheit schon immer alle ihre Probleme mit neuen Technologien gelöst, und sie sollte sich nicht davon abhalten lassen, das auch weiterhin zu tun. Das freie Spiel der Kräfte des Marktes würde es schon richten, wenn sich nur nicht die Feinde durchsetzen – und das sind alle, die sich für eine nachhaltige Entwicklung, soziale Verantwortung und eine Technikfolgenabschätzung stark machen. Die Bezeichnung „Feinde“ („Enemy“) klingt jetzt ein bisschen drastisch, aber genau so ist es gemeint: Wer die Entwicklung der KI bremst, riskiert Menschenleben, ist also ein Mörder: „We believe any deceleration of AI will cost lives. Deaths that were preventable by the AI that was prevented from existing is a form of murder.“ Denn der KI als dem neuen Stein der Weisen trauen die Techno-Optimisten alles (Gute) zu:

We believe we are poised for an intelligence takeoff that will expand our capabilities to unimagined heights. We believe Artificial Intelligence is our alchemy, our Philosopher’s Stone – we are literally making sand think. We believe Artificial Intelligence is best thought of as a universal problem solver. And we have a lot of problems to solve. We believe Artificial Intelligence can save lives – if we let it. Medicine, among many other fields, is in the stone age compared to what we can achieve with joined human and machine intelligence working on new cures. There are scores of common causes of death that can be fixed with AI, from car crashes to pandemics to wartime friendly fire.

https://a16z.com/the-techno-optimist-manifesto/

Dabei wird übersehen, dass uns die Technologien manche Probleme überhaupt erst eingebrockt haben. Der Klimawandel ist eine Folge der durch die Nutzung fossiler Energie befeuerten Industrialisierung, und Pandemien werden heutzutage oft durch Zoonosen ausgelöst, die durch das Vordringen der Landwirtschaft in bis dahin intakte Ökosysteme begünstigt werden.

Aber gut – vielleicht sind wir ja bloß nicht intelligent genug, um Technologien nicht nur zu erfinden, sondern sie auch so einzusetzen, dass sie uns langfristig nicht schaden, sondern ausschließlich nutzen. Idealerweise so, dass wir dabei nicht großflächig andere Lebensformen ausrotten, wie es aktuell noch geschieht. Und wenn unsere natürliche Intelligenz dazu nicht ausreicht, muss es eben ihr künstlicher Ersatz richten. Leider wird Andreessens Manifest dann aber nirgendwo konkret; er ist eben mehr Prediger als Ingenieur oder Wissenschaftler (immerhin hat einen Bachelor-Abschluss in Informatik).

In vielen Fällen ist es ja gar nicht so, dass wir einem ungelösten Problem gegenüber stünden. Dass wir auf die Nutzung fossiler Energie verzichten müssen, um den Klimawandel zu begrenzen, wissen wir seit mindestens einem halben Jahrhundert – uns fehlt kein Wissen, sondern der Wille, es anzuwenden. Es nützt auch wenig, in kürzester Zeit wirksame Impfstoffe gegen grassierende Krankheitserreger zu entwickeln – eines von Adreessens Beispielen für segensreiche Technologien –, wenn sie dann von vielen Menschen aus vorwiegend irrationalen Motiven abgelehnt werden. Andere Menschen bekommen gar keinen Zugang dazu, weil sie zu arm sind, um für die pharmazeutische Industrie relevant zu sein. Das freie Spiel der Kräfte im Pharmamarkt hat dazu geführt, dass mehr Arzneien gegen Wohlstandskrankheiten als gegen tödliche Epidemien in der Dritten Welt entwickelt werden. In die Entwicklung von Impfstoffen investieren die Unternehmen generell weniger Mittel als in die von Medikamenten, da Impfstoffe ein vergleichsweise schlechtes Geschäft sind. Erst in der Corona-Pandemie hat sich daran etwas geändert, weil Staaten die Entwicklung nach dem Versagen der Marktkräfte schließlich mit Steuergeldern in die gewünschte Richtung gelenkt haben.

Nichts gegen Technologien wohlgemerkt. Aber von der brillanten Idee, wie eine neue Technologie ein Problem lösen könnte, bis zu einem funktionsfähigen Prototyp vergehen oft viele Jahre, wenn nicht Jahrzehnte. Die Technologie der Kernfusion hat diesen Stand nach nunmehr mehr als 70 Jahren noch immer nicht erreicht. Bis eine Technologie dann auf breiter Basis wirtschaftlich sinnvoll eingesetzt werden kann, vergehen nochmals Jahre, und manchmal kommt es nie dazu. Herausforderungen wie der Klimawandel lassen uns aber nicht so viel Zeit. Wenn es eine technologische Lösung gäbe, hätten wir sie früher erfinden und zur Marktreife entwickeln müssen; jetzt käme sie zu spät.

Auf der anderen Seite gibt es tatsächlich ungelöste Probleme, aber diese sind nicht unbedingt von der Art, dass eine KI uns bei deren Lösung mehr als assistieren könnte (eine KI ist oft sehr gut darin, sich um die Feinheiten zu kümmern, aber weniger talentiert, wenn es um die Entwicklung kreativer Ansätze geht). Ungelöste Probleme stellt man sich ja gerne so vor, als wären die Zusammenhänge bloß so komplex, dass sie selbst für die Klügsten unter uns undurchschaubar wären. Manchmal ist das zwar so (der Beweis des Vier-Farben-Theorems ist ein Beispiel dafür, wie erst die Unterstützung durch einen Computer – ohne KI allerdings – zum Ziel führte), aber es ist die Ausnahme.

Die Entwicklung der speziellen Relativitätstheorie durch Einstein gilt allgemein als Leistung eines individuellen Genies. Dabei waren ihre Grundlagen schon im 19. Jahrhundert durch Maxwell und Lorentz gelegt worden; die Konstanz und Relativität der Lichtgeschwindigkeit war prinzipiell schon vor Einstein bekannt. Allerdings wurde die Physik damals noch durch überkommene Konzepte wie die eines Äthers als Medium der Lichtausbreitung gehemmt, und Einsteins Leistung bestand vor allem im Mut, die im Grunde schon länger zwingenden Konsequenzen aus den bereits bestätigten Erkenntnissen zu ziehen, auch wenn sie der Intuition widersprachen. Aber selbst Einstein verließ später dieser Mut, als es um die Akzeptanz der Quantenphysik in deren Kopenhagener Interpretation ging.

Aber schauen wir uns spaßeshalber einmal an, wie man Problemlösungsstrategien für die Zwecke der KI mechanisieren kann. Die dazu nötige Logik geht auf die Philosophen der (vor allem) griechischen Antike zurück; im Mittelalter wurde sie wiederentdeckt und weiterentwickelt und in der Neuzeit schließlich formalisiert. Was aber als formales System beschrieben werden kann, ist auch von einem entsprechend programmierten Computer anwendbar.

Zu den logischen Schlussfolgerungsverfahren zählt vor allem die Deduktion. Ein klassisches Beispiel besteht darin, aus Alle Menschen sind sterblich und Sokrates ist ein Mensch zu schlussfolgern, Sokrates ist sterblich. Wir haben hier eine allgemeine Gesetzmäßigkeit und einen besonderen Fall, und so schließen wir, dass die Gesetzmäßigkeit auch in diesem Fall gilt. Diese Schlussfolgerungsregel nennt man Modus ponens. Eine weitere deduktive Regel ist der Modus tollens: Wenn Alle Menschen sind sterblich gilt, aber Zeus ist sterblich falsch ist, dann muss auch Zeus ist ein Mensch falsch sein. Für alle deduktiven Schlussfolgerungsregeln gilt, dass sie zu logisch gültigen Schlüssen führen: Wenn ihre Prämissen gelten, dann ebenso die daraus gezogenen Schlussfolgerungen.

Den Begriff der Deduktion werden die meisten von uns nicht aus einem Lehrbuch der Logik kennen, sondern aus den Werken Arthur Conan Doyles – sein Detektiv Sherlock Holmes spricht oft davon, seine Fälle durch Deduktion zu lösen. Tatsächlich wendet er aber meist ein anderes logisches Verfahren an, nämlich die Abduktion. Damit schließt man von Resultaten auf mögliche Gründe oder Ursachen: Wenn Alle Menschen sind sterblich gilt und Sokrates gestorben ist, legt das den Verdacht nahe, dass Sokrates ein Mensch ist. Das ist jedoch nicht sicher, denn Sokrates könnte ja beispielsweise auch ein (ebenfalls sterblicher) Hund sein. Eine Abduktion verhilft uns daher nicht direkt zu neuen Einsichten; ihr Nutzen liegt vielmehr darin, uns eine Richtung zu weisen, in der wir nach Erklärungen suchen sollten.

Die Abduktion ist daher die charakteristische Schlussfolgerungsweise eines Ermittlers, der mit ihrer Hilfe erkennt, wonach er Zeugen oder Verdächtige fragen und nach was für Spuren er forschen muss (auch Ärzte bei der Diagnose und Reparaturtechniker bei der Fehlersuche gehen so vor). Die spezielle Form einer vollständigen Abduktion kann als Sherlock Holmes’ Spezialität gelten: „When you have eliminated the impossible, whatever remains, however improbable, must be the truth.“ In einem solchen Fall hat Holmes alle denkbaren Abduktionen erwogen, und nachdem er alle Gründe außer einem ausschließen konnte, geht er davon aus, dass dieser verbleibende Grund zutreffen muss, selbst wenn er keinen direkten Beleg für ihn hat.

Sowohl die Deduktion als auch die Abduktion beruhen auf allgemeinen Gesetzmäßigkeiten und wenden diese lediglich auf spezielle Fälle an. Um solche allgemeinen Gesetzmäßigkeiten aber erst einmal zu finden, braucht man eine dritte Variante – die Induktion. Wenn wir aufgrund unseres Wissens Sokrates ist ein Mensch und Sokrates ist sterblich wahlweise zur Vermutung Alle Menschen sind sterblich oder zu Alle Sterblichen sind Menschen gelangen, handelt es sich um einen induktiven Schluss. Wie die Abduktion kann auch die Induktion nicht garantieren, dass die Schlussfolgerung korrekt ist. Deshalb kann es auch keine einfach anwendbaren Regeln für die wissenschaftliche Theoriebildung geben – allenfalls einen Generator für mögliche Theorien, die dann aber noch in Experimenten auf die Probe gestellt werden müssen.

Die bekannten KI-Systeme auf der Basis von Large Language Models tun sich bei der Anwendung von Abduktion und Induktion schwer, denn im Gegensatz zur Deduktion erfordern beide, nach der Schlussfolgerung in der Welt tätig zu werden – sie müssten mögliche Erklärungen überprüfen beziehungsweise nach möglichen Gegenbeispielen einer Theorie suchen. Das ist bislang kaum vorgesehen. Zudem würde man einer KI wohl schon aus Sicherheitsgründen kein allzu vollständig ausgestattetes Labor überlassen, um Theorien zu testen.

Übrigens habe ich Googles Bard mal darauf getestet, ob es die elementaren logischen Schlussfolgerungsverfahren kennt. Bei der Deduktion nach dem Modus ponens klappte das noch ganz gut, wenn Bards Anwort auch unnötig redselig ausfällt:

MJH: Wenn es regnet, ist die Straße nass. Es regnet. Was folgt daraus?

Bard: Aus den beiden Aussagen „Wenn es regnet, ist die Straße nass“ und „Es regnet“ folgt die Aussage „Die Straße ist nass“. Die erste Aussage ist eine Implikation, die besagt, dass aus der Bedingung „Es regnet“ die Folgerung „Die Straße ist nass“ folgt. Die zweite Aussage ist die Bedingung der Implikation. Nach den Regeln der Aussagenlogik kann aus einer Implikation und ihrer Erfüllung die Folgerung hergeleitet werden. In diesem Fall ist die Implikation erfüllt, da es tatsächlich regnet. Daher folgt daraus, dass die Straße nass ist. Konkret bedeutet dies, dass die Straße durch den Regen nass geworden ist oder nass sein wird. Die Antwort auf die Frage ist also: Die Straße ist nass.

Mit einer Abduktion kann Bard hingegen nichts anfangen, sondern behandelt sie so, als handele es sich um eine Deduktion:

MJH: Wenn die Sonne scheint, schmilzt der Schneemann. Der Schneemann schmilzt. Was folgt daraus?

Bard: Aus den beiden Aussagen „Wenn die Sonne scheint, schmilzt der Schneemann“ und „Der Schneemann schmilzt“ folgt die Aussage „Die Sonne scheint“. Die erste Aussage ist eine Implikation, die besagt, dass aus der Bedingung „Die Sonne scheint“ die Folgerung „Der Schneemann schmilzt“ folgt. Die zweite Aussage ist die Folgerung der Implikation. Nach den Regeln der Aussagenlogik kann aus der Folgerung einer Implikation und der Erfüllung der Bedingung die Implikation selbst hergeleitet werden. In diesem Fall ist die Folgerung erfüllt, da der Schneemann tatsächlich schmilzt. Daher folgt daraus, dass die Bedingung der Implikation erfüllt ist, also dass die Sonne scheint. Konkret bedeutet dies, dass die Sonne auf den Schneemann scheint und dessen Schmelzen verursacht. Die Antwort auf die Frage ist also: Die Sonne scheint.

Die Antwort ist falsch: Vielleicht ist der Himmel bedeckt, aber die Lufttemperatur liegt trotzdem deutlich über 0 Grad, vielleicht haben wir dem Schneemann auch mit einem Föhn zugesetzt – es gibt viele mögliche Gründe für das Schmelzen des Schneemanns. Auch die Erklärung ist falsch, denn dass die Bedingung der Implikation erfüllt wäre, ist ja gar nicht bekannt.

Mag sein, dass andere Large Language Models hier besser abschneiden würden, aber abgesehen davon, dass sie alle nicht die Grundlagen der Logik erlernt haben, stießen sie an ihre Grenzen, wenn sie eine Abduktion und Induktion praktisch anwenden sollten.