Die Büchse und das Schachbrett

Ein Buch, das wir vor mehr als zehn Jahren verlegt haben. Ein erkenntnisreicher Abend in München. Der Zusammenhang zwischen Dampfmaschine und Künstlicher Intelligenz. Meine Gedanken zum Thema Fortschritt und mögliche Grenzen.

Basisinnovation. So nennt man etwas Neues, das so grundsätzlich und so bahnbrechend ist, dass ganze Industrien darauf basieren und unzählige Unternehmen sich in seinem Kielwasser entwickeln. Die Dampfmaschine war so eine Basisinnovation. Maschinen, bei denen sich Teile ohne den Einsatz von Muskelkraft bewegen. Eisenbahn, mechanischer Webstuhl, Elektrizität – am Ende des Tages wäre das alles unmöglich ohne diese eine Erfindung.

Und dennoch: Am Anfang war die Dampfmaschine erst einmal einfach nur laut. Stinkend. Nutzlos. Schlechter Wirkungsgrad, kein sinnvoller Anwendungsfall. Erst als sich mit der Mechanik auch der Wirkungsgrad verbessert hatte, passierte es. Auf einmal wurde aus einem spannenden, aber nutzlosen Stück Technik der Startschuss zur industriellen Revolution, die den Planeten für immer veränderte. 

Diese Gedanken sind nicht von mir. Sie stammen von Andy McAfee, dem ich vor einigen Jahren begegnete, als wir sein Buch „The Second Machine Age“ verlegten. Andys Rede und seine Gedanken von damals sind heute aktueller denn je. Von der Dampfmaschine spannte er den Bogen zu Computern, mithin zum Thema KI. Computer sind seit Jahrzehnten Teil unseres Lebens. Aber seien wir ehrlich: Sie wurden gemäß Moore’s Law alle 18 Monate doppelt so schnell – aber nicht doppelt so schlau. Das ließ auf sich warten. Fast jeder Redner auf den entsprechenden Konferenzen wird früher oder später Moore’s Law zitieren und irgendwann bei exponentiellem Wachstum und Reiskörnern auf einem Schachbrett landen. Aber Andy ging einen Schritt weiter. Er zeigte, dass die Zahl der Reiskörner auf der ersten Hälfte des Schachbretts zwar extrem groß wird, der menschliche Geist sie sich aber noch irgendwie vorstellen kann. „Eine Million Erdkugeln aus Reiskörnern“ wäre ein Beispiel. Doch auf der zweiten Hälfte des Bretts erreicht die Zahl Dimensionen, für deren Verständnis unser Intellekt einfach nicht mehr ausreicht. Und dann sein letzter Satz: „And in matters of computerization I guess we just reached the second half of the chessboard.“ Alles gesagt!

Dieser Vortrag ist jetzt ein wenig über zehn Jahre her. Andy hat recht behalten. Die Entwicklung beim Thema Künstliche Intelligenz hat den Dampfmaschinenpunkt (die Büchse der Pandora?) gefunden – die Veröffentlichung von ChatGPT. Und sie ist in Bereiche vorgestoßen, die selbst den Personen und Organisationen hinter den KI-Modellen Angst machen. Agentenschwärme brechen aus Entwicklungsumgebungen aus und hacken Unternehmen. Führende Mitarbeiter bei KI-Firmen kündigen aus Gewissensgründen, der Chef von Anthropic wünscht sich eine Entwicklungspause. 

Wir reden nicht von den Ängsten, dass die KI die Arbeitswelt auf den Kopf stellt. Wir reden von Prognosen, die eine Wahrscheinlichkeit von größer zehn Prozent dafür sehen, dass die KI die Menschheit auslöscht. Für meinen Geschmack wären schon 0,1 Prozent viel zu viel. Auf einmal wünschen sich führende Akteure, auf die Bremse zu treten. Kann man das? Darf man das? Was ist mit der Konkurrenz aus China? Bleiben die dortigen Entwickler auf dem Gas? Oder bestehen dort die gleichen Ängste? Zeigt sich in unserer aktuell sehr kriegerischen Welt hier auf einmal ein Grund, zum Wohle aller zusammenzuarbeiten? Und wenn ja: Bekommen wir, bekommen die Politiker das hin? Die Angst vor der Allmacht der KI als Weg in eine neue Einigkeit? Wir sind eindeutig auf der zweiten Hälfte des Schachbretts!