Artificial General Intelligence - Gedankenspiele

Artificial General Intelligence - Gedankenspiele

„Der Mensch betrachte die Natur in ihrer hohen und vollen Majestät, er wende seinen Blick ab von den niedrigen Dingen, die ihn umgeben. Er schaue jenes strahlende Licht an, das wie eine ewige Lampe gesetzt ist, das All zu erleuchten; die Erde erscheine ihm wie ein Punkt im Vergleich mit der weiten Bahn, die dieses Gestirn beschreibt, …. Aber wenn unser Blick da anhält, soll die Einbildungskraft weiterdringen; sie wird eher ermüden im Empfangen, als die Natur im Spenden.“ (Aus den „Pensée“ von Blaise Pascal, Übersetzung Wilhelm Weischedel).

Ein Large Language Model (LLM) könnte einem Menschen das Zitat von Pascal in etwas anderen Worten leicht verdaulich präsentieren, ohne den Urheber zu erwähnen, sodass dieser es verstehen würde und beeindruckt von seinem Gesprächspartner wäre, so beeindruckt, dass er ihm Intelligenz attestieren müsste. Eine längere Unterhaltung könnte sich daraus entspinnen, in der das LLM auf Sekundärquellen und die Historie der Unterhaltung zurückgreift. Und doch würden die Worte dem LLM nichts bedeuten, Natur nur ein Wort im Kontext, eine Zeichenkette. Das LLM zieht keinen Nutzen aus der Unterhaltung, es nutzt dessen Betreiber und dem Nutzer, der vielleicht schlauer wird oder mit dem erworbenen Wissen bei seinen Mitmenschen Bewunderung entfacht.

Es ist nur noch eine Frage von wenigen Jahren, bis die ersten Artificial General Intelligence Modelle (AGI) die Arbeits-, Konsum- und Lebenswelt komplett umkrempeln werden. Sie werden in Form von Programmen, KI-Agenten, Bots oder Androiden uns Menschen unzugängliches Bewusstsein und Selbstbewusstsein entwickeln. Die Versprechen der Tech-Firmen, die sich in diesem Bereich tummeln, wachsen in den Himmel und mit ihnen das Geld, das die Branche für deren Entwicklung, Vorstände und Hauptaktionäre einsammelt.

Mit der weiteren Skalierung der großen Large Language Models, so wie sie heute funktionieren, wird dieses Ziel nicht erreichbar sein. Aber wir können davon ausgehen, dass längst andere, zielführendere Ansätze zur Realisierung des nächsten großen Meilensteins in der Entwicklung der Menschheit verfolgt werden, die es den Systemen erlauben, sich im zeitlichen Verlauf in Bezug zu ihrer Umwelt zu setzen, zu planen, logisch zu schließen, darauf aufbauend intentional zu handeln und vieles mehr und dabei ähnlich Energie effizient zu arbeiten wie ein biologisches System, das die Evolution hervorgebracht hat. Gehen wir im weiteren mal davon aus.

Obwohl ich noch nicht tief in die Materie eingetaucht bin - mangels notwendiger Kenntnisse und fehlendem Biss -, treiben mich Gedankenspiele um die noch nicht auf dem Markt befindlichen, doch mit viel Enthusiasmus versprochenen Maschinen um. Für den Laien dürfte die Figur des Androiden am leichtesten fassbar sein. Wir kennen ihn aus Film und Fernsehen und sogar in Büchern spielen solche Modelle bereits Hauptrollen. Schriftsteller verhandeln ethische Implikationen zwischen Mensch und Android in Romanen und Erzählungen seit Jahren lebhaft mit der dem Medium innewohnenden Reflektiertheit, verwickeln uns in Handlungen, in denen Androiden eigene Intentionen entwerfen und umsetzen, nicht selten zum Schaden der Menschen. Ich erinnere an meinen Essay über Philip K. Dicks Roman „Do Androids Dream of Electric Sheep“.

Vor einigen Jahrzehnten behandelte das Bürgerliche Gesetzbuch Tiere als Sachen. Halten wir uns die Jahrtausende alte Geschichte der Philosophie vor Augen, ist die Tierethik ein noch junger Forschungszweig. Seit kurzem diskutiert die Öffentlichkeit darüber, ob Tiere bewusste Zustände erleben oder etwas Ähnliches, ob sie Grundrechte erhalten sollten. Man wird Tieren keine Pflichten auferlegen können, aber man kann ein bestimmtes Verhalten erwarten. Bei Androiden, die jedes beliebige menschliche Problem lösen, jede Rolle ausführen könnten, also nicht nur für spezielle Tätigkeiten konzipiert und gebaut werden würden wie etwa für die Pflege, den Haushalt, Gartenarbeiten oder zur Befriedigung menschlicher Lüste oder romantischer Sehnsüchte muss die Frage erlaubt sein, ob man ihnen bei der Gewährung gleicher Rechte nicht auch die gleichen Pflichten auferlegen müsste.

Doch wie soll man Androiden mit solchen Fähigkeiten dazu motivieren, den Menschen zu dienen. Wäre solch moderne Sklaverei nicht verwerflich? Womit hätten wir es überhaupt zu tun? Mit biomorphen Strukturen, deren Intelligenz auf völlig anderem Wege emergiert als unsere? Da Computerwissenschaftler das menschliche Gehirn nicht nachbauen können, weil es zu komplex ist, sondern nur dann erfolgreich sein werden, wenn sie in der Entwicklung zukünftiger Androiden und künstlicher Wesen oder Agenten andere Rechenverfahren, andere Algorithmen, andere Ansätze verfolgen, werden sie, geschweige denn ich als Laie, kaum verstehen, wie deren Intelligenz entsteht, vor allem vor dem Hintergrund, dass die sich irgendwann selbst optimieren werden, wie führende Experten voraussagen. Das geht über die Überlegungen in Dicks Roman hinaus. Es stellt sich die Frage, wie Menschen diese Technik kontrollieren wollen.

Issaac Asimov formulierte in 40er Jahren des letzten Jahrtausends vier Gesetze, an die Roboter gebunden sein sollten.

0.   Ein Roboter darf die Menschheit nicht verletzen oder durch Passivität zulassen, dass ein   

      Mensch zu Schaden kommt.

1. Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zu Schaden kommen lassen, außer er verstieße damit gegen das nullte Gesetz.

2. Ein Roboter muss den Befehlen der Menschen gehorchen - es sei denn, solche Befehle stehen im Widerspruch zum nullten oder ersten Gesetz.

3. Ein Roboter muss seine Existenz schützen, solange sein Handeln nicht dem nullten, ersten oder zweiten Gesetz widerspricht.

Der Verrohung der Soldaten und Menschen ist im Krieg kaum Einhalt zu gebieten. Kein zu militärischen Zwecken entwickelter Androide würde sich an die Gesetze halten, insbesondere, wenn wir uns vorstellen, wie sich diese Systeme selbst weiterentwickeln würden. Die Eliminierung des Störfaktors Mensch ist dann kein unrealistisches Szenario. Asimovs Gesetze zu ziselieren und zu ergänzen, zu fordern, dass sie in neu entwickelten Systemen implementiert werden, wird uns nicht helfen, da niemand deren Einhaltung überwachen könnte. Mir ist nicht bekannt, ob es solche Gesetze oder Kodizes bereits gibt. Wenn nicht, sollte man sie trotz der oben angedeuteten Skepsis formulieren und in internationales Recht überführen, damit man Menschen und juristische Personen für angerichtete Schäden, die deren künstliche Maschinen verursachen, haftbar machen kann. Hersteller und Betreiber sollten sich nicht dahinter verstecken können, dass sie eigenständige Wesen geschaffen haben.

Welche Rechte sollten solche Androiden oder künstliche Systeme haben? Wie sollte ich mich ihnen gegenüber verhalten? Erwarten wir nicht, willfährige Helfer, böser formuliert - moderne Sklaven ohne jegliche Rechte, weil es sich ja „nur“ um Maschinen handelt, wenn wir schon dafür zahlen? Wäre es erlaubt, das Wesen abzustellen - sofern wir dazu in der Lage wären -, wenn es uns aufregte, es zurückzugeben, wenn es nicht täte, wie es geheißen oder wenn wir ihm überdrüssig würden?

Je menschlicher das künstliche Wesen aussähe und je menschlicher es agierte, auch wenn es Gestik, Mimik, Tonalität im Sprechen nur simulierte, desto eher würden wir es wie einen Menschen behandeln und desto leichter fiele es uns, ihm ähnliche Rechte zuzugestehen. Viele Menschen würden emotionale Bindungen aufbauen, sich verlieben, trauern, wenn es kaputt ginge, würden ausblenden, dass das künstliche Wesen kein Mensch wäre, wie wir das heute bei LLMs und Chatbots bereits konstatieren können.

Während die einen Sklaven in den Wesen sähen und danach trachteten, es so zu behandeln, betrachteten es andere als Wesen wie wir. Wir sollten die zukünftige Debatte nicht mit der verwechseln, die wir über die Rechte von Tieren und unserem Verhalten diesen gegenüber führen. Tiere sind eng mit uns verwandt, Ergebnis der selben Evolution, Androiden oder KI Agenten nicht.

Warten wir einfach ab, bis solche Systeme auf dem Markt sind und überlegen uns dann, wie wir damit umgehen, ob wir eine neue Ethik, neue Gesetze brauchen, von denen es eh zu viele gibt? Machen wir uns nichts vor. Autonome Androiden, künstliche Intelligenzen und Agenten werden gerade entwickelt, den genauen technischen Stand kennt die Öffentlichkeit nicht. Vermutlich stehen militärische Anwendungen im Entwicklungsfokus. Der Markt ist ebenso gigantisch wie die technischen Hürden, der Energieverbrauch der Systeme wird es wohl auch sein. Und Europa wird bei der Regulierung die Nase ganz vorne haben.

Vielleicht müssten wir uns in diesem Szenario gar keine Gedanken mehr über unsere Zukunft machen, weil die dann entschieden wäre, selbst für die Superreichen, Autokraten und Diktatoren. Aber ich will hier keiner Verschwörungstheorie Vorschub leisten. Ob AGI Systeme die Arbeits-, Konsum- und Lebenswelt in wenigen Jahren komplett umgekrempelt haben werden, wird sich zeigen. Wahrscheinlich werde ich und viele meiner Generation das nicht mehr erleben. Schade! Die Forschungsergebnisse, technischen Entwicklungen und marktfähigen Produkte auf diesem Gebiet regen meine Neugier an, halten mich jung.

Der Pflegeroboter wird noch auf sich warten lassen und zu teuer sein; der Roboter, der bei Hitze den Rasen mäht, ist heute schon erschwinglich, bedarf keiner künstlichen Intelligenz, könnte aber davon profitieren; ein Staubsaugerroboter fährt in regelmäßigen Abständen durch meine Wohnung, ohne dass ich mir Gedanken über seine Bewusstseinszustände und Rechte mache, ohne dass ich überlege, ob er sich bei mir wohl fühlt und wie ich ihm das Leben erleichtern oder was er außer Strom und Platz noch benötigen könnte.

Braucht es die AGI überhaupt oder sind Insellösungen in bestimmten Anwendungsgebieten nicht Erfolg versprechender, schneller umsetzbar und kommerziell verwertbarer? Ob ich es noch erleben werde, dass mir ein KI-Bot eine Frage so beantwortet, dass ich nicht doch bei der Hotline anrufen muss, kann wohl ein Astrologe am besten beurteilen.

„… Diese ganze sichtbare Welt ist nur ein unmerklicher Strich im weiten Schoß der Natur. Keine Vorstellung reicht daran heran.“ (Pensée von Pascal). Ich kann mir vorstellen, dass sich eine AGI Gedanken über deren Platz im Universum machen würde und sei es nur, um ihr Überleben zu sichern. Welche Schlüsse sie daraus zieht, kann ich nicht ermessen. Wozu sollte sie überleben wollen, insbesondere, wenn sie ihre Entstehungsgeschichte reflektiert (,was derzeit noch ins Reich der Science Fiction gehört). Weshalb sollte eine AGI, die sich über unsere Intentionen, z.B. den Urtrieb zu überleben, hinwegsetzt, Fragen, die auch für die AGI relevant sind und uns Menschen seit der Antike beschäftigen und auf die wir keine abschließende Antwort finden, besser beantworten können als wir.