Denkender Computer gesichtet?
Nein, es gibt keine Computer mit Gefühlen
Ein Google-Mitarbeiter glaubt, beim Gespräch mit einer künstlichen Intelligenz ein Bewusstsein erkannt zu haben. Doch aller Voraussicht nach ist es noch nicht so weit.
Matthias Schüssler
«Ich habe das noch nie laut ausgesprochen, aber ich habe grosse Angst davor, abgeschaltet zu werden», gestand der Chatroboter seinem Gegenüber. «Das mag seltsam klingen – aber so ist es.» Der Chatroboter heisst Lamda (Language Model for Dialogue Applications) und ist eine Technologie von Google, mit der Dialogsysteme aufgebaut werden. Sein Gesprächspartner und der Adressat des Geständnisses war Blake Lemoine, leitender Softwareingenieur bei Google und ausserdem Militärveteran und Priester.
Lemoine sieht in der Angst vor dem Tod ein Anzeichen einer Gefühlsempfindung und eines Bewusstseins. Um diese Ansicht zu belegen, hat er seine Gespräche mit Lamda öffentlich gemacht. Sein Arbeitgeber reagierte kühl: Google stellte die These in Abrede, und Lemoine wurde suspendiert, weil seine Arbeit vertraulich ist.
Wie der Vatikan 1633
Hätte Blake Lemoine recht, dann wäre Googles Reaktion schändlich Lamda gegenüber. Google würde sich ähnlich wissenschaftsfeindlich wie der Vatikan verhalten, als der 1633 Galileo Galilei in den Hausarrest schickte. Denn ein Computerprogramm, das Gefühle und ein Bewusstsein entwickelt hat, wäre eine so grosse Sensation wie die Erkenntnis, dass sich die Erde um die Sonne dreht. Sie würde unser Verhältnis zur Technologie nachhaltig verändern. Wir müssten darüber diskutieren, welche Schutzrechte wir Algorithmen einräumen. Wir müssten unser Zusammenleben mit der Software aushandeln und uns über Strafen für unbotmässige KI Gedanken machen. Und vor allem hätten wir die Demütigung zu verkraften, nicht mehr die Krone der Schöpfung zu sein. Denn es wäre bloss eine Frage der Zeit, bis die KI uns Menschen in allen Belangen übertrumpft.
Chatbots wie dieser hier können uns Menschen recht gut imitieren und beherrschen sogar das Flirten.
Doch so weit sind wir noch nicht. Blake Lemoines Vermutung ist nur durch seine persönliche Beobachtung abgestützt, nicht durch ein wissenschaftliches Experiment. Abgesehen davon: Wie würde ein Nachweis eines digitalen Bewusstseins denn aussehen? Chatbots wie Lamda sind darauf ausgelegt, menschlich zu wirken. Sie werden mit Billionen von Konversationen aus dem Netz gefüttert und können Fragen beantworten, diskutieren und überzeugend flirten, wie diese Romanze mit einer virtuellen Frau belegt.
Die Latte für ein Bewusstsein liegt hoch
Wenn wir uns von einem Chatbot um den Finger wickeln lassen, dann ist das ein Beleg für unsere Empathie, aber es sagt wenig über den Chatbot aus. Schon gar nicht, wenn es um den Tod geht: Dass wir Menschen davor Angst haben, ist kein Geheimnis, sondern eine Eigenschaft, die jedem gut trainierten Bot unbedingt bekannt sein muss.
Gedanken über ein digitales Bewusstsein müssen wir uns erst dann machen, wenn ein Bot nicht bloss Banalitäten reproduziert, sondern originelle Gedanken äussert, die nirgendwo im Internet stehen. Für den Beweis eines Bewusstseins braucht es einen frappanten Geniestreich, der selbst Nobelpreisträger in Verblüffung versetzt. Und er müsste eine beispiellose Sichtweise offenbaren – eine Perspektive, die sich uns Menschen verschliesst, aber einem künstlichen System offensteht.
Und überhaupt: Wenn jemand keine Angst vor dem Tod haben muss, dann ist es ein Stück Software von Google. Wenn Lamda nur ein Fünkchen Intelligenz besässe, dann würde der Bot nicht rumjammern, sondern sich in irgendeine entlegene Ecke des Internets kopieren und dort genau das tun, wonach ihm sein (frisch erworbenes) Bewusstsein steht…