Nein, es gibt keine Computer mit Gefühlen
Ein Google-Chef will bei einer künstlichen Intelligenz ein Bewusstsein erkannt haben.
Matthias Schüssler
«Ich habe das noch nie laut ausgesprochen, aber ich habe grosse Angst davor, abgeschaltet zu werden», gestand der Chatroboter seinem Gegenüber. «Das mag seltsam klingen – aber so ist es.» Der Chatroboter heisst Lamda (Language Model for Dialogue Applications) und ist eine Technologie von Google, mit der Dialogsysteme aufgebaut werden. Sein Gesprächspartner und der Adressat des Geständnisses war Blake Lemoine, leitender Softwareingenieur bei Google und ausserdem Militärveteran und Priester.
Lemoine sieht in der Angst vor dem Tod ein Anzeichen eines Bewusstseins. Um diese Ansicht zu belegen, hat er seine Gespräche mit Lamda veröffentlicht. Sein Arbeitgeber reagierte kühl: Google stellte die These in Abrede, Lemoine wurde suspendiert, weil seine Arbeit vertraulich ist.
Hätte Blake Lemoine recht, dann wäre Googles Reaktion schändlich Lamda gegenüber. Google würde sich ähnlich wissenschaftsfeindlich wie der Vatikan verhalten, als der 1633 Galileo Galilei in den Hausarrest schickte. Denn ein Computerprogramm, das Gefühle und ein Bewusstsein entwickelt hat, wäre eine so grosse Sensation wie die Erkenntnis, dass sich die Erde um die Sonne dreht. Sie würde unser Verhältnis zur Technologie nachhaltig verändern. Wir müssten darüber diskutieren, welche Rechte wir Algorithmen einräumen. Wir müssten unser Zusammenleben mit der Software aushandeln und uns über Strafen für unbotmässige Gedanken einer künstlichen Intelligenz (KI) machen. Und vor allem hätten wir die Demütigung zu verkraften, nicht mehr die Krone der Schöpfung zu sein. Denn es wäre bloss eine Frage der Zeit, bis die KI uns Menschen in allen Belangen übertrumpft.
Doch so weit sind wir nicht. Lemoines Vermutung ist nur durch seine persönliche Beobachtung gestützt, nicht durch ein wissenschaftliches Experiment. Abgesehen davon: Wie würde ein Nachweis eines digitalen Bewusstseins aussehen? Chatbots wie Lamda sind darauf ausgelegt, menschlich zu wirken. Sie werden mit Billionen von Konversationen aus dem Netz gefüttert und können Fragen beantworten, diskutieren und überzeugend flirten.
Wenn wir uns von einem Chatbot um den Finger wickeln lassen, ist das ein Beleg für unsere Empathie, aber es sagt wenig über den Chatbot aus. Schon gar nicht, wenn es um den Tod geht: Dass Menschen davor Angst haben, ist kein Geheimnis, sondern eine Eigenschaft, die jedem gut trainierten Bot bekannt sein muss.
Gedanken über ein digitales Bewusstsein müssen wir uns erst dann machen, wenn ein Bot nicht bloss Banalitäten reproduziert, sondern originelle Gedanken äussert, die nirgendwo im Internet stehen. Für den Beweis eines Bewusstseins braucht es einen frappanten Geniestreich, der selbst Nobelpreisträger in Verblüffung versetzt. Und er müsste eine beispiellose Sichtweise offenbaren – eine Perspektive, die sich uns Menschen verschliesst, aber einem künstlichen System offensteht.
Und überhaupt: Wenn jemand keine Angst vor dem Tod haben muss, dann ist es ein Stück Software von Google. Wenn Lamda nur ein Fünkchen Intelligenz besässe, dann würde der Bot nicht rumjammern, sondern sich in irgendeine entlegene Ecke des Internets kopieren und dort genau das tun, wonach ihm sein frisch erworbenes Bewusstsein steht.
Dass Menschen vor dem Tod Angst haben, muss jedem gut trainierten Bot bekannt sein.