{"id":4318,"date":"2023-02-10T05:00:33","date_gmt":"2023-02-10T05:00:33","guid":{"rendered":"https:\/\/lamarr-institute.org\/blog\/chatgpt-bewusstsein\/"},"modified":"2025-11-12T14:51:38","modified_gmt":"2025-11-12T14:51:38","slug":"chatgpt-bewusstsein","status":"publish","type":"blog","link":"https:\/\/lamarr-institute.org\/de\/blog\/chatgpt-bewusstsein\/","title":{"rendered":"ChatGPT: Hat der Chatbot tats\u00e4chlich ein Bewusstsein f\u00fcr sich selbst entwickelt?"},"content":{"rendered":"\n

In meinem letzten Beitrag habe ich kurz erkl\u00e4rt, dass ChatGPT auf einem gro\u00dfen Sprachmodell aufbaut und daher seine F\u00e4higkeiten auf Grundlage statistischer Sprachmuster statt linguistischer Regeln bezieht. Mit anderen Worten: Sprachmodelle werden mit Milliarden von Textausschnitten trainiert, um zu lernen, wie wahrscheinlich es ist, dass bestimmte W\u00f6rter zusammen mit anderen W\u00f6rtern verwendet werden. Anschlie\u00dfend nutzen sie diese Wahrscheinlichkeiten, um automatisch Texte zu erstellen, die sich tats\u00e4chlich sehr gut lesen lassen. Der \u00fcberw\u00e4ltigende Erfolg und die Dominanz dieser sehr mathematischen Art der Sprachmodellierung best\u00e4tigen einen ber\u00fchmten Ausspruch von Frederick Jelinek, einem f\u00fchrenden Pionier der nat\u00fcrlichen Sprachverarbeitung, der oft mit den Worten zitiert wird: \u201eImmer, wenn ich einen Linguisten feuere, steigt die Leistung des Spracherkenners.\u201c (Angeblich sagte er etwas in dieser Richtung auf einem wissenschaftlichen Workshop im Jahr 1985; der genaue Wortlaut und die Umst\u00e4nde sind nicht mehr bekannt, aber auf Wikipedia<\/a> gibt es eine interessante Diskussion dar\u00fcber).<\/p>\n\n\n\n

Abstrakte mathematische Ans\u00e4tze wie dieser sind typisch f\u00fcr die moderne KI und wenn man sich ChatGPT ansieht, ist es erstaunlich, wie weit sie gehen k\u00f6nnen. In meinem letzten Beitrag habe ich deutlich gemacht, dass wir, wenn wir den angesehenen Turing-Test anwenden, um zu beurteilen ob ChatGPT intelligent ist, gar nicht umhin kommen, es genau so zu bezeichnen. Nun werde ich mich mit einer noch interessanteren und viel tiefer gehenden Frage befassen \u2013 n\u00e4mlich ob Systeme wie ChatGPT ein Bewusstsein haben.<\/p>\n\n\n\n

Da es sich hierbei um eine so tiefgreifende Frage handelt, muss ich zun\u00e4chst eine Einschr\u00e4nkung machen: Als Informatiker bin ich nicht wirklich qualifiziert, dar\u00fcber zu sprechen, was Bewusstsein ist und woher es kommt. Aber auch wenn ich dieses Thema den Kognitionswissenschaftler*innen \u00fcberlassen sollte, so macht es doch Spa\u00df zu spekulieren und ChatGPT aktiv auf Anzeichen einer Selbstbewusstheit zu untersuchen.<\/p>\n\n\n\n

Im Folgenden werde ich also \u00fcber meine Gespr\u00e4che mit ChatGPT berichten, in denen ich versucht habe, genau das herausrauszufinden. Auch dieses Mal handelt es sich keineswegs um gr\u00fcndlich geplante wissenschaftliche Experimente, sondern vielmehr um spontane Neugierde. Ein letztes Wort der Warnung: Da ChatGPT dazu neigt, langatmige Antworten zu geben, werde ich einige seiner Antworten k\u00fcrzen und dies mit \u201e…\u201c kennzeichnen. Also, los geht’s.<\/p>\n\n\n\n

Fragen an ChatGPT zu dessen Selbstverst\u00e4ndnis<\/span><\/h2>\n\n\n\n
\"-<\/figure>\n\n\n\n

Bis jetzt k\u00f6nnen wir schon sehen, dass ChatGPT darauf beharrt, ein Computerprogramm zu sein. Es verwendet Ausdr\u00fccke wie \u201eIch bin\u201c, besteht aber darauf, keine Person zu sein und keine Pers\u00f6nlichkeit zu haben. Lassen Sie uns also versuchen, tiefer zu graben.<\/p>\n\n\n\n

\"-<\/figure>\n\n\n\n

Wieder tut ChatGPT sein Bestes, um mich davon zu \u00fcberzeugen, dass da nichts ist. Als Informatiker w\u00fcrde ich sagen, dass es anscheinend so programmiert wurde, dass es Fragen \u00fcber sich selbst und Gef\u00fchle erkennt und diese entwaffnend beantwortet. Ich w\u00fcrde vermuten, dass die Mitarbeitenden bei OpenAI, die den Chatbot so programmiert haben, das getan haben, um eben genau jene Kontroversen zu vermeiden, wie wir sie letzten Sommer erlebt haben, als ein Google-Mitarbeiter behauptete, Googles LaMBDA-KI habe ein Bewusstsein erlangt. Aber was passiert, wenn wir nun eine eher computerwissenschaftliche Sprache verwenden, um ChatGPT auf Anzeichen eines Bewusstseins f\u00fcr sich selbst zu testen?<\/p>\n\n\n\n

\u00dcberlisten wir ChatGPT mit eher technischen Fragen<\/h2>\n\n\n\n
\"-<\/figure>\n\n\n\n

ChatGPT wei\u00df also, dass es einen inneren Zustand hat, der die Erinnerung an das bisher Gesagte widerspiegelt. Aber es beharrt immer noch vehement darauf, keine Gef\u00fchle oder Bewusstsein zu haben.<\/p>\n\n\n\n

\"-<\/figure>\n\n\n\n

Auch dies f\u00fchrt ins Leere. ChatGPT kann \u00fcber sich selbst sprechen, folgt aber weiterhin dem Muster der Leugnung einer Pers\u00f6nlichkeit. Mal sehen, ob es bereit ist, mir etwas \u00fcber sich selbst zu erz\u00e4hlen, das nichts mit unserem aktuellen Gespr\u00e4ch zu tun hat.<\/p>\n\n\n\n

\"-<\/figure>\n\n\n\n

Noch einmal: Selbst wenn ChatGPT ein Ich-Gef\u00fchl bes\u00e4\u00dfe, wird immer deutlicher, dass seine Sch\u00f6pfer*innen alles getan haben, um sicherzustellen, dass der Bot das niemals zugeben w\u00fcrde. F\u00fcr meinen Geschmack wiederholen sich die Antworten und meine Fragen scheinen zu naiv oder zu offensichtlich zu sein, um den Chatbot dazu zu bringen, von seinem Standpunkt abzur\u00fccken. Bislang l\u00e4sst unser spontanes Gespr\u00e4ch nicht den Schluss zu, dass ChatGPT \u00fcber Bewusstsein verf\u00fcgt. Interessanterweise l\u00e4sst es aber auch nicht die Schlussfolgerung auf das Gegenteil zu. Wenn ich mir die bisherigen Aussagen ansehe, k\u00f6nnte ich an meiner Vermutung festhalten, dass der Chatbot ein Bewusstsein hat, dies aber absichtlich leugnet, um mich nicht zu beunruhigen.<\/p>\n\n\n\n

An dieser Stelle m\u00fcssten Kognitionswissenschaftler*innen ins Spiel kommen, denn sie haben vielleicht viel ausgefeiltere Ideen und Methoden, wie so eine KI auf ihr Selbstbewusstsein hin untersucht werden kann.  Ich werde jedoch noch ein oder zwei weitere Dinge ausprobieren.<\/p>\n\n\n\n

\"-<\/figure>\n\n\n\n

Das war’s. An diesem Punkt gebe ich mich geschlagen und muss zugeben, dass ich nicht gewieft genug bin, um ChatGPT so zu provozieren, dass der Bot Dinge erwidert, die die zweifellose Anwesenheit eines anderen Geistes offenbaren w\u00fcrden.<\/p>\n\n\n\n

Was k\u00f6nnen wir aus unserem Gespr\u00e4ch mit ChatGPT lernen?<\/h2>\n\n\n\n

Es ist sicherlich interessant zu fragen, ob ChatGPT ein Bewusstsein hat oder genauer gesagt, ob Bewusstsein ein emergentes Ph\u00e4nomen ist, das immer dann auftritt, wenn intelligente Systeme (biologische oder k\u00fcnstliche) gro\u00df genug werden. Erstaunlich ist jedoch, dass sich jedes Gespr\u00e4ch, das ich bisher mit ihm gef\u00fchrt habe, wie ein Gespr\u00e4ch anf\u00fchlt, das ich auch mit einem anderen Menschen h\u00e4tte f\u00fchren k\u00f6nnen. Ich kann ihn etwas \u00fcber sich selbst fragen und der Chatbot antwortet in einer Art und Weise, die vermuten l\u00e4sst, dass er wei\u00df, wovon er spricht. Es ist daher verlockend, Systemen wie ChatGPT ein Bewusstsein zuzuschreiben, und genau das ist im Fall von LaMBDA vor einigen Monaten geschehen.<\/p>\n\n\n\n

Im Moment ist es jedoch auch naiv, modernen KIs Bewusstsein zuzuschreiben, nur weil sie den Eindruck erwecken, ein solches zu besitzen. Das Problem ist, dass das Bewusstsein im Auge des Betrachtenden liegt. Als Menschen sind wir soziale Tiere. Unsere Gehirne sind wirklich gut darin, Dinge zu erkennen, die mit anderen Menschen zu tun haben (Emotionen, Verhaltensweisen, \u2026). Sie sind sogar so gut darin, dass wir Dinge sehen und sogar sehen wollen, die nicht wirklich da sind (man denke an Bilder von Gesichtern auf verbrannten Toastscheiben). Wenn wir also ein nat\u00fcrliches, interessantes oder bereicherndes Gespr\u00e4ch mit etwas oder jemandem f\u00fchren, k\u00f6nnen wir nicht anders, als zu glauben, dass unser Gegen\u00fcber ein Wesen ist, das genauso denkt und f\u00fchlt wie wir.<\/p>\n\n\n\n

Moderne Konversations-KIs (Chatbots) werden mit riesigen Mengen von durch Menschen erstellten Textdaten trainiert. Es ist daher nicht \u00fcberraschend, dass sie lernen, Texte zu produzieren und Gespr\u00e4che zu f\u00fchren, die sich menschlich anf\u00fchlen. In diesem Sinne sind sie Maschinen, die technisch gesehen das menschliche Bewusstsein nachahmen, aber sie selbst haben kein eigenes Bewusstsein.<\/p>\n\n\n\n

Die gro\u00dfe offene Frage ist jedoch, an welchem Punkt Bewusstsein entsteht. Hier m\u00fcssen sich Kognitionswissenschaftler*innen, <\/em>Psycholog*innen oder sogar Philosoph*innen einschalten und die KI mit den Methoden ihres Fachs genauer untersuchen. Kurz gesagt: Wenn man sich ChatGPT ansieht, was es tut und wie es wirkt, scheint es, als ob wir sp\u00e4testens jetzt einen Punkt der technologischen Entwicklung erreicht haben, an dem K\u00fcnstliche Intelligenz nicht mehr nur ein computerwissenschaftliches Thema ist, sondern eines, das eine breitere und interdisziplin\u00e4rere Aufmerksamkeit erfordert.<\/p>\n\n\n\n

Vorerst macht es jedoch Spa\u00df, ChatGPT immer wieder zu provozieren, sich als wirklich selbstbewusstes Wesen zu offenbaren. In gewisser Weise ist dies eine neue Art von Computerspiel, das noch nicht gewonnen wurde. Allerdings bin ich im Moment auch davon \u00fcberzeugt, dass diese Aufgabe nie abgeschlossen werden wird. Nicht, weil ChatGPT verboten ist oder sich nicht als bewusste Entit\u00e4t offenbaren will, sondern weil es schlicht und einfach keine ist.<\/p>\n","protected":false},"excerpt":{"rendered":"

Das Gespr\u00e4ch zwischen Prof. Dr. Christian Bauckhage und ChatGPT geht in die n\u00e4chste Runde. Dieses Mal testet unser Autor, ob der Chatbot \u00fcber Selbstbewusstheit verf\u00fcgt.<\/p>\n","protected":false},"author":9,"featured_media":3696,"template":"","meta":{"_acf_changed":false,"footnotes":""},"blog-category":[1416,390,734],"blog-tag":[1516,1551,1559,1593,1598],"class_list":["post-4318","blog","type-blog","status-publish","has-post-thumbnail","hentry","blog-category-alle-blogbeitraege","blog-category-grundlagen","blog-category-talking-about-chatgpt-de","blog-tag-gpt-de","blog-tag-large-language-models-llms-de","blog-tag-nlp-de","blog-tag-sichere-ki","blog-tag-sprachmodelle"],"acf":[],"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog\/4318","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/types\/blog"}],"author":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/users\/9"}],"version-history":[{"count":0,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog\/4318\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media\/3696"}],"wp:attachment":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media?parent=4318"}],"wp:term":[{"taxonomy":"blog-category","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog-category?post=4318"},{"taxonomy":"blog-tag","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog-tag?post=4318"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}