![\"-](\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/\/ChatGPT_5_Chat1-1-1-1024x245.png\" "\\"\\"")
<\/figure>\n\n\n\nDa haben wir es wieder. Schon bei einer der ersten Interaktionen, die ich mit dem Chatbot hatte, wirkte er ziemlich gespr\u00e4chig und \u00fcberm\u00e4\u00dfig darauf erpicht, zu beeindrucken. Aber wie detailliert ist sein Wissen \u00fcber Quantencomputing?<\/p>\n\n\n\n Das ist am\u00fcsant! Ich habe nach einem Diagramm gefragt und was ich bekommen habe, liest sich wie die Bildunterschrift einer wissenschaftlichen Illustration. Das deutet wieder einmal darauf hin, dass ChatGPT mit vielen wissenschaftlichen Abhandlungen und Lehrtexten trainiert wurde und daher Antworten produziert, wie man sie in solchen Quellen finden w\u00fcrde. Ich war allerdings in keiner Weise entt\u00e4uscht. Zum einen wusste ich, dass ChatGPT keine Bilder zeichnen kann. Ich mache ihm das nicht zum Vorwurf, denn Bilder zu zeichnen ist nicht seine Aufgabe. In der Tat gehe ich davon aus, dass ChatGPT, wenn es mit bildgebenden KIs wie DALLE-2 gekoppelt w\u00e4re, kein Problem h\u00e4tte, auch Bilder zu erzeugen. Zum anderen enth\u00e4lt die Antwort, die ich bekommen habe, auf den ersten Blick alle relevanten Schlagw\u00f6rter und scheint daher intuitiv richtig zu sein. Aber kann ChatGPT noch mehr? Kann es eine Antwort generieren, die \u00fcber eine scheinbar ad\u00e4quate Bild-Beschriftung hinausgeht?<\/p>\n\n\n\n ]Jetzt war ich tats\u00e4chlich beeindruckt! ChatGPT hat hier Python-Code mit Methoden aus der qiskit-Bibliothek von IBM erzeugt, einem beliebten Tool zum Implementieren und Testen von Quantenalgorithmen. Au\u00dferdem sieht der erzeugte Code wirklich so aus, als h\u00e4tte eine menschliche<\/em>r Expert*in die Ideen aus der vorherigen Antwort des Chatbots programmiert.<\/p>\n\n\n\n Was wir hier sehen, ist also ein Beispiel f\u00fcr die F\u00e4higkeit von ChatGPT zu programmieren! Dies ist eine der Funktionen, die im Internet f\u00fcr Aufregung gesorgt haben und die Bef\u00fcrchtung aufkommen lie\u00dfen, dass K\u00fcnstliche Intelligenz den Beruf des Programmierenden \u00fcberfl\u00fcssig machen wird.<\/p>\n\n\n\n Allerdings gibt es einen gro\u00dfen Vorbehalt! Ich war von dieser Wendung des Gespr\u00e4chs so beeindruckt, dass ich gar nicht gemerkt habe, dass die Antworten, die ich erhalten hatte, v\u00f6lliger Unsinn waren. Diese Erkenntnis kam erst zwei Wochen sp\u00e4ter, als ich einen wissenschaftlichen Vortrag \u00fcber aktuelle Entwicklungen in der KI vorbereitete. Erst als ich den obigen Code auf meine Folien kopierte und sorgf\u00e4ltig durchlas, wurde mir klar, dass er keineswegs die logische AND-Verkn\u00fcpfung von zwei Quantenbits berechnet. Auf den ersten Blick sieht es passend aus, aber bei n\u00e4herer Betrachtung ist es das absolut nicht. Schlimmer noch: einige der Kommentare im Code sind irref\u00fchrend und geben nicht korrekt wieder, was gemacht wird.<\/p>\n\n\n\n Was k\u00f6nnen wir also daraus lernen? Obwohl ich selbst im Feld der K\u00fcnstlichen Intelligenz arbeite und regelm\u00e4\u00dfig Qiskit-Code schreibe, habe ich mich von ChatGPTs Zuversicht und scheinbarer Expertise t\u00e4uschen lassen. Das ist zwar peinlich, aber ich habe letztlich eingesehen, dass ich get\u00e4uscht worden war. Aber w\u00fcrden Studierende, die ChatGPT f\u00fcr ihre Hausaufgaben nutzen, das auch bemerken? Was ist mit Hobby-Investor*innen, die ChatGPT als Finanzberatung nutzen? Ich wei\u00df es zwar nicht, w\u00fcrde es aber bezweifeln. In der kurzen Zeit, seitdem ChatGPT ver\u00f6ffentlicht wurde, habe ich zum Beispiel schon viele YouTube-Videos gesehen, in denen Leute etwas sagten wie „die KI hat mir gesagt, dass \u2026“ und die dabei die G\u00fcltigkeit dessen, was ihnen gesagt wurde, nicht zu hinterfragen schienen.<\/p>\n\n\n\n Dies macht deutlich, wie wichtig die Art von Forschung ist, die wir am Lamarr-Institut<\/a> betreiben. Zun\u00e4chst einmal ist die Vertrauensw\u00fcrdigkeit von KI ein offensichtlich wachsendes Anliegen und unsere Wissenschaftler*innen arbeiten in interdisziplin\u00e4ren Teams, um Erfassung, Speicherung, Zugriff, Abfrage, Vorbereitung, Modellierung und Anwendung von Daten zu untersuchen und Systeme zu entwickeln, deren Ergebnisse zuverl\u00e4ssig sind.<\/p>\n\n\n\n Des Weiteren m\u00f6chte ich noch einmal betonen, dass ChatGPT nur ein gro\u00dfes Sprachmodell ist, das nie speziell daf\u00fcr entwickelt wurde, die Fragen von Menschen zuverl\u00e4ssig zu beantworten. Tats\u00e4chlich hat Sam Altman, der CEO von OpenAI, kurz nach der Ver\u00f6ffentlichung von ChatGPT in einem Tweet<\/a> explizit darauf hingewiesen.<\/p>\n\n\n\n Bedeutet das, dass KI-Systeme wie ChatGPT niemals zuverl\u00e4ssig sein werden? Nein, das tut es sehr wahrscheinlich nicht! Im Gegenteil, f\u00fcr Expert*innen ist es eher offensichtlich, wie die derzeitigen Grenzen in Hinblick auf die Zuverl\u00e4ssigkeit \u00fcberwunden werden k\u00f6nnen. So ver\u00f6ffentlichte Stephen Wolfram<\/a> im Januar 2023 einen viel beachteten Blogbeitrag<\/a>, in dem er Ideen skizzierte, wie datengesteuerte Sprachmodelle in wissensgesteuerte Inferenzmaschinen integriert werden k\u00f6nnen.<\/p>\n\n\n\n![\"-](\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/\/ChatGPT_5_Chat2-1-1-1024x246.png\" "\\"\\"")
<\/figure>\n\n\n\n![\"-](\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/\/ChatGPT_5_Chat2-2-1024x714.png\" "\\"\\"")
<\/figure>\n\n\n\n