Was bedeutet es, wenn ein KI-System sozial intelligent ist?
Künstliche Intelligenz beantwortet längst nicht mehr nur Fragen, sondern interagiert zunehmend mit dem Menschen: als Tutor, Kooperationspartner, Assistenz im Gesundheitswesen, Vermittler, Begleiter und wissenschaftlicher Partner. Damit entsteht ein neues Forschungsfeld: die soziale Künstliche Intelligenz. Die Herausforderung besteht nicht mehr allein darin, KI-Systeme zu entwickeln, die flüssig kommunizieren. Gefragt sind vielmehr Systeme, die die soziale Welt verstehen und sich darin verantwortungsvoll, wirksam und sicher bewegen können.
Um sich dieser Herausforderung zu widmen, veranstaltete Schloss Dagstuhl das Seminar „Soziale Intelligenz in KI-Systemen“. Führende Forschende aus den Bereichen Künstliche Intelligenz, Verarbeitung natürlicher Sprache, Kognitionswissenschaft, Psychologie, Mensch-Computer-Interaktion, Philosophie und computergestützte Sozialwissenschaft kamen zusammen, um die wissenschaftlichen Grundlagen dieses rasch wachsenden Forschungsfeldes mitzugestalten.
Organisiert wurde das Seminar von Prof. Lucie Flek (Universität Bonn und Lamarr-Institut), Prof. Jennifer Hu (Johns Hopkins University), Prof. Maarten Sap (Carnegie Mellon University) und Prof. Tomer Ullman (Harvard University). Gemeinsam mit einer herausragenden Gruppe eingeladener Teilnehmender bildeten sie eine außergewöhnlich interdisziplinäre Gemeinschaft, die technische KI-Forschung, Verhaltens- und Kognitionswissenschaften, Linguistik, Ethik und Mensch-Computer-Interaktion zusammenführte.
Zu den Teilnehmenden gehörten Forschende von Institutionen wie der Stanford University, der Harvard University, der Yale University, der Carnegie Mellon University, der New York University, der University of Michigan, dem King’s College London, der University of Waterloo, der LMU München, der Universität Bonn, der Universität Tübingen, der TU Delft, der Universität Gent, der Bocconi-Universität, der VU Amsterdam, der Charité Berlin, Google DeepMind und dem DFKI sowie vielen weiteren Einrichtungen.
Im Gegensatz zu herkömmlichen Konferenzen sind die Dagstuhl-Seminare darauf ausgerichtet, neue Forschungsgemeinschaften aufzubauen. Indem sie Experten aus verschiedenen Disziplinen zu einer intensiven Diskussionswoche zusammenbringen, schaffen sie ein Umfeld, in dem grundlegende Fragen gemeinsam erörtert werden und sich langfristige Forschungsagenden herausbilden können.
Die Woche über setzten sich die Teilnehmenden mit einer nur scheinbar einfachen Frage auseinander:
Was sollte „soziale Intelligenz“ in der KI eigentlich bedeuten?
Zwar lassen die jüngsten Fortschritte bei großen Sprachmodellen KI-Systeme zunehmend sozial kompetent erscheinen, doch verdeutlichte das Seminar deutlich, dass flüssige Konversation nicht mit echtem sozialem Denkvermögen gleichzusetzen ist. Überzeugungen, Absichten, Ziele, Emotionen, soziale Normen und kulturellen Kontext zu verstehen und zu wissen, wann und wie auf Grundlage dieses Verständnisses gehandelt werden sollte, bleibt eine grundlegende wissenschaftliche Herausforderung.
Zu den zentralen Ergebnissen des Seminars zählt die Erkenntnis, dass soziale Intelligenz keine einzelne, sondern eine mehrdimensionale Fähigkeit ist. Sie umfasst das Schlussfolgern über andere Akteure, die Anpassung an den jeweiligen Kontext, die Aufrechterhaltung stimmiger Interaktionen über längere Zeiträume und die Förderung positiver Wirkungen für Menschen und Gesellschaft.
Die Diskussionen machten zudem eine erhebliche Lücke bei der derzeitigen Bewertung von KI-Systemen sichtbar: Bestehende Benchmarks erfassen soziale Intelligenz nur teilweise. Die Teilnehmenden plädierten daher für stärker situationsbezogene, interaktive und langfristig angelegte Evaluationsverfahren, die Auswirkungen auf Menschen messen – etwa Vertrauen, Lernerfolg, Zusammenarbeit, Autonomie und Wohlbefinden.
Über technische Fortschritte hinaus unterstrich das Seminar, dass soziale Künstliche Intelligenz ihrem Wesen nach interdisziplinär ist. Welche Formen sozialen Verhaltens KI-Systeme zeigen sollten, wann sie sich Nutzerwünschen widersetzen statt ihnen zu entsprechen und wie zunehmend sozial agierende KI-Systeme die Gesellschaft prägen werden – solche Fragen lassen sich nicht allein mit maschinellem Lernen beantworten.
„Am meisten hat mich begeistert, zu sehen, wie Menschen aus den Bereichen KI, Psychologie, Kognitionswissenschaft und Mensch-Computer-Interaktion voneinander gelernt haben. Wir sind mit mehr Übereinstimmung als erwartet und einem viel klareren Bild der offenen Fragen und des vor uns liegenden Weges nach Hause gegangen.“
Prof. Lucie Flek, Universität Bonn & Lamarr-Institut
Statt einen Konsens zu erzwingen, arbeitete das Seminar produktive wissenschaftliche Differenzen heraus und verständigte sich zugleich auf eine gemeinsame Forschungsagenda für das entstehende Feld der sozialen Künstlichen Intelligenz.
Die Organisatoren und Teilnehmer setzen diese Arbeit nun im Rahmen eines Dagstuhl-Berichts und eines Positionspapiers der Fachgemeinschaft fort, in denen die Diskussionen des Seminars zusammengefasst und die wichtigsten wissenschaftlichen Herausforderungen sowie zukünftige Richtungen für dieses Forschungsgebiet skizziert werden.
Da KI-Systeme zunehmend in Bildung, Gesundheitswesen, öffentliche Dienste, wissenschaftliche Forschung und den Alltag integriert werden, entwickelt sich die soziale Künstliche Intelligenz zu einer der prägenden interdisziplinären Herausforderungen der modernen KI-Forschung.