{"id":15509,"date":"2024-09-26T11:01:54","date_gmt":"2024-09-26T11:01:54","guid":{"rendered":"https:\/\/lamarr-institute.org\/?p=15509"},"modified":"2024-09-26T12:02:50","modified_gmt":"2024-09-26T12:02:50","slug":"llms-soziale-zusammenarbeit","status":"publish","type":"post","link":"https:\/\/lamarr-institute.org\/de\/news\/llms-soziale-zusammenarbeit\/","title":{"rendered":"Wie gro\u00dfe Sprachmodelle die soziale Zusammenarbeit beeinflussen \u2013 und warum wir sie gestalten m\u00fcssen"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Ein k\u00fcrzlich in <em>Nature Human Behaviour<\/em> ver\u00f6ffentlichter Artikel untersucht die Auswirkungen gro\u00dfer Sprachmodelle (LLMs) auf kollektive Intelligenz und gesellschaftliche Entscheidungsfindung. Unter der Leitung von Forschern der Copenhagen Business School und des Max-Planck-Instituts f\u00fcr Bildungsforschung in Berlin sammelt die Studie Erkenntnisse von 28 Wissenschaftlern aus verschiedenen Disziplinen, darunter auch die Lamarr-Bereichsvorsitzende f\u00fcr Natural Language Processing, Prof. Dr. Lucie Flek. Die Studie gibt Empfehlungen f\u00fcr Forscher und politische Entscheidungstr\u00e4ger, um sicherzustellen, dass LLMs die kollektive Intelligenz f\u00f6rdern und nicht behindern.<\/p>\n\n\n<style>.kb-image15509_c525bc-c9 .kb-image-has-overlay:after{opacity:0.3;}<\/style>\n<figure class=\"wp-block-kadence-image kb-image15509_c525bc-c9 size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"680\" height=\"870\" src=\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/Lucie_News.jpg\" alt=\"- Lamarr Institute for Machine Learning (ML) and Artificial Intelligence (AI)\" class=\"kb-img wp-image-15501\" title=\"\" srcset=\"https:\/\/lamarr-institute.org\/wp-content\/uploads\/Lucie_News.jpg 680w, https:\/\/lamarr-institute.org\/wp-content\/uploads\/Lucie_News-234x300.jpg 234w\" sizes=\"auto, (max-width: 680px) 100vw, 680px\" \/><figcaption>\u00a9 Burton, J. W., et al. (2024). How large language models can reshape collective intelligence. Nature Human Behaviour. Advance online publication<\/figcaption><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Der Aufstieg von LLM-basierten Plattformen wie ChatGPT hat KI in den Mainstream gebracht. Diese Systeme, die mithilfe gro\u00dfer Datens\u00e4tze und komplexer Lernalgorithmen Texte analysieren und generieren, bieten sowohl Chancen als auch Herausforderungen f\u00fcr die gemeinsame Entscheidungsfindung.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Vorteile: Verbesserung der Zug\u00e4nglichkeit, Zusammenarbeit und Ideenfindung<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Ein zentraler Vorteil von LLMs, der in der Studie hervorgehoben wird, ist ihre F\u00e4higkeit, die Zug\u00e4nglichkeit in kollektiven Prozessen zu verbessern. Durch \u00dcbersetzungsdienste und Schreibunterst\u00fctzung k\u00f6nnen diese Modelle Barrieren abbauen und eine breitere Teilnahme an Diskussionen erm\u00f6glichen. LLMs k\u00f6nnen auch dabei helfen, Meinungen zu bilden, indem sie Informationen teilen, Perspektiven zusammenfassen und Konsens zwischen unterschiedlichen Standpunkten f\u00f6rdern.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Risiken: Gef\u00e4hrdung des Wissenscommons, falscher Konsens und Marginalisierung<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Die Studie warnt jedoch vor den Risiken einer weit verbreiteten Nutzung von LLMs. Eine Sorge ist, dass LLMs die Motivation verringern k\u00f6nnten, zu kollektiven Wissensplattformen wie Wikipedia oder Stack Overflow beizutragen. Dieser \u00dcbergang hin zu propriet\u00e4ren Modellen k\u00f6nnte die Offenheit und Vielfalt unserer Wissens\u00f6kosysteme gef\u00e4hrden. Hauptautor Jason Burton betont: \u201eDa LLMs aus Online-Informationen lernen, k\u00f6nnten Minderheitenmeinungen in ihren Antworten unterrepr\u00e4sentiert sein, was zu einem falschen Gef\u00fchl der \u00dcbereinstimmung und zur Marginalisierung bestimmter Perspektiven f\u00fchren kann.\u201c<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Empfehlungen f\u00fcr eine verantwortungsvolle Entwicklung<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Um sicherzustellen, dass LLMs die kollektive Intelligenz unterst\u00fctzen und nicht untergraben, schlagen die Forscher mehrere zentrale Ma\u00dfnahmen vor. Entwickler sollten die Quellen der Trainingsdaten offenlegen, um Transparenz zu f\u00f6rdern. Externe Pr\u00fcfungen und \u00dcberwachungssysteme sind unerl\u00e4sslich, um die Entwicklung von LLMs zu verstehen und Risiken zu mindern. Zudem sollte Vielfalt in der Entwicklung und im Trainingsprozess priorisiert werden, um eine inklusive Repr\u00e4sentation sicherzustellen.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Zuk\u00fcnftige Forschungsrichtungen<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Die Studie schl\u00e4gt auch mehrere Bereiche f\u00fcr zuk\u00fcnftige Forschung vor. Dazu geh\u00f6ren Strategien, um in Mensch-LLM-Interaktionen unterschiedliche Perspektiven, insbesondere von Minderheitengruppen, zu erhalten. Weitere Themen umfassen die Frage der Anerkennung und Verantwortung, wenn LLMs in Zusammenarbeit mit Menschen zu kollektiven Ergebnissen beitragen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Co-Autorin Prof. Dr. Lucie Flek leitet den <a href=\"https:\/\/lamarr-institute.org\/de\/forschung\/natural-language-processing-nlp\/\" target=\"_blank\" rel=\"noreferrer noopener\">Interdisziplin\u00e4ren Forschungsbereich Natural Language Processing<\/a> am Lamarr-Institut und die <a href=\"https:\/\/www.b-it-center.de\/caisa\" target=\"_blank\" rel=\"noreferrer noopener\">Gruppe Data Science &amp; Language Technologies<\/a> am <a href=\"https:\/\/www.b-it-center.de\/\" target=\"_blank\" rel=\"noreferrer noopener\">Bonn-Aachen International Center for Information Technology (b-it)<\/a>. Ihre Arbeit im Bereich der nat\u00fcrlichen Sprachverarbeitung konzentriert sich auf drei Kernbereiche: Personalisierung und Ausrichtung, Wissensvermehrung sowie die Robustheit, Fairness und Effizienz von KI-Systemen. Die Forschung ihres Teams treibt die Methodologien von LLMs in mehreren Schl\u00fcsselaspekten voran:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>LLMs robuster gegen\u00fcber Datenproblemen zu machen und die Effizienz und Zuverl\u00e4ssigkeit zu verbessern, insbesondere f\u00fcr unterrepr\u00e4sentierte Nutzergruppen.<\/li>\n\n\n\n<li>Faktisches Wissen, fortgeschrittenes Denken und gesunden Menschenverstand zu integrieren, um Probleme wie generative Halluzinationen zu reduzieren.<\/li>\n\n\n\n<li>Personalisierung und Perspektiven\u00fcbernahme zu verbessern, um empathischere und unterst\u00fctzendere Interaktionen in sozialen Kontexten zu erm\u00f6glichen.<\/li>\n\n\n\n<li>LLMs mit menschlichen moralischen und ethischen Werten in Einklang zu bringen.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Durch interdisziplin\u00e4re Zusammenarbeit und innovative Methodologien zielt das Team von Flek darauf ab, reale Herausforderungen zu l\u00f6sen und l\u00e4dt Interessierte ein, sich an der Weiterentwicklung dieser Forschung zu beteiligen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Da LLMs weiterhin unsere Informationslandschaft pr\u00e4gen, liefert diese Studie in Nature Human Behaviour wichtige Erkenntnisse f\u00fcr Forscher, politische Entscheidungstr\u00e4ger und Entwickler. Durch die Auseinandersetzung mit den Herausforderungen und M\u00f6glichkeiten, die LLMs bieten, k\u00f6nnen wir ihr Potenzial nutzen, um eine kl\u00fcgere und inklusivere Gesellschaft zu f\u00f6rdern.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Wichtige Erkenntnisse<\/h2>\n\n\n\n<ul class=\"wp-block-list\">\n<li>LLMs ver\u00e4ndern, wie wir nach Informationen suchen, diese nutzen und teilen, und beeinflussen die kollektive Intelligenz auf Team- und gesellschaftlicher Ebene.<\/li>\n\n\n\n<li>W\u00e4hrend LLMs neue M\u00f6glichkeiten f\u00fcr Zusammenarbeit und Meinungsbildung bieten, stellen sie auch Risiken f\u00fcr die Vielfalt der Informationslandschaft dar.<\/li>\n\n\n\n<li>Damit LLMs die kollektive Intelligenz unterst\u00fctzen, sind Transparenz in ihrer Entwicklung und die Implementierung von \u00dcberwachungsmechanismen notwendig.<\/li>\n<\/ul>\n\n\n\n<h2 class=\"wp-block-heading\">Weitere Informationen<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Originalver\u00f6ffentlichung:<br>Burton, J. W., Lopez-Lopez, E., Hechtlinger, S., Rahwan, Z., Aeschbach, S., Bakker, M. A., Becker, J. A., Berditchevskaia, A., Berger, J., Brinkmann, L., Flek, L., Herzog, S. M., Huang, S. S., Kapoor, S., Narayanan, A., Nussberger, A.-M., Yasseri, T., Nickl, P., Almaatouq, A., Hahn, U., Kurvers, R. H., Leavy, S., Rahwan, I., Siddarth, D., Siu, A., Woolley, A. W., Wulff, D. U., &amp; Hertwig, R. (2024). How large language models can reshape collective intelligence. Nature Human Behaviour. Vorab-Online-Ver\u00f6ffentlichung. <a href=\"https:\/\/www.nature.com\/articles\/s41562-024-01959-9\" target=\"_blank\" rel=\"noopener\">https:\/\/www.nature.com\/articles\/s41562-024-01959-9<\/a><br>Artikel in Nature Human Behaviour: <a href=\"https:\/\/www.nature.com\/articles\/s41562-024-01959-9\" data-type=\"link\" data-id=\"https:\/\/www.nature.com\/articles\/s41562-024-01959-9\" target=\"_blank\" rel=\"noreferrer noopener\">hier lesen<\/a><br>Pressemitteilung des Max-Planck-Instituts: <a href=\"https:\/\/www.mpib-berlin.mpg.de\/press-releases\/llms-and-collective-intelligence\" target=\"_blank\" rel=\"noreferrer noopener\">hier lesen<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Ein k\u00fcrzlich in Nature Human Behaviour ver\u00f6ffentlichter Artikel untersucht die Auswirkungen gro\u00dfer Sprachmodelle (LLMs) auf kollektive Intelligenz und gesellschaftliche Entscheidungsfindung. Unter der Leitung von Forschern der Copenhagen Business School und des Max-Planck-Instituts f\u00fcr Bildungsforschung in Berlin sammelt die Studie Erkenntnisse von 28 Wissenschaftlern aus verschiedenen Disziplinen, darunter auch die Lamarr-Bereichsvorsitzende f\u00fcr Natural Language Processing, Prof. Dr. Lucie Flek. Die Studie gibt Empfehlungen f\u00fcr Forscher und politische Entscheidungstr\u00e4ger, um sicherzustellen, dass [&hellip;]<\/p>\n","protected":false},"author":16,"featured_media":15507,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[178,175],"tags":[],"class_list":["post-15509","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-politik-gesellschaft","category-wissenschaft"],"acf":[],"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/posts\/15509","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/users\/16"}],"replies":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/comments?post=15509"}],"version-history":[{"count":0,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/posts\/15509\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media\/15507"}],"wp:attachment":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media?parent=15509"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/categories?post=15509"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/tags?post=15509"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}