432 unsere jugend, 77. Jg., S. 432 - 442 (2025) DOI 10.2378/ uj2025.art52d © Ernst Reinhardt Verlag „Mitreden, Mitgestalten“: Digitale Partizipation in der KI-Entwicklung für die Kinder- und Jugendhilfe Digitale Partizipation ist mehr als ein Schlagwort: Sie ist ein zentraler Erfolgsfaktor für die Entwicklung KI-gestützter Anwendungen in der Kinder- und Jugendhilfe. Der Beitrag beleuchtet Konzepte, Methoden und Praxisbeispiele, die Partizipation von Fachkräften und Adressat: innen systematisch verankern. von Mara Stieler Jg. 1996; Therapeutische Soziale Arbeit M. A., zertifizierte Onlineberaterin, Wissenschaftliche Mitarbeiterin am Institut für E-Beratung der Technischen Hochschule Nürnberg Georg Simon Ohm Aleksandra Poltermann Jg. 1986; Soziologie M. A., zertifizierte Onlineberaterin, Wissenschaftliche Mitarbeiterin am Institut für E-Beratung der Technischen Hochschule Nürnberg Georg Simon Ohm Jennifer Burghardt Jg. 1985; Soziale Arbeit M. A., Wissenschaftliche Mitarbeiterin am Institut für E-Beratung der Technischen Hochschule Nürnberg Georg Simon Ohm Robert Lehmann Jg. 1978; Dipl.-Soz.päd. (FH), Dr. phil., Professor für Theorien und Handlungslehre der Sozialen Arbeit und akademischer Leiter des Instituts für E-Beratung an der Technischen Hochschule Nürnberg Georg Simon Ohm Einführung Das Institut für E-Beratung der Technischen Hochschule Nürnberg Georg Simon Ohm (IEB) wurde gegründet, um digitale Beratungsprozesse wissenschaftlich zu untersuchen und die methodischen Zugänge der Onlineberatung weiterzuentwickeln. Dabei stand von Beginn an die zentrale Frage im Raum, wie sich pädagogische Beratung sinnvoll in digitale Kontexte überführen lässt. Neben methodischen Aspekten spielt dabei die technische Infrastruktur - insbesondere die eingesetzte Software - eine ebenso zentrale Rolle. Bereits bei der Entwicklung klassischer Onlineberatungssoftware zeigte sich: Ein kooperativer, partizipativer Entwicklungsprozess ist keine Option, sondern eine notwendige Grundlage für gelingende Digitalisierung von Beratungsprozessen (Reindl 2018). Ausgehend von der Onlineberatung wird am IEB bereits seit 2019 in unterschiedlichen Projekten zu den Einsatzmöglichkeiten von KI in Bereichen der Sozialen Arbeit geforscht (Ghanem et al. 2021). Dabei wurde schnell deutlich, welches enorme Potenzial diese neue Technologie sowohl im Feld der Onlineberatung (Grandeit et al. 2020), als auch für komplexe 433 uj 10 | 2025 Digitale Partizipation in der KI-Entwicklung Handlungsfelder wie die Einschätzung von Kindeswohlgefährdungen bietet (Burghardt et al. 2024). In allen Projekten zeigt sich, dass eine intensive und sowohl methodisch als auch technisch sinnvoll ausgestaltete partizipative Entwicklung von KI-Anwendungen eine zentrale Grundlage für einen erfolgreichen Einsatz darstellt. Das IEB entwickelte hierzu eine strukturierte Systematik der Stakeholder-Interaktion, die im Folgenden dargestellt wird. Der Beitrag gliedert sich in drei Teile: Zunächst werden theoretische Grundlagen, Zielgruppen und zentrale Anforderungen partizipativer KI- Entwicklung in der Sozialen Arbeit dargestellt. Im zweiten Teil folgen Praxisbeispiele, die unterschiedliche Formen und Methoden partizipativer KI-Gestaltung veranschaulichen. Abschließend folgt eine kritische Reflexion zur ethischen Dimension von Partizipation, die insbesondere Fragen der Repräsentation und epistemischen (Un-)Gerechtigkeit in den Mittelpunkt rückt. 1. Grundlagen Der Einsatz von KI in der Sozialen Arbeit verändert das Soziale in zweierlei Hinsicht: „Einerseits verändert KI soziale Ungleichheit und steht so im Spannungsfeld zu Forderungen nach Inklusion und Teilhabe. Andererseits wiederholen sich diskriminierende Muster innerhalb von KI- Technologien” (Raab 2024, 265), weshalb das Spannungsfeld von möglichen unerwünschten Verzerrungen (Bias) nicht außer Acht gelassen werden sollte: Die vermeintliche Objektivität der KI speist sich aus der Subjektivität der Menschen und der zugrunde liegenden Daten. KI-Entwicklungen in der Sozialen Arbeit im Allgemeinen - und in der Kinder- und Jugendhilfe im Speziellen - erfordern daher sowohl die Einbindung sozialpädagogischer Fachexpertise als auch die der Adressat: innen der Sozialen Arbeit. Nur durch ihre frühzeitige und systematische Einbindung lassen sich technische Lösungen an den tatsächlichen Bedürfnissen der Zielgruppen ausrichten. Sofern „Partizipation und Teilhabe durch Betroffenengruppen keinen systematischen Platz in der KI-Entwicklung [erhält,] leidet die Praxistauglichkeit“ (Raab 2024, 270). 1.1 Zielgruppen Für eine erfolgreiche partizipative KI-Entwicklung in der Sozialen Arbeit ist die systematische Einbindung von sozialpädagogischen Fachkräften und Adressat: innen erforderlich, um fachliches Know-how mit lebensweltlicher Erfahrung zu verknüpfen. Die Partizipation sozialpädagogischer Fachkräfte stellt nicht nur sicher, dass ihr Wissen über die Lebenswelten von Familien, Kindern und Jugendlichen in die Entwicklung von KI- Anwendungen einfließt - sie übernehmen zudem eine zentrale Vermittlungsrolle zwischen technischer Innovation und sozialpädagogischer Praxis. Indem sie Anforderungen aus der Praxis formulieren, tragen sie maßgeblich dazu bei, dass KI-Lösungen praxisrelevante Fragestellungen adressieren. Ihre Fachexpertise ist entscheidend, damit ethische Grundsätze und gesetzliche Vorgaben der Sozialen Arbeit beachtet und Risiken wie Datenschutzverletzungen, algorithmische Diskriminierung oder die Entmenschlichung professioneller Beziehungen frühzeitig erkannt werden. Fachkräfte tragen damit zur Qualitätssicherung und Wirksamkeit von KI-Entwicklungen bei und schaffen die Voraussetzungen für die Akzeptanz gegenüber dem Einsatz von KI-Anwendungen. Nur so können auch generelle Ängste abgebaut und Vertrauen in die neuen Technologien geschaffen werden. Dies ist insbesondere vor dem Hintergrund der sogenannten„Computer Anxiety“ - also der Angst oder Unsicherheit im Umgang mit Computertechnologien - von Bedeutung, die zu einer Ablehnung innovativer technischer Lösungen führen kann (Igbaria/ Parasuraman 1989). 434 uj 10 | 2025 Digitale Partizipation in der KI-Entwicklung Partizipation von Adressat: innen der Sozialen Arbeit und Bildung bezeichnet deren aktive und bewusste Einbindung in Entscheidungsprozesse und umfasst vielfältige Formen der Beteiligung wie Teilnahme, Mitwirkung, Mitbestimmung bis hin zur Selbstorganisation und Koproduzentenschaft (Gintzel 2013, 650). Dabei geht es nicht nur um das Einholen ihrer Meinungen, sondern um die Anerkennung ihres Erfahrungswissens als gleichwertige Wissensquelle neben professionellem Fachwissen. Im Kontext von KI-Entwicklung trägt die partizipative Einbindung von Fachkräften dazu bei, Schwellenängste abzubauen, Selbstwirksamkeit zu fördern und die Akzeptanz sowie die Nutzungsbereitschaft technischer Innovationen zu erhöhen. Die aktive Einbindung von marginalisierten Zielgruppen trägt zudem dazu bei, Exklusionsmechanismen zu reduzieren. Damit wird Partizipation zum Schlüssel für die nachhaltige Implementierung von KI-Systemen in der Kinder- und Jugendhilfe. 1.2 Anforderungen Der partizipative Ansatz kann je nach Zielsetzung und Projektphase unterschiedliche Formen und Intensitätsstufen annehmen. Lippa und Feichtenbeiner (2020) differenzieren hierzu drei Stufen: Information, Konsultation und Kooperation/ Mitbestimmung. Information dient der Herstellung von Transparenz und ist Voraussetzung für weitergehende Beteiligung, etwa durch Webseiten oder Newsletter. Konsultation ermöglicht es Akteur: innen, Bedarfe und Ideen einzubringen, z. B. über Onlinebefragungen oder digitale Pinnwände. Die Kooperation bzw. Mitbestimmung geht darüber hinaus und bezieht Beteiligte aktiv in Entscheidungen ein, beispielsweise in Form inklusiver Projektteams oder kollaborativer Online-Workshops. In der Entwicklung von KI-Anwendungen sollte die Einbindung über die Testung des Endprodukts hinausgehen und mit der Erhebung der Anforderungen beginnen (Raab 2024, 283). Nutzer: innen sollten nicht nur Empfänger: innen von Maßnahmen sein, sondern als Mitgestaltende in Planung, Umsetzung und Evaluation sozialer Angebote auftreten. Diese Form der Beteiligung verfolgt das Ziel, Dienstleistungen (bedarfs)gerechter und inklusiver zu gestalten und dabei auch demokratische und emanzipatorische Prinzipien umzusetzen (Schön 2015). Eine zentrale Anforderung stellen dabei die ethischen Aspekte dar, die in sämtlichen Phasen partizipativer Forschungsprozesse konsequent zu berücksichtigen sind. Balthasar et al. (2021) formulieren grundlegende Leitlinien, dazu zählen insbesondere: transparente Information der Teilnehmenden über Ziel, Umfang und Nutzung der Daten, freiwillige und informierte Einwilligung, Recht auf Abbruch ohne Nachteile sowie Datensparsamkeit und Anonymisierung. Eine weitere Anforderung liegt im Ansatz der menschzentrierten Gestaltung, auch als Human-Centered Design (HCD) bezeichnet. Er stellt sicher, dass interaktive KI Systeme nicht nur funktional, sondern auch gebrauchstauglich, zugänglich und emotional ansprechend gestaltet sind und somit die Alltagstauglichkeit sowie die Akzeptanz durch die Zielgruppen fördern (Diefenbach/ Hassenzahl 2017). Der Ansatz versteht Technologien als zu gestaltende Erfahrungen. Die Norm DIN EN ISO 9241 210 (ISO 2019) beschreibt HCD als iterativen Prozess mit vier Phasen: dem Verstehen des Nutzungskontextes, der Ableitung von Nutzungsanforderungen, dem Entwurf geeigneter Gestaltungslösungen sowie deren Evaluation. Durch den Einsatz von Usability- und UX-Methoden können dabei Akzeptanzrisiken erkannt und adressiert werden. Zunehmend an Bedeutung gewinnen auch digitale Methoden und remote Testverfahren. Dies kann entweder synchron (z. B. per Videokonferenz) oder über kooperative digitale Plattformen sowie asynchron (etwa durch Bearbei- 435 uj 10 | 2025 Digitale Partizipation in der KI-Entwicklung tung von Aufgaben mithilfe eines Systems zu einem beliebigen Zeitpunkt) erfolgen. Diese Methoden umfassen nicht nur den Einsatz digitaler Tools, sondern bieten die Möglichkeit, eine divers zusammengesetzte Zielgruppe mit unterschiedlichen soziodemografischen Hintergründen einzubeziehen und orts- und zeitunabhängig zu evaluieren. Zugleich sind mit dieser Vorgehensweise auch Einschränkungen verbunden: Die Kontrolle über die Testumgebung ist eingeschränkt, und nonverbale Reaktionen wie Mimik, Gestik oder spontane Äußerungen lassen sich im Vergleich zu kontrollierten Laborsituationen nur begrenzt in ihrer Gesamtheit erfassen (Shneiderman et al. 2018). 2. Projekte im digitalen, partizipativen Design Wie unterschiedliche und insbesondere digitale partizipative Designs praktisch umgesetzt werden können, zeigen die im Folgenden vorgestellten IEB-Projekte. Für eine erste Orientierung werden zwei Beispiele einer Vielzahl partizipativ angelegter Projekte zunächst allgemein beschrieben. Anschließend werden die konkreten Methoden der Partizipation nach Projektphasen vertieft erläutert. Das vom BMBFSFJ geförderte Projekt KIA verfolgt das Ziel, eine KI-gestützte Assistenz für digitale, psychosoziale Beratung zu entwickeln, die Fachkräfte methodisch und reflexiv unterstützt (Institut für E-Beratung 2024 a). Im Mittelpunkt steht die textbasierte Analyse und Aufbereitung von Beratungsanfragen, um bspw. Strukturierungshilfen zu bieten, inhaltliche Impulse zu geben oder einen Perspektivwechsel anzuregen. Eine enge Kooperation mit Fachkräften der bke-Onlineberatung stellt hierbei sicher, dass das System praxisnah und im Einklang mit den Bedarfen der Beratenden gestaltet wird. Kritisch anzumerken ist jedoch, dass eine direkte Partizipation der Adressat: innen der Onlineberatung nicht umgesetzt werden konnte, da der Zugang zu dieser Zielgruppe - die ausschließlich anonym und digital agiert - mit erheblichen methodischen Schwierigkeiten verbunden ist. Im Projekt ViKI entstand eine Lehr- und Lernplattform für Studierende zum Einüben beraterischen Handelns mit verschiedenen KI-basierten virtuellen Klient: innen (Institut für E-Beratung 2024 b). Nach dem Abschluss eines Chatverlaufs stehen den Lernenden mehrere Feedback-Formate zur Verfügung: ein KI-gestütztes Mentor: innen-Feedback, KI-Feedback von den virtuellen Ratsuchenden sowie Feedback der Dozierenden und ihrer Kommiliton: innen. In die Entwicklung und Erprobung der Plattform wurden vor allem Studierende, aber auch weitere relevante Stakeholder aktiv einbezogen. 2.1 Bedarfsanalyse Für ein umfassendes Verständnis des künftigen Nutzungskontextes ist zunächst eine fundierte Bedarfsanalyse erforderlich. Dies gilt besonders dann, wenn noch keine vergleichbaren KI-Systeme existieren, an denen man sich fachlich oder technisch orientieren könnte. In solchen Fällen bildet die Bedarfsanalyse die zentrale Grundlage für die anschließende konzeptionelle und technische Entwicklung. Sie umfasst eine systematische Literaturrecherche zu bestehenden Ansätzen, Vorarbeiten und Erkenntnissen im jeweiligen Nutzungskontext sowie die Erhebung der Bedarfe, Erwartungen und Anforderungen der zukünftigen Nutzer: innen. Partizipativ gestaltet werden kann dies durch Methoden wie leitfadengestützte Interviews, Workshops oder Gruppendiskussionen, bei denen künftige Nutzergruppen aktiv ihre Perspektiven einbringen und so die Konzeption mitgestalten können. So erfolgte im Projekt KIA zu Projektbeginn eine Vorbefragung in Form von 18 halbstrukturierten, problemzentrierten Interviews mit Fachkräften der bke-Onlineberatung. Da die 436 uj 10 | 2025 Digitale Partizipation in der KI-Entwicklung Fachkräfte bundesweit in verschiedenen Beratungsstellen lokal verortet sind, erfolgte die Durchführung über eine digitale Videoplattform (Stieler et al. 2025). Ziel der Interviews war es, erste Einschätzungen, Bedarfe und Nutzungsideen im Umgang mit KI in der Beratung zu erheben. Die hierdurch gewonnenen Erkenntnisse bildeten die zentrale Grundlage für die anschließenden konzeptionellen und technischen Entwicklungen der KI-Assistenz. Die Ergebnisse zeigten ein differenziertes Bild: Neben Neugierde und Offenheit gegenüber technologischen Innovationen wurden auch Sorgen hinsichtlich Empathieverlust, Substituierungsrisiken und Veränderungen fachlicher Standards artikuliert. Zugleich äußerten die Beratenden konkrete Vorstellungen über mögliche Einsatzbereiche, etwa im Wissensmanagement, bei der Textanalyse oder zur methodischen Unterstützung. Diese Form der frühzeitigen Konsultation ermöglichte es, Praxiswissen systematisch in den Entwicklungsprozess zu integrieren. Zugleich konnte Vertrauen in das Projekt aufgebaut werden, wodurch die Basis für eine sehr intensive Partizipation der Fachkräfte auch für die späteren Projektphasen geschaffen wurde. Das Projekt ViKI war ebenfalls von Anfang an von der frühzeitigen Einbindung Beteiligter und zukünftiger User: innen geprägt, da das fertige Produkt auch direkt in der Interaktion mit der Zielgruppe eingesetzt werden wird. Um erste Einschätzungen und Wünsche im Hinblick auf den Einsatz eines virtuellen Klienten in Beratungskontexten zu sammeln, wurden zunächst acht Studierende der Sozialen Arbeit (Schwerpunkt Onlineberatung) in ausführlichen Interviews befragt. Zudem wurden Workshops mit Dozierenden und Stakeholdern durchgeführt (Lippert et al. 2024). Ziel war es, ein besseres Verständnis dafür zu gewinnen, wie digitale Systeme zu Fortbildungszwecken angenommen werden, wie eine Reflexion der eigenen Gesprächsführung und auf welche Weise eine didaktische Einbettung erfolgen kann. Die Erkenntnisse halfen nicht nur dabei, Erwartungen und mögliche Anwendungsfelder zu erkennen, sondern beeinflussten auch ganz konkret die inhaltliche und funktionale Ausrichtung des späteren Prototyps. Dabei zeigten sich die Befragten grundsätzlich offen gegenüber digitalen Hilfsmitteln, betonten jedoch, dass sie sich sowohl Hinweise zum Datenschutz als auch zur KI als Konversationspartner: in wünschen. Die Rückmeldungen aus den Workshops wurden zunächst in eine Anforderungsliste an das System überführt. In einem zweiten Schritt priorisierten die Beteiligten diese Liste erneut. So wurde die technische Lösung sukzessive an die fachlichen und didaktischen Anforderungen angepasst. 2.2 Entwicklung und Training Die bisherigen Partizipationsansätze waren zwar Teil von KI-Projekten, hätten methodisch aber genauso bei beliebigen Innovationsprojekten Anwendung finden können. Die Entwicklungs- und Trainingsphase, in der technische Spezifikationen, Datenformate und Modelle konkret ausgestaltet werden, stellt bei partizipativen KI-Projekten das Herzstück dar. Da die Entwicklung eines KI-Systems zentral von der Auswahl der Trainingsdaten und der fachlichen Bewertung von Ergebnissen abhängt, sind hier partizipative Elemente deutlich wichtiger als in typischen Softwareprojekten. Damit eine KI- Anwendung den sozialarbeiterischen Anforderungen gerecht wird, ist es essenziell, dass auch in dieser Phase Fachkräfte und Zielgruppen kontinuierlich eingebunden sind. Im Projekt KIA wurden für die technische Umsetzung der konzeptionell zuvor festgelegten Funktionen datenschutzkonforme, generative KI-Modelle eingesetzt. Beim Einsatz von generativen Sprachmodellen kommt dem Prompting eine entscheidende Rolle zu. Daher wurde im Projekt in einem iterativen, kooperativen Prozess eine standardisierte Struktur für das Prompting entwickelt. Eine spezifische digitale Plattform ermöglichte es, dass neben den 437 uj 10 | 2025 Digitale Partizipation in der KI-Entwicklung Projektmitarbeitenden der Informatik und der Sozialwissenschaften auch Fachkräfte der bke- Onlineberatung mitwirken konnten. Dieses Vorgehen unterstützt eine zielgerichtete Steuerung und Überprüfung der Modellantworten, minimiert semantische Unschärfen und stellt sicher, dass die generierten Inhalte methodisch fundiert, konsistent und praxisrelevant sind. Die Nutzung der kooperativen digitalen Plattform stellte auch bei dem Aufbau von Trainingsdaten eine zentrale Schlüsselkomponente dar. Basierend auf authentischen Daten wurde zunächst eine Vielzahl an Trainingsdaten digital generiert. Um eine sinnvolle Auswahl aus diesem Pool für den Trainingsdatensatz bereitstellen zu können, bewerteten Fachkräfte in mehreren Phasen systematisch die unterschiedlichen Ergebnisse. So konnten wertvolle Rückmeldungen zur fachlichen Passung erhoben werden. Der gemeinsame Entwicklungsprozess trug zudem wesentlich dazu bei, das disziplinübergreifende Verständnis zu schärfen. Im Projekt ViKI lag der Fokus auf der Authentizität der Interaktion mit generativen Sprachmodellen. Das Training und Feintuning der ausgewählten KI-Modelle erforderte einen strukturierten Datensatz. Dieser wurde kooperativ mit Studierenden und den lehrenden Fachkräften erstellt. In einem ersten Schritt wurden Chatverläufe generiert, die als Basis der simulationsbasierten Beratungsszenarien dienten. Dies beinhaltete die Konzeption realitätsnaher Persona-Profile, die als Grundlage für simulierte Beratungssituationen dienten. Diese erfolgten im Rahmen von Rollenspielen zwischen Studierenden. Das hierdurch gewonnene Datenmaterial wurde anschließend durch ein dediziertes Kategoriensystem semantisch annotiert. So konnten diverse Qualitätsdimensionen der Beratung modelliert und als Trainingsziel definiert werden. Bei dieser Herangehensweise wurden interessante Auswirkungen des partizipativen Prozesses deutlich. So entwickelten sich Diskussionen zwischen Lehrenden und Lernenden über die Merkmale qualitativ hochwertiger Chatverläufe für das KI-Training und über die fachlich und didaktisch angemessene Gestaltung von Feedbackprozessen für Lernende. Die Lernenden konnten sowohl für die klassische Lehre als auch für die KI-Umsetzung ihre Lernumgebung partizipativ mitgestalten. Aufbauend auf diesen Erfahrungen wurde beim weiteren Entwicklungsprozess ein didaktisches Konzept formuliert, das spielerische Elemente zur Motivation wie z. B. tokenbasierte Peer-Feedback-Mechanismen enthielt (Lippert et al. 2024). 2.3 Testung und Evaluation Die Evaluation von KI-Systemen kann methodisch auf vielfältige Weise umgesetzt werden und richtet sich dabei nach den spezifischen Zielsetzungen, dem Entwicklungsstand der Systeme sowie den verfügbaren personellen und zeitlichen Ressourcen. Die methodologische Ausrichtung der Evaluationsprozesse in den IEB-Projekten folgen einem triangulativen Ansatz, damit sowohl subjektive Deutungen als auch generalisierbare Tendenzen erfasst werden können. In den frühen Phasen eines Projekts werden überwiegend qualitative Forschungsmethoden eingesetzt. Diese eignen sich besonders für explorative Forschungsvorhaben, da sie eine detaillierte Analyse der Interaktionen zwischen Nutzenden und System ermöglichen und damit ein vertieftes Verständnis der Nutzungserfahrungen fördern. Häufig kommen hier Usability-Methoden zum Einsatz. Deren Ziel ist es, potenzielle Barrieren, Irritationsmomente und funktionale Schwächen entlang der sogenannten Customer Journey zu identifizieren, um die Gestaltung der Mensch- Maschine-Interaktion möglichst intuitiv, zugänglich und reibungslos zu gestalten (Moser 2012). Mit zunehmender Systemreife, insbesondere im Vorfeld einer Implementierung oder Markteinführung, gewinnen auch weitere, stärker standardisierte Evaluationsverfahren an Bedeutung. Hierzu zählen unter anderem Forschungsdesigns zur Prüfung von Wirksamkeit und Funktionalität in kontrollierten Studien oder zum Transfer in die Praxis. 438 uj 10 | 2025 Digitale Partizipation in der KI-Entwicklung Bei den ersten explorativen Usability-Testungen im Projekt KIA fand die etablierte Methode des „Thinking-Aloud“ (dt. Methode des lauten Denkens) Anwendung. Die Testung wurde erneut über eine Videoplattform durchgeführt. Mit geteiltem Bildschirm bearbeiteten Fachkräften der bke-Onlineberatung mit der prototypischen KI-Assistenz vordefinierte Aufgaben. Die Teilnehmenden wurden dabei aufgefordert, ihre Gedanken, Absichten und Irritationen bei der Bearbeitung vorgegebener Aufgaben fortlaufend zu verbalisieren. Diese Technik ermöglicht es, kognitive, emotionale und handlungsbezogene Prozesse der Nutzenden während der Interaktion mit dem System sichtbar zu machen (Shneiderman et al. 2018). Die Projektmitarbeitenden nahmen dabei in erster Linie eine beobachtende Rolle ein. Sie unterstützten bei Bedarf durch gezieltes Nachfragen oder Ermunterungen, verzichteten jedoch bewusst auf steuernde Eingriffe in die Aufgabenbearbeitung. Ziel der Testungen war es, frühzeitig Rückmeldungen zur Nutzerführung, zur Verständlichkeit sowie zur Bedienbarkeit zentraler Funktionen zu erhalten. Die gewonnenen Erkenntnisse flossen unmittelbar in die technische und gestalterische Weiterentwicklung des Prototyps ein und ermöglichten eine nutzungsnahe Optimierung im Rahmen des iterativen Entwicklungsprozesses. In den weiteren Testphasen lag der Fokus auf der Evaluation des realen Nutzens und der Optimierung der Funktionalität der KI-Assistenz. Dies wurde im Rahmen von Rollenspielen unter realitätsnahen Bedingungen remote getestet. Beratende aus unterschiedlichen Handlungsfeldern arbeiteten über mehrere Wochen mit authentischen Fallanfragen und reflektierten die Nutzung im Rahmen einer Tagebuchstudie und einer begleitenden Vor- und Nachbefragung. Die notwendige Einführung in das System erfolgte über ein Video. Sowohl das Einführungsvideo als auch die Tagebuchstudie waren dabei digital in die KI-Assistenz integriert. Die Vor- und Nachbefragung erfolgte über einen Onlinefragebogen. Durch standardisierte Erhebungen auf Basis des „Technology Acceptance Model“ (Davis/ Granić 2024; Olbrecht 2010) konnten so Einstellungen zum wahrgenommenen Nutzen des Systems erfasst werden. Zentrale Kriterien des „Technology Acceptance Model“ kamen ebenso im Projekt ViKI zum Einsatz, um einerseits Einsichten zur Akzeptanz von KI-basierten Methoden in der Lehre und Praxis von Studierenden und Lehrenden zu gewinnen und andererseits, um ihre Akzeptanz zum Einsatz einer KI-basierten Lernplattform einzuholen. Zusätzlich wurden Testungen der Plattform, des implementierten Chatbots und des KI-basierten Feedbacks durchgeführt, um Optimierungspotenziale sichtbar zu machen. Diese Testungen fokussierten einerseits die Gesprächskohärenz als auch die Persönlichkeitskonsistenz der angewandten KI-Modelle. Geachtet wurde insbesondere auf die Auswirkungen des Systems auf die fachliche Qualität der Beratungsausbildung anhand der Qualitätsdimensionen Struktur-, Ergebnis- und Prozessqualität (Donabedian 2005) und den vier Phasen der Chatberatung (Engelhardt 2021; Hintenberger 2009, 2019). Die daraus gewonnenen Erkenntnisse flossen in die Entwicklung der Lernplattform iterativ ein, sodass schlussendlich ein optimierter Prototyp seit dem Wintersemester 2024 in der Hochschullehre Einsatz findet. Die zentralen Erkenntnisse der breit angelegten qualitativen wie quantitativen Evaluation zeigten, dass die Vertrautheit im Umgang mit KI maßgeblich zur Akzeptanz von KI-Systemen beiträgt. Die wahrgenommene Benutzerfreundlichkeit beeinflusst sowohl die empfundene Nützlichkeit als auch die Einstellung gegenüber dem Einsatz von Chatbots positiv. Je einfacher ein System zu bedienen ist, desto nützlicher erscheint es. ViKI wurde von der Mehrheit der Studierenden als übersichtlich, benutzerfreundlich und leicht bedienbar wahrgenommen. Trotz technischer Schwierigkeiten - etwa bei gleichzeitiger Nutzung durch viele Studierende - überwog der Nutzen. Abgesehen von kleineren Störungen blieb ViKI in seiner vorgegebenen Rolle konsistent. Obwohl kein Gesprächserlebnis vergleichbar mit dem 439 uj 10 | 2025 Digitale Partizipation in der KI-Entwicklung Austausch mit einem menschlichen Gegenüber entstand, wurde das Lernangebot insgesamt als positiv bewertet. Insbesondere das Feedbacksystem zeichnet sich durch einen hohen Detailgrad aus. Eine zentrale Herausforderung bleibt jedoch die emotionale Resonanz, die von der KI noch nicht zuverlässig erreicht wird. Zudem zeigt sich, dass strukturierte Feedbackmethoden nicht in allen Kontexten die gewünschte Wirkung entfalten. Durch gezieltes Feintuning mit bereits von großen Sprachmodellen generiertem Feedback lässt sich sowohl die emotionale Wirkung als auch die inhaltliche Qualität weiter verbessern. Die Mehrheit der Nutzer: innen möchte solche KI-basierten Lernwerkzeuge weiterhin nutzen und empfiehlt sie auch anderen. 3. Ethische Reflexion Im Rahmen partizipativer Entwicklungsprozesse stellt sich stets die Herausforderung, tatsächlich alle relevanten Perspektiven einzubeziehen - insbesondere jene von Gruppen, die im öffentlichen Diskurs oder in technischen Gestaltungsprozessen strukturell unterrepräsentiert sind. Gerade in der Entwicklung von KI-Systemen zeigt sich, dass Partizipation nicht automatisch gerechter Repräsentation entspricht. An dieser Stelle bietet Miranda Frickers Theorie der epistemischen Ungerechtigkeit einen analytischen Rahmen, um bestehende Machtasymmetrien in Wissensprozessen sichtbar zu machen (2007, 2023). Fricker unterscheidet zwei zentrale Formen epistemischer Ungerechtigkeit, die auch im Kontext von KI-Entwicklungsprozessen bei der Partizipation von Adressat: innen relevant sind: Testimoniale Ungerechtigkeit entsteht, wenn Menschen aufgrund gruppenbezogener Vorurteile weniger Glaubwürdigkeit beigemessen wird. Personen wird damit die Fähigkeit abgesprochen, im Diskurs relevante Informationen beitragen zu können. Hermeneutische Ungerechtigkeit beschreibt ein weiteres ethisches Spannungsfeld bei der Partizipation in der KI-Entwicklung und meint, dass bestimmten Gruppen die sprachlichen oder konzeptionellen Mittel fehlen, um ihre eigenen Erfahrungen adäquat auszudrücken - mit der Folge, dass ihre Anliegen im Entwicklungsprozess unsichtbar bleiben oder falsch interpretiert werden. In den KI-Projekten des IEB wird das Risiko der epistemischen Ungerechtigkeit ebenfalls sichtbar. Im ViKI-Projekt wurde aufseiten der Lehrenden immer wieder die Frage gestellt, inwieweit Studierende in der Lage sind, zur Gestaltung von Lernumgebungen eine qualifizierte Rückmeldung geben zu können. Die Entscheidung des Projektteams, unabhängig von diesen Vorbehalten Studierende konstant im Entwicklungsprozess partizipativ einzubinden, erwies sich im weiteren Verlauf jedoch als entscheidendes Erfolgskriterium. Aktuelle Testungen mit neuen Studierendengruppen zeigen, dass viele Merkmale, die gerade von den Studierenden in den Entwicklungsprozess eingebracht wurden, dauerhaft positiv auf die Akzeptanz wirken könnten (Rudolph et al. 2024 a; Rudolph et al. 2024 b). Eine Reduktion von Ungerechtigkeit ist also nicht nur aus der ethischen Perspektive geboten, sondern stellt auch eine deutlich höhere Ergebnisqualität sicher. Gleichzeitig wird deutlich, dass die Partizipation von Studierenden im KI Entwicklungsprozess wesentlich leichter umzusetzen ist als die Einbindung von Zielgruppen der Sozialen Arbeit. Dabei ist es gerade im Bereich der KI-Entwicklung besonders wichtig, verantwortungsbewusst zu agieren. Unter dem Blickwinkel epistemischer Ungerechtigkeit zeigt sich, dass es in der partizipativen Gestaltung von KI nicht nur um Zugang, sondern auch um Anerkennung, Repräsentation und Diskursmacht geht: Wer gilt als wissensfähig? Wer wird gehört? Und wessen Perspektiven prägen letztlich die ethische Ausrichtung der Technologie? Vor diesem Hintergrund wird die gezielte Ansprache und aktive Einbindung schwer erreichbarer Zielgruppen zu einer zentralen Voraussetzung für eine sozial gerechte KI-Entwicklung in der So- 440 uj 10 | 2025 Digitale Partizipation in der KI-Entwicklung zialen Arbeit. Dies erfordert ein kritisches Hinterfragen etablierter Beteiligungsformate sowie eine bewusste Auseinandersetzung mit sprachlichen, kulturellen, technischen und institutionellen Zugangsbarrieren. Der Ansatz von Bondi et al. (2021) liefert an dieser Stelle eine wertvolle Ergänzung. In ihrer Kritik an technokratischen und utilitaristischen Auffassungen von„AI for Social Good“ betonen die Autor: innen, dass die Frage, wofür KI-Forschung im Sinne des Gemeinwohls stehen sollte, nicht extern vorgegeben, sondern von den betroffenen Gemeinschaften selbst beantwortet werden muss. In ihrem am „Capability Approach“ (Nussbaum 2011) orientierten PACT- Modell formulieren sie fünf Leitfragen, die partizipative KI-Ansätze berücksichtigen sollten: 1. Wer wird als betroffen anerkannt und wie werden marginalisierte Gruppen eingebunden? 2. Wie wird die Zusammenarbeit langfristig angelegt - und fair beendet? 3. Werden Beiträge angemessen gewürdigt und vergütet? 4. Wie wird mit abweichenden Perspektiven umgegangen? 5. Und wie werden geäußerte Bedenken im Prozess berücksichtigt? (Bondi et al. 2021) Diese Fragen machen deutlich, dass gerechte Partizipation nicht allein im Zugang besteht, sondern in der aktiven Aushandlung von Verantwortung, Anerkennung und Einflussmöglichkeiten über den gesamten Entwicklungsprozess hinweg. Auch die Partizipation von Sozialarbeitenden in KI-Entwicklungsprozessen ist mit spezifischen Herausforderungen verbunden. Aktuellen Studien zufolge ist die über längere Zeit konstatierte Technikskepsis unter Sozialarbeitenden einer zunehmend digitalaffinen Haltung sowie einer gesteigerten Sicherheit im Umgang mit digitalen Technologien gewichen (Klinger et al. 2023; Schönauer et al. 2021). Gleichzeitig zeigt sich jedoch eine verbreitete Unzufriedenheit mit den bestehenden Beteiligungsstrukturen in organisationalen Digitalisierungsprozessen. Insbesondere mangelt es häufig an transparenter Kommunikation über Rahmenbedingungen sowie an einer systematischen Einbindung in strategische Entscheidungsprozesse (Klinger et al. 2023). Vor diesem Hintergrund besteht ein deutlicher Handlungsbedarf: Sollen KI-Systeme in der Sozialen Arbeit nicht nur technisch funktional, sondern auch professionsgerecht und praxisnah entwickelt werden, ist es erforderlich, sowohl Qualifizierungsangebote als auch strukturelle Partizipationsmöglichkeiten konsequent auszubauen. 4. Fazit: Partizipation als Schlüssel für gerechte KI in der Sozialen Arbeit Die Qualität und Akzeptanz KI-gestützter Systeme im sozialen Bereich hängen maßgeblich davon ab, ob die adressierten Akteur: innen aktiv in Gestaltungsprozesse eingebunden werden - nicht nur als Nutzende, sondern als produktive Mitgestaltende. Dieser Ansatz entspricht dem Verständnis von Design Justice, bei dem Designer: innen von KI nicht als alleinige Autoritäten auftreten, sondern als unterstützende Moderierende eines gemeinschaftlichen Gestaltungsprozesses (Bondi et al. 2021). Partizipation darf dabei nicht als nachgelagerter Schritt verstanden werden, sondern muss als integraler Bestandteil jedes Projektabschnitts verankert sein. Der partizipative Ansatz eröffnet die Möglichkeit, technische Systeme nicht nur funktional, sondern auch gerecht, inklusiv und nachhaltig zu gestalten. Er stärkt Selbstwirksamkeit, Vertrauen und Akzeptanz - zentrale Voraussetzungen für eine verantwortungsvolle Digitalisierung im sozialen Bereich. Besonders in der Sozialen Arbeit, die auf Beziehung, Kontextsensibilität und ethische Reflexion angewiesen ist, zeigt sich: Technologie darf nicht gegen, sondern muss gemeinsam mit den Professionel- 441 uj 10 | 2025 Digitale Partizipation in der KI-Entwicklung len und Adressat: innen gestaltet werden. Nur so können KI-Systeme ihrer gesellschaftlichen Verantwortung gerecht werden. Zukünftige Entwicklungen sollten gezielt daran anknüpfen. Nur durch langfristige Beteiligungsstrukturen, interdisziplinäre Kooperationen sowie eine kritische Reflexion von Machtverhältnissen im Gestaltungsprozess werden innovative und nachhaltige Systeme geschaffen. Die Soziale Arbeit bringt hierfür nicht nur Wissen über Bedarfe und Lebenslagen mit, sondern auch wertvolle Erfahrungen mit partizipativen Prozessen. „Mitreden, Mitgestalten“ ist dabei nicht nur eine programmatische Aussage oder hohle Phrase, sondern verfolgt einen gemeinsamen, partizipativen Ansatz. Nur durch die aktive Einbindung sozialpädagogischer Fachexpertise kann KI-Entwicklung in der Kinder- und Jugendhilfe nachhaltig, verantwortungsvoll und lebensweltorientiert gelingen. Mara Stieler Jennifer Burghardt Aleksandra Poltermann Robert Lehmann Institut für E-Beratung Keßlerplatz 12 90489 Nürnberg Literatur Balthasar, M. et al. (2021): Mit großer Macht kommt große Verantwortung - Grundüberlegungen zur Ethik für UUX-Professionals, https: / / doi.org/ 10.18 420/ MUC2021-UP-450 Bondi, E. et al. (2021): Envisioning Communities: A Participatory Approach Towards AI for Social Good, https: / / doi.org/ 10.48550/ ARXIV.2105.01774 Burghardt, J. et al. (2024): Kann Künstliche Intelligenz sozialarbeiterische Entscheidungsprozesse unterstützen? Ethik und digitale Operationalisierung im Feld der Kindeswohlgefährdung. Unsere Jugend 76, 300 - 310, https: / / reinhardt-journals.de/ erv/ xibrary/ 4_076_2024_7%2B8_0004 Davis, F. D., Granić, A. (2024): The Technology Acceptance Model. 30 Years of TAM. Springer, https: / / doi. org/ 10.1007/ 978-3-030-45274-2 Diefenbach, S., Hassenzahl, M. (2017): Psychologie in der nutzerzentrierten Produktgestaltung: Mensch- Technik-Interaktion-Erlebnis. Springer, Berlin/ Heidelberg, https: / / doi.org/ 10.1007/ 978-3-662-5302 6-9 Donabedian, A. (2005): Evaluating the Quality of Medical Care. The Milbank Quarterly 83 (4), 691 - 729, https: / / doi.org/ 10.1111/ j.1468-0009.2005.00397.x Engelhardt, E. (2021): Lehrbuch Onlineberatung (2. Aufl.). Vandenhoeck und Ruprecht, Göttingen Fricker, M. (2023): Epistemische Ungerechtigkeit. Macht und die Ethik des Wissens. C. H. Beck, https: / / doi.org/ 10.17104/ 9783406798948 Fricker, M. (2007): Epistemic Injustice. Power and the Ethics of Knowing. Oxford University Press, Oxford Ghanem, C., Eckl, M., Lehmann, R., Widerhold, J.-P. (2021): „Irgendwie fühle ich mich als Angehörige alleine gelassen“. Eine automatisierte Analyse eines Onlineforums für Angehörige von Inhaftierten. In: Wunder, M. (Hrsg.): Digitalisierung und Soziale Arbeit. Transformationen und Herausforderungen, Verlag Julius Klinkhardt, Bad Heilbrunn, 240 - 255 Gintzel, U. (2013): Partizipation. In: Kreft, D., Mielenz, I. (Hrsg.): Wörterbuch Soziale Arbeit. Beltz Juventa, Weinheim/ Basel, 650 - 654 Grandeit, P., Haberkern, C., Lang, M., Albrecht, J., Lehmann, R. (2020): Using BERT for Qualitative Content Analysis in Psychosocial Online Counseling. In: https: / / www. aclweb.org/ anthology/ 2020.nlpcss-1.2/ , 28. 7. 2025 Hintenberger, G. (2019): Prozessmodelle für die schriftbasierte Onlineberatung. e beratungsjournal.net 15 (1), https: / / www.e-beratungsjournal.net/ wp-content/ uploads/ 2019/ 03/ hintenberger_2019_01.pdf Hintenberger, G. (2009): Der Chat als neues Beratungsmedium. In: Hintenberger, G., Kühne, S. (Hrsg.): Handbuch Online-Beratung (2. Aufl.), Vandenhoeck und Ruprecht, Göttingen, 69 - 78, https: / / doi.org/ 10.13109/ 9783666401541.69 Igbaria, M., Parasuraman, S. (1989): A Path Analytic Study of Individual Characteristics, Computer Anxiety and Attitudes toward Microcomputers. Journal of Management 15 (3), 373 - 388, https: / / doi.org/ 10.11 77/ 014920638901500302 442 uj 10 | 2025 Digitale Partizipation in der KI-Entwicklung International Organization for Standardization (ISO) (2019): ISO 9241 210: 2019 - Ergonomics of human system interaction - Part 210: Human centred design for interactive systems. In: https: / / www.iso.org/ stan dard/ 77520.html, 28. 7. 2025 Institut für E-Beratung (2024a): KI gestützte Assistenz. In: https: / / www.e-beratungsinstitut.de/ projekte/ kia/ , 28. 7. 2025 Institut für E-Beratung (2024 b): Virtueller Klient. In: https: / / www.e-beratungsinstitut.de/ projekte/ abge schlossene-projekte/ virtueller-klient/ , 28. 7. 2025 Klinger, S., Mayr, A., Sackl-Sharif, S., Brossmann- Handler, E. (2023): Zur (nicht) selbstverständlichen Nutzung digitaler Technologien in der Sozialen Arbeit. Soziale Arbeit 72 (6), 202 - 211, https: / / doi.org/ 10.5771/ 0490-1606-2023-6-202 Lippa, B., Feichtenbeiner, R. (2020): Leitfaden: Partizipation in Lern- und Experimentierräumen für KI-gestützte Assistenzsysteme in der beruflichen Rehabilitation. Bundesverband Deutscher Berufsförderungswerke e.V. In: https: / / www.ki-assist.de/ fileadmin/ ki_ assist/ Medienkatalog/ Leitfaden_zur_Partizipation_ in_Lern-_und_Experimentierra%CC%88umen.pdf, 28. 7. 2025 Lippert, C., Rudolph, E., Poltermann, A., Engert, N., Lehmann, R., Albrecht, J. (2024): Generative KI in der beraterischen Ausbildung. Der Einsatz eines*r virtuellen Klient*in als Übungstool für angehende Onlineberater*innen. e-beratungsjournal.net 20 (1), https: / / doi.org/ 10.48341/ TCGC-ST69 Moser, C. (2012): User Experience Design. Mit erlebniszentrierter Softwareentwicklung zu Produkten, die begeistern. Springer, Berlin/ Heidelberg Nussbaum, M. C. (2011): Creating Capabilities. The Human Development Approach, Harvard University Press/ Belknap Press, Cambridge/ London Olbrecht, T. (2010): Akzeptanz von E-Learning. Eine Auseinandersetzung mit dem Technologieakzeptanzmodell zur Analyse individueller und sozialer Einflussfaktoren In: http: / / www.db-thueringen.de/ servlets/ MCRFileNodeServlet/ dbt_derivate_00021 996/ Olbrecht/ Dissertation.pdf, 28.07.2025 Raab, H. (2024): Toys are us: KI, Diversität und soziale Ungleichheit. Oder: KI für Alle? In: Heinlein, M., Huchler, N. (Hrsg.): Künstliche Intelligenz, Mensch und Gesellschaft. Springer, Wiesbaden, 263 - 287, https: / / doi.org/ 10.1007/ 978-3-658-43521-9_11 Reindl, R. (2018): Zum Stand der Onlineberatung in Zeiten der Digitalisierung. e beratungsjournal.net 14, 16 - 26 Rudolph, E., Engert, N., Albrecht, J. (2024 a): An AI-Based Virtual Client for Educational Role-Playing in the Training of Online Counselors. Proceedings of the 16th International Conference on Computer Supported Education, 108 -117, https: / / doi.org/ 10.5220/ 00 12690700003693 Rudolph, E., Seer, H., Albrecht, J. (2024 b): Automated feedback generation in an intelligent tutoring system for counselor education. 19th Conference on Computer Science and Intelligence Systems, 493 - 504 Schön, U.-K. (2015): User Involvement in Social Work and Education - A Matter of Participation? Journal of Evidence-Informed Social Work 13, 1-13, https: / / doi. org/ 10.1080/ 15433714.2014.939382 Schönauer, A.-L., Schneiders, K., Hoose, F. (2021): Akzeptanz und Nutzung digitaler Technologien in der Sozialen Arbeit. In: Freier, C., König, J., Manzeschke, A., Städtler-Mach, B. (Hrsg.): Gegenwart und Zukunft sozialer Dienstleistungsarbeit. Springer VS, Wiesbaden, 49 - 59, https: / / link.springer.com/ chapter/ 10.10 07/ 978-3-658-32556-5_3 Shneiderman, B., Cohen, M., Elmqvist, N., Plaisant, C., Jacobs, S. (2018): Designing the User Interface. Strategies for Effective Human-Computer Interaction (6. Aufl.). Pearson International, https: / / elibrary.pearson.de/ book/ 99.150005/ 9781292153926 Stieler, M., Berger, J., Lehmann, R. (2025): Technologische Innovation in der psychosozialen Onlineberatung. Eine praxisorientierte Perspektive auf die Anwendung von Künstlicher Intelligenz. In: Späte, J., Endter, C., Stix, D. C., Krauskopf, K. et al. (Hrsg.): #GesellschaftBilden im Digitalzeitalter. Perspektiven Sozialer Arbeit auf technologische Herausforderungen. Waxmann, Münster/ New York