115 unsere jugend, 74. Jg., S. 115 - 121 (2022) DOI 10.2378/ uj2022.art16d © Ernst Reinhardt Verlag von Prof. Dr. Christina S. Plafky Jg. 1975; Studiengangsleitung Soziale Arbeit mit Menschen mit Behinderung, DHBW Villingen-Schwenningen KI-basierte Entscheidungsunterstützung in der Praxis Sozialer Arbeit Ziel des geplanten Forschungsvorhabens ist es, die Hypothese zu überprüfen, ob und inwieweit es algorithmenbasierte Entscheidungsprozesse in sozialen Einrichtungen ermöglichen, Effizienzkriterien zu erfüllen und gleichzeitig ethischen und fachlichen Grundsätzen in adäquater Form Rechnung zu tragen. Für die Durchführung des Projekts werden umfangreiche Datenbestände verwendet, die von dualen Partnern der Dualen Hochschule Baden-Württemberg bereitgestellt werden. Die Durchführung erfolgt in Kooperation mit den sozialen Einrichtungen. Die Diskussion bezüglich des Einsatzes von KI in sozialen Einrichtungen innerhalb der Literatur bewegt sich in dem Spannungsverhältnis zwischen Chancen und Risiken, die im Kern daraus resultieren, dass Entscheidungen zukunftsorientiert sind und insofern naturgemäß im Kontext der Unsicherheit hinsichtlich künftiger Entwicklungen zu sehen sind. Chancen ergeben sich unstrittigerweise daraus, dass ein Algorithmus bei vorhandener umfassender Datenbasis eine systematische und bias-freie Analyse von Datenmengen vornehmen kann, deren Erfassung und Auswertung für ein menschliches Gehirn nicht möglich ist. Andererseits werden Risiken insbesondere darin gesehen, dass ein Algorithmus nicht über Prof. Dr. André Kuck Jg. 1964; Professor für quantitative Methoden in der Finanzwirtschaft, DHBW Villingen-Schwenningen Prof. Dr. Norbert Kratz Jg. 1961; Professor für BWL, DHBW Villingen-Schwenningen Hans Frischhut Wissenschaftlicher Mitarbeiter im Projekt „Emergenzbasierte Statistik“, DHBW Villingen- Schwenningen 116 uj 3 | 2022 KI-basierte Entscheidungen in der Sozialen Arbeit Fähigkeiten verfügt, durch die Datenauswahl bedingte unbemerkte Verzerrungen in den Daten zu bemerken. Diese Fähigkeit wird allein dem Menschen zugeordnet, der beispielsweise durch übergeordnetes Wissen von der Welt, Empfindungen, Intuition oder auch professionelle Einschätzung einer Situation zu umfassenderen Ergebnissen kommen kann. Auch Postulate wie Fairness, Erklärbarkeit und Nichtdiskriminierung sowie die Problematik möglicher Machtasymmetrien aufgrund von einseitigen Wissensvorsprüngen gehören in diesen Kontext. Diese Ambivalenz zeigt sich auch in den Verlautbarungen von internationalen Expertenkommissionen (z. B. High-Level Expert Group on Artificial Intelligence 2019) und spiegelt sich darüber hinaus in Ausschreibungen für Forschungsprogramme wider (s. bspw. das von der Baden-Württemberg Stiftung im vergangenen Jahr initiierte Forschungsprogramm „Verantwortliche Künstliche Intelligenz“). Weiterhin werden eher technische Risiken im Zusammenhang mit dem Einsatz von KI betrachtet. Dazu gehören Aspekte wie z. B. Datenschutz und Schutz individueller Privatsphäre, aber auch die Vorstellung, dass KI-Algorithmen zwangsläufig „black boxes“ darstellen und daher völlig intransparent sind. Funktionen, die von modernen KI-Algorithmen (wie tiefen Neuronalen Netzen oder XG-Boosting) generiert werden, sind für den Menschen nicht verständlich und erlauben keine definitive Analyse der Begründungen von Prognosen. Darüber hinaus sind die Verfahren lediglich für die Verwendung bei speziellen Problemkategorien konzipiert und daher nicht universell einsetzbar. Wünschenswert wäre eine KI-Technologie, die diese Schwächen nicht aufweist. Besonders in der Anwendung von KI-Algorithmen im Kontext der Sozialen Arbeit sind einige Problemfelder erkennbar. Aufgrund der Tatsache, dass die Leistungserbringung durch soziale Einrichtungen unmittelbar in die Lebensführung von Menschen eingreift, ist die Frage nach adäquaten Beurteilungskriterien für die Zusammenstellung von Daten und den Einsatz von Algorithmen im Rahmen der Gestaltung von Entscheidungsprozessen in sozialen Einrichtungen im Hinblick auf die Erbringung von Unterstützungsleistungen vielschichtiger als im Bereich von technischen Anwendungen. Innerhalb der gesellschaftlichen Wahrnehmung befinden sich Ethik und künstliche Intelligenz in einem Spannungsverhältnis. Andererseits ist erkennbar, dass auch im Bereich der Sozialen Arbeit nach Möglichkeiten gesucht wird, einen effizienteren Ressourceneinsatz zu gewährleisten, Entscheidungen in einem stärkeren Maß objektivierbar zu machen und eine Form der Wirkungskontrolle zu ermöglichen. Besonders die Anwendung von KI, um zukünftiges Verhalten vorherzusehen und Risiken für oder durch Personen zu kalkulieren, und dies, ohne eine persönliche soziale Diagnose durchzuführen, ist von Problemen geprägt. Eine Überrepräsentation von speziellen Bevölkerungsgruppen durch ein Bias der KI und eine fehlende Transparenz in Bezug auf den Entscheidungsprozess erhöht unter Umständen Benachteiligung und Ungleichheiten (Gillingham 2016). Eine gute Datenbasis ist deswegen von hoher Relevanz und Soziale Arbeit muss sich mit den Inhalten dieser „black boxes“ auseinandersetzen, um diese Gefahren abzuwenden (Chouldechova et al. 2018). Es ist daher wichtig, dass Chancen und Risiken konkret abgewogen werden, die Anwendung durch Schulungen auch in Hinblick auf Gefahren und ethische Dilemmata durchgeführt werden. Weiterhin muss Soziale Arbeit für dieses Thema selbst Verantwortung übernehmen und dies nicht anderen Disziplinen oder Berufsgruppen allein überlassen. Projekte sollten also besonders die Spannung, die durch die Chancen und Risiken der verwendeten Technologie entstehen, beachten und diskutieren (Whittlestone et al. 2019). 117 uj 3 | 2022 KI-basierte Entscheidungen in der Sozialen Arbeit Die Auseinandersetzung mit potenziellen Gefahren für Individuen und Gesellschaft, die mit dem Einsatz von KI einhergehen können, steht, soweit erkennbar, eher im Mittelpunkt bisheriger wissenschaftlicher Betrachtungen. Insofern stehen sich bei vordergründiger Betrachtung technische Möglichkeiten und ethische Anforderungen sowie Richtlinien, beispielsweise die des Deutschen Berufsverbandes für Soziale Arbeit, offenbar im Wesentlichen unversöhnlich gegenüber. Was bislang fehlt, sind verlässliche und robuste Forschungsergebnisse bezüglich tatsächlicher Einsatzmöglichkeiten von KI im Bereich der Arbeit in sozialen Einrichtungen unterschiedlicher Handlungsfelder. Dies gilt insbesondere vor dem Hintergrund der ethischen Postulate, evidenz-informierter Praxis und Wirkungskontrolle sowie fachlich fundierter Entscheidungsfindung. Zur Schließung dieser Lücke soll die Realisierung des geplanten Projekts einen Beitrag leisten. Die Besonderheiten des geplanten Ansatzes werden im folgenden Abschnitt dargestellt. Ansatz des Zentrums für emergenzbasierte Statistik (ZES) an der Dualen Hochschule Baden-Württemberg in Villingen-Schwenningen Das zentrale Spezifikum des Ansatzes besteht darin, dass am Zentrum für emergenzbasierte Statistik (ZES) ein konkretes KI-System zur Verfügung steht, in dessen Rahmen die empirische Operationalisierung von sowohl effizienzorientierten als auch ethikbezogenen Kriterien für die Beurteilung algorithmenbasierter Entscheidungen erfolgt. Der Ansatz ist dabei annahmefrei und rein empirisch. Der Algorithmus sucht autonom in Datenbeständen nach wiederkehrenden Mustern, die zu Aussagen folgender Struktur führen: „In Sequenzen von Einzelmessungen war es in der Vergangenheit immer so, dass…“. Die dabei entstehenden Prognosemodelle haben eine äquivalente Prognoseperformance wie stateof-the-art KI-Algorithmen (z. B. XG Boost oder Deep Neural Nets). Auch erlaubt der Algorithmus die a-priori-Berücksichtigung von bestimmten Formen menschlichen Wissens über z. B. bekannte Kausalrichtungen. Die vorliegenden Erfahrungen mit dem Einsatz des Algorithmus in anderen Bereichen zeigen, dass hieraus Anwendungsmöglichkeiten für unterschiedliche Aufgabenstellungen wie Prognosen, Kausalanalysen, automatisierte Steuerung sowie Stabilitätskontrolle von Prozessen resultieren. Weiteres wesentliches Merkmal des zum Einsatz kommenden Algorithmus ist die detaillierte Nachvollziehbarkeit und Erklärbarkeit der Resultate, die der Algorithmus hervorbringt. Diese Eigenschaft der verwendeten Methodik ist auch deshalb besonders wichtig, da nur so die gefundenen Ergebnisse vom Menschen in einen größeren Kontext eingeordnet und so ggf. durch die Datenauswahl bedingte Probleme erkannt und berücksichtigt werden können. Darüber hinaus können Entscheidungsträger in sozialen Einrichtungen ganze Gruppen von Zielvariablen, für die konsistente Prognosen und Erklärungen generiert werden sollen, flexibel determinieren. Es können Prognosen erstellt werden, die über Sequenzen von Einzelfällen eine empirisch nachweisbare Verlässlichkeit aufweisen, und empirische Kausalitätsbetrachtungen durchgeführt werden. Damit liegt ein Analyseinstrumentarium vor, welches die Erwartung weckt, Entscheidungen bzw. Entscheidungsunterstützungen zu ermöglichen, die ➤ im Vergleich zu nicht KI-gestützten Entscheidungen ein höheres Maß an Objektivität und Transparenz aufweisen, z. B. im Bereich der Ressourcenplanung oder der Planung der Allokation von Unterstützungsleistungen, ➤ die es weiterhin ermöglichen, abstrakte Wertvorstellungen wie Fairness, Transparenz oder Vertrauenswürdigkeit in empirisch fassbare Konzepte zu übersetzen und 118 uj 3 | 2022 KI-basierte Entscheidungen in der Sozialen Arbeit ➤ die somit im Endeffekt innerhalb der beteiligten sozialen Einrichtungen auf Akzeptanz hinsichtlich des Zustandekommens und der Qualität der Algorithmus-Ergebnisse stoßen. Wenn in diesem Sinne grundsätzliche Akzeptanz vorliegt, dann ist damit noch keine Zwangsläufigkeit bezüglich der Verbindlichkeit der Umsetzung der Algorithmus-Ergebnisse gegeben. Umsetzung im Rahmen des Projekts Der Einsatz algorithmenbasierter Entscheidungsfindung bzw. künstlicher Intelligenz (KI) in den unterschiedlichsten Bereichen suggeriert ein höheres Maß an Entscheidungsqualität und damit einhergehend ein höheres Maß an Objektivität und Effizienz, als es bei menschlichen Entscheidungen der Fall wäre. Gleichzeitig sind die Ergebnisse transparent und können vom Anwender oder der Anwenderin in den Kontext seines oder ihres „Wissens von der Welt“ eingeordnet und ggf. auch infrage gestellt werden. Gegenstand des Projektvorhabens ist es, zu prüfen, ob durch den Einsatz von KI effizienzfördernde, aber zugleich erklärbare und fachlich fundierte Interventionsstrategien entwickelt werden können und konkrete Entscheidungen derart getroffen werden können, dass sie innerhalb der Einrichtungen als vertrauenswürdig und ethisch vertretbar angesehen werden. Hieraus resultiert das Ziel, folgende Forschungsfragen zu beantworten: 1. Kann es gelingen, auf der Grundlage von Daten, die von den am Projekt beteiligten sozialen Einrichtungen für Analysezwecke bereitgestellt werden, eine Wissensdatenbank (KnowledgeBase) zu erzeugen, deren Wissensvorrat Verbesserungen im Hinblick auf messbare Erfolgskriterien und Erreichen der Ziele im Zusammenhang mit den durch die dualen Partner zu erbringenden Unterstützungsleistungen ermöglicht? 2. Kann es gelingen, in sozialen Einrichtungen algorithmengestützt Managementstrategien und Service-Delivery-Strategien zu erarbeiten, die in den Einrichtungen auf Akzeptanz stoßen, da sie in den betreffenden Organisationen als transparent und objektiv begründbar und daher als vertrauenswürdig und fair eingestuft werden? Der innovative Charakter des Vorhabens ergibt sich aus zwei Eigenschaften: Zum einen soll der Einsatz einer konkreten und in anderen Bereichen bereits erfolgreich zur Anwendung kommenden KI-Technologie unter Verwendung von Daten aus den drei beteiligten Einrichtungen (zwei aus der Kinder- und Jugendhilfe und eine Einrichtung aus der Behindertenhilfe) erfolgen. Zum anderen ist die direkte und intensive Einbindung der Einrichtungen, um deren Tätigkeit es geht, in den Forschungsprozess von zentraler Bedeutung für den Erfolg des Vorhabens. Hierdurch grenzt sich das Vorhaben von bisherigen Forschungsansätzen ab. Dies und die spezifischen Eigenschaften der verwendeten KI-Technologie sollen den Nachweis ermöglichen, dass durch KI-Unterstützung in der praktischen Tätigkeit sozialer Einrichtungen ein Potenzial für die Generierung eines Mehrwerts liegt. Das Projekt wird in Form eines Fallstudienansatzes aufgebaut, die Einrichtungen sind hier als Fall kategorisiert. Dieser Ansatz ist im Rahmen dieses Projekts sinnvoll, da so eine Tiefenanalyse mit einem strukturierten und vergleichenden Ansatz ermöglicht wird (Yin 2009). Die Reliabilität und Glaubwürdigkeit wird durch Transparenz während des Datensammlungs- und -analyseprozesses gewährleistet. Externe und interne Validität wird durch eine klare Beschreibung und Dokumentation erreicht (Sapsford/ Jupp 1996; Flick 2014). Um den genannten Bedenken und Schwierigkeiten, die sich aus der Verbindung zwischen 119 uj 3 | 2022 KI-basierte Entscheidungen in der Sozialen Arbeit einem KI-Algorithmus und der Praxis der Sozialen Arbeit ergeben, Rechnung zu tragen, ist eine enge und verzahnte Zusammenarbeit zwischen dem Forschungsteam und der Praxis geplant. Datensammlung und -auswertung mit partizipatorischen Elementen Zusätzlich zur Auswertung der von den Einrichtungen bereitgestellten Forschungsdaten durch Anwendung des KI-Algorithmus beinhaltet dieses Projekt auch eine qualitative Forschungskomponente. In der Auseinandersetzung mit den Algorithmus-Ergebnissen sowie der Diskussion der Ergebnisse im Rahmen von Fokusgruppen mit entsprechenden Fach- und Leitungskräften der sozialen Einrichtung liegt eine weitere Spezifität des Ansatzes. Im Rahmen der Erstellung einer KnowledgeBase ist eine enge Kooperation zwischen den beteiligten Einrichtungen und dem Forschungsteam aufseiten der Dualen Hochschule unabdingbar: Im Vorfeld der Datenauswertung muss gemeinsam mit den Einrichtungen die Selektion der bereitzustellenden Daten vorgenommen werden. Die Realisierung des Forschungsvorhabens erfolgt in drei Schritten, die sequenziell abzuarbeiten sind und damit drei Teilziele bedingen: 1. Die Erstellung einer KnowledgeBase: Auf der Grundlage von Daten und a-priori- Wissen, die durch die beteiligten Einrichtungen bereitgestellt werden, soll durch systematische Auswertung mithilfe des KI-Algorithmus eine Wissensdatenbank erzeugt werden. 2. Die für das Projekt verantwortlichen Personen bei den beteiligten Einrichtungen sollen durch Trainings mit dem Algorithmus und den konkreten, in der Wissensdatenbank gespeicherten Resultaten in die Lage versetzt werden, mit dem Algorithmus eigenständig zu arbeiten. 3. Im Rahmen von leitfadengestützten Fokusgruppen (einrichtungsspezifisch und -übergreifend) soll gemeinsam mit Fach- und Leitungskräften der Einrichtungen diskutiert werden, wie die Ergebnisse der Datenauswertung unter ethischen und fachlichen Gesichtspunkten einzuordnen sind und welche Konsequenzen sich für die Einrichtungen hieraus ergeben. Es soll dabei sowohl um das „Ob“ eines künftigen KI-Einsatzes als auch um das „Wie“ gehen, da im Hinblick auf den Einsatz von KI in der praktischen Arbeit unterschiedliche Formen einer Mensch-Maschine-Kooperation denkbar sind. Da es sich um Diskussionen auf der Basis der jeweiligen einrichtungsspezifischen Daten handelt, können hier weitere fruchtbare Erkenntnisse gewonnen werden bzw. die Ergebnisse mit sozialarbeiterischen Einschätzungen, Erfahrungen und der professionellen Praxis verbunden werden. Dieser partizipatorische Ansatz (Bergold/ Thomes 2012) ermöglicht auch, den genannten Bedenken bezüglich potenzieller ethischer und fachlicher Komplexitäten zu begegnen. Der direkte Dialog ist erforderlich, um das Projektziel zu erreichen. Die beteiligten Einrichtungen sind entsprechend dem starken Anwendungsbezug des Forschungsvorhabens aufgefordert, ihre Eindrücke bezüglich der Resultate der Datenauswertung im Hinblick auf Potenziale der Verbesserung von Entscheidungen und die adäquate Berücksichtigung allgemeiner ethischer und spezieller berufsethischer Postulate und Prinzipien mit dem Forschungsteam zu diskutieren, um so sinnvolle Möglichkeiten des KI-Einsatzes identifizieren zu können. Im Sinne der Nachhaltigkeit können die Erkenntnisse im Anschluss auf andere Einrichtungen übertragen werden. 120 uj 3 | 2022 KI-basierte Entscheidungen in der Sozialen Arbeit Auswertung der qualitativ erhobenen Daten Die Datenauswertung erfolgt durch eine Inhaltsanalyse nach Bengsston (2016), um die qualitativen Daten mit den Erkenntnissen des KI-Algorithmus zu verbinden, hierbei können sowohl latente wie auch manifeste Aussagen der Daten herausgearbeitet werden. Denn sowohl inhaltliche wie auch dahinterliegende Bedeutungen von Aussagen sind relevant, um den notwendigen Erkenntnisgewinn zu erreichen. Besonders in diesem Kontext, bei dem neue Technologien in einem Feld angewandt werden, das eine gesunde Skepsis gegenüber dieser Anwendung prägt, ist eine Auseinandersetzung bezüglich der ethischen Vertretbarkeit, der fachlichen Richtigkeit und auch der praktischen Anwendbarkeit durch diese Form der Analyse erreichbar, um Stärken und Schwächen der Verbindung zwischen der Anwendung von diesem spezifischen KI-Algorithmus in der Praxis zu erforschen. Forschungsethik Bei den im Rahmen des Projekts verwendeten Daten handelt es sich um personenbezogene Daten. Die Gefahr eines unautorisierten Zugangs zu den Daten und einer missbräuchlichen Verwendung der Daten im Rahmen bzw. als Folge der Projektdurchführung muss, soweit irgend möglich, ausgeschlossen werden. Dies erfolgt durch vollständige Anonymisierung der Daten innerhalb der beteiligten sozialen Einrichtungen, bevor sie dem Analyseprozess zugeführt werden. Rechtliche Regelungen, insbesondere die der Datenschutz-Grundverordnung, sowie ethische Standards, z. B. das DGSA-Eckpunktepapier „Forschungsethik in der Sozialen Arbeit“ der Deutschen Gesellschaft für Soziale Arbeit, werden strikt eingehalten. Im Sinne des Datenschutzes muss zwingend durch die jeweilige Einrichtung eine Anonymisierung der Daten erfolgen. Auch die Aufbereitung der Daten für die eigentliche Auswertung muss in enger Abstimmung mit dem Forschungsteam aufseiten der Dualen Hochschule erfolgen. So geht es hier beispielsweise darum, sinnvolle Zielvariablen für Prognoseaufgaben und Kausalanalysen festzulegen. Eine weitere technisch bedingte Gefahr liegt in der Möglichkeit von Fehlinterpretationen der Resultate der Datenauswertung und daraus resultierenden Fehlentscheidungen. Dieser Gefahr wird durch Trainings und Schulungen der beteiligten Fachkräfte in diesem spezifischen KI-Algorithmus bzw. durch die Fokusgruppen der beteiligten Einrichtungen und durch geeignete Maßnahmen (z. B. Auswahl von Ergebnissen, Darstellung und Hilfefunktionen etc.) begegnet. Zu erwartende Ergebnisse und Erkenntnisse des Projekts Die Ergebnisse des Forschungsvorhabens sollen in den folgenden Bereichen Verwendung finden: ➤ Die Erstellung der KnowledgeBase über Kausalzusammenhänge und Entscheidungsfindung, die ggf. eine weiterführende Anwendung von den Partnereinrichtungen erfährt, dient direkt der Weiterentwicklung und Professionalisierung der Entscheidungsfindung und Strategien in den jeweiligen Einrichtungen. ➤ Durch die Publikation der Ergebnisse sollen die gewonnenen Erkenntnisse bezüglich der Einsetzbarkeit von KI zur Entscheidungsunterstützung in Einrichtungen des sozialen Sektors, eventueller ethischer Vorbehalte und Ansätze zu deren Lösung einer breiten Fachöffentlichkeit zur Verfügung gestellt werden. Dies ergänzt bisherige Forschung im Bereich der Entscheidungsfindung, die auf qualitativen Einschätzungen der Fachkräfte bzw. der 121 uj 3 | 2022 KI-basierte Entscheidungen in der Sozialen Arbeit quantitativen Analyse spezifischer Teilaspekte von Entscheidungen beruht. Die Erkenntnisse des Projekts, die sowohl durch die Anwendung dieses spezifischen Algorithmus als auch durch die Analyse und Interpretation der Fokusgruppen entstehen, dienen der Unterstützung und Weiterentwicklung der evidenz-informierten Entscheidungsfindung in sozialen Einrichtungen und können potenziell auch dazu verwendet werden, die Datenerhebung im Bereich der Sozialen Arbeit weiterzuentwickeln. ➤ Die gefundenen Ansätze zur Lösung ethischer Probleme sollen auch zur Verbesserung des bestehenden Algorithmus führen, die dann von vielen Einrichtungen verwendet werden können. Zusammenfassung Die Anwendung von KI-Algorithmen in der sozialarbeiterischen Praxis ist bereits in einigen Ländern eine Tatsache und wird sich auch in Deutschland mehr und mehr verbreiten. Die Frage, die sich hier stellt, ist, inwieweit Soziale Arbeit hier ein aktiver Gestalter sein möchte und damit auch die kritischen und problematischen Gefahren positiv im Sinne der Adressaten und Adressatinnen beeinflussen möchte, um soziale Ungleichheit und Benachteiligung zu verringern. Dieses Projekt ist ein Schritt in diese Richtung, in dem in einem partizipatorischen Forschungsprojekt das Spannungsfeld zwischen Forschung und Praxis in konkreten Einrichtungskontexten ausgelotet werden kann und damit Möglichkeiten des konstruktiven und gewinnbringenden Einsatzes von KI in der sozialarbeiterischen Praxis entwickelt werden können. Prof. Dr. Christina S. Plafky Prof. Dr. Norbert Kratz Prof. Dr. André Kuck Hans Frischhut Duale Hochschule Baden-Württemberg Friedrich-Ebert-Straße 30 78054 Villingen-Schwenningen Literatur Bengtsson, M. (2016): How to plan and perform a qualitative study using content analysis. NursingPlus Open 2, 8 - 11. Bergold, J., Thomes, S. (2012): Participatory Research Methods: A Methodological Approach in Motion. Forum Qualitative Sozialforschung/ Forum: Qualitative Social Research 13, 1 Chouldechova, A., Putnam-Hornstein, E., Benavides- Prquado, D., Fialko, D., Caithianathan, R. (2018): A case study of algorithm-assisted decision making in child maltreatment hotline screening decisions. Proceedings of Machine Learning Research 81, 1 - 15 Flick, U. (2014): Sozialforschung. Methoden und Anwendungen. Ein Überblick für die BA-Studiengänge. Rowohlt Taschenbuch Verlag, Hamburg Gillingham, P. (2016): Predictive Risk Modelling to Prevent Child Maltreatment and Other Adverse Outcomes for Service Users: Inside the‘Black Box’of Machine Learning. British journal of social work 46 (4), 1044 - 1058 High-Level Expert Group on Artificial Intelligence (2019): Ethics Guidelines for Trustworthy AI. Europäische Kommission, Brüssel, 12 Sapsford, R., Jupp, V. (1996): Data collection and analysis. Sage in association with Open University, London Whittlestone, J., Nyrup, J., Alexandrova, A., Dihal, K., Cave, S. (2019): Ethical and societal implications of algorithms, data, and artificial intelligence: a roadmap for research. Nuffield Foundation, London Yin, R. K. (2009): Case study research: design and methods. Sage Publication, Los Angeles