Forschungsschwerpunkte

Human-AI Collaboration (Mensch-KI-Kollaboration)

Mensch-KI-Kollaboration bildet ein multidisziplinäres Forschungsfeld, das auf die Konzeption, Entwicklung und rigorose Evaluation von Künstlichen-Intelligenz-Systemen für integrierte Mensch-KI-Partnerschaften ausgerichtet ist. Verankert im theoretischen rahmen der Kognitionswissenschaft, Mensch-Computer-Interaktion, humanzentrierten Data Science sowie des Human-Centered Computing – mit starken Bezügen zur Informationswissenschaft – priorisiert dieses Feld die Schaffung adaptiver und intuitiver Schnittstellen. Diese sollen menschliche kognitive Fähigkeiten erweitern und Informationsverarbeitungsprozesse optimieren. Ein Kernprinzip ist der ethische Einsatz von KI, der Transparenz, Fairness und Rechenschaftspflicht betont, um Vertrauen zu fördern und das Potenzial für transformative Lösungen über diverse Anwendungsdomänen hinweg zu realisieren – mit dem Ziel, menschliches Wohlbefinden und gesellschaftlichen Fortschritt voranzutreiben.

Keywords:

Human-AI Collaboration, Mensch-KI-Kollaboration, Human-Centered Design, Vertrauen und Transparenz, Kognitive Erweiterung, Ethische KI

Relevante Projekte:

• Future Cognitive Agents to Support Aeronautical Actors, Forschungsprojekt mit dem Airbus-KI-Team, Airbus Central Research & Technology
• User Study of Data Discovery, Health Studies Australian National Data Asset (HeSANDA) User Interview, Forschungsprojekt mit ARDC (Australian Research Data Commons)
• AI and the Transformation of Metadata Research and Practices – Global and Regional Perspectives, Forschungsprojekt mit dem DCMI (Dublin Core Metadata Initiative) Education Committee

Publikationen:

• Liu, Y.-H., Arnold, A., Dupont, G., Kobus, C., Lancelot, F., Granger, G., … Matton, N. (2023). User evaluation of conversational agents for aerospace domain. International Journal of Human–Computer Interaction, 40(19), 5549–5568. https://doi.org/10.1080/10447318.2023.2239544

• Liu, Y.-H., Wu, M., Power, M., & Burton, A. (2023). Elicitation of contexts for discovering clinical trials and related health data: An interview study (V1.0). Zenodo. https://doi.org/10.5281/zenodo.7839282
• Liu, Y.-H., Zeng, M. L., & MacDonald, A. (Eds.). (Forthcoming). AI and the Transformation of Metadata Research and Practices – Global and Regional Perspectives. Cambridge University Press & Assessment.

Forschungsthemen:

Gestaltung und Entwicklung von KI-Systemen für integrierte Mensch-KI-Partnerschaften: Entwicklung adaptiver, intuitiver Schnittstellen für die Interaktion zwischen Mensch und KI, einschließlich dialogbasierter Agenten und Suchsysteme. Schwerpunkt liegt auf der nutzerzentrierten Evaluation von KI-gestützten Suchschnittstellen zur Optimierung der Mensch-KI-Interaktion. 

Erweiterung menschlicher Fähigkeiten und Workflow-Optimierung: Konzeption von Systemen zur kognitiven Erweiterung und Effizienzsteigerung in Informationsverarbeitungsprozessen. Untersuchungen umfassen den Einsatz in sicherheitskritischen Umgebungen (z. B. Cockpit-Assistenzsysteme für Pilotinnen) sowie KI-gestützte Personasysteme für Marketingfachleute und Datenanalystinnen.

Einfluss von KI auf Berufsrollen und Informationspraktiken: Diese Forschung untersucht, wie Künstliche Intelligenz (KI) die Aufgabenerledigung beeinflusst, die Entwicklung neuer Fähigkeiten erforderlich macht (z. B. das Verstehen von KI-Werkzeugen und deren Grenzen, die kritische Bewertung von KI-generierten Ergebnissen, die Zusammenarbeit mit KI-Entwicklern), Bedenken hinsichtlich der Arbeitsplatzsicherheit aufwirft und berufliche Identitäten neu gestaltet – insbesondere in Bereichen wie der Erstellung und Verwaltung von Metadaten.
 

Human-Centered AI (HCAI) (Humanzentrierte KI (HCAI))

Humanzentrierte KI (HCAI) ist ein interdisziplinärer Ansatz, der Prinzipien aus der Mensch-Computer-Interaktion (HCI), dem humanzentrierten Computing (HCC), der nutzerzentrierten Informationssuche und dem menschlichen Informationsverhalten integriert, um KI-Systeme zu entwickeln, die gerecht, nutzbar und an menschlichen Informationsbedürfnissen ausgerichtet sind. Er betont die Gestaltung von Technologien, die sich an Nutzerverhalten anpassen, Barrierefreiheit und Inklusivität priorisieren, fokussieren, wie Menschen Informationen suchen und interpretieren, sowie die Anwendung von Systemdesignprinzipien, um intuitive und kontextuell relevante Systeme zu gewährleisten. Durch die Zentrierung menschlicher Werte, ethischer Erwägungen und partizipativer Designpraktiken stellt dieser Ansatz sicher, dass KI die Handlungsfähigkeit der Nutzer erhöht, Vertrauen ermöglicht und vielfältige gesellschaftliche Bedürfnisse adressiert – bei gleichzeitiger Wahrung von Transparenz und Rechenschaftspflicht während des gesamten Gestaltungs-, Einsatz- und Evaluierungsprozesses.

Keywords:

Human-Centered AI, Humanzentrierte KI, Intelligente Nutzerschnittstellen, Adaptive Systeme, Kognitive Modellierung, Nutzermodellierung

Relevante Projekte:

• Intentional Forgetting through Cognitive-Computer Science Methods of Prioritization, Compression and Contraction of Knowledge, DFG-Projekt im SPP 1921
• Computational Intelligence for Complex Structured Data, Australian Research Council (ARC), Linkage-Projekte
• Future Cognitive Agents to Support Aeronautical Actors, Forschungsprojekt mit dem Airbus KI-Forschungsteam, Airbus Central Research & Technology

 Publikationen:

• Liu, Y.-H., Nürnberger, A., Rettstatt, J., & Ragni, M. (2024). Saccadic eye movements and search task difficulty as basis of modelling user knowledge in information seeking. Proceedings of the Annual Meeting of the Cognitive Science Society, 46. Retrieved from https://escholarship.org/uc/item/3ws2g8qm

• Spiller, M., Liu, Y.-H., Hossain, M. Z., Gedeon, T., Geissler, J., & Nürnberger, A. (2021). Predicting visual search task success from eye gaze data as a basis for user-adaptive information visualization systems. ACM Transactions on Interactive Intelligent Systems, 11(2), 1–25. https://doi.org/10.1145/3446638
• Liu, Y.-H., Spiller, M., Ma, J., Gedeon, T., Hossain, M. Z., Islam, A., & Bierig, R. (2020). User engagement with driving simulators: An analysis of physiological signals. In C. Stephanidis, V. G. Duffy, N. Streitz, S. Konomi, & H. Krömker (Eds.), HCI International 2020 –Late Breaking Papers: Digital Human Modeling and Ergonomics, Mobility and Intelligent Environments (pp. 130–149). Springer International Publishing. https://doi.org/10.1007/978-3-030-59987-4_10
• Salminen, J., Liu, Y.-H., Şengün, S., Santos, J. M., Jung, S., & Jansen, B. J. (2020). The effect of numerical and textual information on visual engagement and perceptions of AI-driven persona interfaces. Proceedings of the International Conference on Intelligent User Interfaces (IUI), 357–368. https://doi.org/10.1145/3377325.3377492

Forschungsthemen:

• Verbesserung menschlicher kognitiver Fähigkeiten mit adaptiven HCAI-Systemen

Diese Forschung fokussiert sich auf die Entwicklung von KI-Systemen, die mittels multimodaler Daten (z. B. Eye-Tracking, EEG oder physiologischer Signale) Menschen adaptiv unterstützen, um kognitive Zustände, Aufmerksamkeit und Intentionen in Echtzeit zu erfassen. Solche Systeme ermöglichen dynamisch anpassbare Schnittstellen, die sich an wechselnde Nutzerbedürfnisse ausrichten. Zudem wird untersucht, wie humanzentrierte KI über einfache Frage-Antwort-Interaktionen hinausgeht und komplexe, explorative Aufgaben – wie Problemidentifikation, Planung oder Sinnbildung (engl. Sensemaking) – unterstützen kann. Diese Prozesse liegen vor bzw. jenseits klassischer Suchschnittstellen; HCAI zielt darauf ab, sie durch die Integration KI-generierter Erkenntnisse in Lern- und Informationsverarbeitungsprozesse zu erleichtern. 

• HCAI zur Unterstützung professioneller Rollen und Neuausrichtung von Informationspraktiken

Diese Forschung untersucht, wie Humanzentrierte KI (HCAI) professionelle Rollen in informationsintensiven Bereichen (z.B. Luft- und Raumfahrt oder Informationsdienste) durch die Optimierung von Arbeitsabläufen, die Erweiterung kognitiver Fähigkeiten und die Unterstützung strategischer Aufgaben verbessern kann. Sie unterstreicht die zentrale Bedeutung menschlicher Kontrolle und systematischer Evaluierung von KI-Ergebnissen, um Präzision, ethische Konformität und Verantwortbarkeit in KI-gestützten Entscheidungsprozessen zu gewährleisten.

Reasoning & Decision-Making

Die präzise Vorhersage individuellen Schlussfolgerns und Entscheidungsverhaltens zählt zu den anspruchsvollsten Zielen der Kognitionsforschung. Während klassische Ansätze der kognitiven Psychologie wertvolle Erkenntnisse über durchschnittliches Verhalten liefern, stoßen sie bei der Modellierung und Prognose spezifischer individueller Kognition und ihrer erheblichen Varianz an fundamentale Grenzen. Diese Lücke zu schließen, erfordert neuartige methodische Wege. Unser Forschungsprogramm adressiert diese Herausforderung durch die Entwicklung integrativer Verfahren, die etablierte kognitive Theorien über menschliches Denken und Urteilen systematisch mit modernen Techniken des maschinellen Lernens verknüpfen. Hierbei spielen insbesondere adaptive Recommender-Systeme eine Schlüsselrolle, da sie sich durch ihre Fähigkeit zur Personalisierung und kontinuierlichen Anpassung an individuelle Datenströme auszeichnen.
Unser Fokus liegt darauf, nicht nur deskriptiv, sondern prädiktiv leistungsfähige Modelle zu konstruieren. Diese Modelle sollen drei zentrale Anforderungen erfüllen:

1. Adaptivität – die Fähigkeit, sich dynamisch an den Lernfortschritt und die sich verändernden Präferenzen oder Fähigkeiten einer spezifischen Person anzupassen;

2. Interpretierbarkeit – die Nachvollziehbarkeit der zugrundeliegenden kognitiven Prozesse und Entscheidungsregeln, um nicht nur Vorhersagen, sondern auch Erklärungen zu liefern;
3. Robustheit – Zuverlässigkeit auch bei begrenzten oder verrauschten individuellen Daten. Ziel ist es, ein tiefes Verständnis der Mechanismen zu gewinnen, die dem individuellen Denken zugrunde liegen, und gleichzeitig praktische Anwendungen zu ermöglichen, etwa in der personalisierten kognitiven Unterstützung oder der Verbesserung von Lernumgebungen.

Diese Forschungsperspektive eröffnet zudem wichtige theoretische Fragestellungen: Wie lassen sich universelle kognitive Prinzipien mit der Modellierung individueller Abweichungen vereinbaren? Welche Rolle spielen Faktoren wie kognitive Stile, Vorwissen oder Motivation für die Vorhersagegenauigkeit? Und wie kann die oft beobachtete Diskrepanz zwischen normativen Entscheidungsmodellen und tatsächlichem menschlichem Verhalten durch prädiktive, datengetriebene Modelle besser erklärt werden? Die Beantwortung dieser Fragen ist essentiell für die Entwicklung wirklich umfassender und realistischer Modelle des menschlichen Geistes.

Ausgewählte Publikationen:

Johnson-Laird, P.N., Ragni, M. Reasoning about possibilities. (2025). Modal logics, possible worlds, and mental models. Psychon Bull Rev 32, 52–79. https://doi.org/10.3758/s13423-024-02518-z.

Borukhson, David & Lorenz-Spreen, Philipp & Ragni, Marco. (2022). When Does an Individual Accept Misinformation? An Extended Investigation Through Cognitive Modeling. Computational Brain & Behavior. 5. 10.1007/s42113-022-00136-3.

Riesterer, N., Brand, D. and Ragni, M. (2020), Predictive Modeling of Individual Human Cognition: Upper Bounds and a New Perspective on Performance. Top Cogn Sci, 12: 960-974. https://doi.org/10.1111/tops.12501.

Human Problem Solving

Die Fähigkeit, Probleme effektiv und zielgerichtet zu lösen, zählt zu den herausragendsten Merkmalen menschlicher Intelligenz. Die Mechanismen und Prozesse, die beim Problemlösen zum Einsatz kommen, sind daher eine zentrale Frage für Psychologie, Kognitionswissenschaft und künstliche Intelligenz. An der PVA untersuchen wir menschliches Problemlösen von den fundamentalen Prozessen des Schlussfolgerns bis hin zu komplexem Problemlösen und algorithmischen Denken.

 

Menschliches Schlussfolgern

In diesem Feld des menschlichen Problemlösens untersuchen wir die fundamentalen Inferenzmechanismen des Menschen im syllogistischen, konditionalen und räumlichen Schlussfolgern. Motivation ist hierbei unter anderem ein bottom-up Gedanke: Komplexeres Denken basiert hiernach letztendlich auf den untersuchten fundamentalen Inferenzmechanismen, welche somit die Bausteine des Menschlichen (rationalen) Problemlösens darstellen.

Ausgewählte Publikationen:

Brand, D., & Ragni, M. (2025). Using Cross-Domain Data to Predict Syllogistic Reasoning Behavior. In Press.

Brand, D., Todorovikj, S., & Ragni, M. (2024). Necessity, Possibility and Likelihood in Syllogistic Reasoning. In L. K. Samuelson, S. L. Frank, M. Toneva, A. Mackey, & E. Hazeltine (Eds.), Proceedings of the 46th Annual Meeting of the Cognitive Science Society (pp. 2776–2782).

Ragni, M., Brand, D., & Riesterer, N. (2021). The Predictive Power of Spatial Relational Reasoning Models: A New Evaluation Approach. Frontiers in Psychology, 12. doi: [10.3389/fpsyg.2021.626292].

 

Komplexe Probleme

In diesem Forschungsfeld liegt der Fokus auf der menschlichen Fähigkeit, komplexe Systeme zu verstehen und entsprechend zielführende Aktionen abzuleiten. Auf der einen Seite umfasst Komplexes Problemlösen dabei Planungsprobleme: Hierzu zählen beispielsweise viele (Schiebe-)Puzzles, aber auch mathematische Probleme, die mehrere Schritte benötigen um zu einem Ergebnis zu gelangen. Hierbei liegt die Schwierigkeit primär in der Planugnstiefe, die eine mentale Simulation potentieller Aktionen erfordert. Auf der anderen Seite umfasst komplexes Problemlösen ebenso Problem, bei denen das Verständnis des zugrundeliegenden Systems an sich die Schwierigkeit darstellt: Komplexe Dynamiken, Regelkreise und das Verständnis mathematischer Zusammenhänge fallen in diesen Bereich.

Einen wichtigen Sonderfall stellt hierbei das algorithmische Denken dar: Hierbei geht es um algorithmische Aufgaben, bei denen entweder ein Algorithmus verstanden werden muss (beispielweise Vorhersage des Ergebnisses), oder - wie in der Programmierung essentiell - die zielgerichtete Entwicklung eines Algorithmus zur Lösung eines Problems. In beiden Fällen ist eine mentale Simulation und ein Verständnis des Systems essentiell. 

Ausgewählte Publikationen:

Brand, D., Todorovikj, S., & Ragni, M. (2024). Predicting complex problem solving performance in the tailorshop scenario. In Sibert, C. (Ed.), Proceedings of the 22th International Conference on Cognitive Modeling (pp. 30–36). University Park, PA: Applied Cognitive Science Lab, Penn State.

Todorovikj, S., Brand, D., & Ragni, M. (2022). Predicting Algorithmic Complexity for Individuals. In T. C. Stewart (Ed.), Proceedings of the 20th International Conference on Cognitive Modeling (pp. 240–246). Applied Cognitive Science Lab, Penn State: University Park, PA. 

Kettner, F., Heinrich, E., Brand, D., & Ragni, M. (2022). Reverse-Engineering of Boolean Concepts: A Benchmark Analysis. In T. C. Stewart (Ed.), Proceedings of the 20th International Conference on Cognitive Modeling (pp. 164–169). Applied Cognitive Science Lab, Penn State: University Park, PA. 

Modeling in Information Processing

Modellierung stellt in der Wissenschaft eine unverzichtbare Klasse von Methoden dar. 
Unser Fokus liegt hierbei auf dem Einsatz verschiedener Modellierungsansätze im Bereich der Modellierung menschlicher Informationsverarbeitung, so wie der Modell-Selektion durch rigorose Auswertung (Benchmarking). Die jeweilige Methodik ist dabei bestimmt durch den Anwendungsfall, wobei wir folgende Modellierungstechniken verwenden:

• Komputationale kognitive Modellierung
• Kognitive Prozessmodelle
• Statistische Modelle
• Maschinelles Lernen und datengetriebene Modellierung

Unser Hauptaugenmerk liegt bei der Modellierung auf dem Erkenntnisgewinn: Zur Abbildung menschlicher Prozesse eignen sich komputationale kognitive Prozessmodelle, da diese theoretische Erkenntnisse direkt evaluierbar machen. Somit ermöglicht die Arbeit mit solchen Modellen gleichzeitig, Rückschlüsse auf zugrundeliegende Theorien zu ziehen. Im Gegensatz dazu sind die leistungsfähigeren Ansätze des maschinellen Lernens ideal um, je nach Anwendungsgebiet, die Vorhersagekraft zu maximieren. Modellierung menschlicher Informationsverarbeitung zieht sich hierbei als Methodik durch einen Großteil unserer Forschung zu menschlichem Denken und Verhalten - und ist nicht auf ein bestimmtes Forschungsfeld beschränkt.

Ausgewählte Publikationen:

Todorovikj, S., Brand, D., & Ragni, M. (2024). Model verification and preferred mental models in syllogistic reasoning. In Sibert, C. (Ed.), Proceedings of the 22th International Conference on Cognitive Modeling (pp. 185–191). University Park, PA: Applied Cognitive Science Lab, Penn State.

Brand, D., Riesterer, N., & Ragni, M. (2023). Uncovering Iconic Patterns of Syllogistic Reasoning: A Clustering Analysis. In C. Sibert (Ed.), Proceedings of the 21th International Conference on Cognitive Modeling (pp. 57–63). University Park, PA: Applied Cognitive Science Lab, Penn State.

Brand, D., Riesterer, N., & Ragni, M. (2022). Model-Based Explanation of Feedback Effects in Syllogistic Reasoning. Topics in Cognitive Science, 14(4), 828-844. doi: [10.1111/tops.12624].

Knowledge Representation and Intentional Forgetting

Die exponentielle Zunahme gespeicherter Daten und Wissensstrukturen in Organisationen während der letzten Jahrzehnte stellt eine fundamentale Herausforderung dar. Obwohl das Volumen organisationalen Wissens beeindruckend wächst, findet häufig keine systematische Reduktion oder Kuratierung statt. Die Folge ist ein stetig steigender Aufwand, um veraltete, irrelevante oder selten genutzte Informationen zu identifizieren und auszusortieren – ein Prozess, der sich bei großen Datenmengen und hochkomplexen Wissensnetzwerken zu einer kaum beherrschbaren Aufgabe entwickelt. Um dieser Informationsüberflutung wirksam zu begegnen, untersuchen wir den gezielten Ansatz des intentionalen Vergessens. Dieser fokussiert auf das aktive Verwerfen von irrelevantem, redundantem oder widersprüchlichem Wissen, um die organisationale Wissensbasis handhabbar und agil zu halten. Bemerkenswerterweise ist Vergessen als kognitiver Mechanismus im menschlichen Gedächtnis bereits als essenzieller Prozess für effizientes Lernen und Anpassungsfähigkeit anerkannt. Unser Forschungsziel ist es, diese kognitionswissenschaftlichen Prinzipien in den organisationalen Kontext zu transferieren und formal zu operationalisieren.
Zentral für diesen Transfer ist die Frage der Wissensrepräsentation: Wie lässt sich organisationales Wissen so strukturieren, dass Vergessen nicht als bloßer Verlust, sondern als intelligente Selektion modelliert werden kann? Hier knüpfen wir an kognitiv inspirierte formale Modelle an, welche Wissenszustände mittels epistemischer Ranking-Funktionen beschreiben. Unter Anwendung des Prinzips der konditionalen Erhaltung als allgemeinem Veränderungsaxiom realisieren wir spezifische Vergessensoperationen in Ranking-Funktionen.

Das übergeordnete Ziel unserer Forschung auf diesem Gebiet ist die skalierbare Übertragung individueller Vergessensprozesse auf organisationale Wissenssysteme mittels neuartiger Modellierungsansätze. Des Weiteren erfordert die Relevanzbewertung von Wissen in dynamischen Umgebungen die Identifikation robuster Heuristiken, die Kontextänderungen und Nutzungsmuster systematisch integrieren. Außerdem ist die Entwicklung eines formalen Rahmens unabdingbar, der die Stabilität essenzieller Wissenskerne mit der notwendigen Flexibilität für kontinuierliches Vergessen und Rekalibrierung in Einklang bringt. Die Bewältigung dieser Herausforderungen bildet eine fundamentale Voraussetzung für intelligente, selbstoptimierende Wissensmanagementsysteme der nächsten Generation.

Ausgewählte Publikationen:

Sauerwald, K., Ismail-Tsaous, E., Ragni, M., Kern-Isberner, G., Beierle, C. Sequential merging and construction of rankings as cognitive logic. (2025). International Journal of Approximate Reasoning 176, 109321. https://doi.org/10.1016/j.ijar.2024.109321.

Dames, H., Brand, D., & Ragni, M. (2022). Evidence for Multiple Mechanisms Underlying List-Method Directed Forgetting. Proceedings of the Annual Meeting of the Cognitive Science Society, 44. Retrieved from https://escholarship.org/uc/item/46921378.

Beierle, Christoph; Kern-Isberner, Gabriele; Sauerwald, Kai; Bock, Tanja; Ragni, Marco (2019): Towards a General Framework for Kinds of Forgetting in Common-Sense Belief Management. KI - Künstliche Intelligenz: Vol. 33, No. 1. DOI: 10.1007/s13218-018-0567-3.