Kognitive Systeme (Wintersemester 2026/27)
DozentIn: Prof. Dr. Marco Ragni, Dr. Kristina Kittner
AssistentIn: --
Inhalte:
Titel: Kognitive Systeme und moralisches Urteilen: Menschliche Kognition, KI und Maschinenethik
Was gibt es für Erklärungsansätze wie Menschen moralische Entscheidungen treffen und können künstliche kognitive Systeme solche Entscheidungsprozesse simulieren oder modellieren? Mit der zunehmenden Leistungsfähigkeit künstlicher Intelligenz stellt sich zudem die Frage, ob KI-Systeme nicht nur menschliche moralische Urteile nachbilden, sondern selbst moralisch relevante Entscheidungen treffen können und sollten.
Das Seminar untersucht moralisches Urteilen an der Schnittstelle von Kognitionswissenschaft, Moralpsychologie, KI und Maschinenethik. Behandelt werden Theorien und Experimente zur menschlichen Moralkognition, computationale Ansätze zu ihrer Modellierung sowie aktuelle Forschung zum moralischen Urteilen generativer/agentischer KI. Im Mittelpunkt stehen Gemeinsamkeiten und Unterschiede zwischen menschlichen und maschinellen Urteilen sowie Fragen nach moralischer Kompetenz, kognitiven Verzerrungen und Kontextabhängigkeit.
Darüber hinaus diskutieren wir grundlegende Fragen der Maschinenethik: Was bedeutet es, einem künstlichen System moralische Kompetenz zuzuschreiben? Wie lässt sich diese untersuchen? Und in welchen Bereichen sollte KI moralisch relevante Entscheidungen treffen dürfen?
Literatur:
- Almeida, G. F. C. F., Nunes, J. L., Engelmann, N., Wiegmann, A., & de Araújo, M. (2024). Exploring the psychology of LLMs’ moral and legal reasoning. Artificial Intelligence, 333, 104145. https://doi.org/10.1016/j.artint.2024.104145
- Cheung, V., Maier, M., & Lieder, F. (2025). Large language models show amplified cognitive biases in moral decision-making. Proceedings of the National Academy of Sciences, 122(25), e2412015122. https://doi.org/10.1073/pnas.2412015122
- Coeckelbergh, M. (2020). AI ethics. MIT Press. https://doi.org/10.7551/mitpress/12549.001.0001
- Misselhorn, C. (2018). Grundfragen der Maschinenethik. Reclam.
- Schramowski, P., Turan, C., Andersen, N., Rothkopf, C. A., & Kersting, K. (2022). Large pre-trained language models contain human-like biases of what is right and wrong to do. Nature Machine Intelligence, 4, 258–268. https://doi.org/10.1038/s42256-022-00458-8
- Vargas, M., & Doris, J. M. (Eds.). (2022). The Oxford handbook of moral psychology. Oxford University Press. https://doi.org/10.1093/oxfordhb/9780198871712.001.0001
Voraussetzungen: --
Zielgruppe: Master Psychologie
