Critical Reflection and Governance of AI-Mediated Knowledge Work

Diese Dissertation untersucht die Transformation von Dokumentationspraktiken in Kontexten, in denen Menschen und generative KI-Chatbots bei der Produktion, Validierung und Governance von Wissen zusammenarbeiten. Während generative KI-Systeme aktuell in großem Maßstab Einzug in Wissensinfrastrukturen halten, erzeugen sie Outputs, die als Dokumente zirkulieren, dabei jedoch die Grundlage menschlicher Zeugenschaft entbehren, auf der dokumentarische Autorität historisch beruht hat. Verfügbare Konzepte in der Dokumenttheorie, der Informationswissenschaft und der KI-Governance haben bisher weder eine einheitliche Beschreibung dieser Situation noch eine Antwort darauf entwickelt, wie die Dokumentationspraxis darauf reagieren muss. In der Praxis fehlen in wissensintensiven Bereichen, von der Forschung über die Lehre bis hin zu Rechts- und Gesundheitsbereichen, bislang einheitliche Standards dafür, unter welchen Voraussetzungen KI-generierte Ausgaben als verlässliche Zeugnisse herangezogen werden können. Die Dissertation führt ein Dokumentationsschwellen-Rahmenwerk ein, eine abgestufte, praxisbasierte Governance-Architektur, die Anforderungen an menschliches Handeln in verschiedenen organisatorischen Kontexten und zu verschiedenen institutionellen Risikoniveaus spezifiziert. Das Rahmenwerk formuliert menschliche Aufsichtspflichten in der KI-Governance nicht als technische Kontrollmechanismen, sondern als Dokumentationsarbeit und verschiebt damit die zentrale regulatorische Frage davon, ob ein KI-System kontrollierbar ist, hin zu der Frage, ob die dokumentarischen Praktiken rund um seine Outputs ausreichen, um diese nachweislich menschlich verantwortet, archivierbar und zitierbar zu machen. In konstruktiver Auseinandersetzung mit regulatorischen Entwicklungen, darunter der EU KI-Verordnung und ISO 42001, legt die vorliegende Arbeit dar, dass die Governance KI-generierter Outputs untrennbar mit der Praxis der Dokumentation verbunden ist.