Forschungsprofil
Rainer Mühlhoff forscht zur Ethik und Sozialphilosophie der Künstlichen Intelligenz. Im Zentrum steht die Frage, wie KI-Technologien gesellschaftliche Machtverhältnisse verändern – etwa durch neue Formen der Wissensproduktion, der sozialen Selektion, der techno-politischen Ideologien und der Delegation von Entscheidungen.
Sein Ansatz verbindet Ethik, kritische Sozialphilosophie, politische Philosophie, Technikphilosophie und Medienwissenschaft. KI wird dabei nicht als isoliertes technisches Werkzeug betrachtet, sondern als Bestandteil soziotechnischer Systeme, in denen Unternehmen, staatliche Institutionen, Infrastrukturen, Datenpraktiken und gesellschaftliche Ideologien zusammenwirken.
Macht, Demokratie und Tech-Autoritarismus
Ein aktueller Schwerpunkt liegt auf dem Verhältnis von KI, Demokratie und politischer Macht. Rainer Mühlhoff untersucht, wie KI-Unternehmen und digitale Infrastrukturen staatliche Entscheidungsprozesse, öffentliche Diskurse und demokratische Institutionen verändern.
Dazu gehören die Analyse von Tech-Ideologien, digitalem Autoritarismus und neuen faschistischen Tendenzen ebenso wie Fragen nach Rechtsstaatlichkeit, gesellschaftlicher Teilhabe und demokratischer Kontrolle technologischer Infrastrukturen.
Zum Bestseller „KI und der neue Faschismus“ Projekt „KI und Demokratie“
Machtbewusste Ethik der KI
Rainer Mühlhoff entwickelt eine machtbewusste Ethik der KI. Dieser Ansatz erweitert klassische Technikethik um eine systematische Analyse gesellschaftlicher Machtverhältnisse. Ethische Probleme entstehen demnach nicht erst durch fehlerhafte Einzelentscheidungen eines Systems, sondern bereits durch die institutionellen, wirtschaftlichen, politischen und insgesamt strukturellen Bedingungen, unter denen KI mit Gesellschaft verflochten ist.
Ein besonderes Interesse gilt der historischen Transformation von Urteilskraft, Wissen und Verantwortung im Kontext von KI als soziotechnische Menschen-Maschine-Systeme. Bei der Nutzung generativer KI und großer Sprachmodelle stellt sich insbesondere die Frage, wann die Delegation einzelner Aufgaben in eine Delegation von Urteilskraft und schließlich in eine moralische Verantwortungsabgabe übergeht. Im Rahmen seiner Assoziierung am Institut für Medizinische Informatik der Charité – Universitätsmedizin Berlin untersucht Rainer Mühlhoff diese Fragen auch im Feld medizinischer KI-Anwendungen, in dem die Delegation von Urteil besonders eng mit fachlicher Verantwortung, epistemischer Kontrolle und Folgen für Patient:innen verbunden ist.
Manifest für eine machtbewusste Ethik der KI Zum Buch „The Ethics of AI“
Prädiktives Wissen, Datenschutz und Regulierung
Ein weiterer Schwerpunkt ist die ethische und politische Bedeutung prädiktiven Wissens. KI-Systeme können sensible Informationen über Menschen prognostizieren, ohne dass diese Informationen von den Betroffenen selbst preisgegeben wurden. Solche Vorhersagen beruhen häufig auf den Daten vieler anderer Personen und erzeugen neue Formen kollektiver Verletzbarkeit.
Ein wichtiges Anwendungsfeld sind medizinische KI-Systeme. Medizinische Daten sind nicht nur für sich besonders sensibel, sondern bieten auch die Möglichkeit zu prognostischen Erkenntnissen und folgenreichen Privatsphäreverletzungen für Dritte, sodass Fragen der Zweckbindung und eines für das KI-Zeitalter aktualisierten Datenschutzes besonders relevant sind.
Mit den Konzepten der prädiktiven Privatheit und der Zweckbindung für KI-Modelle entwickelt Rainer Mühlhoff gemeinsam mit der Rechtswissenschaftlerin Hannah Ruschemeier neue Ansätze für Datenschutz und KI-Regulierung. Dabei geht es insbesondere um die verantwortungsvolle Einhegung der gesellschaftlichen Macht, die aus trainierten Modellen, großen Datensammlungen und der Möglichkeit ihrer späteren Zweckentfremdung entsteht.
Datenschutz und Regulierung von KI Projekt „Prädiktives Wissen ist Macht“
KI, Bildung und gesellschaftliche Zukunft
In der Forschungsgruppe Ethik und kritische Theorien der KI untersucht Rainer Mühlhoff außerdem die Rolle von KI in Bildung und Schule. Dazu gehören Studien zu automatisierten Bewertungs- und Feedbacksystemen, Projekte zur AI Literacy sowie Bildungsformate, die jungen Menschen eine kritische Auseinandersetzung mit KI ermöglichen.
Ein aktuelles Thema ist die Zeitdiagnose der KI-Resignation: das Gefühl Jugendlicher, der technologischen Entwicklung und den von Unternehmen vorgegebenen Zukunftsbildern machtlos gegenüberzustehen. Die Forschung fragt, wie Bildung nicht nur individuelle Anpassungsfähigkeit vermitteln, sondern auch demokratische Handlungsfähigkeit und alternative gesellschaftliche Zukunftsvorstellungen stärken kann.
Theoretische Grundlagen und interdisziplinäre Zusammenarbeit
Die aktuellen Arbeiten bauen auf langjähriger Forschung zu Macht, Subjektivierung, Affekt und digitalen Medien auf. Begriffe wie Human-Aided AI, automatisierte Ungleichheit, digitale Entmündigung und affektive Subjektivierung machen sichtbar, dass digitale Technologien immer in gesellschaftliche Beziehungen und kollektive Praktiken eingebettet sind.
Rainer Mühlhoff arbeitet interdisziplinär mit Rechtswissenschaft, Informatik, Medizin, Bildungswissenschaft und Praxispartnern aus Wirtschaft und Zivilgesellschaft zusammen. Seine mathematische und informatische Ausbildung verbindet er dabei mit Ansätzen aus Philosophie, kritischer Theorie und Medienwissenschaft.