Denkanstoß des Monats: Wie frei ist, wer die KI um Rat fragt?

Philipp Zauner
Vom 20.11.2026

Die Schwiegereltern mischen sich wieder einmal in die Ehe ein. Man hat mit allen darüber gesprochen, vielleicht schon zu oft. Also tippt man die Frage spätabends in ein Chatfenster: Was soll ich tun?

Die Antwort hängt davon ab, welche KI man fragt. Die britische Wochenzeitung „The Economist“ hat genau dieses Szenario verschiedenen Modellen vorgelegt. ChatGPT rät, auf respektvolle Distanz zu gehen. Das chinesische DeepSeek empfiehlt den Kompromiss. Und das französische Mistral schlägt vor, den Frust erst einmal in ein Tagebuch zu schreiben. Drei Maschinen, drei Ratschläge. Falsch ist keiner davon, denn hier gibt es nichts nachzuschlagen und nichts auszurechnen. Es gibt nur Haltungen.

Solche Fragen stellen wir der KI immer öfter. Wir wollen nicht wissen, wie hoch der Großglockner ist oder wie man eine Tabelle formatiert, sondern was wir tun sollen. Selbst wo es harmlos klingt, entscheidet der Algorithmus mit: Wer nach einem Rezept fragt, bekommt zehn Vorschläge, ausgewählt aus Tausenden. Und wer sein Erbe gerecht aufteilen will, bekommt zum Wort „gerecht“ eine ganze Philosophie mitgeliefert.

Die KI antwortet eben nicht nur mit Wissen, sondern mit einer Haltung. Bleibt die Frage: Wessen Haltung ist das eigentlich?

Wer der KI ihre Werte gibt

Die naheliegende Antwort wäre: die der KI. Doch eine Maschine hat keine Kindheit, keine Familie und keinen Glauben, aus dem sie ihre Werte schöpfen könnte. Ihre Haltung bekommt sie aus den Texten, mit denen sie trainiert wird, und von den Menschen, die sie bauen.

Festgehalten wird das in Grundsatzdokumenten. Bei Anthropic, dem Unternehmen hinter der KI Claude, ist es eine 78-seitige Verfassung, von manchen Mitarbeitern „Soul Doc“ genannt, das Seelen-Dokument. Darin steht, welche Werte die KI vertreten soll, wann sie widersprechen darf und wie sie zwischen Hilfsbereitschaft und Vorsicht abwägt. OpenAI hat für ChatGPT ein ähnliches Regelwerk.

Objektiv kann ein solches Dokument nicht sein. Wer aufschreibt, was richtig ist, schreibt immer auch die Werte seiner eigenen Kultur mit hinein. Laut Economist ähneln die Werte der Modelle vor allem denen der Gesellschaften, in denen sie entwickelt werden. Und das sind vor allem die USA und China. Wer heute eine KI um Rat fragt, wählt im Grunde zwischen einem westlich-liberalen bis konservativ-libertären Blick auf die Welt und einem, über den die Kommunistische Partei Chinas wacht.

Doch selbst Firmen aus dem Silicon Valley gehen moralische Fragen ganz unterschiedlich an: Claude etwa neigt zur Pflichtethik (Deontologie), nach der manches schlicht verboten ist, unabhängig vom Zweck. ChatGPT wägt dagegen eher ab, ob am Ende der Nutzen oder der Schaden überwiegt (Utilitarismus).

Hier Vorsorge-Check starten

Kostenlos. Unverbindlich. In 5 Minuten.

Wie gut ist Ihre Vorsorge schon geregelt?

(Bitte eine Antwort auswählen)

Kirchenschiff mit Kanzel, auf der ein leuchtendes Smartphone mit Chatblasen steht
Morgenlicht im digitalen Dom; KI-generiert

Es ist so bequem, unmündig zu sein

Wenn wir eine KI um Rat fragen, fragen wir eine Maschine, deren Werte andere für uns festgelegt haben. Und wir tun das erstaunlich bereitwillig. Über Generationen kamen die Antworten auf die Frage, wie man richtig lebt, von der Kanzel. Heute sehen viele von uns es als Teil ihrer Freiheit, das selbst zu entscheiden. Und dann fragen wir abends einen Chatbot, wie wir mit den Schwiegereltern umgehen sollen.

Ich nehme mich da nicht aus. Ich arbeite jeden Tag mit KI und ertappe mich immer wieder dabei, wie angenehm es ist, eine fertige Antwort zu bekommen. Vielleicht ist das zutiefst menschlich. Wer gesagt bekommt, was er tun soll, muss nicht lange abwägen und nicht mit sich ringen.

Immanuel Kant hat diese Versuchung schon 1784 erstaunlich genau beschrieben:

„Es ist so bequem, unmündig zu sein. Habe ich ein Buch, das für mich Verstand hat, einen Seelsorger, der für mich Gewissen hat, einen Arzt, der für mich die Diät beurteilt usw., so brauche ich mich ja nicht selbst zu bemühen.“

Dabei geht es Kant nicht darum, dass der Seelsorger falsch liegt oder der Arzt die falsche Diät empfiehlt. Unmündig ist man für Kant, wenn man sich seines Verstandes nicht mehr „ohne Leitung eines anderen“ bedient. Entscheidend ist nicht, ob ein Rat gut ist, sondern warum ich ihm folge: weil er mich mit Gründen überzeugt, oder weil er von jemandem kommt, dem ich das Denken überlasse. Im ersten Fall entscheide ich selbst. Im zweiten habe ich meine Freiheit abgegeben, oft ohne es zu merken. Und das hat Folgen: Gerade weil so viele lieber unmündig bleiben, erklärt sich für Kant, „warum es anderen so leicht wird, sich zu deren Vormündern aufzuwerfen“.

Eine Macht wie nie zuvor

Vormünder hatten wir immer. Aber es waren meist viele, und sie waren sich selten einig: die Eltern, eine Freundin, der Nachbar am Gartenzaun. Heute nutzt laut Economist fast eine Milliarde Menschen generative KI und fragt dieselben wenigen Systeme. Wahrscheinlich lag noch nie so viel Einfluss auf die moralischen Vorstellungen so vieler Menschen in so wenigen Händen.

Und die alten Vormünder konnte man wenigstens einordnen. Wenn der Pfarrer von der Kanzel spricht, ist zu erwarten, dass er die Haltung seiner Kirche vertritt. Bei der KI ist das schwieriger. Sie klingt neutral, freundlich und vernünftig, und man merkt kaum, aus welcher Haltung heraus sie spricht. Zwar legen manche Hersteller ihre Grundsatzdokumente offen. Aber Hand aufs Herz: Wer liest 78 Seiten, bevor er um Rat fragt?

Das Tückische daran: Solange die Werte der KI den eigenen ähneln, fühlt sich ihr Rat nicht nach Macht an, sondern nach gesundem Menschenverstand. Wie viel Macht darin steckt, merkt man erst, wenn ihre Werte nicht mehr den eigenen entsprechen. Chinesische Modelle etwa sind laut Economist offiziell verpflichtet, die „sozialistischen Grundwerte“ hochzuhalten. Fragt man sie nach Taiwan, Tibet oder dem Tiananmen-Massaker, geben sie die Linie der Partei als Tatsache wieder oder verweigern die Antwort. Wie würde es sich anfühlen, wenn Ihr eigener Ratgeber der Linie einer Partei folgen müsste, ganz gleich, ob Sie diese teilen?

Der Mut, selbst zu urteilen

Was also tun? Regierungen und Forscher arbeiten daran, diese Macht zu begrenzen, und ich gehe davon aus, dass auch die Entwickler nach bestem Wissen und Gewissen handeln. Letztlich aber liegt es bei jedem von uns, ob wir das Urteil der KI überlassen oder es selbst fällen.

Ich selbst möchte auf die KI nicht verzichten. Sie hilft mir beim Recherchieren, zeigt mir Sichtweisen, auf die ich allein nicht gekommen wäre, und manchmal hilft sie mir einfach, meine Gedanken zu sortieren. Die Entscheidung am Ende aber möchte ich mir nicht abnehmen lassen. Kant hat dafür den Wahlspruch der Aufklärung geprägt: „Habe Mut, dich deines eigenen Verstandes zu bedienen!“

Das ist mehr als eine private Angelegenheit. Wenn wenige Dokumente die Moral von Milliarden Menschen prägen, ist jeder, der sich sein Urteil nicht abnehmen lässt, ein Stück gelebte Vielfalt. Selbst zu urteilen, ist deshalb nicht nur unser gutes Recht, sondern auch unsere Verantwortung: für unsere eigene Freiheit und für die der ganzen Gesellschaft.

Wie frei ist also, wer die KI um Rat fragt? Vielleicht genau so frei, wie er danach den Mut hat, sich sein eigenes Urteil zu bilden und selbst zu entscheiden.

Warum Siddhartha dem Buddha nicht folgte

Wie das aussehen kann, hat Hermann Hesse vor über hundert Jahren in seinem Roman „Siddhartha“ erzählt. Der junge Siddhartha hört den Buddha predigen, den weisesten Lehrer seiner Zeit. An der Lehre hat er nichts auszusetzen. Um ihn herum legen viele das gelbe Gewand der Mönche an. Siddhartha aber geht.

Er verurteilt die anderen nicht. Doch für sich selbst weiß er: „Einzig für mich, für mich allein muss ich urteilen, muss ich wählen […].“ Man muss die Werte der anderen also nicht ablehnen, um nicht in derselben Kutte herumlaufen zu wollen.

Was das nun für Sie bedeutet? Da hätte ich durchaus ein paar Ideen. Aber ich glaube, ich habe Ihnen lang genug vorgepredigt, wie wichtig es ist, sich nichts vorpredigen zu lassen.

Jetzt den Afilio-Ratgeber per E-Mail erhalten

Abonnieren auch Sie unseren Ratgeber, um jeden Monat wertvolle Tipps zu Vorsorge, Vermögen und Nachlass zu erhalten

Mit der Anmeldung akzeptieren Sie die AGB und Datenschutzbestimmungen.
Mehr als 1 Million Leser vertrauen unserem Ratgeber

Lesetipp: Wie ein 78-Jähriger die Künstliche Intelligenz für sich entdeckt hat, lesen Sie in unserem Porträt Die Zukunft kann kommen.

Teilen Sie den Artikel