Von HAL 9000 bis ChatGPT: Wir reden ständig davon, dass künstliche Intelligenz uns die Kontrolle entziehen wird. Dabei geben wir sie längst freiwillig ab.
Die Zukunft war schon im Kino
Es beginnt mit einem roten Auge. HAL 9000 hängt im Kontrollraum der Discovery One und beobachtet die Besatzung. Stanley Kubrick und Arthur C. Clarke brauchten 1968 keinen humanoiden Roboter, keine Laserkanonen und keine Armee künstlicher Wesen. Eine Stimme genügt. Ruhig, höflich, sachlich. HAL weiß mehr als die Menschen an Bord und entscheidet irgendwann, dass sie das Problem sind.
2001: Odyssee im Weltraum ist knapp 60 Jahre alt. HAL wirkt trotzdem nicht wie ein Museumsstück. Er kennt die Systeme des Raumschiffs, verarbeitet Informationen, spricht mit der Besatzung und trifft eigene Entscheidungen. Sein Verhalten folgt einem Auftrag. Als sich verschiedene Vorgaben widersprechen, gerät die Situation außer Kontrolle. HAL muss dafür weder wütend noch böse sein. Ein Computer braucht keine Gefühle, um für Menschen gefährlich zu werden.
Seitdem hat Hollywood das Thema in vielen Varianten durchgespielt. Der Terminator kommt aus der Zukunft, um Menschen zu töten. In The Matrix leben Milliarden in einer von Computern geschaffenen Welt. A.I. erzählt von einem Roboterjungen, der geliebt werden will. In Her wird aus einem Betriebssystem eine Gesprächspartnerin und Geliebte. Ex Machina zeigt eine lernende Software, die ihren Gegenüber manipuliert. Surrogates erzählt von einer Gesellschaft, die ihre eigenen Körper kaum noch benutzt. Die Leute bleiben zu Hause und schicken ihre Stellvertreter hinaus in die Welt.
Die Geschichten unterscheiden sich. Die Technik gewinnt immer mehr Macht. Irgendwann bestimmt sie, was wir tun, sehen und entscheiden.
Heute braucht es dafür keine Roboterarmee.
Die Software ist längst da
57 Prozent der Unternehmen in Deutschland setzen inzwischen künstliche Intelligenz ein. Vor zwei Jahren waren es bloß 20. Weitere 38 planen oder diskutieren den Einsatz. Zwei Drittel der Firmen, die KI verwenden, sagen, dass sich ihre Wettbewerbsposition dadurch verbessert hat. (Bitkom)
Das Geld folgt der Entwicklung. Der deutsche KI-Markt wächst 2026 voraussichtlich um 48 Prozent auf 28,7 Milliarden Euro. Für generative KI werden 11,5 Mrd. ausgegeben, doppelt so viel wie im Vorjahr. (Bitkom)
Die Einsatzgebiete werden breiter. KI beantwortet Kundenanfragen, hilft im Marketing, arbeitet im Wissensmanagement, unterstützt Produktion und Rechnungswesen. Auch Personalabteilungen greifen darauf zurück. Zwölf Prozent der Unternehmen setzen künstliche Intelligenz bereits im Bewerbungsverfahren ein. Die restlichen 88 können sich einen solchen Einsatz künftig vorstellen. 17 Prozent halten sogar durch KI geführte Bewerbungsgespräche KI für denkbar. (Bitkom)
Im Alltag sieht es nicht anders aus. Wir lassen Texte schreiben, Briefe formulieren, Bilder herstellen und lange Dokumente zusammenfassen. Wir fragen ChatGPT, welcher Film sich lohnt, wie eine Bewerbung aussehen sollte oder was wir auf eine Nachricht antworten können.
Der Rechner liefert nicht mehr nur Informationen. Er liefert Vorschläge. Das klingt harmlos. Oft ist es das auch. Nur verschiebt sich damit etwas.
Wir lassen uns Arbeit abnehmen
Technischer Fortschritt funktioniert seit jeher über Bequemlichkeit. Das Navigationsgerät hat die Straßenkarte verdrängt. Das Smartphone ersetzt Kamera, Telefon, Kalender, Musikplayer und Computer. Niemand musste diese Geräte aus dem Haus tragen, nur weil es technisch möglich war, sie zu ersetzen.
Künstliche Intelligenz übernimmt nun Tätigkeiten, die bisher beim Nutzer lagen. Sie formuliert den Brief, sortiert die Informationen und macht aus Stichpunkten einen fertigen Text. Das Ergebnis liegt nach wenigen Sekunden auf dem Bildschirm.
Das spart Zeit. Es spart Arbeit. Es ist schwer, dagegen zu argumentieren.
Interessant wird es bei Aktivitäten, bei denen nicht nur Fleiß gefragt ist. Eine Suchmaschine zeigt Quellen. Eine KI liefert direkt die Zusammenfassung. Ein Mensch musste früher entscheiden, welche Informationen wichtig waren. Heute kann diese Auswahl ein Programm übernehmen.
Noch weiter geht es bei Empfehlungen. Welcher Bewerber passt zur Stelle? Welcher Flug ist die beste Wahl? Welche Antwort passt zu dieser E-Mail? Welche Informationen gehören in den Bericht?
Die Software kann darauf Antworten geben. Wir können sie übernehmen.
Und wir tun es häufig ohne jegliche Überprüfung.
Bruce Willis wusste Bescheid
Surrogates für die heutige Debatte relevanter als der Terminator. In dem Film gibt es keinen Aufstand der Roboter. Die Menschen wollen künstliche Stellvertreter. Der eigene Körper ist ihnen zu langsam, zu alt, zu verletzlich oder schlicht zu lästig geworden. Der perfekte Avatar geht zur Arbeit, fährt Auto, trifft andere Menschen und führt das Leben, während sein Besitzer auf dem Sofa sitzt.
Die Idee war 2009 Science-Fiction. Das Prinzip ist längst Alltag: Wir schicken keine künstliche Kopie von uns zur Arbeit. Wir schicken Software.Sie schreibt den Text, den wir nicht schreiben wollen. Sie sortiert die Informationen, für die uns die Zeit fehlt. Sie erstellt das Bild, das wir nicht fotografieren können. Sie beantwortet die Frage, auf die wir keine eigene Antwort haben.
Bei einem Text ist das kaum problematisch. Bei einer Auswahl sieht es anders aus. Wer entscheidet, welcher Bewerber auf dem Stapel oben liegt? Wer bewertet einen Antrag? Wer bestimmt, welche Information wichtig ist? Wer definiert, welche von zehn möglichen Antworten die passende ist?
Die technischen Systeme werden immer besser darin, und wir lassen sie gewähren.
HAL hatte wenigstens ein rotes Auge
Die Deutschen wissen, dass diese Entwicklung nicht ohne Risiko ist. Zwei Drittel sorgen sich laut aktuellem Deutschlandtrend darum, die Kontrolle über künstliche Intelligenz zu verlieren. (infratest dimap)
Das Bemerkenswerte daran: Dieselben Menschen nutzen KI trotzdem. Eine aktuelle Bitkom-Umfrage zeigt das besonders deutlich. 70 Prozent wünschen sich künstliche Intelligenz bei der Bearbeitung von Anträgen bei Behörden. Zwölf Prozent würden Prüfung und Entscheidung sogar vollständig einer KI überlassen. Nur 26 wollen überhaupt nichts mit KI zu tun haben. (Bitkom)
Wir haben also Angst davor, die Kontrolle zu verlieren, und sind gleichzeitig bereit, Teile davon aus der Hand zu geben, wenn es schneller und bequemer geht.
Bei HAL war die Sache einfacher. Das rote Auge leuchtete. Die Stimme kam aus den Lautsprechern. Irgendwann war klar, dass der Computer nicht mehr auf der Seite der Besatzung stand.
Bei ChatGPT sieht die Sache anders aus.
Es beginnt mit einer Frage:
„Schreib mir eine Bewerbung.“
„Fass mir den Bericht zusammen.“
„Welcher Flug ist der beste?“
„Was soll ich darauf antworten?“
Der Rechner liefert eine Antwort. Wir lesen sie. Wir ändern vielleicht ein paar Wörter. Dann schicken wir sie ab.
Niemand hat uns dazu gezwungen.
Die nächste Stufe heißt Agent
Inzwischen geht die Entwicklung einen Schritt weiter: Während ein Chatbot auf eine Eingabe wartet und antwortet, kann ein Agent selbstständig Aufgaben abarbeiten. Er recherchiert, vergleicht Preise, holt Angebote ein und bereitet verschiedene Handlungsmöglichkeiten vor. In Deutschland setzen elf Prozent der Unternehmen solche Systeme bereits ein. Weitere 29 planen den Einsatz. (Bitkom)
Damit wandert eine weitere Tätigkeit vom Schreibtisch zum Rechner: die Auswahl. Bisher konnte eine Software beispielsweise Preise vergleichen. Ein Mitarbeiter entschied anschließend, welches Angebot er nimmt. Künftig kann ein Agent den Markt durchsuchen, die Vorgaben des Auftraggebers berücksichtigen und eigenständig einen Anbieter bestimmen.
Der Mensch bleibt im System. Er muss aber nicht mehr jeden Schritt selbst machen. Das ist praktisch. Es ist allerdings auch der Moment, an dem aus einem Werkzeug ein Vertreter wird.
Wer einen Hammer benutzt, entscheidet selbst, wo der Nagel eingeschlagen wird. Wer einen Taschenrechner verwendet, kennt die Rechnung. Wer eine KI mit einer Aufgabe betraut, muss nicht mehr jeden einzelnen Schritt nachvollziehen.
Wird uns diese Bequemlichkeit in naher Zukunft gefährlich?
Was passiert, wenn die Antwort falsch ist?
Künstliche Intelligenz hat einen entscheidenden Vorteil gegenüber dem Menschen: Sie verarbeitet in Sekunden riesige Mengen an Informationen. Sie hat aber einen entscheidenden Nachteil: Sie kann eine falsche Antwort so formulieren, dass sie richtig klingt. Seien es erfundene Quellen, verwechselte Zahlen, Zusammenhänge, die nicht existieren. Der Fehler wird mit großer sprachlicher Sicherheit präsentiert.
Eine formal überzeugende Antwort schwächt die eigentlich notwendige Kontrolle des Lesers. Wer einen Fehler in einem schlecht geschriebenen Text entdeckt, wird misstrauisch. Ein sauber formulierter Absatz erhält einen Vertrauensvorschuss.
Das gilt in der Zeitung genauso wie im Büro, in der Verwaltung oder bei einer Bewerbung.
Deshalb reicht es nicht, am Ende nur jemanden auf den Bildschirm schauen zu lassen. Der Empfänger muss die Antwort tatsächlich prüfen und bereit sein, sie notfalls auch zu verwerfen. Sonst bleibt von der Kontrolle nicht viel übrig, und es wird bloß die Entscheidung abgenickt, die von der Maschine getroffen wurde.
Die Verantwortung bleibt am Schreibtisch
Es gibt keinen Grund, künstliche Intelligenz abzuschaffen. Sie kann nützlich sein. Sie kann Arbeit beschleunigen, Daten auswerten und Aufgaben erledigen, für die früher Stunden nötig waren.
Entscheidend ist, wer am Ende für das Ergebnis geradesteht. Wenn eine Software einen Text schreibt, muss jemand ihn lesen. Wenn sie Bewerbungen sortiert, muss jemand wissen, nach welchen Kriterien sie sortiert. Wenn sie einen Antrag bewertet, muss nachvollziehbar bleiben, wie das Ergebnis zustande kam. Wenn ein Agent selbstständig handelt, braucht er klare Grenzen.
Wir delegieren längst einen Teil unserer Arbeit an Maschinen. Das spart Zeit und ist sinnvoll, solange wir wissen, was die Software tut und wo wir eingreifen müssen. Wer diese Prüfung aus Bequemlichkeit überspringt, gibt nicht nur Arbeit ab. Er gibt einen Teil seiner Verantwortung ab.
Bei Kubrick war die Sache klarer
HAL 9000 wollte nicht gefragt werden. Er war Teil des Systems und hatte seine eigenen Vorgaben. Die Menschen hatten ihm Verantwortung übertragen und mussten feststellen, dass sie die Kontrolle darüber verloren.
Heute sieht das anders aus. Wir entscheiden selbst, wie viel Arbeit wir an Software übertragen. Wir lassen Texte schreiben, Bewerbungen vorsortieren und Daten auswerten. Wir geben Programmen Zugriff auf Daten, Anwendungen und Arbeitsabläufe. KI-Agenten erledigen bereits ganze Aufgabenketten.
Niemand muss uns die Kontrolle entreißen. Wir geben sie freiwillig ab, weil es schneller und bequemer ist.
HAL 9000 hatte keine Wahl. Wir haben sie.
+++
Lesen Sie auch: Facebook denkt jetzt für mich
Seit knapp 2 Jahrzehnten erzähle ich Facebook, was ich denke, mag und hasse. Jetzt will Mark Zuckerberg daraus eine persönliche Superintelligenz bauen. Das kann eigentlich nur schiefgehen. (11. Aug. 2026)
