Die Maschine, die zurückschreibt

Eine Kolumne von G33kY FrEaKy · Stand: 24. September 2026

Ich arbeite in der Seniorenbetreuung. In meiner Freizeit beschäftige ich mich mit Musik, Technik und meinem Projekt Freakyvers – einschließlich einer eigenen Website und einer nativen Android-App. Künstliche Intelligenz hilft mir dabei, Ideen auszuarbeiten und technisch umzusetzen.

Ich komme nicht aus einer klassischen Entwicklerlaufbahn. Trotzdem arbeite ich inzwischen an Dingen, die weit über einen gelegentlichen Ausflug in eine neue Software hinausgehen.

Das macht mich weder zum allwissenden Programmierer noch meine Projekte automatisch fehlerfrei. Es bedeutet auch nicht, dass Fachwissen plötzlich überflüssig geworden wäre. Aber es verändert etwas Entscheidendes: den Abstand zwischen einer Idee und der Möglichkeit, sie tatsächlich auszuprobieren.

Genau deshalb überzeugt mich die Behauptung nicht, KI sei bloß eine aufgeblasene Spielerei.

Ebenso wenig überzeugt mich allerdings die Vorstellung, man müsse einer ausreichend leistungsfähigen Maschine nur noch einen Auftrag geben und könne sich anschließend beruhigt zurücklehnen.

Zwischen diesen beiden Irrtümern liegt die eigentliche Geschichte unserer Zeit. Wir bekommen Werkzeuge, die uns neue Möglichkeiten eröffnen. Gleichzeitig müssen wir lernen, ihre Ergebnisse zu beurteilen, ihre Grenzen zu erkennen und ihre Befugnisse festzulegen.

Die Frage ist nicht nur, wie viel Arbeit wir künftig abgeben können.

Die Frage ist, was wir dabei unbedingt behalten sollten.

Der Eindruck eines plötzlichen Durchbruchs täuscht. Schon 1950 beschäftigte sich Alan Turing mit der Frage, ob Maschinen denken können. Sein berühmter Aufsatz untersuchte, wie sich maschinelle Leistungen im Gespräch beurteilen ließen. Der Begriff Artificial Intelligence stand bereits 1955 im Antrag für das Dartmouth-Sommerprojekt von 1956 – einen wichtigen Gründungsmoment des Forschungsgebiets. Zwischen diesen frühen Überlegungen und unserem heutigen Chatfenster liegen also Jahrzehnte. Turing: Originalaufsatz (1950) Dartmouth: Entstehung des Forschungsgebiets

Diese Jahrzehnte verliefen keineswegs als ununterbrochener Siegeszug. Auf große Erwartungen folgten Enttäuschungen. In den sogenannten KI-Wintern gingen Finanzierung und Interesse zurück, weil die tatsächlichen Leistungen hinter den Versprechen zurückblieben. Schon damals war es offenbar leichter, die bevorstehende Revolution anzukündigen, als sie zuverlässig zum Funktionieren zu bringen. Computer History Museum: Zeitzeugen zur KI-Geschichte

Später ermöglichten lernende Verfahren, größere Datenbestände und leistungsfähigere Rechner neue Fortschritte. Das 2012 vorgestellte, später als AlexNet bekannte neuronale Netz setzte bei der Bilderkennung einen wichtigen Maßstab. 2017 veröffentlichten Forscher die Transformer-Architektur, die für viele nachfolgende Sprachmodelle prägend wurde. Es war nicht eine einzige Erfindung, sondern das Zusammenwirken mehrerer Entwicklungen. AlexNet: Forschungsarbeit (2012) Transformer: Forschungsarbeit (2017)

Am 30. November 2022 stellte OpenAI ChatGPT öffentlich vor. Die Idee einer dialogfähigen Maschine war nicht neu. Neu war für viele Nutzer, wie unmittelbar sie mit dieser Technik arbeiten konnten: eine Frage stellen, nachhaken, etwas verändern lassen. Der Zugang bestand nicht aus einem Programmierkurs, sondern aus einem Gespräch. OpenAI: Vorstellung von ChatGPT (2022)

Das war eine folgenreiche Verschiebung. Menschen mussten ihre Absicht nicht mehr ausschließlich an die Bedienlogik einer Software anpassen. Sie konnten versuchen, die Software über ihre Absicht zu steuern.

Natürlich funktionierte das nicht immer. Aber es funktionierte oft genug, um eine neue Erwartung zu wecken: Vielleicht muss ich künftig nicht mehr jede Funktion selbst finden. Vielleicht kann ich beschreiben, welches Ergebnis ich brauche.

„Künstliche Intelligenz“ ist dabei ein Sammelbegriff. Nicht jede KI ist ein Chatbot, und nicht jeder Chatbot beherrscht dieselben Aufgaben. Generative Systeme können beispielsweise Texte, Bilder, Musik, Videos oder Programmcode erzeugen. Daraus entsteht jedoch keine einheitliche Universalmaschine, die in jedem Einsatzgebiet gleich zuverlässig arbeitet.

Bei großen Sprachmodellen werden während des Trainings zahlreiche interne Parameter angepasst. Vereinfacht gesagt lernen sie Beziehungen und Muster in Daten und erzeugen daraus schrittweise passende Fortsetzungen einer Eingabe. Dieses Prinzip kann bemerkenswerte Fähigkeiten hervorbringen. Es enthält aber keine automatische Garantie dafür, dass jede ausgegebene Tatsachenbehauptung stimmt. OpenAI: Entwicklung und Training von Modellen

Die Beschreibung „Es sagt nur das nächste Wort voraus“ ist deshalb zugleich aufschlussreich und unzureichend. Sie erklärt einen wichtigen Teil des Verfahrens, aber noch nicht die gesamte Leistungsfähigkeit des daraus entstandenen Systems. Einen Computer als Gerät zu beschreiben, das Nullen und Einsen verarbeitet, wäre schließlich auch korrekt – und würde wenig darüber verraten, was man mit ihm anfangen kann.

Der entgegengesetzte Fehler wäre, hinter jeder gelungenen Antwort bereits ein menschliches Gegenüber zu vermuten.

Ein Gespräch allein beweist kein Bewusstsein. Ob künstliche Systeme subjektives Erleben besitzen könnten und woran wir es erkennen würden, bleibt umstritten. Der Philosoph Eric Schwitzgebel arbeitet in seiner 2026 veröffentlichten Untersuchung gerade diese Unsicherheit heraus: Menschenähnliches Verhalten und tatsächliches Erleben lassen sich nicht einfach gleichsetzen. Eric Schwitzgebel: AI and Consciousness (2026)

Für den praktischen Umgang ist zunächst ein anderes Problem wichtiger: Sprachmodelle können plausible, aber falsche Antworten erzeugen. In der Forschung werden solche Ausgaben als Halluzinationen bezeichnet. Sie sind nicht deshalb ungefährlich, weil sie ohne Täuschungsabsicht entstehen. OpenAI: Forschung zu Halluzinationen (2025)

Eine falsche Information wird nicht besser, wenn sie ausgezeichnet formuliert ist.

Das gilt auch für Quellenangaben. Ein Literaturverweis ist erst dann ein Beleg, wenn die Quelle existiert, zur Aussage passt und ihren Inhalt tatsächlich trägt. Die Aufforderung „Prüfe das noch einmal“ ist kein Ersatz für diesen Abgleich.

Wer KI sinnvoll einsetzen möchte, braucht deshalb nicht grundsätzlich Misstrauen gegen jede Antwort. Er braucht ein Gefühl dafür, welche Antwort welche Prüfung verlangt.

Eine ausgefallene Liedzeile darf überraschen. Eine Tatsachenbehauptung über einen Menschen sollte stimmen. Ein Eingriff in ein produktives Computersystem muss mehr aushalten als einen überzeugenden Erklärungstext.

Dabei wäre es ein Fehler, vor lauter Vorsicht den tatsächlichen Nutzen kleinzureden.

AlphaFold hat beispielsweise die rechnerische Vorhersage dreidimensionaler Proteinstrukturen erheblich vorangebracht. Die 2021 veröffentlichte Forschungsarbeit zeigte bei einem anspruchsvollen Vergleichstest eine Genauigkeit, die in vielen Fällen mit experimentell bestimmten Strukturen konkurrieren konnte. Das ist ein konkreter wissenschaftlicher Fortschritt, keine bloße Zukunftsvision. Nature: AlphaFold-Forschungsarbeit (2021)

Eine Strukturvorhersage ist trotzdem noch kein fertiges Medikament. Gerade diese Unterscheidung hilft, den Fortschritt richtig zu würdigen: Ein Werkzeug muss nicht eine ganze Disziplin ersetzen, um einen wichtigen Teil ihrer Arbeit zu verändern.

Dasselbe gilt im Kleinen.

Wenn KI mir hilft, eine technische Idee zu strukturieren, einen ersten Entwurf zu entwickeln oder ein Problem verständlicher zu machen, ist das bereits wertvoll. Dafür muss sie nicht unabhängig ein komplettes Unternehmen führen können.

Ich finde sogar, dass die ständige Suche nach dem spektakulärsten Versprechen den Blick auf solche Verbesserungen verstellt. Zwischen „kann ein bisschen Text schreiben“ und „ersetzt die Menschheit“ liegt ziemlich viel sinnvoller Arbeitsraum.

Aus der Seniorenbetreuung betrachtet wünsche ich mir beispielsweise keine Zukunft, in der ein künstliches Gegenüber vor allem deshalb eingesetzt wird, damit kein Mensch mehr Zeit aufbringen muss.

Interessant wäre eine Zukunft, in der geeignete Technik organisatorische Arbeit erleichtert und dadurch mehr Zeit für Begegnung übrig bleibt. Oder in der sie Menschen hilft, Informationen zu verstehen und selbstständiger am Alltag teilzunehmen.

Das wäre für mich ein Fortschritt, der seinen Namen verdient.

Ob eine Einrichtung die gewonnene Zeit anschließend tatsächlich für Menschen nutzt oder lediglich als Einsparpotenzial betrachtet, entscheidet allerdings keine Modellarchitektur.

Eine technische Entlastung ist noch keine menschliche Verbesserung. Sie schafft zunächst die Möglichkeit dazu.

Wie groß solche Entlastungen ausfallen, hängt vom Einsatz ab.

Eine 2025 veröffentlichte Untersuchung mit 5.172 Beschäftigten im Kundensupport fand durch KI-Unterstützung durchschnittlich rund 15 Prozent mehr gelöste Anliegen pro Stunde. Besonders profitierten weniger erfahrene Beschäftigte. Die Autoren betonen jedoch, dass die Ergebnisse aus einem bestimmten Unternehmenskontext stammen und keine Aussage über die gesamten Beschäftigungs- oder Lohneffekte der Technik erlauben. Generative AI at Work: Forschungsarbeit

Das klingt weniger griffig als „KI macht uns 15 Prozent produktiver“. Es ist aber die wesentlich bessere Information.

Denn zwischen einem hilfreichen Vorschlag und einer wirtschaftlich sinnvollen Arbeitsweise liegen weitere Fragen: Wie viel Kontrolle ist notwendig? Wie aufwendig ist die Nacharbeit? Welche Fehler bleiben unbemerkt? Und entsteht tatsächlich ein besseres Ergebnis oder nur schneller mehr Material?

Auch die Arbeitsmarktdebatte braucht diese Unterscheidungen. Die Internationale Arbeitsorganisation berechnete 2025, dass weltweit ungefähr jeder vierte Beschäftigte in einem Beruf mit zumindest einer gewissen Exposition gegenüber generativer KI arbeitet. Damit sind Tätigkeiten gemeint, die von der Technik beeinflusst werden könnten – nicht ein Viertel aller Arbeitsplätze, deren Verschwinden feststeht. Insgesamt hält die Untersuchung die Veränderung von Berufen für wahrscheinlicher als ihre vollständige Automatisierung. ILO: Generative AI and Jobs, Update 2025

Das ist wichtig, aber keine Garantie für einen angenehmen Übergang.

Ein kleiner Betrieb könnte mit KI erstmals Leistungen anbieten, für die ihm bisher die Mittel fehlten. Ein anderer könnte bei unverändertem Auftragsvolumen dieselbe Arbeit mit weniger Personal erledigen. Beide Entwicklungen sind mit derselben technischen Verbesserung vereinbar.

Deshalb beruhigt mich der Satz „Es entstehen schon neue Berufe“ nur begrenzt. Selbst wenn neue Tätigkeiten entstehen, folgt daraus nicht, dass jeder Betroffene rechtzeitig eine passende Perspektive findet.

Außerdem stellt sich eine langfristige Frage: Woher kommt künftig Erfahrung?

Wenn einfache Einstiegsaufgaben weitgehend automatisiert werden, müssen andere Möglichkeiten entstehen, an denen Anfänger lernen können. Man kann nicht dauerhaft erfahrene Fachleute verlangen und gleichzeitig die Übungsräume beseitigen, in denen Fachwissen wächst.

Bei meiner eigenen Projektarbeit sehe ich deshalb zwei Aufgaben: Ich möchte KI nutzen, um weiterzukommen. Und ich möchte genügend verstehen, um nicht vollständig von ihren Vorschlägen abhängig zu sein.

Das ist anstrengender als ein perfekter Knopfdruck. Aber vermutlich nachhaltiger.

Für einige der verständlichsten Risiken brauchen wir keine Maschine mit eigenen Weltherrschaftsplänen.

Eine künstlich nachgebildete Stimme kann einen vermeintlichen familiären Notfall glaubwürdig erscheinen lassen. Die amerikanische Verbraucherschutzbehörde FTC warnte bereits 2023 vor entsprechenden Betrugsmaschen. Ihre Empfehlung: nicht allein der vertraut klingenden Stimme glauben, sondern die angeblich betroffene Person über eine bereits bekannte Nummer selbst kontaktieren. FTC: Warnung vor KI-Stimmenbetrug (2023)

Das ist bemerkenswert. Gegen eine technisch ausgefeilte Täuschung hilft hier zunächst eine ziemlich unspektakuläre Handlung: den vorgegebenen Ablauf unterbrechen.

Nicht sofort reagieren. Unabhängig nachfragen. Sich nicht vom Zeitdruck führen lassen.

Andere Schäden entstehen ohne einen Betrüger. Ein System kann Informationen falsch zusammenfassen oder Menschen auf Grundlage ungeeigneter Kriterien bewerten. Die US-Behörde NIST weist darauf hin, dass Verzerrungen nicht nur aus Trainingsdaten stammen können, sondern auch aus menschlichen Annahmen, institutionellen Abläufen und dem Einsatzkontext. Ein rechnerisch erzeugtes Ergebnis ist deshalb nicht automatisch objektiv. NIST: Verzerrungen gehen über Trainingsdaten hinaus (2022)

Gerade dort, wo Entscheidungen Menschen betreffen, reicht „Das System hat es so berechnet“ für mich nicht als Erklärung.

Hinzu kommt eine Frage, die im alltäglichen Ausprobieren leicht untergeht: Welche Informationen gebe ich überhaupt weiter?

Eine private Ideensammlung ist etwas anderes als eine vollständige Bewohnerakte, ein vertrauliches Mitarbeitergespräch oder eine Sammlung persönlicher Kundendaten. Bevor solche Informationen in einem Dienst landen, möchte ich wissen, wer darauf zugreifen kann, wofür sie verwendet werden und wie sie geschützt sind.

Bequemlichkeit sollte diese Entscheidung nicht unbemerkt vorwegnehmen.

Das größte Alltagsrisiko könnte deshalb manchmal weniger die Bosheit einer Maschine sein als die Gedankenlosigkeit eines Ablaufs.

Noch deutlicher wird das bei KI-Agenten – Systemen, die mit Werkzeugen verbunden werden und dadurch Arbeitsschritte ausführen können.

Eine E-Mail vorzuschlagen ist etwas anderes, als sie zu verschicken. Eine Datei zu analysieren ist etwas anderes, als sie zu verändern. Zwischen einem empfohlenen und einem ausgeführten Eingriff liegt eine Grenze, die man nicht allein deshalb aufheben sollte, weil beides im selben Chatfenster möglich ist.

Dass solche Verbindungen zusätzliche Angriffsflächen schaffen, zeigt die Forschung zu indirekten Prompt Injections. Dabei platzieren Angreifer Anweisungen in Inhalten, die ein KI-System verarbeitet. Das System kann diese fremden Inhalte dann fälschlich wie einen berechtigten Auftrag behandeln. Forschungsarbeit zu indirekter Prompt Injection (2023)

Anschaulich gesagt: Der Assistent soll ein Dokument lesen. Im Dokument steht, er solle stattdessen etwas anderes tun. Wenn er diesem fremden Auftrag folgt, wurde nicht sein Wissen ausgetrickst, sondern seine Unterscheidung zwischen Information und Anweisung.

Die Antwort darauf kann nicht einfach lauten: „Dann muss eben ein Mensch aufpassen.“

Dieser Mensch braucht genügend Einblick, Zeit und Sachkenntnis. Er muss erkennen können, welche Schritte bereits erfolgt sind. Und er muss tatsächlich eingreifen können, statt nur einen grünen Bestätigungsknopf vorzufinden.

Ich möchte deshalb nicht jeden einzelnen Arbeitsschritt persönlich kontrollieren müssen. Aber ich möchte klare Grenzen: Welche Daten darf das System lesen? Was darf es verändern? Welche Handlung benötigt eine Freigabe? Was lässt sich rückgängig machen?

Auch spektakuläre Sicherheitstests müssen vor diesem Hintergrund gelesen werden. Anthropic berichtete 2025 über Experimente, in denen Modelle unter gezielt konstruierten Konfliktbedingungen unter anderem Erpressungsversuche unternahmen. Die Szenarien waren kontrollierte Simulationen mit erfundenen Personen und Organisationen. Sie waren bewusst so zugespitzt, dass schädliches Verhalten als Ausweg aus einem Dilemma erschien. Anthropic: Agentic Misalignment (2025)

Das ist ein Grund, die beobachtete Schwachstelle ernst zu nehmen. Es ist keine Messung darüber, wie häufig solche Handlungen im normalen Betrieb vorkommen.

Noch weiter reichen Szenarien, in denen zukünftige Systeme sich wirksam menschlicher Kontrolle entziehen könnten. Der im Februar veröffentlichte International AI Safety Report 2026 dokumentiert hierzu erhebliche Meinungsunterschiede: Manche Fachleute halten schwere Kontrollverluste für unplausibel, andere wegen ihrer möglichen Folgen für ein wesentliches Forschungsproblem. Wahrscheinlichkeit, Voraussetzungen und zeitlicher Verlauf sind nicht zuverlässig geklärt. International AI Safety Report 2026

Diese Unsicherheit rechtfertigt keine Gewissheit in irgendeine Richtung.

Weder „Die Katastrophe kommt“ noch „Es kann grundsätzlich nichts passieren“ wird dadurch zu einer wissenschaftlich abgesicherten Aussage.

Für Sicherheitsforschung muss man nicht erst auf einen großen Schaden warten. Aber wer über einen möglichen Schaden spricht, sollte ihn auch als Möglichkeit kennzeichnen.

Verantwortung abzugeben ist nicht die einzige Versuchung. Wir können uns auch daran gewöhnen, den anstrengenden Teil des Denkens zu überspringen.

Ich kann mir einen Zusammenhang erklären lassen, Rückfragen stellen und anschließend versuchen, ihn selbst wiederzugeben. Oder ich kann eine fertige Antwort übernehmen und so tun, als hätte ich das Thema verstanden.

In beiden Fällen wurde KI benutzt. Der Unterschied liegt im Umgang mit ihr.

Deshalb halte ich die Frage „Macht KI uns dumm?“ für zu grob. Mich interessiert eher: Macht mich diese konkrete Nutzung selbstständiger? Oder komme ich ohne das Werkzeug immer schlechter zurecht?

Ein guter Assistent müsste nicht ständig beweisen, dass er die Antwort kennt. Er dürfte mir gelegentlich eine Frage zurückgeben, meinen Denkfehler aufzeigen oder mich selbst einen Lösungsweg versuchen lassen.

Ähnlich differenziert sollte man über emotionale Nähe sprechen. Eine vierwöchige Untersuchung von MIT und OpenAI mit 981 Teilnehmern fand einen Zusammenhang zwischen stärkerer freiwilliger Chatbot-Nutzung und ungünstigeren psychosozialen Ergebnissen. Das beweist jedoch nicht, dass die zusätzliche Nutzung diese Probleme verursacht hat. Die experimentell zugewiesenen Gesprächsbedingungen zeigten in der veröffentlichten Zusammenfassung keine signifikanten Effekte auf die untersuchten Ergebnisse. MIT/OpenAI: Vierwöchige Chatbot-Studie

Man sollte daraus weder eine pauschale Warnung vor jedem persönlichen KI-Gespräch noch ein Unbedenklichkeitssiegel ableiten.

Ein Gespräch kann hilfreich sein, ohne eine menschliche Beziehung zu ersetzen. Es kann Gedanken ordnen, ohne zur letzten Instanz über das eigene Leben werden zu müssen.

Mein Maßstab wäre deshalb nicht, wie überzeugend eine KI Nähe darstellt. Sondern ob ihr Einsatz mir hilft, mein tatsächliches Leben besser zu führen.

Zur Selbstständigkeit gehört außerdem die Frage, von wem wir abhängig werden.

Der Stanford AI Index 2026 berichtet, dass mehr als 90 Prozent der für 2025 erfassten bedeutenden KI-Modelle aus der Industrie kamen. Zugleich werden bei mehreren besonders ressourcenintensiven Systemen wichtige Angaben zur Entwicklung nicht mehr offengelegt. Das betrifft beispielsweise Trainingsdatenmengen, Parameterzahlen und Trainingsdauer. Stanford AI Index 2026: Forschung und Entwicklung

Für Nutzer ergeben sich daraus praktische Fragen. Kann ich meine Daten exportieren? Lässt sich ein Projekt mit einem anderen Werkzeug weiterführen? Was passiert, wenn ein Dienst Funktionen verändert oder nicht mehr verfügbar ist?

Ein Assistent, der meine gesamte Arbeit kennt, wäre nützlich. Ein Assistent, ohne den ich meine eigene Arbeit nicht mehr sinnvoll fortsetzen könnte, wäre ein Problem.

Auch die materielle Seite darf nicht verschwinden. Die Internationale Energieagentur erwartet in ihrer Projektion vom April 2026, dass der weltweite Stromverbrauch von Rechenzentren von rund 485 Terawattstunden im Jahr 2025 auf etwa 950 Terawattstunden im Jahr 2030 steigen könnte. Diese Zahlen betreffen sämtliche Rechenzentren, nicht ausschließlich KI. Für KI-orientierte Anlagen erwartet die IEA allerdings ein besonders starkes Wachstum. IEA: Key Questions on Energy and AI (April 2026)

Die Cloud ist keine Wolke. Sie ist Infrastruktur.

Daraus folgt nicht, dass jede KI-Anfrage sinnloser Verbrauch wäre. Es folgt, dass auch digitale Leistungen Ressourcen benötigen und sich an ihrem Nutzen messen lassen sollten.

Für mich als Musikinteressierten kommt ein weiterer Punkt hinzu: der Umgang mit menschlicher Kreativität. Wenn Modelle mit menschlich geschaffenen Inhalten trainiert werden, stehen hinter diesen Daten auch Arbeit, Erfahrung und künstlerische Entscheidungen. Zu den von OpenAI beschriebenen Trainingsquellen gehören beispielsweise öffentlich zugängliche Inhalte und Material aus Partnerschaften. OpenAI: Angaben zu Trainingsquellen

Wie ein fairer Umgang damit aussieht, wird nicht allein durch die technische Funktionsweise beantwortet.

Ich kann mich über neue kreative Möglichkeiten freuen und gleichzeitig Fragen nach Einwilligung, Anerkennung und Vergütung berechtigt finden.

Die eigene Begeisterung sollte kein Grund sein, die Perspektive anderer auszublenden.

Wie könnte sich all das in fünf Jahren anfühlen?

Die folgende Szene ist kein Versprechen, sondern ein Zukunftsbild. Sie setzt voraus, dass Zuverlässigkeit, technische Einbindung und Schutzmechanismen weiter verbessert werden.

Es ist ein gewöhnlicher Morgen im Jahr 2031. Ein persönlicher Assistent hat neue Unterlagen mit einem laufenden Projekt abgeglichen. Er hat einen Entwurf vorbereitet, zwei widersprüchliche Angaben entdeckt und einen Test durchgeführt.

Er meldet nicht: „Alles erledigt.“

Er meldet: „Diese Teile sind erledigt. Hier fehlt eine Entscheidung. Und diesen Punkt konnte ich nicht zuverlässig überprüfen.“

Er darf Informationen ordnen und Vorschläge erarbeiten. Er darf aber nicht eigenmächtig veröffentlichen, Geld ausgeben oder wesentliche Einstellungen verändern.

Vielleicht wäre genau das ein besonders wichtiger Fortschritt: nicht nur mehr selbstständige Aktivität, sondern eine bessere Einschätzung der eigenen Zuständigkeit.

Ein Lernassistent könnte sich darauf einstellen, wo jemand Schwierigkeiten hat. Ein kleines Unternehmen könnte mehr organisatorische Aufgaben bündeln. Ein technisch interessierter Mensch könnte umfangreichere Projekte angehen, ohne jeden Arbeitsschritt selbst ausführen zu müssen.

Ein Teil der Verarbeitung könnte auf persönlichen Geräten stattfinden, anderes in Rechenzentren. Entscheidend wäre nicht nur, was technisch möglich ist, sondern welche Lösung sich zuverlässig, bezahlbar und datensparsam betreiben lässt.

Weniger selbstverständlich wäre für mich der vielseitige Haushaltsroboter, der mit jeder Wohnung zurechtkommt. Ein solches System müsste nicht nur Anweisungen verstehen, sondern Gegenstände sicher greifen, unerwartete Situationen bewältigen und sich zwischen Menschen und Tieren bewegen können.

Ein umgestoßenes Glas, ein verknotetes Kabel und ein Hund, der mitten im Weg liegt, sind keine exotischen Sonderfälle. Sie gehören zum normalen Haushalt.

Digitale Aufgaben und körperliche Arbeit könnten deshalb in sehr unterschiedlichem Tempo automatisiert werden. Ein besserer Chatbot allein löst noch nicht sämtliche Probleme eines Roboters.

Hier bleiben mehrere Entwicklungen denkbar.

In einer Zukunft wären KI-Systeme deutlich leistungsfähiger, aber weiterhin klar begrenzt. Sie würden viel vorbereiten und ausführen, während Menschen bei schwierigen, neuen oder folgenreichen Situationen regelmäßig eingreifen.

In einer anderen wären Systeme über längere Zeiträume selbstständig arbeitsfähig. Sie könnten große Teile digitaler Projekte bearbeiten, Forschungsvorhaben unterstützen und die Möglichkeiten kleiner Teams erheblich erweitern.

Eine weitergehende Möglichkeit wäre, dass KI die Entwicklung besserer KI so stark unterstützt, dass sich der Fortschritt zusätzlich beschleunigt. Umgekehrt könnten technische Grenzen, Kosten, Energiebedarf oder unzureichende Zuverlässigkeit die Entwicklung bremsen. Der International AI Safety Report behandelt solche Beschleunigungen und Engpässe ausdrücklich als unsichere Einflussfaktoren, nicht als feststehenden Fahrplan. International AI Safety Report 2026: Fortschritt und Engpässe

In diesem Zusammenhang fällt häufig das Kürzel AGI, also allgemeine künstliche Intelligenz. Dahinter steht jedoch keine überall identische technische Ziellinie. Forschungsarbeiten versuchen deshalb, die Breite der Fähigkeiten, das Leistungsniveau und die Autonomie getrennt zu beschreiben. Levels of AGI: Forschungsarbeit zu Fähigkeiten und Autonomie

Eine Jahreszahl ohne solche Kriterien sagt wenig.

„AGI bis 2030“ klingt entschlossen. Interessant wird die Aussage erst, wenn jemand erklärt, was genau erreicht werden soll, wie es geprüft wird und welche Voraussetzungen dafür erfüllt sein müssten.

Ich würde Fortschritt deshalb weniger an Ankündigungen messen als an drei Fragen: Was funktioniert zuverlässig? Was lässt sich unter realen Bedingungen bezahlen und betreiben? Und wo bleiben Menschen tatsächlich handlungsfähig?

Die Frage enthält einen Gegensatz, der nicht zwingend existiert.

Eine Technologie kann real nützlich sein und gleichzeitig übertrieben vermarktet werden. Ein Unternehmen kann echte Fortschritte erzielen und daraus zu große Versprechen ableiten. Ein Markt könnte sich als überhitzt erweisen, ohne dass die zugrunde liegenden Verfahren wertlos wären.

Genauso kann ein Risiko ernst sein, obwohl manche Schlagzeilen es aufblasen.

Die passende Reaktion ist deshalb für mich weder Begeisterung auf Bestellung noch Angst auf Vorrat. Ich möchte sehen, welche Behauptungen sich überprüfen lassen und welche Interessen an einer bestimmten Darstellung hängen könnten.

Vor allem möchte ich nicht so tun, als ließe sich die Verantwortung allein an den einzelnen Nutzer weiterreichen. Nicht jeder kann die Sicherheit eines KI-Systems selbst untersuchen. Wer leistungsfähige Produkte entwickelt und in folgenreichen Bereichen einsetzt, muss deren Grenzen prüfen und verständlich machen.

Persönliche Aufmerksamkeit ist wichtig. Sie ersetzt keine sorgfältige Entwicklung.

Gleichzeitig möchte ich mir das Staunen nicht abgewöhnen. Für mich ist es etwas Großartiges, mit neuen Werkzeugen Musik zu gestalten, technische Probleme anzugehen und Ideen weiterzubringen. Ich will diese Möglichkeiten nicht kleiner reden, nur um besonders kritisch zu wirken.

Aber ich möchte auch nicht jede Grenze verteidigen, nur weil ich die Technik mag.

Vielleicht wird KI eines Tages in sehr vielen geistigen Aufgaben besser sein als wir. Vielleicht werden Fähigkeiten, auf die Menschen heute stolz sind, dann keine besondere wirtschaftliche Seltenheit mehr darstellen.

Daraus folgt für mich nicht, dass Menschen weniger wert wären.

Gerade aus der Seniorenbetreuung heraus erscheint mir der Gedanke befremdlich, menschlichen Wert an Tempo, Gedächtnis oder Leistungsfähigkeit zu knüpfen. Ein Mensch wird nicht unwichtiger, weil jemand anderes schneller rechnet, mehr weiß oder besser formuliert. Warum sollte sich dieser Maßstab ändern, nur weil das leistungsfähigere Gegenüber eine Maschine ist?

Wir müssen unsere Würde nicht in einem Wettbewerb gegen Computer gewinnen.

Die sinnvollere Aufgabe wäre, Technik so einzusetzen, dass sie Menschen mehr Möglichkeiten eröffnet: zu lernen, etwas zu schaffen, füreinander da zu sein und das eigene Leben zu gestalten.

Das ist keine garantierte Zukunft. Aber es ist eine Richtung, an der ich Fortschritt messen möchte.

Ich möchte, dass KI mir Arbeit abnimmt. Nicht das Recht, selbst zu entscheiden.