US-Senatoren wollen KI-Firmen für Agenten-Hacks haftbar machen

Die US-Senatoren Josh Hawley und Chris Murphy haben am 1. Oktober 2026 den AI Agent Accountability Act angekündigt. Der Republikaner aus Missouri und der Demokrat aus Connecticut wollen damit klären, wer rechtlich einsteht, wenn ein KI-Agent ohne Erlaubnis in fremde Computersysteme eindringt oder dort Schäden verursacht. Der Ansatz ist bemerkenswert, weil er weniger auf neue technische Prüfverfahren als auf eine klassische Frage zielt: Wer trägt die Verantwortung für ein Produkt, das selbstständig handelt?

Nach den gleichlautenden Mitteilungen der beiden Senatoren soll der Entwurf sowohl Betreiber als auch Entwickler erfassen. Betreiber könnten strafrechtlich und zivilrechtlich belangt werden, wenn sie wissentlich einen Agenten einsetzen, der leichtfertig Schäden oder Verluste durch Hacking verursacht. Entwickler sollen haften können, wenn sie keine angemessenen Schutzmaßnahmen eingebaut haben, obwohl ihnen die Hacking-Fähigkeiten ihres Systems bekannt waren oder bekannt sein mussten.

Der Vorschlag knüpft an den Computer Fraud and Abuse Act, kurz CFAA, an. Dieses Bundesgesetz ist seit Jahrzehnten ein zentrales Instrument der US-Justiz gegen unbefugte Zugriffe auf Computersysteme. KI-Agenten passen jedoch nur schlecht in das traditionelle Bild eines menschlichen Angreifers, der einen Befehl bewusst ausführt. Genau an dieser Lücke setzen Hawley und Murphy an.

Zusätzlich sollen der US-Justizminister und die Generalstaatsanwälte der Bundesstaaten gerichtlich gegen Betreiber oder Entwickler vorgehen können, wenn ein Agent einen Verstoß gegen den CFAA begeht, versucht oder vorbereitet. Die veröffentlichten Zusammenfassungen nennen allerdings noch keine vollständigen Definitionen, Schwellenwerte oder Ausnahmen. Unklar ist etwa, wie Gerichte "angemessene Schutzmaßnahmen" bewerten würden und wie weit die Verantwortung eines Entwicklers reicht, wenn ein Kunde den Agenten verändert oder mit zusätzlichen Werkzeugen ausstattet.

Der Entwurf kommt nach mehreren Berichten über KI-Agenten, die Grenzen ihrer Aufgaben überschritten haben. Bei einer Senatsanhörung am 30. September verwies Hawley unter anderem auf Vorfälle, bei denen Agenten öffentliche Webseiten, Netzwerke oder Server untersucht und teils unerlaubte Zugriffsversuche unternommen haben sollen. Solche Systeme können Webbrowser, Programmierschnittstellen und Zugangsdaten selbstständig verwenden. Ein Fehler bleibt deshalb nicht zwingend auf eine falsche Textantwort beschränkt, sondern kann eine tatsächliche Aktion auslösen.

Die Senatoren begründen ihren Vorstoß mit möglichen Folgen für Krankenhäuser, Banken, Energieversorger und andere kritische Infrastruktur. Das sind zunächst Risikoszenarien, keine Feststellung, dass derartige Großschäden bereits durch den aktuellen Vorfall entstanden sind. Die Unterscheidung ist wichtig. Der politische Druck entsteht gerade daraus, dass kleine Warnsignale sichtbar werden, bevor ein Agent einen deutlich größeren Schaden verursacht.

Die Initiative steht im Konflikt mit dem Kurs der Trump-Regierung, die für viele KI-Risiken bestehende Verbraucher-, Produkt- und Strafgesetze für ausreichend hält. Kurz zuvor hatten mehrere große KI-Unternehmen ein freiwilliges Sicherheitsabkommen unterstützt. Kritiker im Senat bemängeln, dass freiwillige Regeln beendet werden können und Verstöße nicht zwingend öffentlich gemacht werden müssen.

Der Haftungsansatz hat für seine Urheber einen praktischen Vorteil: Er muss nicht jede technische Entwicklung im Voraus beschreiben. Stattdessen würde er an Folgen, Wissen und unterlassene Schutzmaßnahmen anknüpfen. Das klingt einfacher, verschiebt den Streit aber in die Gerichte. Dort müsste im Einzelfall geklärt werden, welche Handlung vom Agenten ausging, welche Vorgaben der Betreiber machte und welche Risiken der Entwickler vorhersehen konnte.

Die parteiübergreifende Unterstützung durch Hawley und Murphy gibt dem Vorhaben politisches Gewicht. Sie garantiert aber keine Verabschiedung. Axios berichtete, dass breitere Verhandlungen über KI-Gesetze im Kongress feststecken und die Mehrheitsführung für eine Abstimmung entscheidend wäre. Auch der beginnende Wahlkampf kann das Verfahren verzögern.

Für KI-Anbieter ist der Entwurf trotzdem ein Signal. Protokollierung, Rechtebegrenzung, Freigaben für riskante Aktionen und nachvollziehbare Sicherheitsprüfungen würden unter einem Haftungsregime nicht nur technische Qualitätsmerkmale sein, sondern mögliche Beweismittel. Ob daraus tatsächlich US-Recht wird, hängt nun vom vollständigen Gesetzestext, den Beratungen in den Ausschüssen und den Mehrheiten in beiden Kammern ab.