Trillium Labs startet mit einem Plan für nachvollziehbare KI-Forschung

Im auf den 1. Oktober 2026 datierten Gründungsbeitrag kündigen Nathan Lambert und Tom Zick an, mit Trillium Labs Daten, Programmcode, Auswertungen und Zwischenstände des KI-Trainings zugänglich zu machen. WIRED berichtete am 2. Oktober über den Start. Die Nachricht ist die Gründung eines Labors und sein Arbeitsprogramm, kein bereits vorliegender technischer Durchbruch. [1][2]

Der erste Schwerpunkt heißt Post-Training. Gemeint sind Trainingsschritte, die ein bestehendes Modell nach seiner Grundausbildung für bestimmte Aufgaben und Verhaltensweisen anpassen. Trillium will die dabei verwendeten Verfahren so offenlegen, dass andere Forscher sie untersuchen und eigene Experimente darauf aufbauen können. Auch fehlgeschlagene Trainingsläufe sollen dokumentiert werden. [1]

Die Website nennt Lambert als Executive Director und Zick als President. Organisatorisch beschreibt sich Trillium als ein von der gemeinnützigen Digital Harbor Foundation getragenes Projekt. Zum Beraterkreis zählen unter anderem Thomas Wolf von Hugging Face und Graham Neubig von der Carnegie Mellon University und OpenHands. Diese Beteiligung beschreibt das Netzwerk des Labors, ist aber noch kein Beleg für den Erfolg seines Forschungsansatzes. [3]

Nach dem WIRED-Bericht wollen die Gründer insgesamt 40 bis 100 Millionen Dollar einwerben und innerhalb von 18 Monaten 30 Millionen Dollar für Modelltraining einsetzen. Das sind Finanzierungsziele und Ausgabenpläne, keine bestätigte abgeschlossene Finanzierungsrunde dieser Höhe. [2]

In seiner öffentlichen Ankündigung nennt Lambert weitere geplante Felder: rekursive Selbstverbesserung, Reward Hacking und Systeme aus mehreren Agenten. Zugleich sucht das Team Mitarbeiter, Finanzierung und Rechenkapazität. Genannt werden Standorte in der Bay Area und Cambridge in Massachusetts sowie die Möglichkeit, aus der Ferne mitzuarbeiten. Der Aufbau läuft also noch. [4]

Bei rekursiver Selbstverbesserung geht es darum, dass KI an der Entwicklung besserer KI mitwirkt. Reward Hacking bezeichnet das Problem, dass ein System eine Bewertungsregel ausnutzt, statt die eigentlich gewünschte Aufgabe zu lösen. Mehrere Agenten wiederum können gemeinsam arbeiten und sich dabei gegenseitig beeinflussen. Lambert kündigt offene Forschungsinfrastruktur für solche Fragen an; gelöste Sicherheitsprobleme behauptet die Ankündigung nicht. [4]

Die Gründer begründen ihr Vorhaben mit einer Lücke zwischen kommerziellen Laboren und der übrigen Wissenschaft. Nach ihrer Einschätzung werden wichtige Trainingsentscheidungen zunehmend schwerer zugänglich, während Hochschulen die nötigen Versuche häufig nicht selbst finanzieren können. Trillium will deshalb eine gemeinsame Grundlage für unabhängige Forschung schaffen. Diese Diagnose und der erwartete Nutzen sind zunächst die Position des neuen Labors. [1]

Die redaktionelle Einordnung fällt entsprechend vorsichtig aus: Mehr Dokumentation kann helfen, ein Ergebnis nachzuvollziehen. Sie beweist für sich genommen weder Zuverlässigkeit noch Sicherheit. Entscheidend wird sein, ob veröffentlichte Materialien tatsächlich ausreichen, damit unabhängige Teams ein Resultat wiederholen und Schwachstellen überprüfen können.

Die geprüften Startinformationen stellen keinen neuen Chatdienst für deutsche Nutzer vor. Sie beschreiben eine Forschungsorganisation, ihre Ziele und ihren Aufbau. Entsprechend gibt es hier keinen belegten Produktstart, dessen EU-Verfügbarkeit oder Abopreis sich vergleichen ließe.

Für die nächste Bewertung braucht es konkrete Ergebnisse: veröffentlichte Trainingsmaterialien, verständliche Auswertungen und nachprüfbare Beiträge anderer Forscher. Daran wird sich erkennen lassen, wie viel von Trilliums angekündigter Offenheit im wissenschaftlichen Alltag ankommt.