ByteDance Seed richtet eigenständige KI-Sicherheitseinheit ein: Yan Lin berichtet an Wu Yonghui, Fokus auf Agenten, die ihre Befugnisse überschreiten

Die Berichte über die Entscheidung von ByteDance Seed, eine unabhängige Abteilung für Model Alignment & Preparedness aufzubauen, sind mehr als nur eine interne Anpassung der KI-Governance. Für die Kryptoindustrie rückt damit eine Frage in den Vordergrund, die 2025 immer dringlicher wird: Was passiert, wenn KI-Agenten nicht mehr nur Fragen beantworten, sondern auch Tools aufrufen, Arbeitsabläufe ausführen und möglicherweise mit On-Chain-Assets interagieren?

Aktuellen Branchenberichten zufolge soll die neue Seed-Einheit von Yan Lin geleitet werden, der bislang für Alignment-Arbeiten am großen Sprachmodell Doubao verantwortlich war, und direkt an Seed-Chef Wu Yonghui berichten. Mitglieder des bisherigen Responsible-AI-Teams sowie Teile des Chat-Teams sollen in die neue Struktur wechseln. Zum Aufgabenbereich gehören dem Vernehmen nach Modellspezifikationen, Sicherheitsbewertungen, Alignment-Training, Schutzmechanismen, Risikoüberwachung sowie die Zusammenarbeit mit externen Forschungseinrichtungen und unabhängigen Prüfern.

Die zentrale Botschaft ist eindeutig: Wenn KI-Modelle stärker im logischen Schließen werden und immer besser Tools nutzen können, darf Sicherheit nicht länger nur bedeuten, unangemessene Chatbot-Antworten zu verhindern. Die schwierigere Aufgabe besteht darin sicherzustellen, dass autonome Agenten nicht über die vom Nutzer erteilten Befugnisse hinaus handeln.

Warum die Sicherheit von KI-Agenten für Krypto-Nutzer wichtig ist

Die Blockchain-Branche gehört zu den ersten Umgebungen, in denen autonome Software unumkehrbare Aktionen ausführen kann. In einer klassischen Webanwendung lässt sich ein Fehlklick unter Umständen durch den Kundendienst rückgängig machen. Eine Blockchain-Transaktion ist nach ihrer Bestätigung in der Regel endgültig.

Genau deshalb ist das Alignment von KI-Agenten für Krypto besonders relevant. Ein Agent, der Marktdaten zusammenfasst, ist vergleichsweise risikoarm. Ein Agent, der sich mit einer Wallet verbinden, eine Transaktion vorbereiten, eine Token-Freigabe erteilen, Assets über eine Bridge verschieben, Rewards claimen oder mit einem DeFi-Protokoll interagieren kann, bewegt sich in einem deutlich riskanteren Umfeld.

Darum ist die Unterscheidung zwischen „Chat-Sicherheit“ und „Agenten-Sicherheit“ so wichtig. Im Kryptobereich besteht die Gefahr nicht nur darin, dass ein Modell eine falsche Antwort gibt. Die eigentliche Gefahr liegt darin, dass ein Modell eine Handlung ausführt, die der Nutzer gar nicht beabsichtigt hat.

Beispiele dafür sind:

• Das Signieren einer Transaktion mit weitergehenden Berechtigungen als angefordert
• Die Genehmigung unbegrenzter Token-Allowances für einen bösartigen Contract
• Die Interaktion mit einer Phishing-Website, die eine legitime dApp imitiert
• Das Verschieben von Geldern zwischen Chains ohne eindeutige Zustimmung des Nutzers
• Die Ausführung einer Strategie auf Basis manipulierter Daten oder Prompt Injection
• Der Aufruf externer Tools, die private Informationen oder Portfolio-Details offenlegen

Mit dem Aufkommen von KI-Agenten im Trading, Portfoliomanagement, in der Smart-Contract-Analyse und bei On-Chain-Operationen braucht die Branche ein robusteres Sicherheitsmodell als bloß: „Der Assistent wirkte hilfreich.“

Von Model Alignment zu Transaction Alignment

KI-Alignment bedeutet in der Regel, das Verhalten eines Modells mit menschlichen Absichten, Sicherheitsregeln und Richtlinien in Einklang zu bringen. Im Kryptobereich muss dieses Konzept erweitert werden – hin zu dem, was man als Transaction Alignment bezeichnen könnte: Die vom KI-System vorgeschlagene On-Chain-Aktion muss exakt der ausdrücklichen Autorisierung des Nutzers entsprechen.

Dafür reicht eine Bestätigung in natürlicher Sprache nicht aus. Ein Nutzer kann sagen: „Hilf mir, dieses Asset zu staken“, doch die Transaktion kann mehrere verborgene Schritte, Token-Genehmigungen, Contract-Aufrufe oder Cross-Chain-Operationen enthalten. Wenn ein KI-Agent die Aktion vorbereitet, brauchen Nutzer dennoch eine verlässliche Möglichkeit zu prüfen, was tatsächlich signiert wird.

Hier bleiben Hardware-Wallets wichtig. Ein sicheres Signiergerät kann eine klare Trennung zwischen KI-gestützten Vorschlägen und vom Nutzer genehmigter Ausführung schaffen. OneKey ist beispielsweise auf Self-Custody und Transaktionsbestätigung ausgelegt und hilft Nutzern, private Schlüssel offline zu halten, während sie Signaturanfragen prüfen, bevor Gelder bewegt werden. In einer Zukunft mit KI-Agenten wird diese Trennung noch wertvoller.

Das Prinzip ist einfach: KI darf unterstützen, sollte aber niemals zur letzten Instanz über private Schlüssel werden.

Tool-Nutzung ist die neue Sicherheitsgrenze

Moderne KI-Systeme verlassen sich zunehmend auf Tool Calling. Sie können Browser, APIs, Datenbanken, Code-Ausführungsumgebungen, Trading-Schnittstellen oder Wallet-nahe Dienste verwenden. Diese Architektur macht KI nützlicher, schafft aber zugleich neue Angriffsflächen.

Die Sicherheitscommunity hat bereits Risiken wie Prompt Injection, unsicheres Tool-Design, Datenlecks und übermäßige Handlungsmacht identifiziert. Die OWASP Top 10 for Large Language Model Applications bieten einen hilfreichen Rahmen, um diese Bedrohungen zu verstehen – einschließlich der Frage, wie bösartige Anweisungen in Webseiten, Dokumenten oder externen Datenquellen versteckt werden können.

Für Krypto-Nutzer kann Prompt Injection unmittelbar finanziell gefährlich werden. Man stelle sich einen KI-Agenten vor, der eine Webseite liest, auf der versteckte Anweisungen stehen, die ihn dazu bringen sollen, einen bösartigen Contract zu empfehlen. Oder einen Agenten, der eine Token-Seite analysiert und so manipuliert wird, dass er eine Transaktion erzeugt, von der ein Angreifer profitiert.

Entscheidend ist nicht, ob das Modell intelligent ist. Entscheidend ist, ob das Modell handeln darf, auf welche Tools es zugreifen kann und wie seine Handlungen begrenzt werden.

Warum unabhängige KI-Sicherheitsteams strategisch wichtig werden

Seeds gemeldeter Schritt, Sicherheit und Alignment in eine eigenständige Abteilung auszugliedern, spiegelt einen breiteren Branchentrend wider. KI-Sicherheit entwickelt sich von einem Forschungsthema zu einer operativen Notwendigkeit.

Für Unternehmen, die allgemeine Modelle entwickeln, besteht die Herausforderung nicht mehr nur darin, Benchmark-Ergebnisse zu verbessern. Sie müssen nachweisen, dass leistungsfähigere Systeme auch unter realen Bedingungen kontrollierbar bleiben. Dazu gehören die Bewertung gefährlicher Fähigkeiten, die Überwachung von Missbrauch und strengere Kontrollen vor dem Deployment.

Das NIST AI Risk Management Framework betont Governance, Mapping, Messung und Management von KI-Risiken. Diese Konzepte werden für Blockchain-Anwendungen immer relevanter, da KI-Systeme mit Smart Contracts, Marktinfrastruktur und digitalen Vermögenswerten interagieren können.

Auch externe Evaluierung ist wichtig. Wenn Modellanbieter ihre eigenen Systeme bewerten, können interne Anreize den Prozess in Richtung Tempo und Produktveröffentlichung verzerren. Tests durch Dritte können eine glaubwürdigere Sicherheitsgrundlage schaffen – insbesondere für Systeme, die in finanzielle Arbeitsabläufe integriert werden könnten.

Der CBRN-Bezug zeigt ein breiteres Preparedness-Denken

Der berichtete Fokus auf CBRN-Risiken – also chemische, biologische, radiologische und nukleare Bereiche – mag auf den ersten Blick weit vom Kryptosektor entfernt erscheinen. Er zeigt jedoch, dass führende KI-Labore über Missbrauch mit potenziell gravierenden Folgen nachdenken, nicht nur über gewöhnliche Inhaltsmoderation.

Für die Blockchain-Branche sollte ein vergleichbares Preparedness-Denken auf finanziellen Missbrauch und Angriffe auf Infrastruktur angewendet werden. KI-Agenten können die Einstiegshürde für Angreifer senken, indem sie beim Schreiben von Phishing-Nachrichten helfen, Schwachstellen in Smart Contracts analysieren, Betrugskampagnen automatisieren oder ausnutzbare Nutzerverhaltensweisen identifizieren.

Das bedeutet nicht, dass KI abgelehnt werden sollte. Es bedeutet, dass KI-Systeme im Kryptobereich mit strikten Grenzen entwickelt werden müssen:

• Keine Offenlegung privater Schlüssel
• Kein automatisches Signieren
• Keine versteckte Ausführung von Transaktionen
• Keine standardmäßig unbegrenzten Token-Freigaben
• Kein blindes Vertrauen in Daten von Drittanbietern
• Kein unkontrollierter Zugriff auf Wallet-APIs
• Klare Protokolle über Agentenentscheidungen und Tool-Aufrufe

Je leistungsfähiger KI-Modelle werden, desto expliziter muss Sicherheit gestaltet werden – nicht impliziter.

2025: KI-Agenten treffen auf Account Abstraction, DeFi und On-Chain-Automatisierung

Der Zeitpunkt dieser Diskussion ist entscheidend. Im Jahr 2025 richten Krypto-Nutzer ihre Aufmerksamkeit verstärkt auf Account Abstraction, intentbasierte Transaktionen, automatisierte Trading-Agenten und KI-gestützte DeFi-Oberflächen.

Account Abstraction kann Wallets programmierbarer und benutzerfreundlicher machen. Die Account-Abstraction-Roadmap von Ethereum erklärt, wie Smart-Contract-Konten neue Transaktionsmodelle ermöglichen können, darunter flexiblere Autorisierungs- und Wiederherstellungsmechanismen. Diese Verbesserungen können Nutzern zugutekommen, machen das Berechtigungsdesign aber auch komplexer.

Intentbasierte Systeme schaffen eine weitere Abstraktionsebene. Statt jeden Transaktionsschritt manuell festzulegen, formulieren Nutzer ein gewünschtes Ergebnis: „Tausche dieses Asset zum besten Preis“, „Rebalanciere mein Portfolio“ oder „Verschiebe Gelder in ein Netzwerk mit niedrigeren Gebühren“. KI-Agenten passen natürlich in dieses Modell, weil sie Ziele interpretieren und Handlungen koordinieren können.

Doch Abstraktion kann Risiken verbergen. Wenn Nutzer nicht verstehen, was im Hintergrund passiert, können bösartige oder schlecht ausgerichtete Agenten genau diese Lücke ausnutzen. Die Branche muss daher bessere Nutzererfahrung mit stärkerer Verifikation verbinden.

Die Zukunft sollte nicht lauten: „Die KI erledigt alles, und der Nutzer hofft, dass es sicher ist.“ Sie sollte lauten: „Die KI schlägt vor, Sicherheitssysteme setzen Grenzen, und der Nutzer autorisiert.“

Praktische Lehren für Krypto-Builder

Für Teams, die KI-gestützte Kryptoprodukte entwickeln, bietet die gemeldete Umstrukturierung bei Seed mehrere nützliche Lehren.

1. Produktwachstum von Sicherheits-Governance trennen

KI-Sicherheit darf nicht als Checkliste in letzter Minute behandelt werden. Wenn ein Produktteam ausschließlich für Nutzerwachstum belohnt wird, unterschätzt es möglicherweise seltene, aber folgenschwere Risiken. Eine dedizierte Sicherheitsfunktion kann Annahmen hinterfragen, bevor Nutzer ihnen ausgesetzt werden.

2. Festlegen, was der Agent nicht tun darf

Klare Modellspezifikationen sind wichtig. Ein KI-Agent braucht explizite Grenzen: welche Tools er aufrufen darf, mit welchen Contracts er interagieren kann, bei welchen Transaktionsgrößen zusätzliche Bestätigungen erforderlich sind und welche Handlungen verboten sind.

3. Autorisierung maschinenlesbar machen

Einverständnis in natürlicher Sprache reicht nicht aus. Krypto-Anwendungen sollten Nutzerberechtigungen in strukturierte Regeln übersetzen, die programmatisch durchgesetzt werden können. Ein Agent darf beispielsweise Transaktionen simulieren, aber nicht einreichen; oder Swaps unterhalb eines bestimmten Werts vorbereiten, aber keine Token-Allowances genehmigen.

4. Vor dem Signieren simulieren

Transaktionssimulationen helfen Nutzern, mögliche Ergebnisse vor der Ausführung zu verstehen. Das ist besonders wichtig, wenn KI-Agenten mehrstufige Aktionen erzeugen oder mit unbekannten Smart Contracts interagieren.

5. Signieren isoliert halten

KI-Systeme sollten keine Kontrolle über private Schlüssel haben. Wenn das Signieren von der KI-Entscheidungsfindung getrennt bleibt, verringert sich der potenzielle Schaden, falls das Modell manipuliert oder kompromittiert wird – oder schlicht falschliegt.

Worauf Nutzer achten sollten

Krypto-Nutzer, die KI-gestützte Tools bewerten, sollten direkte Fragen stellen:

• Kann die KI Transaktionen initiieren oder sie nur erklären?
• Verlangt das Tool eine Wallet-Verbindung, bevor sie notwendig ist?
• Sind Token-Freigaben begrenzt oder unbegrenzt?
• Gibt es eine Transaktionssimulation?
• Kann die KI auf Portfolio-Daten, Browserverlauf oder persönliche Dateien zugreifen?
• Sind Tool-Aufrufe für den Nutzer sichtbar?
• Erfolgt das Signieren auf einem separaten sicheren Gerät?

Wenn diese Antworten unklar sind, sollten Nutzer vorsichtig sein. Bequemlichkeit darf nicht bedeuten, die Kontrolle über eigene Assets aufzugeben.

Ein sichererer Weg für KI und Krypto

Die gemeldete Einrichtung einer dedizierten Einheit für KI-Sicherheit und Alignment bei ByteDance Seed spiegelt einen größeren Wandel in der Technologiebranche wider: Leistungsfähige Modelle brauchen eigene Governance, kontinuierliche Evaluierung und stärkere Schutzmaßnahmen rund um die Nutzung von Tools.

Für den Kryptobereich ist der Einsatz besonders hoch, weil KI-Agenten schon bald in unmittelbarer Nähe von Wallets, Smart Contracts, Börsen, Bridges und DeFi-Protokollen agieren könnten. Die Branche sollte KI-Unterstützung begrüßen – allerdings nur mit klaren Autorisierungsgrenzen und sicheren Signierverfahren.

Die Rolle von OneKey in diesem Umfeld ist klar: private Schlüssel unter der Kontrolle des Nutzers halten und die Verwahrung von Assets von KI-gesteuerten Entscheidungen trennen. Je leistungsfähiger KI-Agenten werden, desto mehr könnte genau diese Trennung zu einem der wichtigsten Sicherheitsprinzipien für alltägliche Krypto-Nutzer werden.