China treibt Gesetzgebung zum KI-Lebenszyklus voran – Risikomeldungen und regulatorische Sandboxes im Blick

China arbeitet an einem umfassenderen Regelwerk für die Governance künstlicher Intelligenz. Dies könnte auch Folgen für Unternehmen haben, die KI mit Blockchain-Technologie verbinden. Die von der Nationalen Entwicklungs- und Reformkommission am 3. November vorgestellte Richtung sieht eine Aufsicht über den gesamten KI-Lebenszyklus vor – von Daten und Rechenressourcen über Algorithmen bis hin zu Anwendungen in der Praxis.

Entwickler und Betreiber sollen dazu angehalten werden, Sicherheitsrisiken zeitnah offenzulegen und Vorfälle sowie Schwachstellen proaktiv zu melden. Gleichzeitig erwägt die Politik Übergangsfristen und regulatorische Sandboxes, in denen Unternehmen neue Technologien unter kontrollierten Bedingungen erproben könnten.

Für Kryptounternehmen ist dabei eine wichtige Unterscheidung zu beachten: Bei den angekündigten Maßnahmen handelt es sich um eine politische Stoßrichtung und noch nicht um einen endgültigen Katalog verbindlicher Pflichten. Unternehmen sollten daher genau verfolgen, welchen Geltungsbereich die geplante Gesetzgebung haben wird, wann sie umgesetzt werden soll und wie sie mit den bestehenden Beschränkungen für kryptowährungsbezogene Aktivitäten zusammenspielt.

Was eine Aufsicht über den gesamten KI-Lebenszyklus bedeuten könnte

Statt ausschließlich die Ergebnisse eines Modells zu betrachten, würde der vorgeschlagene Ansatz Risiken über die gesamte Entwicklungs- und Einsatzphase hinweg berücksichtigen. Dazu könnten die Herkunft der Trainingsdaten, die Prüfung der Systeme, die Abläufe nach der Markteinführung eines Produkts und die Reaktion der Betreiber auf Fehlfunktionen oder andere Probleme gehören.

China reguliert bereits bestimmte KI-Dienste. Die seit 2023 geltenden vorläufigen Maßnahmen für generative KI-Dienste erfassen bestimmte Dienste, die Inhalte für die Öffentlichkeit in China erzeugen. Ein umfassenderes Gesetz könnte diesen Rechtsrahmen erweitern. Wie genau sich die bestehenden Maßnahmen und die künftige Gesetzgebung zueinander verhalten werden, ist jedoch noch offen.

Bei Blockchain-Produkten kann KI an ganz unterschiedlichen Stellen zum Einsatz kommen: als Support-Assistent, als Werkzeug zur Transaktionsüberwachung, als Dienst zur Analyse von Smart Contracts oder als automatisierte Handelsschnittstelle. Jeder dieser Anwendungsfälle birgt eigene Risiken. Ein Chatbot, der eine Transaktion erläutert, könnte beispielsweise sensible Nutzerdaten offenlegen. Ein KI-Agent, der selbst Transaktionen auslösen kann, könnte hingegen Fehler verursachen, die sich nur schwer rückgängig machen lassen.

Die politische Initiative geht zudem über die rein technische Sicherheit hinaus. Zu den Themen, die besondere Aufmerksamkeit erhalten sollen, zählen Auswirkungen auf den Arbeitsmarkt, die Abhängigkeit von KI, Deepfakes, algorithmische Diskriminierung und Datenschutzverletzungen. Diese Aspekte könnten insbesondere für Kryptoplattformen relevant sein, die KI einsetzen, um über den Zugang zu Konten zu entscheiden, Finanzinhalte zu erstellen oder dialogorientiert mit Nutzern zu interagieren.

Warum die Offenlegung von Risiken für Kryptoprodukte wichtig ist

Der Schwerpunkt auf der Meldung von Vorfällen und Schwachstellen ist für Produkte, die mit digitalen Vermögenswerten umgehen, besonders relevant. Ein Fehler könnte weit mehr bedeuten als nur eine falsche Antwort: Ein KI-System könnte einen Smart Contract falsch interpretieren, eine schädliche Adresse empfehlen oder einen Nutzer dazu bewegen, eine unsichere Transaktion freizugeben.

Um ihre Risiken besser einschätzen zu können, könnten Teams zunächst folgende Punkte dokumentieren:

• Systemgrenzen: Welche Entscheidungen trifft die KI, und für welche ist eine menschliche Genehmigung erforderlich?
• Datenflüsse: Welche Nutzerdaten, Wallet-Adressen oder Transaktionsdetails werden an ein Modell oder einen externen Anbieter übermittelt?
• Reaktion auf Vorfälle: Wie erkennt und begrenzt das Team schädliche Ausgaben oder Sicherheitsverletzungen, und wie werden diese kommuniziert?
• Auswirkungen auf Nutzer: Könnte ein Fehler zum Verlust von Vermögenswerten, zum Ausschluss von einem Dienst oder zur Offenlegung sensibler Informationen führen?

Dabei handelt es sich um praktische Fragen der Governance und nicht um eine Darstellung bereits endgültig festgelegter chinesischer Rechtsvorschriften. Als weiterführende Orientierung für die Erkennung und Steuerung von KI-Risiken kann das NIST AI Risk Management Framework dienen.

Regulatorische Sandboxes könnten Raum für Erprobungen schaffen

Eine regulatorische Sandbox ermöglicht es Unternehmen in der Regel, ein Produkt innerhalb klar definierter Grenzen zu testen, während die zuständigen Behörden die Ergebnisse beobachten. Nach dem am 3. November vorgestellten Ansatz könnten branchenübergreifend solche Sandboxes eingerichtet werden – einschließlich Verfahren für Antragstellung, Erprobung, Nutzung und Beendigung der Teilnahme. Die Regelungen könnten zudem regelmäßig überprüft und angepasst werden.

Für Blockchain-Entwickler könnte ein kontrollierter Test dabei helfen, ein KI-gestütztes Sicherheitswerkzeug vor seiner breiteren Einführung zu bewerten. Beschränkungen hinsichtlich der Teilnehmerzahl, der Transaktionswerte oder der Systemberechtigungen könnten es erleichtern, Fehler zu erkennen, ohne eine große Nutzerbasis Risiken auszusetzen.

Allerdings gilt: Eine Sandbox ist keine pauschale Erlaubnis, Kryptowährungsdienste anzubieten. Ob ein Projekt teilnehmen kann, hängt vom jeweiligen Programm, dessen Regeln und der zu testenden Aktivität ab. Unternehmen sollten Anforderungen an KI daher getrennt von den Vorschriften prüfen, die in ihrer Rechtsordnung für digitale Vermögenswerte und Finanzdienstleistungen gelten.

Angemessene Übergangsfristen könnten betroffenen Organisationen außerdem genügend Zeit geben, sich an die neuen Vorgaben anzupassen. Wie lang diese Fristen ausfallen und welche praktischen Auswirkungen sie haben werden, hängt von den endgültigen Regelungen ab.

KI-Agenten machen eine sorgfältige Transaktionsprüfung noch wichtiger

Eine der folgenreichsten Fragen für Kryptonutzer lautet, wie viel Handlungsmacht sie einem KI-System übertragen sollten. Ein Assistent kann hilfreich sein, um einen Smart Contract zusammenzufassen oder eine Transaktion zu erklären. Seine Erläuterung ist jedoch kein Beweis dafür, dass die betreffende Aktion sicher ist.

Bevor Nutzer eine von einer KI vorgeschlagene Transaktion freigeben, sollten sie folgende Punkte eigenständig prüfen:

1. Zieladresse und Netzwerk. Auch eine überzeugende Erklärung verhindert nicht, dass Geld an die falsche Adresse oder über das falsche Netzwerk gesendet wird.
2. Vermögenswert und Betrag. Prüfen Sie, welche Vermögenswerte die Wallet verlassen und ob die Gebühren angemessen sind.
3. Berechtigungen des Smart Contracts. Achten Sie besonders auf Token-Freigaben – vor allem auf Berechtigungen, die es einem Smart Contract erlauben, zu einem späteren Zeitpunkt Vermögenswerte auszugeben.
4. Herkunft der Anfrage. Deepfake-Videos, geklonte Stimmen und überzeugend formulierte Chatnachrichten können es erheblich erschweren, Identitätsbetrug zu erkennen.
5. Sensible Informationen. Geben Sie niemals eine Wiederherstellungsphrase oder einen privaten Schlüssel an einen KI-Assistenten, einen Support-Chat oder eine Website weiter.

Eine Hardware-Wallet wie OneKey kann dabei helfen, private Schlüssel von Geräten mit Internetverbindung getrennt zu halten und Nutzern zugleich die Möglichkeit geben, Transaktionen zu prüfen und zu autorisieren. Sie kann jedoch nicht zuverlässig feststellen, ob jede Transaktion legitim ist, und auch nicht verhindern, dass ein Nutzer eine schädliche Anfrage bestätigt. Eine sorgfältige Prüfung bleibt daher unerlässlich.

Worauf nun zu achten ist

Chinas Vorstoß für eine Gesetzgebung zum gesamten KI-Lebenszyklus deutet auf ein Governance-Modell hin, das sowohl Innovationen als auch mögliche Schäden durch bereits eingesetzte KI-Systeme berücksichtigt. Für Blockchain-Unternehmen besteht die unmittelbare Aufgabe darin, zu erfassen, wo KI eingesetzt wird, auf welche Daten und Funktionen sie zugreifen kann und wie mit Vorfällen umgegangen werden soll.

Entscheidend werden nun der Geltungsbereich des Gesetzentwurfs, mögliche Meldepflichten, die Länge der Übergangsfristen und die konkrete Ausgestaltung der einzelnen Sandboxes sein. Bis diese Details veröffentlicht sind, sollten Unternehmen die angekündigte Richtung als Signal zur Vorbereitung verstehen – nicht als Ersatz für endgültige Vorschriften.