OpenAIs und Anthropics Anti-Destillationsmaßnahmen: Was gesperrte Schlussfolgerungsprozesse für Krypto-KI-Agenten bedeuten könnten
OpenAIs und Anthropics Anti-Destillationsmaßnahmen: Was gesperrte Schlussfolgerungsprozesse für Krypto-KI-Agenten bedeuten könnten
KI-Agenten entwickeln sich zu einer nützlichen Schnittstelle für die Navigation durch die Kryptowelt: Sie können Governance-Vorschläge zusammenfassen, Smart Contracts analysieren und Transaktionsdaten vorbereiten. Je komplexer ihre Aufgaben jedoch werden, desto stärker sind Entwickler mit einer Abhängigkeit konfrontiert, die leicht übersehen wird: Die internen Schlussfolgerungsprozesse eines Modells stehen möglicherweise nicht in der Form zur Verfügung, lassen sich nicht übertragen oder wiederverwenden, wie Anwendungsentwickler es erwarten.
Jüngsten Behauptungen zufolge führt OpenAI Schutzmechanismen ein, die den Maßnahmen von Anthropic gegen das Auslesen verborgener Schlussfolgerungsprozesse ähneln. Der beschriebene Mechanismus würde die während einer Unterhaltung erzeugten Schlussfolgerungen an den jeweiligen Entstehungskontext binden. Dadurch ließen sie sich schwerer wiederverwenden oder offenlegen, nachdem vorherige Nachrichten verändert wurden.
Die konkreten Behauptungen zu GPT-6.2 Astra und Sol, die gemeldeten Erfolgsquoten von Angriffen sowie der angebliche Zeitplan für die Einführung konnten anhand der für diesen Artikel verfügbaren Informationen nicht unabhängig überprüft werden. Sie sollten daher weder als bestätigte Produktankündigungen noch als Sicherheitsgarantien verstanden werden. Das grundsätzliche Problem ist jedoch bereits heute für alle relevant, die KI-gestützte Kryptoanwendungen entwickeln.
Warum KI-Unternehmen Schlussfolgerungsprozesse schützen wollen
Bei der Modelldestillation werden üblicherweise die Ausgaben eines leistungsfähigeren Modells genutzt, um ein anderes Modell zu trainieren. Dieses Verfahren kann die Entwicklungskosten senken. Wie wirksam es ist, hängt jedoch von den verwendeten Daten, der Trainingsmethode und den Fähigkeiten ab, die übertragen werden sollen.
Eine fertige Antwort liefert eine bestimmte Art von Trainingssignal. Eine Erläuterung, wie das Modell zu dieser Antwort gelangt ist, kann ein weiteres liefern: Sie kann Zwischenschritte, die Zerlegung eines Problems und Muster zur Fehlerkontrolle sichtbar machen. Daten über solche Schlussfolgerungsprozesse können daher sowohl für seriöse Forscher als auch für Akteure wertvoll sein, die Fähigkeiten eines Modells ohne Genehmigung nachbilden wollen.
Für KI-Anbieter besteht die Herausforderung darin, sensible interne Ausgaben zu schützen und Entwicklern zugleich den Aufbau nützlicher Anwendungen zu ermöglichen. Entwickler wiederum müssen verstehen, dass die verborgenen Schlussfolgerungen eines Modells nicht mit einem anwendungseigenen Gedächtnis gleichzusetzen sind.
OpenAIs Dokumentation zu Reasoning-Modellen beschreibt, wie diese Modelle innerhalb der API funktionieren und wie Entwickler mit ihren Ausgaben arbeiten können. Wie bei jeder Plattformfunktion sollten die konkreten Implementierungsdetails anhand der aktuellen Dokumentation für das jeweils verwendete Modell und die entsprechende API überprüft werden.
Was eine Kontextbindung für KI-Agenten verändern könnte
In einer mehrstufigen Unterhaltung kann ein KI-Agent zunächst die Anfrage eines Nutzers entgegennehmen, anschließend ein Tool aufrufen, dessen Ergebnis prüfen und auf dieser Grundlage eine Antwort erarbeiten. Einige Modellanbieter verwenden dabei zusätzlich sogenannte Reasoning-Elemente oder andere interne Zustände, um diesen Prozess zu unterstützen.
Der beschriebene Ansatz zur Kontextbindung würde jedes geschützte Reasoning-Element mit dem vorausgegangenen Gespräch verknüpfen, in dem es entstanden ist. Ändert ein Entwickler nachträglich einen früheren Prompt, eine Tool-Konfiguration oder eine Nachricht, könnte der Anbieter Schlussfolgerungen ablehnen oder verwerfen, die nicht mehr zum geänderten Kontext passen.
Für Krypto-Workflows ist dieser Unterschied von Bedeutung. Ein Beispiel ist ein Agent, der eine DeFi-Transaktion prüft:
- Er erfasst den vom Nutzer beabsichtigten Token-Tausch.
- Er überprüft den angegebenen Wechselkurs und die Contract-Adresse.
- Er bereitet die Transaktionsdaten zur Kontrolle vor.
- Die Anwendung ändert eine frühere Nachricht oder ersetzt einen Teil des Gesprächsverlaufs.
Können geschützte Schlussfolgerungen nach einer solchen Änderung nicht mehr verwendet werden, muss der Agent möglicherweise bestimmte Arbeitsschritte wiederholen. Je nach Anbieter und Anwendungsarchitektur könnte das die Latenz, den Token-Verbrauch oder die Zahl der Tool-Aufrufe erhöhen. Zudem könnte sich das Verhalten des Agenten weniger vorhersehbar gestalten, wenn die Anwendung davon ausgeht, dass frühere Schlussfolgerungen weiterhin verfügbar sind.
Hierbei handelt es sich um eine Frage der Anwendungsarchitektur und nicht um einen Beleg dafür, dass geschützte Schlussfolgerungen kompromittiert wurden. Das genaue Verhalten hängt von der verwendeten API und dem jeweiligen Modell ab.
Warum dies für die Sicherheit im Kryptobereich wichtig ist
Krypto-Agenten arbeiten in einem Umfeld, in dem eine fehlerhafte Aktion unmittelbare finanzielle Folgen haben kann. Eine irreführende Token-Adresse, eine zu weitreichende Freigabe oder ein unerwarteter Transaktionsparameter können schwerwiegender sein als eine falsche Antwort in einem gewöhnlichen Chat.
Ein Mechanismus zur Sperrung von Schlussfolgerungsprozessen kann Modellanbietern dabei helfen, Versuche zur Extraktion geschützter Informationen einzudämmen. Er gewährleistet jedoch nicht, dass die endgültige Antwort des Agenten korrekt, ein externes Tool vertrauenswürdig oder eine vorgeschlagene Transaktion sicher ist.
Entwickler sollten diese Aspekte als voneinander getrennte Sicherheitsprobleme betrachten:
- Schutz des Modellzustands: Ob interne Schlussfolgerungen extrahiert oder wiederverwendet werden können.
- Datenintegrität: Ob Marktdaten, Contract-Metadaten und Tool-Antworten korrekt sind.
- Transaktionssicherheit: Ob die Transaktion der Absicht des Nutzers entspricht.
- Autorisierung: Ob der Nutzer der Aktion ausdrücklich zugestimmt hat.
Die Sicherheitshinweise von Ethereum sind ein hilfreicher Ausgangspunkt, um Risiken wie Phishing und bösartige Freigaben besser zu verstehen. KI kann bei der Prüfung unterstützen, ersetzt jedoch nicht die Kontrolle von Adressen, Berechtigungen und Transaktionsdetails.
Krypto-Agenten für intransparente Schlussfolgerungsprozesse entwickeln
Unabhängig davon, ob ein Anbieter eine Kontextbindung einsetzt, sollten Entwickler nicht auf den Zugriff auf die internen Gedankengänge eines Modells angewiesen sein. Eine robustere Architektur hält wichtige Anwendungszustände ausdrücklich fest und macht sie unabhängig überprüfbar.
Den vom Anbieter benötigten Gesprächszustand erhalten
Wenn eine API verlangt, dass vorherige Nachrichten oder Reasoning-Elemente in einem bestimmten Format zurückgegeben werden, sollte die Anwendung diese Vorgabe einhalten, anstatt den Gesprächsverlauf nach Belieben umzuschreiben. Vor der Einführung von Funktionen zur Bearbeitung oder Komprimierung von Unterhaltungen sollten Entwickler die aktuellen Empfehlungen des Anbieters prüfen.
Steht eine offizielle Funktion zur Kontextverwaltung zur Verfügung, sollte sie anhand lang laufender Workflows getestet werden. Entwickler sollten nicht einfach davon ausgehen, dass ein gekürzter Gesprächsverlauf sämtliche relevanten Zustände bewahrt.
Entscheidungen getrennt von verborgenen Schlussfolgerungen speichern
Ein Agent muss seine internen Schlussfolgerungen nicht offenlegen, damit eine Anwendung handlungsrelevante Fakten protokollieren kann. Gespeichert werden können beispielsweise:
- Die gewünschte Aktion des Nutzers und die maßgeblichen Einschränkungen.
- Das betreffende Netzwerk und die geprüften Contract-Adressen.
- Tool-Ergebnisse einschließlich Zeitstempeln und Quellen.
- Die zur Genehmigung vorgelegten Transaktionsparameter.
- Die ausdrückliche Bestätigung oder Ablehnung durch den Nutzer.
Solche Aufzeichnungen können einer Anwendung dabei helfen, ihre Arbeit fortzusetzen, Prüfungen zu unterstützen und nachvollziehbar zu machen, welche Informationen dem Nutzer angezeigt wurden. Seed-Phrasen oder private Schlüssel dürfen darin nicht enthalten sein.
Vor dem Signieren erneut prüfen
Marktbedingungen und der On-Chain-Zustand können sich zwischen der ersten Analyse durch einen Agenten und der Freigabe durch den Nutzer verändern. Kritische Angaben sollten deshalb unmittelbar vor dem Signieren erneut geprüft werden. Dazu gehören insbesondere das Netzwerk, der Empfänger, der Token, der Betrag, die Ausgabeberechtigungen und die relevanten Transaktionsdaten.
Bei Interaktionen mit Smart Contracts können Entwickler außerdem etablierte Ressourcen wie den OWASP Smart Contract Security Verification Standard nutzen, um ihre Sicherheitsprüfungen systematisch zu strukturieren. KI-generierte Analysen sollten Tests und menschliche Kontrollen ergänzen, nicht ersetzen.
Externe Inhalte grundsätzlich als nicht vertrauenswürdig behandeln
Ein Agent kann auf Anweisungen stoßen, die in Websites, Governance-Foren, Token-Metadaten oder Tool-Antworten eingebettet sind. Solche Anweisungen dürfen weder die Anfrage des Nutzers noch die Sicherheitsregeln der Anwendung automatisch außer Kraft setzen.
Die OWASP-Leitlinien zu Prompt Injection erläutern, weshalb Inhalte, die von einer KI-Anwendung abgerufen werden, selbst zur Angriffsfläche werden können. Bei Krypto-Agenten können die Folgen unter anderem irreführende Transaktionsvorschläge oder Versuche sein, Gelder an andere Empfänger umzuleiten.
Was Kryptonutzer überprüfen sollten
Wer einen KI-Assistenten zur Recherche von Vermögenswerten oder zur Vorbereitung von Transaktionen einsetzt, sollte sich auf Informationen konzentrieren, die sich unabhängig überprüfen lassen:
- Netzwerk und Adresse prüfen. Ähnliche Namen und Symbole sind kein Beleg dafür, dass ein Token oder Contract echt ist.
- Freigabeanfragen lesen. Es sollte klar sein, welcher Vermögenswert freigegeben wird, wer die Berechtigung erhält und welcher Betrag ausgegeben werden darf.
- Die Transaktion vor dem Signieren kontrollieren. Eine KI-generierte Zusammenfassung enthält nicht zwangsläufig jedes wichtige Detail.
- Wiederherstellungsinformationen geheim halten. Ein KI-Assistent benötigt weder die Seed-Phrase noch den privaten Schlüssel, um eine Transaktion zu erklären.
- Selbstbewusste Erklärungen hinterfragen. Eine plausibel klingende Antwort beweist weder, dass ein Contract sicher ist, noch dass sich ein bestimmter Handel eignet.
Für Nutzer, die ihre Kryptowerte selbst verwahren, kann eine Hardware-Wallet wie OneKey dabei helfen, private Schlüssel von der KI-Anwendung getrennt zu halten. Sie kann jedoch nicht beurteilen, ob eine Transaktion legitim ist: Die Signaturanfrage muss weiterhin sorgfältig geprüft werden.
Fazit
Der Schutz verborgener Schlussfolgerungsprozesse eines Modells und die Absicherung einer Kryptotransaktion sind zwei unterschiedliche Herausforderungen. Kontextgebundene Schlussfolgerungen könnten – sofern sie implementiert werden – bestimmte Extraktionsversuche erschweren. Zugleich können sie beeinflussen, wie Entwickler langfristig laufende Agenten-Workflows verwalten.
In der Praxis kommt es darauf an, Anwendungen auf überprüfbaren Eingaben, ausdrücklich dokumentierten Zuständen und nutzergesteuerten Freigaben aufzubauen. Der sicherste Agent im Kryptobereich ist nicht einfach derjenige, der eine überzeugende Erklärung liefert, sondern derjenige, dessen Aktionen überprüft werden können, bevor Gelder bewegt werden.



