Altman gegen Amodei: Behalten Menschen im Zeitalter der Superintelligenz die Kontrolle – oder werden sie wie Haustiere gehalten?
Altman gegen Amodei: Behalten Menschen im Zeitalter der Superintelligenz die Kontrolle – oder werden sie wie Haustiere gehalten?
Was geschieht, wenn künstliche Intelligenz den Menschen bei nahezu jeder wirtschaftlich wertvollen Aufgabe übertrifft? Die Antwort hängt nicht nur davon ab, wie viel Wohlstand KI schaffen kann, sondern auch davon, wer den Zugang dazu kontrolliert.
Sam Altman, CEO von OpenAI, vertritt die Ansicht, dass Menschen die Kontrolle über ihre Zukunft behalten sollten – selbst wenn dafür die Entwicklung superintelligenter KI begrenzt werden müsste. Seine Warnung richtet sich gegen ein bestimmtes Szenario: eine Gesellschaft, in der ein KI-System menschliches Verhalten bewertet und darüber entscheidet, welche Belohnungen Menschen erhalten.
Die von ihm kritisierte Idee findet sich in einem Essay des Anthropic-CEO Dario Amodei aus dem Jahr 2024. Ihre vermeintliche Meinungsverschiedenheit muss jedoch im richtigen Kontext betrachtet werden. Amodei beschrieb die Verteilung von Ressourcen durch KI lediglich als eine mögliche Wirtschaftsordnung, nicht als ausgereifte Empfehlung. Zudem räumte er ein, dass solche Modelle zu Ausbeutung oder dystopischen Verhältnissen führen könnten.
Für Krypto-Nutzer wirft diese Debatte eine ganz praktische Frage auf: Wenn intelligente Systeme eine zentrale Rolle in der Wirtschaft übernehmen, können Menschen ihre Vermögenswerte dann weiterhin besitzen, übertragen und nutzen, ohne diese Systeme um Erlaubnis bitten zu müssen?
Die wirtschaftliche Kernfrage der KI-Debatte
In Machines of Loving Grace entwirft Amodei eine Zukunft, in der KI die meisten Arbeiten effektiver und kostengünstiger erledigt als Menschen. Sollte dieses Szenario eintreten, wären Löhne möglicherweise kein verlässliches Mittel mehr, um die Erträge der wirtschaftlichen Produktion zu verteilen.
Eine denkbare Antwort darauf wäre ein universelles Grundeinkommen: Menschen erhalten Ressourcen unabhängig davon, ob sie einer bezahlten Beschäftigung nachgehen. Eine andere, weitaus problematischere Möglichkeit bestünde darin, den durch KI erzeugten Wohlstand danach zu verteilen, welche menschlichen Aktivitäten als förderungswürdig eingestuft werden.
Der Unterschied ist erheblich. Ein System, das Menschen nach verständlichen und anfechtbaren Regeln eine Grundversorgung garantiert, ist nicht dasselbe wie ein System, das den Zugang zu Ressourcen von einer undurchsichtigen Bewertung ihres Verhaltens abhängig macht.
Altmans Einwand richtet sich vor allem gegen diesen Verlust an Selbstbestimmung. Entscheidend ist nicht nur, ob ein KI-System materiellen Wohlstand gewährleisten könnte. Es geht vielmehr darum, ob Menschen weiterhin maßgeblichen Einfluss auf die Entscheidungen, Institutionen und Ressourcen haben, die ihr Leben prägen.
Warum Eigentum in einer KI-gesteuerten Wirtschaft entscheidend ist
Je besser KI-Agenten darin werden, Recherchen durchzuführen, Einkäufe zu tätigen und Arbeitsabläufe zu verwalten, desto größer dürfte auch ihre Rolle bei finanziellen Aktivitäten werden. Ein Unternehmen könnte beispielsweise einen Agenten dazu ermächtigen, Cloud-Rechenleistung zu bezahlen. Ebenso könnte eine Privatperson einen Agenten mit der Abwicklung alltäglicher Transaktionen beauftragen.
Diese Bequemlichkeit macht eine wichtige Unterscheidung notwendig: Ein KI-Agent kann im Auftrag eines Nutzers handeln, ohne dessen Vermögenswerte zu besitzen oder uneingeschränkte Verfügungsgewalt darüber zu erhalten.
Krypto-Wallets und Smart Contracts bieten Möglichkeiten, diese Trennung technisch im Code abzubilden:
- Nutzer können Vermögenswerte in einem selbst kontrollierten Konto verwahren, statt sie vollständig einem Dienstleister zu überlassen.
- Eine Anwendung kann die Erlaubnis anfordern, mit diesen Vermögenswerten zu interagieren. Der Nutzer muss jedoch weiterhin prüfen, welche Befugnisse er damit tatsächlich erteilt.
- Smart Contracts können vorab definierte Bedingungen durchsetzen, etwa Ausgabenlimits oder die Zustimmung mehrerer Parteien.
- Öffentliche Blockchains können bestimmte Transaktionen und Regeln unabhängig überprüfbar machen.
Keine dieser Funktionen garantiert ein faires Ergebnis. Sie können Nutzern jedoch Werkzeuge an die Hand geben, um Unterstützung und Entscheidungsgewalt voneinander zu trennen – ein wichtiges Prinzip, wenn Software Entscheidungen in Maschinengeschwindigkeit trifft.
KI-Agenten brauchen klar begrenzte Berechtigungen, keinen uneingeschränkten Zugriff
Damit ein KI-Agent im Umgang mit Kryptowährungen nützlich sein kann, muss er möglicherweise Transaktionen anstoßen dürfen. Erhält er jedoch Zugriff auf einen uneingeschränkten privaten Schlüssel, könnte bei einer Kompromittierung, Manipulation oder auch nur einem Fehler des Agenten die gesamte Wallet gefährdet sein.
Ein sichereres Konzept beginnt deshalb mit einer klaren Begrenzung seiner Handlungsmöglichkeiten. Abhängig von Wallet und technischer Infrastruktur könnte dies Folgendes umfassen:
- Ausgabenlimits festlegen, die für einen bestimmten Zeitraum oder eine konkrete Aufgabe gelten.
- Zieladressen beschränken, sodass nur genehmigte Adressen oder Contracts verwendet werden dürfen.
- Menschliche Zustimmung verlangen, wenn Transaktionen ungewöhnlich oder besonders umfangreich sind.
- Mittel für KI-Agenten trennen und nicht gemeinsam mit langfristig gehaltenen Vermögenswerten verwahren.
- Berechtigungen widerrufen, sobald einem Agenten oder einer Anwendung nicht mehr vertraut wird.
Die Kontoabstraktion ist ein Entwicklungsbereich innerhalb von Ethereum, der flexiblere Kontofunktionen ermöglichen kann. Der Standard ERC-4337 beschreibt einen Ansatz für Smart-Contract-Konten mit individuell anpassbarer Validierungslogik. Solche Konzepte können Entwicklern dabei helfen, differenziertere Autorisierungsprozesse umzusetzen. Welche Schutzmechanismen tatsächlich zur Verfügung stehen, hängt allerdings von der jeweiligen Wallet-Implementierung und den Regeln ab, die ein Nutzer aktiviert.
Einen universellen Sicherheitsschalter gibt es nicht. Ein Ausgabenlimit ist nur so wirksam wie seine Konfiguration. Zudem können bösartige Contracts oder kompromittierte Benutzeroberflächen Nutzer weiterhin dazu verleiten, gefährliche Berechtigungen zu erteilen.
Transparenz ist wertvoll, aber nicht mit Kontrolle gleichzusetzen
Blockchain-Technologie wird mitunter als automatische Lösung für zentralisierte Machtstrukturen dargestellt. In Wirklichkeit ist die Situation jedoch komplexer.
Eine Transaktion kann auf der Blockchain sichtbar sein, während die zugrunde liegende Entscheidung vollkommen undurchsichtig bleibt. Ein KI-System könnte anhand eines proprietären Modells, privater Daten oder nicht offengelegter Kriterien entscheiden, wer eine Zahlung erhält. Dass diese Zahlung in einem öffentlichen Register erfasst wird, sagt nichts darüber aus, ob die Entscheidung nachvollziehbar oder angemessen war.
Ebenso kann ein Smart Contract Regeln konsequent ausführen, ohne dass diese Regeln deshalb gerecht sein müssen. Wenn eine kleine Gruppe den Contract ändern, die zugrunde liegenden Daten kontrollieren oder den Zugang über eine marktbeherrschende Benutzeroberfläche blockieren kann, verfügen Nutzer möglicherweise über deutlich weniger Autonomie, als der On-Chain-Datensatz vermuten lässt.
Bei jedem KI-gestützten Finanzsystem sollten unter anderem folgende Fragen gestellt werden:
- Wer kann die Regeln ändern?
- Welche Daten beeinflussen eine Entscheidung?
- Können Nutzer ein Ergebnis nachvollziehen und anfechten?
- Können Menschen ihre Vermögenswerte abziehen oder zu einem anderen Anbieter wechseln?
- Was geschieht, wenn das KI-System oder sein Betreiber ausfällt?
Diese Fragen sind ebenso wichtig wie Transaktionsgeschwindigkeit und Automatisierung. Menschliche Kontrolle setzt sowohl technischen Zugang als auch Institutionen voraus, die diesem Zugang praktische Bedeutung verleihen.
Welche Rolle die Selbstverwahrung spielt
Bei der Selbstverwahrung tragen Nutzer unmittelbar die Verantwortung für die Schlüssel, mit denen Transaktionen autorisiert werden. In einer Wirtschaft, die zunehmend durch automatisierte Dienste vermittelt wird, kann dies eine wichtige Grenze schaffen: Ein KI-Assistent darf eine Handlung empfehlen, während der Eigentümer der Vermögenswerte selbst entscheidet, ob er die entsprechende Transaktion signiert.
Eine Hardware-Wallet wie OneKey kann diese Trennung unterstützen, indem sie private Schlüssel auf einem separaten Gerät speichert und die Bestätigung von Transaktionen über den Signaturprozess der Wallet verlangt. Sie kann jedoch nicht beurteilen, ob die Empfehlung einer KI sinnvoll ist. Ebenso wenig kann sie einen Nutzer schützen, der getäuscht wurde und daraufhin selbst eine schädliche Transaktion freigibt. Nutzer müssen daher weiterhin die Transaktionsdetails überprüfen und ihre Wiederherstellungsdaten sicher aufbewahren.
Wer im Alltag mit KI-Agenten experimentiert, kann das Risiko reduzieren, indem er nur begrenzte Beträge in einer separaten Wallet bereithält und für langfristig verwahrte Vermögenswerte bewusstere, strengere Freigabeprozesse nutzt. Welche Konfiguration am besten geeignet ist, hängt von den jeweiligen Vermögenswerten, Anwendungen und Risiken ab.
Das Ziel ist Selbstbestimmung, nicht nur Überfluss
Die Debatte zwischen Altman und Amodei lässt sich nicht auf die einfache Wahl reduzieren, KI entweder willkommen zu heißen oder abzulehnen. Sowohl ihr wirtschaftliches Potenzial als auch ihre Risiken verdienen eine ernsthafte Auseinandersetzung. Die schwierigere Frage lautet, wie sich sicherstellen lässt, dass die wachsenden Fähigkeiten von Maschinen die menschlichen Handlungsmöglichkeiten erweitern, statt sie schleichend zu ersetzen.
Kryptotechnologie allein kann diese Frage nicht beantworten. Ihr Schwerpunkt auf Eigentum, übertragbaren Vermögenswerten und ausdrücklich erteilten Berechtigungen kann jedoch zur Entwicklung von Systemen beitragen, in denen KI als Werkzeug dient – und nicht als letzte Instanz darüber entscheidet, was Menschen mit ihren Ressourcen tun dürfen.
