Stellen Sie sich vor, Sie bitten eine KI, einen Flug in der Business-Class nach Korea zu buchen. Die KI findet ein gutes Angebot. Das Ticket passt zu Ihrem Budget. Es gibt nur ein Problem: Die KI hat das falsche Korea gewählt.
Daniel Ishag, Chief Commercial Officer von Bakkt, berichtet auf einer Podiumsdiskussion von einem Beispiel, das diesem Szenario ähnelt.
„Woher weiß ich, ob der Agent mir nicht einen Flug nach Nordkorea statt nach Südkorea bucht?“, fragt er.
Das Beispiel ist absichtlich extrem, zeigt aber ein praktisches Problem, wenn Software eine Ausgabeberechtigung bekommt. Ein Budget einzuhalten bedeutet nicht, die Aufgabe wirklich zu verstehen.
Und sobald das Geld überwiesen ist, muss jemand das Problem klären.
AI agent payment infrastructure is becoming usable.
— BeInCrypto (@beincrypto) October 6, 2026
Broad demand and autonomous financial activity are not yet well demonstrated.
Our new report, The State of AI Agent Payments 2026, looks at what the observable activity shows🧵 pic.twitter.com/OxOG1UayVD
Ein Budget ist nur der Anfang
Ein Agent kann eine Anfrage falsch verstehen. Ein Angreifer könnte ihm Anweisungen geben, die wie nützliche Informationen aussehen. Jemand könnte Zugriff auf sein Konto stehlen,
All diese Fehler führen unter anderem zum gleichen Ergebnis: zu einer Zahlung, die der Eigentümer nie beabsichtigt hat, allerdings sind danach unterschiedliche Fragen zur Verantwortung geklärt.
Laut dem State of AI Agent Payments 2026 von BeInCrypto können 14 von 19 untersuchten Produkten oder Arbeitsabläufen innerhalb vorab erteilter Berechtigungen handeln. Diese Zahl zeigt dokumentierte Fähigkeiten, beweist jedoch nicht, dass die Kontrollen niemals versagen.
Zudem wurden in zwei betrachteten Vorfällen insgesamt 281.200 USD an Angreifer überwiesen, bevor das Geld zurückgeholt werden konnte. Schädliche Anweisungen gelangten in finanzierte Wallets, ohne die Blockchain zu brechen.
Anfang Mai 2026 löste ein KI-Agent versehentlich eine Überweisung von 175.000 USD an die falsche Adresse aus. Quelle: BeInCrypto Research Phillip Lord, CEO von Bitcoin Japan Corporation, erwartet, dass Agenten zusätzliche Risiken bringen. Er spricht auch ehrlich über die menschliche Alternative.
„Aber Krypto ist doch ohnehin schon ziemlich riskant, oder? Menschen sind auch nicht besonders gut, oder?“, sagt er.
Menschen klicken bereits auf gefährliche Links und vertrauen schlechten Informationen. Wenn Sie diese Aufgabe delegieren, stellt sich die Frage: Wessen Fehler soll es sein, wenn die Software in Ihrem Namen handelt?
Der Druck, immer weiterzuentwickeln
Laut Ishag gibt es nicht nur einen Wettbewerb unter Unternehmen um Kunden. Länder konkurrieren zudem um Strom, Rechenleistung und Chips, die für künstliche Intelligenz gebraucht werden.
„Es ist Staat gegen Staat“, sagt Daniel Ishag von Bakkt.
Er befürchtet, dass der Druck, schnell zu handeln, die Sicherheit vernachlässigen kann.
Das sorgt bei der finanziellen Automatisierung für eine schwierige Situation. Die Entwicklung belohnt Funktionen, die immer mehr Aufgaben übernehmen. Nutzer brauchen aber zudem Sicherheit, dass jemand eingreifen oder im Nachhinein helfen kann.
AI is all that matters for markets right now.
— The Kobeissi Letter (@KobeissiLetter) October 1, 2026
AI infrastructure companies now account for 40% of the S&P 500’s market capitalization.
At the same time, just 3 chipmaker firms represent 28% of the MSCI Emerging Markets Index.
AI-related companies also account for 49% of… pic.twitter.com/d8Nqu9Kuyo
Erst das Versprechen lesen, dann die Bedingungen
Ehud Tal, Mitgründer und CEO des Blockchain-Sicherheitsunternehmens Sailo Technologies, nennt eine Geld-zurück-Garantie als Teil der Lösung seines Unternehmens.
„Wir bieten unseren Kunden zum ersten Mal überhaupt eine Geld-zurück-Garantie an.“
Ein konkretes Beispiel für die Frage der Verantwortung ist die Link-Wallet von Stripe. Die aktuellen Agenten-Bedingungen besagen, dass Nutzer, also im Verhältnis zwischen ihnen und Stripe, grundsätzlich für Zahlungen verantwortlich sind, die verbundenen Agenten ausgelöst haben. Dies gilt auch, wenn diese Transaktionen unbeabsichtigt sind oder durch Fehler, Halluzinationen oder falsch verstandene Anweisungen entstehen.
Eine Ausnahme gibt es bei technischen Ausfällen oder Fehlern, die Stripe selbst verursacht.
Diese vertragliche Regelung legt nicht alle gesetzlichen Verbraucherrechte fest. Sie zeigt aber, warum die Erlaubnis, einen Zahlungsdienst zu nutzen, nicht mit einem Versprechen verbunden ist, Fehler eines Agenten zu ersetzen.
Eine Freigabe von 200 USD teilt dem Zahlungsdienstleister etwas über den Betrag mit, aber oft wenig zum gewünschten Produkt, Empfänger oder den von Ihnen gewünschten Bedingungen.
Wenn ein Einkauf fehlschlägt, kann genau dieser Unterschied im Mittelpunkt Ihrer Reklamation stehen.
Es gibt Bemühungen, solche Streitfälle leichter zu lösen. Das Agent Payments Protocol von Google beschreibt zum Beispiel signierte Datensätze, die Anweisung, genehmigte Bestellung und Bezahlung zusammenführen. Solche Belege könnten helfen, festzustellen, was freigegeben wurde. Sie versprechen jedoch keine Erstattung.
Bisherige Verantwortlichkeiten bestehen zudem weiterhin. Die Financial Conduct Authority des Vereinigten Königreichs betont, dass regulierte Unternehmen auch bei Nutzung von KI für die Ergebnisse verantwortlich bleiben und warnt, dass menschliche Überprüfung nicht nur eine Formalität sein darf.
Für alle, die einen Agenten finanzieren, sind daher genaue Fragen entscheidend. Welche Käufe darf er tätigen? Wer dokumentiert Ihre Anweisungen? Können Sie weitere Ausgaben stoppen? Und wer kümmert sich um Zahlungen, die Sie anfechten?
„Wir müssen Unternehmen schaffen, denen die Leute vertrauen können“, sagt Phillip Lord von Bitcoin Japan Corporation.
Für Kunden bewährt sich dieses Vertrauen erst nach dem Kauf: Dann, wenn ein Agent einen Fehler macht und jemand entscheiden muss, wer sein Geld zurückbekommt.
Lesen Sie die Originalgeschichte Was passiert, wenn KI-Agenten Ihnen den falschen Flug buchen? von Mohammad Shahid auf de.beincrypto.com