Betrug durch ChatGPT: Rechnungen können leicht gefälscht werden

Ein neues Update beim Bildgenerator von ChatGPT 4o hat zu einer deutlichen Verbesserung der Bildqualität- und komposition geführt. Vor allem das Zusammenspiel von Bildern und Text ist davon betroffen.

Was als nette Spielerei abgetan werden kann, hat sich in manchen Fällen zu einem ernsthaften Betrug entwickelt. 

Deepfake: Neuer Anwendungsbereich

Das Branchenmagazins Techcrunch hat auf eine aktuelle Betrugsmasche aufmerksam gemacht. Seit April 2025 ist ChatGPT im Rahmen seines Bildgenerators 4o in der Lage, Text in Bildern beinahe nahtlos zu generieren. Das hat zur Folge, dass vor allem abfotografierte Dokumente täuschend echt daherkommen. Laut Magazin wurde damit eine neue Ebene im Deepfake-Universum erreicht, die nicht zu unterschätzen ist.

Beispiel zeigt: Rechnungen täuschen

Die gezeigten Beispiele verblüffen: Tech-Experte und ehemaliges Gründungsmitglied von Google Search Deedy postete auf X (vormals Twitter) etwa das generierte (gefälschte) Foto einer Rechnung für ein (echtes) Steakhouse in San Francisco. Die Rechnung, die leicht zerknittert auf einem Holztisch liegt, wirkt auf den ersten Blick täuschend echt, auch die Beiträge ergeben eine korrekte Summe, sogar die Steuer ist richtig berechnet.

Pass gefälscht

Deedy geht noch einen Schritt weiter und erstellte laut eigenen Angaben mit dem einfachen Prompt "Ersetze dieses Bild durch diese Person" einen gefälschten Pass. Auch dieser sieht sehr professionell aus. Auf X schrieb er dazu: "Ja, das hier wird viele Kontrollen nicht bestehen. Aber die Leute vergessen, wie willkürlich Passnachweise, ohne strenge Prüfung, erfolgen. Sie laufen einfach per E-Mail ab – und obwohl es Photoshop gibt, erhöht das hier den Zugang um das 100-Fache und die Geschwindigkeit um das 5-Fache."

Wie häufig kommt es zu Betrug?

Konkrete Vorfälle sind derzeit nicht bekannt, jedoch berichtet das Magazin, dass die einfache Möglichkeit, gefälschte Rechnungen zu generieren, enorme Chancen für Betrug bietet. Auf LinkedIn konnte sogar eine Person ausfindig gemacht werden, die offen darüber sprach, dass sie eine Spesenrechnung über ChatGPT gefälscht hatte und bereits in die Spesenabrechnungssoftware des Unternehmens hochgeladen hatte. 

Warnung vor Phishing-Aktion

Nachgemachte Rechnungen oder Mahnungen können auch in Form von Phishing auftreten. Daher ist Vorsicht geboten, insbesondere beim Umgang mit unerwarteten Kreditkarten-Abrechnungen oder anderweitigen Zahlungsaufforderungen.

Das sagt OpenAI dazu

Auf Nachfrage des Magazins stellte OpenAI, das Unternehmen hinter ChatGPT, klar, dass alle Bilder Metadaten enthalten, die anzeigen, dass sie von ChatGPT erstellt wurden. Das Unternehmen ergreife auch laufend "Maßnahmen", wenn Nutzer gegen die Nutzungsrichtlinien verstoßen, so OpenAI-Sprecherin Taya Christianson. OpenAI verfolge das Ziel, den Nutzern so viel kreative Freiheit wie möglich zu geben, und dass gefälschte KI-Rechnungen in nicht-betrügerischen Situationen verwendet werden könnten, wie zum Beispiel "um Menschen über finanzielle Bildung aufzuklären".