Bloomberg berichtete am 26. Juli über eine Geschichte, die die Medien erschütterte und Unternehmen auf der ganzen Welt auf die Bedrohung durch KI-gestützten Deepfake-Betrug aufmerksam machte. Die Geschichte beschrieb, wie ein hochrangiger Manager bei Ferrari beinahe Opfer eines ausgeklügelten Deepfake-Betrugs geworden wäre, bei dem ein Anrufer die Stimme von Benedetto Vigna, dem CEO von Ferrari, nachahmen konnte. Angesichts der Millionenverluste, die globale Unternehmen riskieren, hat diese Nachricht die Bedeutung der Implementierung fortschrittlicher Software und Protokolle zur Identitätsüberprüfung in allen Betrieben unterstrichen.
Deepfake-Betrug und die Fallstudie Ferrari: Was ist passiert?
An einem Dienstagmorgen wie jedem anderen erhielt ein hochrangiger Manager bei Ferrari mehrere Textnachrichten, die offenbar von CEO Benedetto Vigna stammten. Die Nachrichten kamen von einer ungewöhnlichen Nummer. Eine der Nachrichten lautete: „Hey, hast du von der großen Übernahme gehört, die wir planen? Ich könnte deine Hilfe brauchen.“
Der Betrüger erklärte dann, dass der Geschäftsführer bereit sein müsse, „die Geheimhaltungsvereinbarung zu unterzeichnen, die Ihnen unser Anwalt so bald wie möglich zusenden wird.“ Er fuhr fort: „Die italienische Marktaufsichtsbehörde und die Mailänder Börse wurden bereits informiert. Bleiben Sie bereit und bitte äußerste Diskretion.”
Während diese Nachrichten nicht unbedingt überzeugend wirken, war der darauf folgende Sprachanruf weitaus trügerischer. Den Betrügern gelang es, Vignas Stimme nachzuahmen, da die Nachahmung Vignas italienischen Akzent und Tonfall perfekt widerspiegelte.
Der Betrüger versuchte zu erklären, warum er tatsächlich von einer anderen Telefonnummer aus anrief, da es sich um ein streng vertrauliches Gespräch mit möglichen Auswirkungen auf China handelte und außerdem die Durchführung einer nicht näher spezifizierten Währungsabsicherungstransaktion erforderlich war.
„Tut mir leid, Benedetto, aber Ich muss Sie identifizieren”, sagte der Manager. Er stellte eine Frage: „Wie hieß das Buch, das Sie vor ein paar Tagen empfohlen haben?“
Nach dieser Verifizierungsfrage gab der Betrüger das Vorhaben schnell auf und beendete das Gespräch. Der Vorfall führte daraufhin zu einer internen Untersuchung bei Ferrari, aber die Vertreter haben beschlossen, sich nicht zu der Angelegenheit zu äußern.
Wie Deepfake-Betrug Unternehmen infiltriert
Dieser Fall ist zwar alarmierend, aber sicherlich nicht der erste seiner Art. Deepfakes haben ihre Reichweite seit einigen Jahren erhöht, wobei die Anzahl der Deepfake-Videos im Internet zunimmt von 550% von 2019 bis 2023.
Erstaunlich über ein Drittel der Unternehmen in den gesamten USA kam es in den letzten 12 Monaten zu einem sicherheitsrelevanten Deepfake-Vorfall.
Im Mai berichteten Nachrichtenagenturen, dass der CEO des Werbekonzerns WPP Plc, Mark Read, Opfer eines ganz ähnlichen Betrugs geworden sei. Ein aufwändiger Deepfake wurde verwendet, um den CEO bei einem Microsoft Teams-Anruf zu imitieren. Da diese KI-gestützten Betrügereien immer präziser werden, wird es für Teams immer einfacher, Opfer zu werden und Millionen zu verlieren.
Stefano Zanero, Professor für Cybersicherheit am italienischen Politecnico di Milano, erklärte in einem Interview mit dem Fortune Magazine:
„Es ist nur eine Frage der Zeit, bis diese KI-basierten Deepfake-Tools unglaublich präzise werden.“
Das heute wahrscheinlichste Szenario für Bedrohungsakteure verwenden Deepfakes im Rahmen von Business-E-Mail-Compromise-Versuchen (BEC). Angreifer können dann KI-gestützte Sprach- und Videoklontechnologie nutzen, um Empfänger dazu zu verleiten, Firmengeldüberweisungen zu tätigen.
Leider sind bereits viele Unternehmen Opfer dieser Art von Betrug geworden. Ein Beispiel wurde im Februar von der South China Morning Post berichtet, nachdem Betrüger Mitarbeiter mit Deepfakes ausgetrickst hatten und ein nicht genanntes Unternehmen mit einem Verlust von 16200 Millionen HK$ ($26 Millionen USD).
Reaktionen auf Deepfakes rund um den Globus
Im Vereinigten Königreich wurde das Teilen von Deepfakes durch den im letzten Jahr verabschiedeten Online Safety Act für illegal erklärt. Diese Entscheidung fiel aufgrund der weit verbreiteten Erstellung sexuell eindeutiger Deepfakes.
Die EU hat den EU-KI-Act veröffentlicht, der am 13. März 2024 vom Europäischen Parlament verabschiedet wurde. Er befasst sich speziell mit der Regulierung von Deepfakes in der EU und besagt: „Nutzer eines KI-Systems, das Bild-, Audio- oder Videoinhalte generiert oder manipuliert, die erkennbare Ähnlichkeiten mit bestehenden Personen, Objekten, Orten oder anderen Entitäten oder Ereignissen aufweisen und einer Person fälschlicherweise als authentisch oder wahrheitsgetreu erscheinen würden (‚Deep Fake‘), muss offenlegen, dass der Inhalt künstlich erzeugt wurde oder manipuliert.“
Obwohl Deepfakes in der EU nicht verboten sind, bereitet das AI Office Verhaltenskodizes vor, die weitere Hinweise zur Klassifizierung von Deepfakes geben sollen. Ob Großbritannien dieser Initiative folgen wird oder nicht, bleibt abzuwarten. Die Reaktionen auf das KI-Whitepaper der Regierung drängten jedoch auf mehr Transparenz.
China hat nach mehreren großen Skandalen spezielle Vorschriften zur Bekämpfung von Deepfakes erlassen, was dazu führte, dass die Deepfake-App ZAO aus den App Stores verbannt wurde. Dies steht in scharfem Kontrast zur Haltung der USA zur KI-Regulierung, da es keine Bundesgesetze zur Erstellung oder Weitergabe von Deepfakes gibt. Doch mit Gesetzesentwürfen wie dem des US-Senats könnte sich bald etwas ändern. NO FAKES Gesetz vorgeschlagen.
Warum wir jetzt handeln müssen
Obwohl Betrügereien wie diese im Internet große Aufmerksamkeit erhalten, sind sich viele Organisationen der Bedrohung durch KI-gestützte Betrugsangriffe nicht bewusst. Es gibt jedoch Technologien, die diese Art von Deepfakes identifizieren können, und jedes Unternehmen sollte sie nutzen.
Biometrische Identitätsprüfung (IDV) Software mit Lebenderkennung untersucht Gesichtszüge und subtile Ausdrücke in Bildern oder Videos und analysiert, ob sie Lebenszeichen aufweisen. Deepfakes können daher erkannt werden, doch nicht genügend Organisationen nutzen diese Technologien.
Vorteile von KI-gestütztem eKYC für Unternehmen
Um Organisationen zu schützen, sind eKYC-Lösungen erforderlich, die KI nutzen. Es gab viele Fälle, in denen Deepfakes Methoden zur Identitätsüberprüfung umgingen, was dazu führte, dass Betrüger alle möglichen Unternehmen infiltrierten.
Im Jahr 2019 wurde ein CEO mithilfe eines Deepfake-Videos dazu gebracht, Überweisung von $243.000 auf ein Bankkonto. In ähnlicher Weise nutzte im Jahr 2021 eine kriminelle Bande Deepfakes, um die eKYC-Authentifizierung zu umgehen und auf Bankkonten mit Millionen von Dollar zuzugreifen.
Im Jahr 2019 brachte ein Deepfake-Video einen CEO dazu, $243.000 auf ein Bankkonto zu überweisen. Auf ähnliche Weise umging im Jahr 2021 eine Bande von Kriminellen die eKYC-Authentifizierung mit Deepfake-Videos und -Bildern und griff auf Bankkonten mit Millionen von Dollar zu. Infolgedessen sind sich viele Unternehmen der Notwendigkeit bewusst geworden, in fortschrittliche KI-Technologien zu investieren, um Deepfakes in Authentifizierungsprozessen zu erkennen und deren Verwendung zu verhindern. eKYC kann Folgendes bieten:
- Maßgeschneiderte Lösungen: Automatische Workflows, die individuell an unterschiedliche Compliance-Anforderungen angepasst werden können. Mithilfe von Technologien für maschinelles Lernen können eKYC-Lösungen die Datenextraktion optimieren und gleichzeitig ein reibungsloses Onboarding der Benutzer ermöglichen.
- Optimiertes Onboarding: Durch die Implementierung eines robusten eKYC-Prozesses können Sie Kunden schnell und effizient verifizieren und so Organisationen eine sichere Skalierung ermöglichen.
- Verbesserte Sicherheit: eKYC schützt Unternehmen weitaus effektiver vor Identitätsbetrug und Finanzkriminalität. Durch den Einsatz fortschrittlicher biometrischer Verifizierung sowie KI-gestützter Betrugserkennung können Unternehmen das Betrugsrisiko minimieren.
- Verbessertes Kundenerlebnis: Der optimierte Onboarding-Prozess führt außerdem zu einem positiveren Benutzererlebnis, reduziert Reibungspunkte und erhöht die Kundenzufriedenheit.
- Globale Reichweite: eKYC-Lösungen ermöglichen es Unternehmen, weltweit tätig zu sein, viele Kunden schnell zu verifizieren und mehrere Sprachen sowie verschiedene internationale Vorschriften zu unterstützen.
eKYC mit ComplyCube
ComplyCube ist eine RegTech100-All-in-One-Plattform zur Automatisierung der Identitätsprüfung (IDV), der Geldwäschebekämpfung (AML) und der Know-Your-Customer-Compliance (KYC). Das Unternehmen hat weltweit Kunden in den Bereichen Recht, Telekommunikation, Finanzdienstleistungen, Gesundheitswesen, E-Commerce, Kryptowährung, Reisen und mehr.
Unsere umfassende Suite KI-gestützter KYC/AML-Lösungen mit automatischen Workflows ist optimal auf die Compliance-Anforderungen unserer Kunden zugeschnitten. Unsere Lösungen nutzen von unserem Team entwickelte und verwaltete Technologien für maschinelles Lernen, um die Datenextraktion zu optimieren und dem Benutzer gleichzeitig ein reibungsloses Onboarding-Erlebnis zu bieten.
Kontakt Unser Expertenteam Heute.
