Deepfakes et fraude par IA : reconnaître la menace et se défendre en 2026
Un deepfake, c'est un visage, une voix ou une vidéo fabriqués par intelligence artificielle pour imiter une personne réelle. En 2026, ces imitations ne servent plus seulement à divertir : elles servent à voler. Un employé du groupe d'ingénierie Arup a viré 25,6 millions de dollars après une visioconférence où le directeur financier et ses collègues étaient tous des faux générés par IA. Deloitte estime que la fraude facilitée par l'IA générative pourrait atteindre 40 milliards de dollars aux États-Unis d'ici 2027. Pour une entreprise belge, la question n'est plus de savoir si le risque existe, mais si ses procédures de paiement résistent à une voix ou à un visage falsifiés.
Article généré par l'IA. Contenu rédigé avec l'assistance d'un modèle d'intelligence artificielle, puis relu par un humain avant publication. Les chiffres cités renvoient à leurs sources, listées en fin d'article.
Pertes de fraude facilitée par l'IA aux États-Unis d'ici 2027 (Deloitte)
25,6 M$
Détournés via un deepfake vidéo du directeur financier (Arup, 2024)
1 sur 3
Organisations touchées par une fraude deepfake en 2025 (Regula)
La bascule est récente et rapide. Deloitte chiffre les pertes de fraude facilitée par l'IA générative aux États-Unis à 12,3 milliards de dollars en 2023, et projette 40 milliards d'ici 2027, soit une croissance annuelle de 32 %. La seule fraude par courriel augmentée par l'IA pourrait représenter environ 11,5 milliards de dollars en 2027 dans le scénario le plus agressif. Ces montants concernent les États-Unis, mais la technologie, elle, ne connaît pas de frontière.
Côté entreprises, l'enquête mondiale de Regula indique qu'une organisation sur trois a déjà subi une fraude par deepfake en 2025, un niveau désormais comparable à celui de la fraude documentaire classique et de l'ingénierie sociale. Le clonage de voix est devenu le vecteur le plus courant, parce qu'il est le plus simple à réaliser et le plus difficile à détecter au téléphone.
Le point de bascule
Ce n'est pas la sophistication qui a changé, c'est le coût. Produire une voix ou un visage crédibles demandait des moyens de studio ; cela demande aujourd'hui quelques minutes et des données publiques. La fraude par IA n'est plus un scénario de laboratoire, c'est un risque opérationnel de trésorerie.
Deepfake, clonage vocal, fraude au président : de quoi parle-t-on ?
Quatre techniques se combinent dans la plupart des attaques. Elles visent un même objectif : faire croire qu'une personne de confiance donne une instruction qu'elle n'a jamais donnée.
Deepfake vidéo. Un visage est animé en temps réel pour apparaître crédible en visioconférence, parfois avec plusieurs faux participants dans le même appel.
Clonage vocal. Quelques secondes d'audio, souvent publiques, suffisent à reproduire une voix au téléphone, avec le bon accent et les bonnes intonations.
Fraude au président (CEO fraud). Un dirigeant est imité pour ordonner un virement urgent et confidentiel, en contournant les circuits habituels.
Hameçonnage augmenté. L'IA rédige des courriels et messages personnalisés, sans faute, à grande échelle, pour préparer ou accompagner l'attaque.
Anatomie d'une attaque : le cas Arup
Début 2024, un employé du bureau hongkongais du groupe d'ingénierie britannique Arup reçoit un courriel du directeur financier demandant des virements confidentiels. Méfiant, il soupçonne d'abord un hameçonnage. Rassuré par une visioconférence où il voit et entend le directeur financier et plusieurs collègues, il exécute 15 virements pour 25,6 millions de dollars (200 millions de dollars de Hong Kong) vers cinq comptes. Tous les participants de l'appel, sauf lui, étaient des deepfakes. La fraude n'a été découverte qu'en vérifiant, plus tard, auprès du siège.
Ce scénario n'a rien d'exceptionnel dans sa mécanique. Il suit presque toujours les mêmes étapes.
1
Reconnaissance
Le fraudeur collecte voix et images publiques : interviews, webinaires, réseaux sociaux, rapports annuels. Il identifie qui, dans l'entreprise, peut ordonner un paiement.
2
Amorce
Un courriel ou un message crée l'urgence et impose le secret : opération sensible, rachat confidentiel, régularisation à ne pas ébruiter.
3
Mise en scène
Un appel ou une visioconférence avec voix et visage clonés lève le dernier doute de la victime. La présence de plusieurs faux collègues renforce l'illusion.
4
Exécution
Les fonds partent en virements fractionnés vers des comptes relais, souvent à l'étranger, puis sont dispersés avant toute alerte. La récupération est rare.
Ce que dit la loi : l'IA Act, l'article 50 et le cadre belge
L'Union européenne impose une transparence. L'article 50 du règlement sur l'IA (IA Act) oblige celui qui diffuse un deepfake à indiquer que le contenu est généré ou manipulé par une intelligence artificielle. Ces obligations de transparence s'appliquent à partir du 2 août 2026 ; un code de bonnes pratiques sur le marquage est en cours de finalisation, et le paquet Digital Omnibus pourrait aménager certaines modalités techniques de marquage (article 50, paragraphe 2).
La transparence n'empêche pas la fraude : un fraudeur n'étiquette pas son faux. Elle sert surtout à qualifier les contenus et à sanctionner les usages abusifs. La défense concrète reste du côté de l'entreprise. En Belgique, Febelfin alerte depuis plusieurs mois sur la montée du vishing, la fraude téléphonique où l'appelant se fait passer pour la banque ou un tiers de confiance. Le Centre pour la cybersécurité Belgique, via Safeonweb, a recueilli près de 10 millions de messages suspects signalés par les citoyens en 2025. Le sujet touche aussi la culture : selon Febelfin, 64 % des Belges auraient honte d'être victimes d'une fraude en ligne, un silence qui profite aux fraudeurs. Pour le détail des obligations sectorielles de l'IA Act, voir notre analyse des impacts sectoriels du règlement européen sur l'IA.
Les signaux qui doivent alerter
La plupart des fraudes par IA partagent les mêmes marqueurs. Aucun n'est une preuve à lui seul, mais leur combinaison doit déclencher une vérification.
Urgence et secret imposés. On vous demande d'agir vite, sans en parler à personne, en dehors des procédures.
Changement de coordonnées bancaires de dernière minute, pour un fournisseur ou un dirigeant connu.
Canal inhabituel : un appel privé, un message WhatsApp, un numéro nouveau, plutôt que les circuits habituels.
Refus de validation écrite ou de rappel sur un numéro connu, au nom de la confidentialité.
Petites imperfections : synchronisation imparfaite entre lèvres et voix, éclairage étrange, latence, réponses évasives à une question imprévue.
Se défendre : procédures, technologie, personnes
La défense efficace ne repose pas sur un seul outil, mais sur trois couches qui se renforcent.
Procédures
Double validation des virements exceptionnels, rappel systématique sur un numéro connu à l'avance (call-back), seuils et délais de réflexion, mot de passe interne convenu pour les demandes sensibles.
Technologie
Biométrie et détection de vivacité pour les processus à distance, filtres anti-hameçonnage, provenance des contenus (norme C2PA), surveillance des changements de coordonnées bancaires.
La troisième couche, la plus décisive, concerne les personnes : sensibilisation régulière, exercices de simulation, et surtout une culture où vérifier n'est jamais une marque de défiance. Un employé qui rappelle son directeur avant un virement fait bien son travail ; il ne doit jamais craindre de le faire.
Le contrôle le plus efficace est le moins technologique
Avant tout virement exceptionnel ou tout changement de compte, un simple rappel sur un numéro connu à l'avance, jamais celui fourni dans le message, arrête la quasi-totalité des fraudes au président. Aucune voix clonée ne résiste à cette vérification.
Ce que ça change pour l'entreprise belge
Il n'est pas nécessaire d'être une multinationale pour être visé. Une PME qui exécute des virements fournisseurs, une fiduciaire, une administration locale, un service financier : toute organisation qui déplace de l'argent sur instruction est une cible. Le maillon faible n'est pas la technologie, c'est le moment où une personne, sous pression, contourne une procédure parce que l'ordre semble venir d'en haut.
La bonne nouvelle, c'est que les contre-mesures sont peu coûteuses et surtout organisationnelles. Formaliser un circuit de validation, imposer le rappel avant paiement, entraîner les équipes finance et achats, tester une fois par an avec une fausse demande : voilà l'essentiel. Les secteurs déjà rompus à la détection de fraude, comme l'assurance, montrent la voie ; nous l'avons détaillé dans notre article sur l'IA dans l'assurance et la lutte contre la fraude.
Questions fréquentes
Qu'est-ce qu'un deepfake ?
Un deepfake, ou hypertrucage, est un contenu vidéo, audio ou photo fabriqué ou modifié par intelligence artificielle pour imiter une personne réelle, sa voix ou son visage. Dans un contexte de fraude, il sert à faire croire qu'un dirigeant, un client ou un fournisseur donne une instruction qu'il n'a jamais donnée.
Le clonage de voix est-il vraiment à la portée des fraudeurs ?
Oui. Quelques secondes d'enregistrement, souvent disponibles publiquement, suffisent aux outils actuels pour reproduire une voix de façon crédible au téléphone. Le clonage vocal est aujourd'hui l'un des principaux vecteurs de fraude par IA.
Les contenus générés par IA doivent-ils être signalés en Europe ?
L'article 50 du règlement européen sur l'IA impose à celui qui diffuse un deepfake d'indiquer que le contenu est généré ou manipulé par une IA. Ces obligations de transparence s'appliquent à partir du 2 août 2026. Elles n'empêchent pas la fraude, car les fraudeurs n'étiquettent pas leurs faux, mais elles aident à la qualifier et à la sanctionner.
Comment vérifier un ordre de paiement suspect ?
Avant tout virement exceptionnel ou changement de coordonnées bancaires, rappelez la personne sur un numéro connu à l'avance, jamais celui fourni dans le message. Exigez une double validation interne et méfiez-vous de l'urgence et du secret imposés : ce sont les deux leviers principaux de la fraude au président.
Sources
Deloitte Center for Financial Services, Generative AI is expected to magnify the risk of deepfakes and other fraud in banking (pertes de fraude facilitée par l'IA générative aux États-Unis de 12,3 Md$ en 2023 à 40 Md$ en 2027, CAGR 32 % ; fraude par courriel jusqu'à 11,5 Md$ en 2027 dans le scénario agressif). deloitte.com
CFO Dive, Scammers siphon $25M from engineering firm Arup via AI deepfake CFO (visioconférence deepfake, 15 virements pour 25,6 M$ / 200 M HK$, Hong Kong, 2024). cfodive.com
Regula, Deepfakes Already Hitting Businesses as Often as Traditional Fraud (enquête mondiale 2025 : une organisation sur trois touchée par une fraude deepfake). businesswire.com
Parlement européen (EPRS), Scam calls in times of Generative AI (2025). europarl.europa.eu
EU Artificial Intelligence Act, Article 50 : obligations de transparence des fournisseurs et déployeurs de certains systèmes d'IA (application au 2 août 2026). artificialintelligenceact.eu
Febelfin, Vishing : telephone fraud on the rise et chiffres de fraude. febelfin.be
Safeonweb (Centre pour la cybersécurité Belgique), signalements de messages suspects. safeonweb.be
Molderez Consult aide les entreprises belges à sécuriser leurs circuits de paiement et de validation face à la fraude par IA : procédures de rappel, sensibilisation des équipes finance et achats, exercices de simulation et gouvernance.
Article généré par l'IA. Contenu rédigé avec l'assistance d'un modèle d'intelligence artificielle, puis relu par un humain avant publication. Les chiffres cités renvoient à leurs sources, listées en fin d'article.
Deepfakes en AI-fraude: de dreiging herkennen en je verdedigen in 2026
Een deepfake is een gezicht, een stem of een video die door kunstmatige intelligentie wordt nagemaakt om een echte persoon te imiteren. In 2026 dienen die imitaties niet langer alleen om te vermaken: ze dienen om te stelen. Een medewerker van het ingenieursbureau Arup maakte 25,6 miljoen dollar over na een videovergadering waarin de financieel directeur en zijn collega's allemaal door AI gegenereerde vervalsingen waren. Deloitte schat dat door generatieve AI gefaciliteerde fraude tegen 2027 tot 40 miljard dollar kan oplopen in de Verenigde Staten. Voor een Belgisch bedrijf is de vraag niet langer of het risico bestaat, maar of de betaalprocedures bestand zijn tegen een vervalste stem of een vervalst gezicht.
Artikel gegenereerd door AI. Tekst opgesteld met de hulp van een AI-model en door een mens nagelezen vóór publicatie. De vermelde cijfers verwijzen naar hun bronnen, onderaan dit artikel.
Door AI gefaciliteerde fraudeverliezen in de VS tegen 2027 (Deloitte)
25,6 M$
Ontvreemd via een deepfakevideo van de financieel directeur (Arup, 2024)
1 op 3
Organisaties getroffen door deepfakefraude in 2025 (Regula)
De omslag is recent en snel. Deloitte becijfert de verliezen door generatieve AI-fraude in de VS op 12,3 miljard dollar in 2023 en voorspelt 40 miljard tegen 2027, een jaarlijkse groei van 32 %. Alleen al door AI versterkte e-mailfraude zou tegen 2027 ongeveer 11,5 miljard dollar kunnen bedragen in het meest agressieve scenario. Die bedragen gaan over de VS, maar de technologie kent geen grenzen.
Bij de bedrijven wijst de wereldwijde enquête van Regula uit dat één op de drie organisaties in 2025 al deepfakefraude heeft ondervonden, een niveau dat nu vergelijkbaar is met klassieke documentfraude en social engineering. Het klonen van stemmen is de meest voorkomende methode geworden, omdat het het eenvoudigst uit te voeren en het moeilijkst aan de telefoon te detecteren is.
Het kantelpunt
Niet de verfijning is veranderd, wel de kostprijs. Een geloofwaardige stem of een geloofwaardig gezicht produceren vroeg vroeger studiomiddelen; vandaag vraagt het enkele minuten en publiek beschikbare gegevens. AI-fraude is geen laboratoriumscenario meer, maar een operationeel treasuryrisico.
Deepfake, stemklonen, CEO-fraude: waarover gaat het?
In de meeste aanvallen worden vier technieken gecombineerd. Ze hebben één doel: doen geloven dat een vertrouwd persoon een instructie geeft die hij nooit heeft gegeven.
Deepfakevideo. Een gezicht wordt in realtime geanimeerd om geloofwaardig over te komen in een videovergadering, soms met meerdere valse deelnemers in dezelfde oproep.
Stemklonen. Enkele seconden audio, vaak publiek, volstaan om een stem aan de telefoon na te bootsen, met het juiste accent en de juiste intonatie.
CEO-fraude. Een leidinggevende wordt geïmiteerd om een dringende en vertrouwelijke overschrijving te bevelen, buiten de gebruikelijke kanalen om.
Versterkte phishing. AI stelt op grote schaal foutloze, gepersonaliseerde e-mails en berichten op om de aanval voor te bereiden of te begeleiden.
Anatomie van een aanval: de zaak Arup
Begin 2024 krijgt een medewerker van het kantoor in Hongkong van het Britse ingenieursbureau Arup een e-mail van de financieel directeur met een vraag om vertrouwelijke overschrijvingen. Wantrouwig vermoedt hij eerst phishing. Gerustgesteld door een videovergadering waarin hij de financieel directeur en meerdere collega's ziet en hoort, voert hij 15 overschrijvingen uit voor 25,6 miljoen dollar (200 miljoen Hongkongse dollar) naar vijf rekeningen. Alle deelnemers aan de oproep, behalve hijzelf, waren deepfakes. De fraude werd pas ontdekt bij een latere controle bij het hoofdkantoor.
Dit scenario is qua mechaniek allesbehalve uitzonderlijk. Het volgt bijna altijd dezelfde stappen.
1
Verkenning
De fraudeur verzamelt publieke stem- en beeldfragmenten: interviews, webinars, sociale media, jaarverslagen. Hij bepaalt wie in het bedrijf een betaling kan bevelen.
2
Aanzet
Een e-mail of bericht creëert urgentie en legt geheimhouding op: gevoelige operatie, vertrouwelijke overname, regularisatie die niet mag uitlekken.
3
Enscenering
Een oproep of videovergadering met gekloonde stem en gezicht neemt de laatste twijfel van het slachtoffer weg. Meerdere valse collega's versterken de illusie.
4
Uitvoering
De fondsen vertrekken in opgesplitste overschrijvingen naar tussenrekeningen, vaak in het buitenland, en worden verspreid vóór enig alarm. Recuperatie is zeldzaam.
Wat de wet zegt: de AI Act, artikel 50 en het Belgische kader
De Europese Unie legt transparantie op. Artikel 50 van de AI-verordening (AI Act) verplicht wie een deepfake verspreidt om aan te geven dat de inhoud door een AI is gegenereerd of gemanipuleerd. Die transparantieverplichtingen gelden vanaf 2 augustus 2026; een praktijkcode over de markering wordt afgerond, en het Digital Omnibus-pakket zou bepaalde technische markeringsmodaliteiten kunnen bijstellen (artikel 50, lid 2).
Transparantie verhindert de fraude niet: een fraudeur labelt zijn vervalsing niet. Ze dient vooral om inhoud te kwalificeren en misbruik te bestraffen. De concrete verdediging blijft bij het bedrijf. In België waarschuwt Febelfin al maanden voor de opmars van vishing, telefonische fraude waarbij de beller zich voordoet als de bank of een vertrouwde derde. Het Centrum voor Cybersecurity België verzamelde via Safeonweb bijna 10 miljoen verdachte berichten die burgers in 2025 meldden. Het onderwerp raakt ook de cultuur: volgens Febelfin zou 64 % van de Belgen zich schamen als slachtoffer van online fraude, een stilte die de fraudeurs ten goede komt. Voor de sectorale verplichtingen van de AI Act, zie onze analyse van de sectorale impact van de Europese AI-verordening.
De signalen die moeten alarmeren
De meeste AI-fraudes delen dezelfde kenmerken. Geen enkel kenmerk is op zich een bewijs, maar hun combinatie moet een controle uitlokken.
Opgelegde urgentie en geheimhouding. U moet snel handelen, zonder er met iemand over te praten, buiten de procedures om.
Wijziging van bankgegevens op het laatste moment, voor een gekende leverancier of leidinggevende.
Ongebruikelijk kanaal: een privéoproep, een WhatsApp-bericht, een nieuw nummer, in plaats van de gebruikelijke kanalen.
Weigering van schriftelijke bevestiging of van terugbellen op een gekend nummer, in naam van de vertrouwelijkheid.
Kleine onvolkomenheden: onvolmaakte synchronisatie tussen lippen en stem, vreemde belichting, vertraging, ontwijkende antwoorden op een onverwachte vraag.
Je verdedigen: procedures, technologie, mensen
Een doeltreffende verdediging berust niet op één tool, maar op drie lagen die elkaar versterken.
Procedures
Dubbele validatie van uitzonderlijke overschrijvingen, systematisch terugbellen op een vooraf gekend nummer (call-back), drempels en bedenktijd, een intern afgesproken codewoord voor gevoelige aanvragen.
Technologie
Biometrie en liveness-detectie voor processen op afstand, antiphishingfilters, herkomst van inhoud (C2PA-norm), toezicht op wijzigingen van bankgegevens.
De derde en meest doorslaggevende laag betreft de mensen: regelmatige bewustmaking, simulatieoefeningen en vooral een cultuur waarin controleren nooit een teken van wantrouwen is. Een medewerker die zijn directeur terugbelt vóór een overschrijving doet zijn werk goed; hij mag daar nooit voor terugschrikken.
De meest doeltreffende controle is de minst technologische
Vóór elke uitzonderlijke overschrijving of rekeningwijziging stopt een eenvoudig telefoontje naar een vooraf gekend nummer, nooit het nummer uit het bericht, nagenoeg alle CEO-fraude. Geen enkele gekloonde stem is bestand tegen die controle.
Wat het verandert voor het Belgische bedrijf
Je hoeft geen multinational te zijn om geviseerd te worden. Een kmo die leveranciers betaalt, een boekhoudkantoor, een lokaal bestuur, een financiële dienst: elke organisatie die geld verplaatst op instructie is een doelwit. De zwakke schakel is niet de technologie, maar het ogenblik waarop iemand, onder druk, een procedure omzeilt omdat het bevel van bovenaf lijkt te komen.
Het goede nieuws is dat de tegenmaatregelen goedkoop en vooral organisatorisch zijn. Een validatiecircuit formaliseren, terugbellen vóór betaling opleggen, de finance- en aankoopteams trainen, één keer per jaar testen met een valse aanvraag: dat is het essentiële. Sectoren die al vertrouwd zijn met fraudedetectie, zoals de verzekeringssector, tonen de weg; we beschreven dit in ons artikel over AI in de verzekering en de strijd tegen fraude.
Veelgestelde vragen
Wat is een deepfake?
Een deepfake is video-, audio- of fotomateriaal dat door kunstmatige intelligentie is gemaakt of gewijzigd om een echte persoon, zijn stem of zijn gezicht te imiteren. In een fraudecontext dient het om te doen geloven dat een leidinggevende, klant of leverancier een instructie geeft die hij nooit heeft gegeven.
Is stemklonen echt binnen het bereik van fraudeurs?
Ja. Enkele seconden opname, vaak publiek beschikbaar, volstaan voor de huidige tools om een stem geloofwaardig aan de telefoon na te bootsen. Stemklonen is vandaag een van de belangrijkste vectoren van AI-fraude.
Moet door AI gegenereerde inhoud in Europa worden gemeld?
Artikel 50 van de Europese AI-verordening verplicht wie een deepfake verspreidt om aan te geven dat de inhoud door een AI is gegenereerd of gemanipuleerd. Die transparantieverplichtingen gelden vanaf 2 augustus 2026. Ze verhinderen de fraude niet, want fraudeurs labelen hun vervalsingen niet, maar ze helpen om ze te kwalificeren en te bestraffen.
Hoe controleer je een verdachte betaalopdracht?
Bel vóór elke uitzonderlijke overschrijving of wijziging van bankgegevens de persoon terug op een vooraf gekend nummer, nooit het nummer uit het bericht. Eis een dubbele interne validatie en wees op je hoede voor opgelegde urgentie en geheimhouding: dat zijn de twee belangrijkste hefbomen van CEO-fraude.
Bronnen
Deloitte Center for Financial Services, Generative AI is expected to magnify the risk of deepfakes and other fraud in banking (door generatieve AI gefaciliteerde fraudeverliezen in de VS van 12,3 mld$ in 2023 naar 40 mld$ in 2027, CAGR 32 %; e-mailfraude tot 11,5 mld$ in 2027 in het agressieve scenario). deloitte.com
CFO Dive, Scammers siphon $25M from engineering firm Arup via AI deepfake CFO (deepfake-videovergadering, 15 overschrijvingen voor 25,6 M$ / 200 M HK$, Hongkong, 2024). cfodive.com
Regula, Deepfakes Already Hitting Businesses as Often as Traditional Fraud (wereldwijde enquête 2025: één op de drie organisaties getroffen door deepfakefraude). businesswire.com
Europees Parlement (EPRS), Scam calls in times of Generative AI (2025). europarl.europa.eu
EU Artificial Intelligence Act, Article 50: transparantieverplichtingen voor aanbieders en gebruiksverantwoordelijken van bepaalde AI-systemen (toepassing vanaf 2 augustus 2026). artificialintelligenceact.eu
Febelfin, Vishing: telephone fraud on the rise en fraudecijfers. febelfin.be
Safeonweb (Centrum voor Cybersecurity België), meldingen van verdachte berichten. safeonweb.be
Molderez Consult helpt Belgische bedrijven hun betaal- en validatiecircuits te beveiligen tegen AI-fraude: terugbelprocedures, bewustmaking van finance- en aankoopteams, simulatieoefeningen en governance.
Artikel gegenereerd door AI. Tekst opgesteld met de hulp van een AI-model en door een mens nagelezen vóór publicatie. De vermelde cijfers verwijzen naar hun bronnen, onderaan dit artikel.
Deepfakes and AI Fraud: Spotting the Threat and Defending in 2026
A deepfake is a face, a voice or a video fabricated by artificial intelligence to imitate a real person. In 2026, these imitations no longer just entertain: they steal. An employee of the engineering group Arup wired 25.6 million dollars after a video call in which the chief financial officer and his colleagues were all AI-generated fakes. Deloitte estimates that fraud enabled by generative AI could reach 40 billion dollars in the United States by 2027. For a Belgian company, the question is no longer whether the risk exists, but whether its payment procedures can withstand a falsified voice or face.
Article generated by AI. Content written with the help of an artificial intelligence model and reviewed by a human before publication. The figures cited point to their sources, listed at the end of the article.
AI-enabled fraud losses in the US by 2027 (Deloitte)
$25.6M
Stolen via a deepfake video of the CFO (Arup, 2024)
1 in 3
Organizations hit by deepfake fraud in 2025 (Regula)
The shift is recent and fast. Deloitte puts US losses from generative-AI fraud at 12.3 billion dollars in 2023 and projects 40 billion by 2027, a 32% annual growth rate. AI-augmented email fraud alone could reach about 11.5 billion dollars by 2027 in the most aggressive scenario. These figures are for the United States, but the technology knows no borders.
On the corporate side, Regula's global survey finds that one organization in three already suffered deepfake fraud in 2025, a level now comparable to classic document fraud and social engineering. Voice cloning has become the most common vector, because it is the easiest to produce and the hardest to detect over the phone.
The tipping point
It is not sophistication that changed, it is cost. Producing a credible voice or face once required studio resources; today it takes a few minutes and public data. AI fraud is no longer a lab scenario, it is an operational treasury risk.
Deepfake, voice cloning, CEO fraud: what are we talking about?
Four techniques combine in most attacks. They share a single goal: to make you believe that a trusted person is giving an instruction they never gave.
Deepfake video. A face is animated in real time to look convincing on a video call, sometimes with several fake participants in the same meeting.
Voice cloning. A few seconds of audio, often public, are enough to reproduce a voice over the phone, with the right accent and intonation.
CEO fraud. An executive is imitated to order an urgent, confidential transfer, bypassing the usual channels.
Augmented phishing. AI writes personalized, flawless emails and messages at scale, to prepare or support the attack.
Anatomy of an attack: the Arup case
In early 2024, an employee at the Hong Kong office of the British engineering group Arup received an email from the chief financial officer requesting confidential transfers. Suspicious, he first thought it was phishing. Reassured by a video call where he saw and heard the CFO and several colleagues, he made 15 transfers totalling 25.6 million dollars (200 million Hong Kong dollars) to five accounts. Every participant on the call, except him, was a deepfake. The fraud was only discovered later, when checking with headquarters.
The mechanics of this scenario are anything but exceptional. It almost always follows the same steps.
1
Reconnaissance
The fraudster gathers public voice and image material: interviews, webinars, social media, annual reports. They identify who in the company can order a payment.
2
Priming
An email or message creates urgency and imposes secrecy: a sensitive deal, a confidential acquisition, a matter that must not leak.
3
Staging
A call or video meeting with cloned voice and face removes the victim's last doubt. Several fake colleagues reinforce the illusion.
4
Execution
Funds leave in split transfers to relay accounts, often abroad, then are dispersed before any alert. Recovery is rare.
What the law says: the AI Act, Article 50 and the Belgian framework
The European Union mandates transparency. Article 50 of the AI Regulation (AI Act) requires anyone deploying a deepfake to disclose that the content has been generated or manipulated by an AI. These transparency obligations apply from 2 August 2026; a code of practice on marking is being finalized, and the Digital Omnibus package could adjust certain technical marking arrangements (Article 50(2)).
Transparency does not prevent fraud: a fraudster does not label their fake. It mainly serves to qualify content and sanction abuse. Concrete defence stays with the company. In Belgium, Febelfin has been warning for months about the rise of vishing, phone fraud where the caller poses as the bank or a trusted third party. Through Safeonweb, the Centre for Cybersecurity Belgium collected nearly 10 million suspicious messages reported by citizens in 2025. The issue is also cultural: according to Febelfin, 64% of Belgians would feel ashamed to be a victim of online fraud, a silence that benefits fraudsters. For the sector-by-sector obligations of the AI Act, see our analysis of the sectoral impact of the European AI Regulation.
The warning signs
Most AI frauds share the same markers. None is proof on its own, but their combination should trigger a check.
Imposed urgency and secrecy. You are asked to act fast, without telling anyone, outside the procedures.
Last-minute change of bank details for a known supplier or executive.
Unusual channel: a private call, a WhatsApp message, a new number, instead of the usual routes.
Refusal of written confirmation or of a call-back to a known number, in the name of confidentiality.
Small imperfections: imperfect lip-sync, odd lighting, latency, evasive answers to an unexpected question.
Defending: procedures, technology, people
Effective defence does not rest on a single tool, but on three layers that reinforce each other.
Procedures
Dual validation of exceptional transfers, systematic call-back to a number known in advance, thresholds and cooling-off delays, an agreed internal code word for sensitive requests.
Technology
Biometrics and liveness detection for remote processes, anti-phishing filters, content provenance (the C2PA standard), monitoring of bank-detail changes.
The third and most decisive layer is people: regular awareness, simulation exercises, and above all a culture where verifying is never a sign of distrust. An employee who calls their director back before a transfer is doing their job well; they should never fear doing so.
The most effective control is the least technological
Before any exceptional transfer or account change, a simple call-back to a number known in advance, never the one provided in the message, stops almost all CEO fraud. No cloned voice survives that check.
What it changes for the Belgian company
You do not need to be a multinational to be targeted. An SME that pays suppliers, an accounting firm, a local authority, a finance department: any organization that moves money on instruction is a target. The weak link is not technology, it is the moment when someone, under pressure, bypasses a procedure because the order seems to come from the top.
The good news is that the countermeasures are cheap and, above all, organizational. Formalize a validation circuit, require a call-back before payment, train finance and procurement teams, test once a year with a fake request: that is the essential. Sectors already used to fraud detection, such as insurance, show the way; we detailed it in our article on AI in insurance and the fight against fraud.
Frequently asked questions
What is a deepfake?
A deepfake is video, audio or photo content fabricated or altered by artificial intelligence to imitate a real person, their voice or their face. In a fraud context, it is used to make you believe that an executive, client or supplier is giving an instruction they never gave.
Is voice cloning really within reach of fraudsters?
Yes. A few seconds of recording, often publicly available, are enough for today's tools to reproduce a voice convincingly over the phone. Voice cloning is now one of the main vectors of AI fraud.
Must AI-generated content be flagged in Europe?
Article 50 of the European AI Regulation requires anyone deploying a deepfake to disclose that the content has been generated or manipulated by an AI. These transparency obligations apply from 2 August 2026. They do not prevent fraud, since fraudsters do not label their fakes, but they help to qualify and sanction it.
How do you verify a suspicious payment order?
Before any exceptional transfer or change of bank details, call the person back on a number known in advance, never the one provided in the message. Require dual internal validation and beware of imposed urgency and secrecy: these are the two main levers of CEO fraud.
Sources
Deloitte Center for Financial Services, Generative AI is expected to magnify the risk of deepfakes and other fraud in banking (US generative-AI fraud losses from $12.3B in 2023 to $40B in 2027, 32% CAGR; email fraud up to $11.5B by 2027 in the aggressive scenario). deloitte.com
CFO Dive, Scammers siphon $25M from engineering firm Arup via AI deepfake CFO (deepfake video call, 15 transfers totalling $25.6M / HK$200M, Hong Kong, 2024). cfodive.com
Regula, Deepfakes Already Hitting Businesses as Often as Traditional Fraud (2025 global survey: one organization in three hit by deepfake fraud). businesswire.com
European Parliament (EPRS), Scam calls in times of Generative AI (2025). europarl.europa.eu
EU Artificial Intelligence Act, Article 50: transparency obligations for providers and deployers of certain AI systems (applicable from 2 August 2026). artificialintelligenceact.eu
Febelfin, Vishing: telephone fraud on the rise and fraud figures. febelfin.be
Safeonweb (Centre for Cybersecurity Belgium), reports of suspicious messages. safeonweb.be
Molderez Consult helps Belgian companies secure their payment and validation circuits against AI fraud: call-back procedures, awareness for finance and procurement teams, simulation exercises and governance.
Article generated by AI. Content written with the help of an artificial intelligence model and reviewed by a human before publication. The figures cited point to their sources, listed at the end of the article.