Da li ste sigruni da je to vaš direktor? AI i nova era poslovnih prevara

Krajem januara 2024. zaposleni u hongkonškoj kancelariji međunarodne kompanije dobio je poruku osobe koja se predstavljala kao finansijski direktor centrale u Velikoj Britaniji. Povod su bile navodne poverljive transakcije, a nakon poruke usledio je grupni video-sastanak na kojem su se pojavili ljudi za koje je zaposleni verovao da su njegove kolege i rukovodioci. Nakon video-sastanka i daljih instrukcija koje su stizale preko aplikacije za razmenu poruka, odobrio je prebacivanje novca na pet lokalnih bankovnih računa. Kompanija je izgubila oko 200 miliona hongkonških dolara, odnosno približno 25 miliona američkih dolara.

Tek je policijska istraga pokazala šta se zapravo dogodilo. Prevaranti su koristili javno dostupne video i audio snimke zaposlenih kako bi pomoću deepfake tehnologije napravili unapred snimljenu video-konferenciju. Žrtva tokom tog dela sastanka nije ni razgovarala sa stvarnim sagovornicima. Britanska inženjerska i konsultantska kompanija Arup kasnije je potvrdila da je upravo ona bila žrtva ove prevare.

Ovaj slučaj nije važan samo zbog iznosa koji je ukraden. Važan je zato što pokazuje kako se menja jedna od osnovnih pretpostavki na kojima je godinama počivala poslovna komunikacija. Ako nam mejl deluje sumnjivo, pozvaćemo pošiljaoca. Ako poznajemo njegov glas, pretpostavićemo da razgovaramo sa pravom osobom. Ako ga još i vidimo na ekranu, sumnja bi trebalo da nestane. Problem je što glas i slika više ne moraju da budu nezavisna potvrda identiteta.

Poslovne prevare zasnovane na lažnom predstavljanju rukovodilaca nisu nastale sa generativnom veštačkom inteligencijom. Business Email Compromise, poznat i kroz varijante poput CEO prevare, godinama funkcioniše po sličnom principu. Napadač se predstavlja kao direktor, dobavljač ili drugi pouzdan poslovni kontakt i pokušava da navede zaposlenog da izvrši uplatu, promeni podatke za plaćanje ili dostavi poverljive informacije.

Razmere problema mogu se videti i iz podataka američkog FBI-ja. Centru za prijavu internet kriminala IC3 tokom 2025. prijavljeno je 24.768 slučajeva Business Email Compromise prevare, sa prijavljenim gubicima većim od tri milijarde dolara. Po ukupnoj vrednosti prijavljenih gubitaka, BEC je u podacima FBI-jevog IC3 centra za 2025. bio odmah iza investicionih prevara.

Generativni AI nije, dakle, izmislio ovu vrstu kriminala. Ono što se promenilo jeste količina materijala koju prevarant može da koristi kako bi lažno predstavljanje učinio uverljivijim.

Kada poznat glas više nije potvrda indetiteta

Za klasičnu phishing poruku napadaču su nekada bili potrebni lažna adresa, dovoljno uverljiv tekst i poneki podatak o kompaniji. Danas tome može da doda glas osobe koju zaposleni poznaje, njenu fotografiju ili video, kao i poruku napisanu stilom koji odgovara njenoj funkciji i poslovnom kontekstu.

Američka Federalna trgovinska komisija upozorava da tehnologije za kloniranje glasa mogu da naprave veoma uverljivu imitaciju na osnovu kratkog audio-snimka. Kao jedan od mogućih scenarija zloupotrebe FTC navodi upravo kloniranje glasa direktora kompanije kako bi zaposleni bio naveden da prebaci veću sumu novca ili plati lažnu fakturu.

Materijal potreban za takvu prevaru često nije teško pronaći. Direktori govore na konferencijama, gostuju u podkastima i webinarima, daju intervjue i objavljuju video-sadržaj na društvenim mrežama. LinkedIn istovremeno može da otkrije ko je finansijski direktor, ko vodi nabavku, ko je promenio poziciju i kako izgleda organizaciona struktura kompanije. Pojedinačno, nijedna od tih informacija ne mora da bude naročito osetljiva. Kada se spoje, mogu da posluže za pripremu mnogo uverljivijeg scenarija prevare.

Koliko takvi pokušaji mogu da budu personalizovani pokazuje i slučaj WPP-a, za koji je javnost saznala u maju 2024. godine. Prevaranti su pokušali da se predstave kao tadašnji izvršni direktor kompanije Mark Read. Napravili su WhatsApp nalog sa njegovom fotografijom i organizovali Microsoft Teams sastanak, koristeći klonirani glas i javno dostupne snimke sa YouTubea. Meta je bio jedan od rukovodilaca unutar kompanije, od kojeg je traženo da učestvuje u formiranju novog poslovnog subjekta kroz koji bi prevaranti mogli da dođu do novca i ličnih podataka. Pokušaj nije uspeo, a WPP je incident potvrdio.

U oba slučaja tehnologija je bila važna, ali sama po sebi nije bila dovoljna. Prevara je morala da ima i priču koja poslovno ima smisla.

Zašto žurba često radi u korsit prevaranta

Socijalni inženjering se upravo na to oslanja. Cilj nije da žrtva poveruje u nešto potpuno neverovatno, već da dobije zahtev koji je dovoljno sličan situacijama sa kojima se svakodnevno susreće.

Britanski National Cyber Security Centre među karakterističnim elementima prevarnih poruka i poziva izdvaja pozivanje na autoritet, stvaranje osećaja hitnosti i izazivanje emocionalne reakcije. Prevarant želi da osoba reaguje pre nego što stigne da proveri ono što joj je upravo saopšteno.

Psihološka istraživanja pomažu da se objasni zašto je takva taktika uspešna. Pregled istraživanja o socijalnom inženjeringu objavljen u časopisu Frontiers in Psychology navodi studije prema kojima veće radno opterećenje može da poveća ranjivost na phishing. U analiziranim istraživanjima osobe koje su obrađivale veliki broj mejlova češće su reagovale automatski, dok su kod poruka koje su im delovale relevantno više pažnje obraćale na signal hitnosti, a manje na znakove prevare, poput adrese pošiljaoca ili jezičkih nepravilnosti.

Novije eksperimentalno istraživanje objavljeno 2025. godine takođe je pokazalo da vremenski pritisak može povećati podložnost određenim vrstama internet prevare. To ne znači da će svaka hitna poruka nekoga prevariti, ali pokazuje zašto je zahtev koji mora da se završi odmah ili do kraja dana toliko čest deo scenarija socijalnog inženjeringa.

U poslovnom okruženju takvi zahtevi ne moraju ni da izgledaju neobično. Direktor je na putu i traži da se uplata završi pre kraja dana. Dobavljač javlja da je promenio broj računa. Partner šalje novi dokument za potpis. Kolega se javlja sa drugog broja telefona. Finansijski direktor traži podatke koji su mu potrebni za sastanak.

Svaki od tih događaja može zaista da se dogodi. Zbog toga dobra prevara ne mora da izgleda dramatično. Mnogo je korisnije da izgleda kao još jedan običan zadatak u radnom danu.

Problem nije samo u tome da li umemo da prepoznamo deepfake

Zbog toga bi bilo pogrešno svesti odgovor kompanija na obuku zaposlenih da prepoznaju neprirodan glas, čudno pomeranje usana ili druge vizuelne tragove deepfake sadržaja. Kako alati postaju bolji, takvi signali mogu da postanu manje očigledni, a od zaposlenog se ne može očekivati da bude stručnjak za forenzičku analizu svakog video-poziva.

Mnogo važnije pitanje jeste šta se dešava nakon zahteva.

Ako je jedna poruka, jedan telefonski poziv ili jedan video-sastanak dovoljan da se promeni račun dobavljača i izvrši velika uplata, problem nije samo u tome što AI može uverljivo da imitira direktora. Problem postoji i u poslovnom procesu koji dozvoljava da se finansijski značajna odluka zasniva na jednom signalu identiteta.

FBI zato kod Business Email Compromise prevara preporučuje dodatnu proveru zahteva za plaćanje i svake promene broja računa ili procedure plaćanja. Kada se provera vrši telefonom, broj treba uzeti iz ranije poznate ili zvanične evidencije, a ne iz poruke čija se autentičnost proverava. FBI posebno savetuje dodatni oprez kada pošiljalac insistira da se zahtev izvrši brzo.

Za kompaniju to u praksi znači da velike ili neuobičajene transakcije, promene podataka dobavljača i zahtevi za pristup posebno osetljivim informacijama treba da imaju unapred definisan postupak potvrde. To može da podrazumeva dodatno odobrenje druge osobe, proveru putem zvaničnog internog kanala ili kontakt sa partnerom preko podataka koji već postoje u evidenciji.

Važna razlika je u tome što se tada ne proverava samo osoba već i sam zahtev. Direktor zaista može da bude sa druge strane telefona, ali to ne znači da procedura za veliku uplatu treba da prestane da važi zato što je poziv stigao od direktora.

AI menja ono što smatramo dokazom

Dobar deo poslovne bezbednosti dugo je počivao na ljudskoj sposobnosti da prepozna nešto što odstupa od očekivanog. Loše napisana poruka, neobičan zahtev, pogrešan potpis ili nepoznat broj telefona mogli su da budu dovoljan razlog za sumnju.

Generativna veštačka inteligencija neke od tih signala čini manje pouzdanim. Poruka može da bude gramatički besprekorna, napisana na jeziku primaoca i prilagođena njegovom poslu. Glas može da zvuči poznato, dok video može dodatno da pojača utisak da je osoba sa druge strane zaista ona za koju se predstavlja.

Zbog toga se menja i logika zaštite. Autentičnost više ne bi trebalo procenjivati samo na osnovu toga koliko nešto liči na osobu koju poznajemo, već i na osnovu toga da li je zahtev prošao procedure koje postoje upravo zato da bi se sprečila greška ili zloupotreba.

Najozbiljniji rizik zato nije nužno spektakularno dobar deepfake koji je gotovo nemoguće razlikovati od stvarnog snimka. Za poslovnu prevaru dovoljno je da lažni zahtev izgleda dovoljno uobičajeno da zaposleni nema razlog da ga dodatno proveri. Kompanije zato ne moraju da očekuju da će svaki zaposleni umeti da prepozna falsifikovan glas ili lice. Mnogo realniji cilj jeste da važna transakcija ne zavisi od toga da li ih je prepoznao.