В ече не можеш да вярваш и на телефона, защото ситуацията стана такава, че човек (повтаряме: човек) започва да се съмнява в очите и ушите си. Photoshop винаги е бил удобен инструмент за измами, но това е отдавна остарял метод, след като софтуерът и AI направиха така, че да може да се манипулира всякакво видео и звук, а това е направо магистрала към нов вид измами. За малко и Ferrari да стане жертва на такава.
Една сутрин този месец висш мениджър на Ferrari започва да получава поредица от съобщение в WhatsApp, които са (на пръв поглед) от главния изпълнителен директор на компанията Бенедето Виня.
Хей, чу ли за голямото придобиване, което планираме? Може да имам нужда от твоята помощ“, гласи едно от съобщенията, което, по всичко личи, идва от Бенедето Виня.
Съобщенията в WhatsApp, видяни от Bloomberg, не идват от обичайния бизнес мобилен номер на Виня. Профилната снимка също е различна, въпреки че е на очилатия изпълнителен директор, позиращ в костюм и вратовръзка, скръстени ръце, пред логото на Ferrari.
Бъди готов да подпишеш споразумението за неразкриване на информация, което нашият адвокат ще ти изпрати възможно най-скоро“, гласи друго съобщение от имитатора на Виня. „Италианският пазарен регулатор и Миланската фондова борса вече са информирани. Бъди готов и моля за максимална дискретност.“
Това, което се случва след това, според хора, запознати със сценария, е едно от последните употреби на инструменти за deepfake за провеждане на телефонен разговор на живо, целящ проникване в международно признат бизнес.
Но Ferrari излиза невредим, след като мениджърът, който получава обаждането, разбира, че нещо не е наред.
Гласът, имитиращ Виня, е убедителен — точна имитация на южния италиански акцент.
Измамникът започва да обяснява, че се обажда от различен номер на мобилен телефон, защото трябва да обсъди нещо поверително - сделка, която може да се сблъска с някои проблеми, свързани с Китай, и изисква извършването на неуточнена сделка за хеджиране на валута.
Мениджърът, към когото е обаждането, започва да изпитва съмнения. Започва да улавя и най-малките механични интонации, които само задълбочават подозрителността му.
„Съжалявам, Бенедето, но трябва да ви идентифицирам“, казва неназованият мениджър. И задава въпрос: какво е заглавието на книгата, която Виня му е препоръчал няколко дни по-рано?
С това разговорът внезапно приключва.
Това не е първият подобен опит да се имитира високопоставен изпълнителен директор. През май беше съобщено, че Марк Рийд, главен изпълнителен директор на рекламния гигант WPP, също е бил обект на неуспешна, но също толкова сложен опит за измама през Teams.
Въпреки че тези генеративни AI инструменти могат да създават убедителни deepfake изображения, видеоклипове и записи, те все още не са достатъчно убедителни, за да доведат до масови измами, за които мнозина предупреждават.
Но има и успешни опити. По-рано тази година неназована мултинационална компания загуби 200 млн. хонконгски долара ($26 млн.), след като измамници “преметнаха“ нейни служители в Хонконг, използвайки deepfake технология, съобщи South China Morning Post през февруари. Измамниците са изфабрикували представяния на главния финансов директор на компанията и други хора във видео разговор и са убедили жертвата да преведе пари.