Докато изкуственият интелект значително променя начина, по който работим, комуникираме и правим бизнес, същевременно той създава и нов фронт в борбата с измамите. Един от най-бързо нарастващите рискове днес са фалшивите професионални идентичности – хора (или цели системи), които изглеждат реални, говорят убедително, но зад профилите им стои чужда цел, пише WIRED.

Добре дошли в новата реалност на корпоративната комуникация, където видеосрещи с включена камера и кодова дума в разговора вече са част от „due diligence“ процеса.

В същото време броят на измамите, свързани с работни позиции, се е утроил между 2020 и 2024 г., сочат данни на Федералната комисия по търговия на САЩ, като загубите от подобни схеми вече надхвърлят 500 милиона долара.

Доскоро комуникацията в професионалните мрежи – като LinkedIn, Zoom или Microsoft Teams – се приемаше за достатъчно надеждна в корпоративния свят. Днес обаче същите инструменти са се превърнали в арена за високотехнологични измами, захранвани от AI-генерирани изображения, гласове и дори видеоразговори в реално време, създадени с помощта на deepfake технологии.

Подобни киберизмами са напреднали до такава степен, че става все по-трудно да се различи реално лице от синтетичен аватар.

В отговор на това, естествено, нарастват и опитите за решения – независимо дали става дума за AI стартъпи като GetReal Labs и Reality Defender, или за амбициозни проекти като Tools for Humanity на изпълнителния директор на OpenAI Сам Алтман, който има за цел да докаже „човешкия фактор“ чрез биометрична идентификация и блокчейн.

Проектът комбинира биометрични данни с криптовалута и представя нова платежна карта в партньорство с Visa, докато глобалният контрол върху проекта постепенно се засилва

Компанията на Сам Алтман за биометрична идентификация стартира в САЩ

Старите трикове в нова епоха

Въпреки че технологиите вече предлагат „по-високо ниво“ на защита, много професионалисти залагат на нещо традиционно и доста по-достъпно… Здравословна доза параноя и стари социално-инженерни подходи.

Това включва искане на бързо селфи със съвременен времеви печат, споделяне на кодови думи между колеги или въпроси за локални детайли („Къде обичаш да пиеш кафе в София?“), които трудно могат да бъдат измислени от измамник, който не е реално базиран в града.

Друг трик, наречен „тест с камерата на телефона“, цели да провери дали събеседникът не използва deepfake маска – като се изисква да насочи камерата на устройството си към компютъра, за да потвърди реалната среда.

Но тази параноя идва със своята цена: атмосфера на недоверие, загуба на време и натоварване на ежедневната работа с нови „проверки за човешкия фактор“, които далеч не са част от първоначалните задължения на голяма част от професионалистите.

За разлика от т.нар. порно за отмъщение (публикуване на интимен запис без съгласието на другия с цел да бъде унижен), тук става дума за изцяло фалшифицирани снимки и видео съдържание

„Харесвам я фалшифицирана“. Как deepfake порното може да съсипва животи

Когато доброто предложение е твърде хубаво, за да е истина

Друг червен флаг, който все по-често се задейства, са нереалистично щедрите предложения. Измамниците предлагат заплати, значително над пазарните нива, неограничен отпуск, пълно здравно осигуряване и други екстри, които звучат твърде хубаво, за да са истина. Именно тази изкуствена привлекателност често е точно това, което издава фалшификата.

А изводът е следният: идентичността е новият актив

В икономика, в която доверието е основната единица, верификацията се превръща в една от новите форми на сигурност. Работодатели, служители, изследователски екипи и професионални мрежи все по-често се сблъскват с нуждата да защитават не само своите данни, но и самите доказателства, че отсрещната страна всъщност е… човек.