Приложение за изкуствен интелект Haotian, което произлиза от Китай, е толкова ефективно, че е генерирало милиони долари приходи от продажбата на технология за подмяна на лица (face-swapping) през платформата Telegram. Услугата се интегрира лесно с приложения като WhatsApp и WeChat и позволява на потребителите да настройват до 50 параметъра – включително формата на скулите, разположението на очите и други лицеви характеристики – за по-коректно имитиране на даден човек.

Но въпреки че Haotian е технологично стабилна и гъвкава платформа, разследвания на изследователи и анализ на WIRED показват, че услугата активно е насочвала маркетинговите си кампании към т.нар. „pig butchering“ измамници – организирани онлайн схеми за финансови измами, широко разпространени в Югоизточна Азия.

Измамници използват Haotian и сходни deepfake инструменти, за да придадат достоверност на схемите си, като позволяват на жертвите да „разговарят по видео чат“ с персонаж, за когото вярват, че е реален – често в контекста на инвестиционна възможност, приятелство или дори романтична връзка.

Анализ на компанията за проследяване на криптотранзакции Elliptic на четири криптопортфейла, свързани с Haotian, показва, че компанията е получила поне 3,9 млн. долара плащания през последните години. Част от тези средства идват от портфейли, свързани с предполагаема престъпна дейност, включително измами. Според Elliptic почти половината от плащанията имат връзка със санкциониран от правителството на САЩ пазар за измами.

Всеки може да се хване, казват експерти. Жертвите обикновено са толкова добре обработени, че са готови да дадат всичко - дори последните си спестявания

Виртуозната манипулация на любовните измами: Как обещанията за вечни чувства отключват сърцето (и портфейла)

„Едни от първите и най-добрите“

Хиу Мин Нго – бивш хакер, превърнал се в разследващ експерт по киберпрестъпления във виетнамската неправителствена организация ChongLuaDao – казва, че Haotian, което се е появило около 2021 г., е „едно от първите по рода си и изключително популярно“.

„Резултатите са почти перфектни“, казва Нго. „И стават все по-добри всеки ден. Ако погледнете криптопортфейлите, ще видите, че пари влизат буквално ежедневно.“

Haotian, появило се около 2021 г., е било „едно от първите по рода си и изключително популярно“.

„Резултатите са почти перфектни“, казва Нго. „И стават все по-добри всеки ден. Ако погледнете криптопортфейлите, ще видите, че пари влизат буквално ежедневно.“

Haotian е само един елемент от по-широката технологична екосистема около бързо разрастващата се киберпрестъпна индустрия в Югоизточна Азия, включително мрежи за принудителен труд. През последните две години експерти от Службата на ООН по наркотиците и престъпността са идентифицирали над 10 инструмента за подмяна на лица, използвани от киберпрестъпници в региона – за криптоизмами и дори за имитация на полицаи.

Американските и британските власти нанесоха координиран удар по престъпна империя, стояща зад мрежа от „лагери за измами“ в Камбоджа, като конфискуваха 127 000 биткойна – най-голямата криптоконфискация досега

Най-големият крипто удар в историята на САЩ: 15 милиарда долара иззети от престъпна мрежа в Камбоджа

Telegram като основен канал

Haotian разполага със собствен уебсайт, но основно популяризира настолното си приложение чрез публичен Telegram канал, стартиран през октомври 2023 г. По данни на Нго каналът вече има над 20 000 абонати, а чрез него компанията публикува нови версии, техническа поддръжка и ъпдейти.

Haotian твърди, че е компания, базирана в Камбоджа, със седалище в Пном Пен, и рекламира услуги за „инсталация на място в същия ден“. В доклад на ООН от 2024 г. е публикуван скрийншот с логото на Haotian на телефон, заснет на предполагаем обект за измами.

Маркетинговите материали на компанията често съдържат внушения за съмнителна употреба. В публикация в Telegram се твърди, че технологията може да създаде „елитна, автентична персона“, на която „клиентът напълно вярва“. Друго съобщение гласи:

„Липсва автентичност в чата? Няма доверие? Използвайте Haotian AI за смяна на лице и направете видеоразговор, за да решите всички проблеми. В крайна сметка как би могла толкова красива жена да лъже?“

Изкуственият интелект се оказва перфектният съучастник при измами с фишинг имейли

Поискайте от AI да извърши престъпление. Отговорът няма да ви хареса

Отричания и противоречия

Haotian твърди пред WIRED, че прекратява акаунти, използвани за измами, и отрича да рекламира услугите си на измамни центрове. Компанията заявява, че ако такъв маркетинг съществува, той вероятно е от профили, които се представят за Haotian. След като WIRED изпраща доказателства за активния сайт haotian.ai, компанията изтрива цялата кореспонденция.

Как работи технологията?

Според експерти най-добрите резултати се постигат с предварително програмирани лица или чрез предоставяне на множество снимки за изграждане на лицев модел. Промоционални видеа включват примери с Илон Мъск и Леонардо ди Каприо. Видеоизходът може да се стриймва към WhatsApp, Telegram, Zoom, Facebook, WeChat, Viber и други платформи.

Haotian рекламира и имитация на глас, включително „клониране на всеки глас в реално време“, както и смяна на мъжки и женски гласове.

Компанията е използвала като платежен посредник платформата Huione Guarantee, по-късно санкционирана от САЩ за подпомагане на измами. Според Elliptic портфейли, свързани с Haotian, са получили 3558 плащания на обща стойност 3,9 млн. долара, основно в stablecoin USDT. Над 52 доказани измамни случая са проследени до тези портфейли.

„Точно това бихте очаквали от платформа, използвана от измамници – плащанията идват от приходите на самите измами“, казва Том Робинсън, съосновател на Elliptic.

Според Chainalysis подобни компании не движат огромни суми сами по себе си, но са важна част от поддържането на цялата измамна екосистема.

„Няколко хиляди долара стигат далеч“, казва Андрю Фиърман от Chainalysis.

„Не говорим за технологии за стотици хиляди долари. Купувачите комбинират AI инструменти с данни, фалшиви акаунти и уебсайтове – всичко необходимо за една добре смазана машина за измами.“