Визуалната реалност все по-трудно се отличава от фалшификацията. Генеративният изкуствен интелект вече създава напълно реалистични снимки и видеа, което ускорява ерозията на доверието в онлайн съдържанието. Възможното решение може да дойде не от софтуер, а от хардуер.

Екип инженери от ETH Zurich разработва прототип на камера, която поставя криптографски „печат за автентичност“ върху всяко изображение още при заснемането му, директно на нивото на сензора, съобщава Fast Company.

ETH Zurich - Как работи технологията

„Доверието в дигиталното съдържание намалява. Целта ни беше да създадем технология, която позволява проверка на автентичността“, казва разработчикът Феликс Франке.

В момента индустрията разчита основно на стандарта C2PA – система за удостоверяване на произхода на съдържание. Тя вече се използва в устройства на компании като Leica, Nikon, Fujifilm и Sony, както и в смартфони като Google Pixel 10.

Основният проблем е мястото, на което се осъществява защитата.

Киберексперти предупреждават, че мрежи, свързани с Пхенян, използват deepfake технологии и големи езикови модели, за да получават дистанционни позиции, достъп до корпоративни системи и приходи от западни компании

AI помага на севернокорейски „фалшиви служители“ да се внедряват в европейски компании

При C2PA камерата първо заснема изображението, изпраща го към основния процесор и едва след това файлът получава криптографски подпис. Това създава малък, но критичен прозорец за атака.

Ако някой прихване този вътрешен поток от данни, може да замени реалното изображение със синтетично. Процесорът не може да разпознае измамата и подписва фалшивото съдържание като „реално“. Това е трудно, но възможно.

Решението: сигурност още при улавянето на светлината

Подходът на ETH Zurich елиминира този риск, като премества защитата директно в сензора. Криптографски механизми са интегрирани непосредствено до пикселите. В момента, в който светлината бъде уловена и се създаде изображение, системата генерира уникален математически „пръстов отпечатък“ на реалността.

Ако дори един пиксел бъде променен след това, отпечатъкът се нарушава.

Следва втори слой защита: отпечатъкът се „заключва“ чрез частен ключ, физически вграден в самия чип. Този ключ не може да бъде извлечен, копиран или прихванат.

Резултатът е файл, защитен още преди да напусне сензора.

Разследване на The Guardian показва как все по-достъпните AI инструменти мащабират създаването и разпространението на несъгласувано интимно съдържание, изпреварвайки регулациите и модерацията на платформите

AI ускорява глобална вълна от дигитално насилие, а Telegram се превръща в ключово звено за deepfake порнография

Как се проверява дали нещо е реално?

За да се валидира съдържанието, производителите могат да публикуват съответния публичен ключ в неизменяем регистър, например блокчейн.

Всеки с достъп до този ключ може да провери дали дадено видео или снимка идва от конкретен физически сензор и не е била манипулирана след заснемането.

За да се фалшифицира такова съдържание, атакуващият не може да използва само софтуер, а трябва физически да манипулира хардуера на ниво микросхеми.

Според изследователите това прави масовото създаване на фалшиво съдържание практически невъзможно.

За разлика от т.нар. порно за отмъщение (публикуване на интимен запис без съгласието на другия с цел да бъде унижен), тук става дума за изцяло фалшифицирани снимки и видео съдържание

„Харесвам я фалшифицирана“. Как deepfake порното може да съсипва животи

Основният проблем е цената

Технологията има сериозно предимство пред софтуерните решения, но е свързана с висока цена. За разлика от C2PA, който може да се внедри чрез ъпдейти, новият подход изисква изцяло нов производствен процес за сензори. Това означава нов дизайн, нови производствени линии и допълнителни разходи за хардуер. Това е основната бариера пред масовото внедряване.

Проблемът с фалшивото съдържание вече не е теоретичен. Милиарди изображения и видеа ежедневно циркулират в социалните мрежи – от военни зони до лични профили – без ясен начин за установяване на тяхната достоверност.

В голяма степен медиите разполагат с механизми за проверка. Реалният риск идва от масовото съдържание, което се разпространява без контрол. В този контекст хардуерно решение като това на ETH Zurich е логична следваща стъпка.