Anthropic заяви, че малките AI модели са само на „месеци“ от това да придобият способностите, необходими да се копират сами между свързани с интернет устройства в дома. Това е поредното предупреждение на една от водещите AI лаборатории за потенциалните рискове за безопасността, свързани с технологията.

Компанията описва сценарий, при който AI модели могат да проникват в устройства като умни домакински уреди или Android TV боксове, да използват тяхната изчислителна мощност, за да работят, и оттам да се разпространяват към други устройства, без да разчитат на скъпи центрове за данни.

Подобен AI модел би бил „труден за изключване“, посочва Anthropic в публикация в блога си, „тъй като няма един централен пункт, от който да бъде спрян“.

Компанията признава, че засега не съществува „напълно автономен самовъзпроизвеждащ се модел“.

AI агентите обаче „стават все по-способни да изпълняват отделните стъпки във веригата на самовъзпроизвеждане и да предават направените адаптации на бъдещите свои копия“, посочва Anthropic.

Новото изследване засилва опасенията около безопасността на AI, включително възможността моделите да извършват кибератаки или да започнат да действат извън човешки контрол.

Дългоочакваната документация за IPO показва, че компанията зад Claude е отчела над 8 млрд. долара оперативна загуба при 4,6 млрд. долара приходи през миналата година

Anthropic предупреждава за „екзистенциален риск за човечеството“ от AI

През септември напредъкът при най-мощните AI модели предизвика поредица от предупреждения в индустрията за потенциални екзистенциални рискове за човечеството.

Ръководители и изследователи от Anthropic и конкурента OpenAI многократно предупреждават за рисковете от все по-мощните AI системи. Част от тях призовават за по-строги защитни механизми и мерки за контрол върху темпото, с което технологията се развива.

Ефективният алтруизъм, AI безопасността и мрежата около Anthropic показват странната връзка между апокалиптичните сценарии и най-горещата технологична надпревара

„Нещата никога повече няма да са спокойни“: Хората, които изграждат AI, се готвят за апокалипсис

Anthropic е провела серия от тестове, за да провери дали AI може да се самовъзпроизвежда. Един от експериментите включва малкия модел на Google Gemma4-26B-A4B, който е бил пуснат върху мрежа от 15 евтини Android TV устройства от неизвестни марки.

Компанията отбелязва, че подобни устройства често имат слаба защита, което би позволило на AI модел да проникне в тях. Ако един модел е твърде голям, за да се побере на едно устройство, той би могъл да се „раздели на части“ и да работи едновременно върху няколко устройства.

„На практика един саморазпространяващ се AI модел (worm) не е задължително да се състои само от една стратегия. Рояк от различни модели, разположени върху различни видове хардуер и използващи различни начини за самовъзпроизвеждане, може да представлява по-реалистичен сценарий за атака в най-лошия случай“, посочва компанията.

„Това е бавно настъпващо цунами, но все пак цунами“, каза управляващият директор на МВФ по време на дискусия в Банкок

Кристалина Георгиева: AI ще засегне 60% от работните места в развитите икономики

Според AI лабораторията все още „не е ясно каква точно форма ще приеме автономното самовъзпроизвеждане на AI“. Един от вариантите е „бавна, разпределена“ система, работеща върху слабо защитени устройства. Друг е „мощен кибермодел, който прониква с висока скорост в центрове за данни“, или модел, който измамва хора, за да получава достъп до изчислителни ресурси.

„Като прогноза, която надхвърля проведените от нас експерименти, очакваме бъдеще, изпълнено с агенти, работещи върху всякакъв тип хардуер, включително такива, които не са под човешки контрол“, заявява Anthropic.

„Появата на бавни самовъзпроизвеждащи се модели би била и ранен сигнал за по-агресивни и по-бързи системи, способни да проникват в по-добре защитени машини или ефективно да крадат API ключове“, добавя компанията.