Anthropic пуска предварителна версия на браузър-базиран AI агент, задвижван от нейните Claude AI модели, обяви компанията във вторник. Агентът Claude for Chrome се пуска за група от 1000 абонати на плана Max на Anthropic, който струва между 100 и 200 долара на месец. Компанията също така отваря списък с чакащи за други заинтересовани потребители, съобщи TechCrunch.

Чрез добавяне на разширение към Chrome, избрани потребители вече могат да чатят с Claude в страничен прозорец, който запазва контекста на всичко, което се случва в браузъра им. Потребителите могат също така да дадат разрешение на агента да извършва действия в браузъра им и да изпълнява някои задачи от тяхно име.

Браузърът бързо се превръща в следващото бойно поле за AI лабораториите, които имат за цел да използват интеграции в него, за да предложат по-безпроблемни връзки между AI системите и техните потребители. Perplexity наскоро пусна свой собствен браузър – Comet. Той разполага с AI агент, който може да поема задачи от името на потребителите. OpenAI според информациите е близо до пускането на свой собствен браузър, задвижван от AI, за който се говори, че има подобни функции като Comet. Междувременно Google пусна Gemini интеграции с Chrome през последните месеци.

Състезанието за разработване на браузъри, задвижвани от AI, е особено важно, с оглед на предстоящото антитръстово дело срещу Google, по което се очаква окончателно решение всеки момент. Федералният съдия по делото намекна, че може да принуди Google да продаде браузъра си Chrome. Затова и Perplexity подаде нежелана оферта от 34,5 милиарда долара за Chrome, а главният изпълнителен директор на OpenAI, Сам Алтман, намекна, че и неговата компания би била готова да го купи.

В публикацията в блога от вторник Anthropic предупреждава, че възходът на AI агентите с достъп до браузъра създава нови рискове за безопасността на потребителите. Миналата седмица екипът по сигурността на Brave коментира пред TechCrunch, че е открил, че браузърният агент на Comet може да е уязвим към индиректни атаки с вмъкване на команди, при които скрит код на уебсайт може да подмами агента да изпълни злонамерени инструкции.

Целта на партньорството с френската Dust е компаниите да разполагат с различни инструменти в отделите, които работят изолирано, без да комуникират помежду си, но да спестяват време на служителите

Anthropic пуска AI агенти в Париж в нова сделка за европейската си експанзия

Anthropic се надява да използва тази предварителна версия на своя браузърен агент като възможност да открие и отстрани нови рискове за сигурността. Компанията вече е въвела няколко защити срещу атаки за промяна на съдържанието. Компанията твърди, че нейните интервенции са намалили успеваемостта на подобни атаки от 23,6% на 11,2%.

Anthropic твърди, че потребителите могат да ограничат достъпа на браузърния агент на Claude до определени сайтове в настройките на приложението. Компанията е блокирала по подразбиране достъпа на Claude до уебсайтове, които предлагат финансови услуги, съдържание за възрастни и пиратско съдържание. Тя също така твърди, че браузърният агент на Claude ще иска разрешение от потребителя, преди да „предприеме рискови действия като публикуване, закупуване или споделяне на лични данни“.

Това не е първата стъпка на Anthropic в областта на AI моделите, които могат да контролират екрана на вашия компютър. През октомври 2024 г. компанията пусна подобен AI агент – обаче тестовете по това време показаха, че той е доста бавен и ненадежден.

Оттогава възможностите на агентите с изкуствен интелект са се подобрили значително. TechCrunch установява, че съвременните модели, които използват браузъри, като Comet и ChatGPT Agent, са доста надеждни при възлагането на прости задачи. Въпреки това много от тях все още се борят с по-сложни проблеми.