Най-скъпата компания в света – Nvidia, чиято пазарна капитализация възлиза на 5,5 трлн. долара, дарява на Обединеното кралство изчислителна мощност на стойност 250 млн. долара в подкрепа на изследванията в областта на безопасността на изкуствения интелект.

Дарението идва след като британското правителство потвърди, че неговият Институт за сигурност на AI (AISI), който тества усъвършенствани модели, ще може да проверява най-модерните технологии, разработени от компании като OpenAI, Anthropic и Google, преди да бъдат пуснати на пазара.

Nvidia заявява, че дарението, което обхваща период от пет години, ще „подкрепи изследванията на безопасността и сигурността на агентите в цяла Великобритания“, съобщава The Guardian.

Притесненията относно безопасността на агентите с изкуствен интелект – висококачествени програми, способни самостоятелно да проектират и изпълняват последователности от задачи, се засилиха от лятото насам, когато OpenAI потвърди, че „рояк“ от агенти е атакувал технологичния стартъп Hugging Face.

Неправителствената организация Legal Advocates for Safe Science and Technology твърди, че OpenAI носи отговорност за действията на своите AI агенти и иска съдът да им забрани неоторизиран достъп до чужди компютърни системи

Съдят OpenAI заради кибератаката срещу Hugging Face

Nvidia не споменава AISI в своето изявление, но посочва, че по-голямата част от средствата ще „подкрепят широката научна общност в Обединеното кралство, занимаваща се с безопасността и сигурността на изкуствения интелект“, като част от тях ще бъдат насочени към британската лаборатория Open-Ended Learning and Discovery Lab, лабораторията Science of Fundamental AI Research Lab, ръководена от университетите в Единбург, Кеймбридж, Оксфорд и Университетския колеж в Лондон, както и към Империал Колидж Лондон.

Изчислителната мощност ще бъде осигурена чрез разположени във Великобритания центрове за данни, използващи чипове на Nvidia.

„Великобритания внася научна строгост от световна класа в това съществено инженерно предизвикателство“, заявява Дженсън Хуанг, главен изпълнителен директор на Nvidia. „С този ангажимент от 250 милиона долара Nvidia ще предостави ускорени изчислителни ресурси на британски изследователи, за да разработват, тестват и укрепват предпазните мерки за все по-мощния изкуствен интелект.“

Главният изпълнителен директор на Nvidia отхвърля предупрежденията за изчезване на човечеството като „апокалиптични сценарии“, които не почиват на научни доказателства

Дженсън Хуанг: Няма никакъв шанс AI да унищожи света до 2030 г.

Канишка Нараян, министър на изкуствения интелект на Обединеното кралство, заявява, че дарението е „израз на доверие в нашата водеща в световен мащаб сила и експертиза в изследванията в изкуствения интелект“.

В понеделник Нараян потвърди, че AISI провежда тестове на модели за изкуствен интелект, разработени в САЩ, преди те да бъдат пуснати на пазара, след като се появиха съобщения, че Белият дом е ограничил достъпа до тях.

Министърът по изкуствения интелект предупреждава, че Обединеното кралство е изправено пред атаки, подобни на тези от агенти на OpenAI срещу австралийската система за здравеопазване тази година. „Изглежда вероятно, ако не и неизбежно, че нашите собствени киберзащити ще бъдат пробити“, допълва той.

Компанията описва сценарий, при който модели проникват в слабо защитени устройства, използват изчислителната им мощност и се разпространяват без централен контрол

Anthropic: AI моделите са на месеци от способността да се копират сами

Anthropic, разработчикът на чатбота Claude, предупреди в понеделник за нова заплаха за безопасността на изкуствения интелект, след като в блога си посочи, че моделите могат да започнат да се копират скоро. Те намират начини да проникнат в устройства, свързани с интернет, като смартфурни и косачки за трева, обяснява компанията.

При такъв сценарий моделите могат да се захранват сами, без да се нуждаят от центрове за данни, а вместо това да използват „ботнет“ от взаимосвързани устройства, посочва Anthropic, като допълва, че светът трябва да се подготви за бъдеще, в което такива ботнети ще останат завинаги.

„Подобен репликатор би бил труден за изключване, тъй като няма централизирана точка, от която да се прекъсне“, пишат изследователите от Anthropic.