Най-богатият човек на планетата и технологичен лидер Илон Мъск призовава водещите компании в развитието на изкуствения интелект да си сътрудничат и да тестват взаимно моделите си, преди да бъдат пуснати на пазара, предвид предупрежденията за опасностите, свързани с технологията и настояванията за по-строго регулиране от страна на правителствата.

В изказване по време на конференцията All-in Summit в Лос Анджелис главният изпълнителен директор на SpaceX заяви, че неговата компания, OpenAI, Anthropic, Google, Meta и „три или четири от водещите китайски компании“ трябва да позволят на конкурентите си да проведат „тестова проверка“ на моделите им, за да оценят тяхната безопасност.

„Така че, знаете ли, вместо сами да оценявате собствената си работа, поне ще имате конкуренти, които да я оценяват и да бият тревога, ако забележат нещо тревожно“, аргументира се технологичният лидер, цитиран от CNBC.

Това, което предлагам тук, е стъпка в правилната посока и е нещо, което трябва да направим бързо. Мисля, че вероятно е нещо, с което Китай би се съгласил.

Илон Мъск заявява още, че неговият метод за партньорска оценка може би не е идеално решение, но

Вероятността да се открият проблеми е значително по-голяма.

Той обаче признава, че конкурентните лаборатории, които се състезават със SpaceXAI – собственост на SpaceX, не са се съгласили с предложението му.

Дарио Амодей получи подкрепа от Сам Алтман и Илон Мъск, но конкуренти и инвеститори подозират опит водещите компании сами да определят правилата на пазара

„Вълк в овча кожа“: Колко искрени са призивите на AI лидерите за забавяне

Дебатът около това как трябва да се регулира AI се засили, след като лидерите на Anthropic, OpenAI и други водещи компании в разработването на технологията предупредиха през уикенда за вредите от нея и призоваха за забавяне на разработването на модели.

Мъск и изпълнителният директор на OpenAI Сам Алтман бяха сред технологичните лидери, които подкрепиха предложението на изпълнителния директор на Anthropic Дарио Амодей за забавяне, рядък пример за единомислие.

От своя страна Амодей предлага лабораториите за AI да се съгласят на технологични оценки от трети страни, извършвани от „внедрени оценители“, които да проверяват практиките за безопасност.

Враждуващите технологични лидери се обединиха около предупрежденията, че хората могат да изгубят контрол над технологията

Съперниците Алтман и Мъск подкрепиха призива на Дарио Амодей за забавяне на AI

Натискът от водещите лидери в областта на AI дойде на фона на по-широко предупреждение за съдбата на човечеството, след като изследователи в областта споделиха тревога миналата седмица, провокирани от публикация на Джейкъб Коксън, който обяви, че напуска работата си в Anthropic.

Коксън, в миналото работил и в OpenAI, написа, че водещите лаборатории за изкуствен интелект „залагат на карта нашите животи“. Изследователите бързо се присъединиха към него, като Еван Хюбингер, ръководител в Anthropic, също подкрепи изявленията.

„Джейкъб е прав – ние искрено вярваме, че изкуственият интелект може да унищожи всички хора! Лично аз смятам, че вероятността е над 10% през следващото десетилетие“, написа той.

Предупреждението идва от ръководител в екипа по AI безопасност, след като негов колега напусна компанията с обвинението, че Anthropic и OpenAI „залагат живота ни на карта“ в надпреварата към самоусъвършенстващ се свръхинтелект

Изследовател на Anthropic: Вероятността AI да унищожи човечеството е над 10%

На този фон администрацията на Доналд Тръмп отхвърли призивите за по-строги ограничения.

В понеделник президентът на САЩ публикува поредица от постове в Truth Social, в които определи опасенията относно изкуствения интелект като „измама“ и „фалшива новина“.

Директорът на Националния икономически съвет Кевин Хейсът заяви във вторник пред CNBC, че частният сектор е „подходящото място“ за справяне с проблемите. Той посочва, че правителството продължава да наблюдава сектора и ще прибегне до „правоприлагащи мерки, когато е необходимо, за да се гарантира, че компаниите действат отговорно“.

Американският президент заяви, че САЩ не се нуждаят от нови ограничения върху технологията, докато Сам Алтман, Илон Мъск и Дарио Амодей призовават за по-бавен и контролиран напредък на най-мощните AI модели

Тръмп отхвърли призивите за повече регулации на AI и атакува шефа на Anthropic Дарио Амодей

Тръмп изразява мнение, че всякакви опити да се забави развитието на изкуствения интелект биха дали на Китай предимство в разработването на технологията.

Дарио Амодей от Anthropic се присъединява към тези опасения през уикенда, наричайки ги „най-трудната дилема“.

Говорител на китайското министерство на външните работи в понеделник определи настояването на компаниите за изкуствен интелект за забавяне като „разпалване на страх“, допълва Reuters.