Над 800 души, сред които учени в областта на AI, политици, знаменитости и религиозни лидери, подписаха обръщение, в което призовават за „забрана“ върху разработването на т.нар. свръхинтелигентен изкуствен интелект - системи, които биха били по-интелигентни от повечето хора.

Писмото е публикувано от Института „Бъдеще на живота“ (Future of Life Institute, FLI) - неправителствена организация, посветена на етичните последици от технологиите.

„Призоваваме за забрана върху разработването на свръхинтелигентен AI, която да не бъде отменяна, докато не бъде постигнат широк научен консенсус, че подобни системи могат да бъдат създавани безопасно и под контрол - и докато не се осигури силна обществена подкрепа“, се казва в декларацията, цитирана от Financial Times.

Сред подписалите са „кръстниците на изкуствения интелект“ Джефри Хинтън и Йошуа Бенджио, технологични икони като съоснователят на Apple Стив Возняк и съоснователят на Virgin Ричард Брансън, бившият президент на Ирландия Мери Робинсън, Стив Банън, Стивън Фрай, принц Хари, Меган Маркъл.

Според Джефри Хинтън, в бъдеще AI системите ще могат да контролират хората толкова лесно, колкото възрастен може да подкупи тригодишно дете с бонбони

„Кръстникът на изкуствения интелект” прави поредна мрачна прогноза за технологията

„Може би най-голямата заплаха не са другите държави, а машините, които сами създаваме“

Кампанията е придружена от социологическо проучване, според което само 5% от американците подкрепят „настоящото състояние на неограничено развитие на AI“, докато почти три четвърти от анкетираните настояват за строга регулация.

Президентът на института Макс Тегмарк коментира пред Financial Times:

„Именно човечността ни обединява. Все повече хора започват да осъзнават, че най-голямата заплаха може би вече не е конкурентната компания или държава, а самите машини, които изграждаме.“

Джефри Хинтън се надява, че наградата ще придаде допълнителна достоверност на твърденията му за опасностите, свързани с технологията за изкуствен интелект, на която той е пионер

Кръстникът на AI и неговата опозиция. Ще бъде ли чут Хинтън след Нобела за физика?

Технологичната надпревара към „свръхинтелигентност“

Големите технологични компании и стартиращи AI фирми - включително OpenAI, Meta и Google - са в ожесточена надпревара кой първи ще разработи „свръхинтелигентен“ или „общ изкуствен интелект“ (AGI) - тоест система, която може да надмине човека в повечето интелектуални задачи.

През март 2023 г., пет месеца след пускането на ChatGPT, група технологични експерти, сред които Илон Мъск, подписаха сходна декларация, организирана също от FLI, с призив за шестмесечна пауза върху разработването на AI системи. Въпреки това, компанията на Мъск xAI продължава да изгражда собствени AI модели.

Новата декларация е по-конкретна и, по думите на Тегмарк, „в никакъв случай не призовава за спиране на целия напредък в AI“.

„Не е необходима свръхинтелигентност, за да лекуваме рак, да изградим автономни автомобили или да повишим производителността и ефективността“, допълва той.

Тази година форумът събира лидери от технологичния и медийния сектор, които ще покажат как изкуственият интелект, данните и креативността се превръщат в практически решения за растеж, иновации и устойчив успех

Digital Trends 2025: Архитекти на AI бъдещето в действие

Китайски учени, бивши високопоставени служители и религиозни водачи също подкрепиха инициативата.

Сред подписалите са Андрю Яо и Я-Цин Джан, бивш президент на Baidu.

Списъкът включва още бившия съветник по националната сигурност на САЩ Сюзън Райс, служила при президента Барак Обама, както и адмирал Майк Мълен, бивш председател на Обединения комитет на началник-щабовете при Обама и Джордж У. Буш.

Тегмарк коментира още: „Загубата на контрол се разглежда като заплаха за националната сигурност както на Запада, така и в Китай. Двете страни ще се противопоставят на това поради собствени интереси - без дори да се налага да си имат доверие.“

Междувременно глобалната регулация на изкуствения интелект напредва бавно. Най-напредналото законодателство – Европейският акт за AI (EU AI Act) – се въвежда постепенно на фона на остри критики от страна на индустрията.

В САЩ няколко щата – Калифорния, Юта и Тексас – вече приеха собствени закони за изкуствения интелект.

Предложение за десетгодишен мораториум върху федералната AI регулация бе премахнато от бюджета на Конгреса през юли.