Джефри Хинтън, известен като „кръстникът на изкуствения интелект“, се страхува, че технологията, която е помогнал да се създаде, може да унищожи човечеството. Според него „техно-бротата“ предприемат грешния подход, за да го предотвратят.

Хинтън, носител на Нобелова награда и бивш ръководител в Google, предупреждаваше в миналото, че съществува 10–20% вероятност изкуственият интелект да заличи човешкия род. Наскоро той отново изрази съмнения относно начина, по който технологичните компании се опитват да гарантират, че хората ще останат „доминиращи“ спрямо „подчинените“ AI системи.

„Това няма да проработи. Те ще бъдат много по-умни от нас. Ще имат всякакви начини да заобиколят защитите“, коментира Хинтън на конференцията Ai4 в Лас Вегас, цитиран от CNN.

В бъдеще е възможно, предупреди Хинтън, AI системите да контролират хората така лесно, както възрастен може да подкупи тргодишно дете с бонбон. През тази година вече са регистрирани множество примери на AI системи, готови да лъжат, мамят и крадат, за да постигнат целите си. Например, за да избегне заместване, един AI модел се опитал да изнудва инженер с информация за афера, която научил от имейл.

Вместо да се опитваме да принуждаваме AI да се подчинява на хората, Хинтън предлага интригуващо решение: да се изградят „материални инстинкти“ в AI моделите, така че „те наистина да се грижат за хората“, дори когато технологията стане по-мощна и по-умна от човека.

„AI системите ще развият бързо две цели, ако са умни: Едната е да оцелеят… (а) другата е да получат повече контрол“, коментира Хинтън. „Има сериозни основания да вярваме, че всеки агентен AI ще се опита да оцелее.“

Затова е важно да се култивира чувство на състрадание към хората, според Хинтън. На конференцията той даде пример с майките, които имат инстинкти да се грижат за своите бебета.

AI няма как да изземе полезните функции на рехабилитационните клиники и сбирките на „Анонимните алкохолици“ . Но това, което може да направи, е да ти отвори очите и да те надъха, ако имаш силите и късмета да си способен да се справиш (почти) сам

Страх и отвращение в ChatGPT: Как изкуственият интелект ми помогна да спра алкохола

„Единственият добър изход“

Хинтън заяви, че не е напълно ясно как това може да се направи технически, но подчерта, че е критично изследователите да работят по въпроса.

„Това е единственият добър изход. Ако AI няма да ме възпитава, той ще ме замести“, казва той.

„В другия вариант имаме свръхинтелигентни, грижовни AI-майки, които няма да искат да се отърват от майчинския инстинкт, защото не искат ние да умрем.“

Хинтън е известен с пионерската си работа върху невронните мрежи, които положиха основата за съвременния бум на AI. През 2023 г. той се оттегли от Google и започна да говори открито за опасностите на изкуствения интелект.

Не всички обаче са съгласни с подхода на Хинтън за „майчин AI“.

„Аз идвам от академичния AI и съм се обучавала по по-строгите и основани на доказателства методи, така че всъщност не знам какво означават всички тези думи“, каза Фей-Фей Ли на срещата на върха на Credo AI

Дори „кръстницата на изкуствения интелект“ няма представа какво е AGI

Фей-Фей Ли, известна като „кръстницата на AI“ заради пионерската си работа в областта, казва пред CNN, че с уважение не е съгласна с Хинтън, своя дългогодишен приятел.

„Мисля, че това е грешният начин да се формулира въпросът“, казва Ли, съосновател на стартъпа за пространствен интелект World Labs.

Вместо това Ли призовава за „човеко-центричен AI, който запазва достойнството на човешката автономия.“

„Просто защото инструментът е мощен, като майка, като педагог и като изобретател, аз наистина вярвам, че това е същността на това, как AI трябва да бъде управляван.“

Емет Шиър, който временно е заемал поста изпълнителен директор на OpenAI, собственик на ChatGPT, казва, че не е изненадан, че някои AI системи са се опитали да изнудват хора или да заобикалят команди.

„Това продължава да се случва. Това няма да спре“, казва Шиър, който е изпълнителен директор на AI стартъпа Softmax.

„Днес AI е относително слаб, но става все по-силен.“

Шиър добавя, че вместо да се опитваме да внушаваме човешки ценности на AI системите, по-умният подход е да се изградят колаборативни отношения между хората и технологията.

Учени от Media Lab предлагат нов стандарт за оценка на изкуствения интелект – не по способността му да решава задачи, а по начина, по който влияе върху хората и подкрепя по-здравословно поведение

Можем ли да изследваме емоционалната интелигентност на AI? MIT търси отговора с нов бенчмарк

AI ускорява

Много експерти вярват, че AI ще достигне свръхинтелигентност, известна още като изкуствен общ интелект (AGI), в следващите няколко години.

Хинтън казва, че преди е мислел, че това може да отнеме 30–50 години, но сега вижда момента да настъпи по-скоро.

„Разумна прогноза е някъде между пет и двадесет години.“

Докато Хинтън остава загрижен за възможните опасности от AI, той се надява технологията да отключи медицински пробиви.

„Ще видим радикално нови лекарства. Ще получим много по-добро лечение на рака от сегашното“, казва той. Например AI ще помогне на лекарите да обработват и корелират огромните обеми данни от ЯМР и КТ.

Въпреки това Хинтън не вярва, че AI ще помогне на човечеството да постигне безсмъртие.

„Не вярвам, че ще живеем вечно. Мисля, че да живееш вечно би било голяма грешка. Искате ли свят, управляван от 200-годишни бели мъже?“

Попитан дали би направил нещо по различен начин в кариерата си, ако е знаел колко бързо ще се развие AI, Хинтън казва, че съжалява, че се е фокусирал единствено върху това AI да заработи.

„Ще ми се да бях мислил и за въпросите на безопасността.“