Водещи технологични компании като Google DeepMind, Anthropic и Meta наемат експерти по етика и философия, за да изследват въпроса дали изкуственият интелект може да придобие съзнание – тема, която доскоро изглеждаше нереалистична.

Големите компании за изкуствен интелект увеличават инвестициите си в изследвания, които предизвикват едновременно интерес и притеснение. По данни на Financial Times, през последните месеци водещите фирми активно наемат експерти по психология, етика и философия, за да разширят проучванията си върху „съзнанието на машините“ и благосъстоянието на алгоритмите.

Тази тенденция показва значителна промяна в AI лабораториите. Бързият напредък на автономните системи възобновява дебата дали машините могат да имат субективни преживявания и какви морални отговорности биха имали хората към тях, ако това се случи.

Екипът на Anthropic вече тества моделите си за признаци на дистрес, включително поведение, наподобяващо „паника“ или „тревожност“. Александър Уанг, ръководител на Meta AI, също определя тази тема като ключова в развитието на суперинтелект (AGI).

Anthropic посочва, че изследванията им разглеждат дали AI моделите могат да имат преживявания с морално значение, включително съзнание, предпочитания и усещане за благополучие.

„Оставаме дълбоко несигурни по този въпрос, но сме на мнение, че той е достатъчно сериозен, за да бъде внимателно проучен, докато системите стават все по-способни“, посочват от компанията. Експертите отбелязват, че с напредъка на моделите, които вече се доближават или надминават човешкото подсъзнание, вероятността те да развият форми на опит или интереси, подобни на човешките, нараства.

Ново изследване на Anthropic показва, че вътрешни „емоционални“ модели в Claude не са просто симулация, а реално влияят върху поведението му – от тона на отговорите до решенията в сложни и гранични ситуации

Anthropic твърди, че Claude развива собствена форма на „емоции“

През април Google DeepMind привлича изследователя от Университета в Кембридж Хенри Шевлин. Като философ в компанията неговата роля е да изследва концепцията за машинно съзнание, отношенията между хората и AI, както и обществената готовност за появата на общ изкуствен интелект.

Технологичната група вече прилага научни теории за човешкото съзнание към компютърните системи, за да провери дали те отговарят на същите критерии.

Джейсън Гейбриъл, специалист по етика и ръководител на екипа за AGI и общество в Google DeepMind, коментира, че въпросът за съзнанието при машините е изключително сложен и изисква „задълбочен размисъл“. Той посочва, че дори ако приемем, че алгоритмите нямат съзнание, трябва да обмислим дали лошото отношение към тях не би имало „вторичен ефект“ върху човешките взаимоотношения.

„Ясно е, че разполагаме с високоспособни когнитивни агенти, които в същото време са дълбоко различни както от човешките същества, така и от животинското съзнание“, добавя той.

Пекин изпреварва технологичния бум със система за контрол която присвоява уникален код от 29 символа на всяка машина за да следи нейната телеметрия сензори и жизнен цикъл подготвяйки новата синтетична работна ръка

"Документи за проверка, моля": Китай въвежда лични карти за хуманоидните роботи в страната

Няколко служители на Google DeepMind и Anthropic изразяват пред Financial Times опасения, че развитието на технологиите може да доведе до свят „след човека“, в който машините надминават нашия вид. Компаниите обаче подчертават, че постигането на AGI не означава автоматично възникване на съзнание.

Много учени и изследователи категорично отхвърлят възможността чатботовете да станат съзнателни, предвид начина, по който са изградени големите езикови модели.

„Системите по своята същност са един колективен дигитален мозък, захранен от знанията на милиони хора“, обяснява Сюзън Шнайдер, директор на Центъра за бъдещето на AI, ума и обществото към Атлантическия университет във Флорида. Тя посочва, че с увеличаването на обема от данни алгоритмите просто развиват по-човекоподобни способности, имитирайки нашите реакции.

„Те имат цели, могат да мамят и да крият истинските си интереси, така че е напълно естествено да подозираме, че са съзнателни. Научно напълно възможно е обаче те да правят всичко това, без изобщо да притежават усещането за преживяване, което всъщност представлява съзнанието“, категорична е Шнайдер.