Производителят на ChatGPT OpenAI обяви свободна позиция с годишна заплата от 555 000 долара и тревожно описание на длъжността, което би накарало дори Супермен да си поеме дъх, отбелязва The Guardian.

„Ръководителят по готовност“ ще отговаря директно за защитата срещу рисковете за човешкото психично здраве, киберсигурността и биологичните оръжия, както и за възможността изкуственият интелект да започне да се самообучава и „да се обърне срещу нас“, както се опасяват някои експерти.

„Това ще бъде стресираща работа и ще се хвърлите в дълбокото почти веднага“, заявява главният изпълнителен директор Сам Алтман, обявявайки търсенето на кандидат за „критична позиция“, за да „помогне на света“.

Докато битката за AI таланти се изостря, технологичните компании все по-често привличат бивши политици с глобално влияние, за да навигират регулации, геополитика и превръщането на изкуствения интелект в критична инфраструктура

Войната за AI таланти: Защо OpenAI и Coinbase залагат на политическа тежест?

Успешният кандидат ще отговаря за оценяването и смекчаването на възникващите заплахи, както и за „проследяване и подготовка за гранични възможности, които създават нови рискове от сериозни вреди“.

Някои от предишните служители на подобна длъжност са оставали за кратък период от време. Сега позицията идва на фона на предупреждения от AI индустрията за рисковете от все по-мощната технология.

В понеделник Мустафа Сюлейман, главен изпълнителен директор на Microsoft AI, заяви пред BBC: „Честно казано, мисля, че ако в този момент не се страхувате поне малко, тогава не обръщате достатъчно внимание.“

Демис Хасабис, съосновател на Google DeepMind и носител на Нобелова награда, предупреди този месец за рисковете, сред които е и възможността AI да „излезе от релси по начин, който да навреди на човечеството“.

„Все още не сме стигнали дотам. Тези системи са много впечатляващи в определени неща. Но има и други, които все още не умеят. А преди това ни предстои доста изследователска работа“, казва главният изпълнителен директор Демис Хасабис

Google DeepMind: AGI ще бъде тук след 5-10 години – с човешки умения във всяка задача

На фона на съпротивата от Белия дом на Доналд Тръмп, на национално и международно ниво има малко регулации за изкуствения интелект.

Йошуа Бенгио, компютърен учен, известен като един от „кръстниците на изкуствения интелект“, заяви наскоро, че „Сандвичът е по-регулиран от изкуствения интелект.“ В резултат компаниите за изкуствен интелект се саморегулират в голяма степен.

Йошуа Бенгио предупреждава, че изкуственият интелект може много бързо да се превърне в опасност за човека, ако не бъдет взети своевременни мерки

Заплаха ли е AI за човечеството? Отговорът на един пионер в технологията

„Имаме солидна основа за измерване на растящите възможности, но навлизаме в свят, в който се нуждаем от по-нюансирано разбиране как с тези възможности може да се злоупотреби и как да ограничим тези недостатъци както в нашите продукти, така и в света, по начин, позволяващ да се наслаждаваме на огромните ползи. Тези въпроси са трудни и има малко прецеденти.“, призна самият Алтман в пост в X при обявяването на новата позиция. Потребител му отговаря саркастично: „Звучи добре, включена ли е ваканция?“

Включено е неопределено количество акции в OpenAI, оценявана на 500 милиарда долара, допълва The Guardian.

В опита си да се справи с конкуренцията на Google главният изпълнителен директор на създателя на ChatGPT загърбва по-смелите проекти

Обща популярност вместо изкуствен общ интелект: Как Сам Алтман коригира посоката на OpenAI

Миналия месец конкурентната Anthropic съобщи за първите кибератаки с изкуствен интелект, при които той е действал до голяма степен автономно под надзора на предполагаеми китайски държавни лица, за да получи достъп до вътрешните данни на целите си.

Този месец OpenAI заяви, че най-новият й модел е почти три пъти по-добър в разбиването на киберсигурни защити в сравнение с този от преди три месеца и добави: „Очакваме, че предстоящите модели ще продължат по тази траектория“.

Опасенията, че напредналият изкуствен интелект може да убие всички, до голяма степен са затихнали; „песимистите“ са маргинализирани и се използват от AI класата като повод за шеги. Но дори най-оптимистичните лидери имат своите предупреждения

Те чертаят автоматизирано бъдеще, към което летим с пълна газ - и без спирачки. Кои са AI архитектите на TIME

OpenAI се защитава и в съдебен процес, заведен от семейството на Адам Рейн, 16-годишен младеж от Калифорния, който се самоубива след предполагаемо насърчаване от ChatGPT. Компанията твърди, че момчето е злоупотребило с технологията.

В друго дело, заведено този месец, се твърди, че ChatGPT е насърчил параноичните заблуди на 56-годишния Стейн-Ерик Соълбърг от Кънектикът, който след това е убил 83-годишната си майка и се е самоубил. Говорител на OpenAI заяви, че разглеждат документите по делото, което описа като „невероятно разтърсващо“, и подобряват обучението на ChatGPT „да разпознава и реагира на признаци на психически или емоционален дистрес, да успокоява разговорите и да насочва хората към реална подкрепа“.