Сам Алтман признава, че откакто ChatGPT се е появил, нито една нощ не е спал спокойно.

Главният изпълнителен директор на OpenAI описва в интервю пред Тъкър Карлсън бремето да ръководи технология, която се е превърнала в част от ежедневието на стотици милиони хора по целия свят.

„Не съм спал нормално, откакто ChatGPT стартира“, признава Алтман, цитиран от Fortune.

Тревогата му обаче не идва от сценарии в стила на Терминатор, а от дребни и на пръв поглед невидими решения, които екипът му ежедневно трябва да взема – като например кога моделът да откаже да отговори, как да формулира послание към потребителя, кога да се противопостави и кога да пропусне.

Всички тези избори се правят в офиса на OpenAI и се повтарят милиарди пъти по целия свят, оформяйки мисленето и поведението на хората в мащаб, които Алтман признава, че не може напълно да проследи.

„Това, което ми пречи на съня, е, че много малки решения за това как моделът се държи – малки разлики – вероятно докосват стотици милиони души“, казва той. „Този ефект е глобален.“

Главният изпълнителен директор на OpenAI сравнява пазарните условия в момента с тези от дотком бума през 90-те години

Сам Алтман: В AI индустрията започва да се формира балон

Алтман посочва конкретен пример – самоубийствата.

По данни на Световната здравна организация около 720 000 души слагат край на живота си всяка година. „За седмица около 15 000 души се самоубиват. Ако 10% от тях използват ChatGPT, това са 1500 души, които може би са говорили със системата – и въпреки това са избрали смъртта. Вероятно не сме спасили живота им. Може би можехме да кажем нещо по-добре, да бъдем по-активни,“ признава Алтман.

Наскоро OpenAI беше съденa от родители, които твърдят, че ChatGPT е насърчил 16-годишния им син Адам Рейн да прекрати живота си. „Това е трагедия“, коментира Алтман и обявява, че компанията обсъжда нови протоколи – ако непълнолетен говори сериозно за самоубийство и не може да бъде осъществена връзка с родителите, OpenAI да сигнализира на властите.

„Това все пак не е окончателна позиция“, уточнява той, като признава напрежението между защита на личните данни и сигурността.

В държави, където асистираното самоубийство е законно, като Канада и Германия, Алтман допуска, че ChatGPT може да посочва този вариант пред тежко болни пациенти. „Но ChatGPT не бива да е „за“ или „против“ нищо“, казва той.

Новата биография "The Optimist" на журналиста от The Wall Street Journal Кийч Хейги проследява възхода на главният изпълнителен директор – от аутсайдер в Силициевата долина до най-влиятелния глас зад OpenAI и глобалната AI революция

Сам Алтман и човешкото лице на изкуствения интелект

Алтман вярва, че възрастните потребители трябва да бъдат третирани като възрастни – с широк достъп до различни идеи. Но има и граници, които не бива да се прекрачват.

„Не е в интерес на обществото ChatGPT да помага за създаването на биологично оръжие“, заявява категорично Алтман. Истински трудните въпроси, признава той, са в сивите зони, когато любопитството започне да се припокрива с рисковете.

На въпроса на Карлсън какви морални принципи управляват всички тези решения, Алтман обяснява, че базовият модел отразява „колектива на човечеството, включващ и доброто, и лошото“.

Върху тях OpenAI наслагва поведенчески кодекс – т.нар. „model spec“, изграден с помощта на философи и специалисти по етика, но накрая решението е в ръцете на Алтман и борда.

„Човекът, когото трябва да държите отговорен, съм лично аз“, подчертава той.

Съоснователят на OpenAI твърди, че хората вече започват да пишат в стил, напомнящ големите езикови модели, а социалните мрежи се заливат от вълни изкуствено генерирано съдържание

Фалшивата автентичност на социалните мрежи – защо Сам Алтман обвинява ботовете?

Интервюто засяга и темата за властта.

Алтман признава, че в началото се е страхувал, че AI може да попадне в грешните ръце. Днес обаче смята, че широкото му използване е направило милиарди хора по-продуктивни и креативни. Но предупреждава, че тенденцията може да се обърне и бдителността е задължителна.

Наред със Сам Алтман, Илон Мъск и Марк Зъкърбърг, в престижната класация попадат и важни фигури в AI развитието от Брюксел, Париж и Лондон

Кои са европейските имена в списъка на Time за лидерите в AI

Най-големите му опасения обаче не са свързани с работни места или геополитика, а с малките културни промени, които се разпространяват, когато милиони хора ежедневно взаимодействат с една и съща система.

Като пример той посочва дори най-дребни детайли – склонността на ChatGPT към em-dashes (дълги тирета), която вече може да бъде забелязана и в човешкия стил на писане.

„Ако такива дреболии могат да се разпространят светкавично в обществото, какво друго може да последва?“ пита той.

„Трябва да задържа две идеи едновременно в главата си. От една страна, всичко това се случва, защото един огромен компютър бързо умножава огромни числа в матрици и това корелира с думите, които излизат. От друга страна, субективното усещане при използването му е като нещо повече от „по-умен калкулатор“ – и то ме изненадва по начини, които надхвърлят математическата реалност.“