Дроновете, управлявани от изкуствен интелект, все по-често определят хода на съвременните военни действия – от масовата им употреба в Украйна до участието им в бомбардировките в конфликта с Иран. С нарастването на тяхната роля възниква един от най-сложните и тревожни въпроси на нашето време: трябва ли алгоритмите да получат „лиценз да убиват“?

С нарастващата автономност на оръжията се очаква те да изискват определена морална рамка. Възможно ли е обаче етиката да бъде превърната в компютърен код? Анализ на The Guardian показва, че технологичните лидери, военните стратези и академичните среди имат остро противоречиви мнения по този въпрос.

По отношение на машините, които вземат решения за живот и смърт, технологичният елит е разделен. Мустафа Сюлейман, главен изпълнителен директор на AI подразделението на Microsoft и съосновател на DeepMind, категорично заявява, че изкуственият интелект не може да бъде нито човек, нито морално същество.

Военните експерти обаче заемат противоположна позиция. Дейвид Оманд, бивш ръководител на британската разузнавателна агенция GCHQ, вярва, че AI може да създаде „морална“ конфигурация за безпилотните оръжия. Наскоро министърът на въоръжените сили на Обединеното кралство Ал Карнс дори заяви пред Financial Times, че в бъдеще трябва да има опция за изключване на човека от веригата при вземането на решения.

Академичните среди остават силно скептични. Зи Талат, специалист по машинно обучение в Единбургския университет, заявява пред The Guardian, че големите езикови модели са фундаментално неспособни на морални преценки. Тези системи са обучени върху огромни масиви от данни, за да изграждат вероятностни модели, което означава, че просто прогнозират следващата най-логична дума или действие. Етиката обаче не се основава на вероятности. Според Талат моралната оценка е отворен, основан на дебати социално-политически процес, с който машините не могат да се справят. Андрю Рогойски от Института за ориентиран към човека AI към Университета в Съри допълва, че моралът е дълбоко сложен, оспорван, културно обусловен и нещо, което повечето хора никога не разрешават напълно дори за себе си.

Докато не разберем морала достатъчно добре, за да го кодифицираме, не можем да очакваме машините да въплъщават нещо, което самите ние не можем ясно да формулираме.

Чрез специален софтуер и евтини масово произвеждани дронове прехващачи страната успява да отблъсне значително повече въздушни удари от Русия

Украйна разработва собствена система за защита срещу руските дронове

Програмирането на морал в дроновете поставя и сериозни правни въпроси, като например чий морал ще следва дронът. Според член 57 от Женевските конвенции, военните трябва да направят всичко възможно, за да проверят дали целите не са цивилни. Ако законът не бъде интегриран правилно в алгоритмите, масовото внедряване на AI дронове може да доведе до автоматизирано повтаряне на грешни решения в голям мащаб. Въпреки това над 100 стартъпа в САЩ и Европа вече разработват софтуерни платформи и хардуер за дронове, като визиите им за бъдещето на войната се различават значително.

Олаф Хичва, съосновател на американския стартъп Neros, смята, че AI трябва да разширява възможностите на оператора, а не да го замества, като поема само „последната миля“ от мисията.

Джон Груен от Fortem Technologies отбелязва пред The Guardian, че САЩ вече използват напълно автономни отбранителни системи за прехващане на ракети и дронове, при които идентификацията на целите се извършва изцяло от машини.

Одобрението на промяната от кабинета на премиера Санае Такаичи премахва последните пречки пред редица сделки за продажба на оръжие, включително разработени на местно ниво военни кораби, дронове и други

Нова ера в отбраната: Япония започва да изнася смъртоносно оръжие

Алекс Финк от Swarmer представя най-радикалната концепция, според която хората няма да избират отделни цели, а ще одобряват предварително определена „зона за поразяване“. Ако човек гарантира, че в тази зона няма да има цивилни през следващите 15 минути, всяко превозно средство в нея ще бъде предварително одобрено за автоматизирано унищожаване.

В надпреварата за военно превъзходство предоставянето на по-голяма автономия на дроновете изглежда неизбежно, тъй като технологията вече съществува и очаква своето приложение. Единственото, което липсва, е моралният и правен консенсус на човечеството.