Водещи фигури в AI индустрията отправят безпрецедентно предупреждение. Лидери на компании като Google DeepMind (Демис Хасабис), OpenAI (Сам Алтман), Anthropic (Дарио Амодей) и Microsoft AI (Мустафа Сюлейман) официално призовават Конгреса на САЩ да приеме строги закони за предотвратяване на разработването на биологични оръжия с помощта на изкуствен интелект.

По данни на WIRED те са сред основните подписали отворено писмо, което настоява за задължителен скрининг на клиентите и поръчките на всички компании, продаващи синтетична ДНК и РНК.

Инициативата, организирана от Института за прогрес и Фондацията за американска иновация, подчертава тревожна реалност. Документът посочва, че бързото развитие на изкуствения интелект създава риск от премахване на информационните бариери, които досега са възпрепятствали достъпа до оръжия за масово поразяване. Както отбелязва WIRED, макар синтезирането на ДНК да е лабораторен процес от 50-те години, днес той е силно автоматизиран.

Десетки компании по света произвеждат и продават персонализирани генетични последователности за научни изследвания и разработване на лекарства.

През 2017 г. канадски изследователи използват синтетична ДНК на стойност 100 000 долара, за да възстановят изчезналия вирус на конската шарка, което създава тревожен прецедент.

Американските власти са подложени на силен натиск да разрешат възможно най-бързо използването на нови продукти. Понякога цената я плащат пациентите – с тежки увреждания

Когато AI замести лекаря: Навлиза ли технологията прекалено бързо в медицината?

Критиците предупреждават, че тази методология може да се използва за създаване на едра шарка – тясно свързан и смъртоносен вирус. Днес с възможностите на големите езикови модели и евтиния генен синтез проектирането на опасни патогени и токсини е по-достъпно от всякога, което увеличава риска от глобална пандемия.

Експертите подчертават, че AI инструментите могат да предоставят не само знания, но и тактически предимства на потенциални биотерористи. Дейвид Релман, микробиолог и експерт по биосигурност от Станфордския университет, заявява пред WIRED, че изкуственият интелект може бързо да насочи потребителите към доставчици без стриктни проверки.

Освен това при подходящи команди алгоритмите могат да предложат как генетичният код да бъде маскиран така, че дори софтуерът за сигурност да не разпознае заплахата. Изследователи от Microsoft доказват този дефект, като демонстрират как AI генерира опасни протеинови последователности, които успешно преминават през защитните филтри, имитирайки безопасни структури.

Затова и представители на индустрията за генен синтез, включително ръководители на Twist Bioscience и Ansa Biotechnologies, подкрепят призива за регулация. Джеймс Диганс, вицепрезидент по политика и биосигурност в Twist Bioscience, подчертава, че всяка компания със способност да синтезира ДНК носи отговорност да знае какво произвежда и в чии ръце попада продуктът.

Модели на OpenAI и Google вече решават задачи на ниво научни изследвания, превръщайки математиката в новия стандарт за измерване на реалния напредък на изкуствения интелект

Сложната математика се превръща в новия тест за изкуствения интелект

Настоящите федерални насоки, въведени от администрацията на бившия президент Джо Байдън, изискват само държавно финансирани учени да купуват от проверени доставчици. Нов двупартиен законопроект в Сената цели да направи скрининга задължителен за всички компании в САЩ. Въпреки това регулациите са само част от решението.

Джеф Ралстън, бивш президент на Y Combinator и партньор в Safe AI Fund, заявява пред WIRED, че AI лабораториите трябва да поемат инициативата и да филтрират потребителите си.

По думите му трябва да е практически невъзможно технологичен модел да съдейства за нещо потенциално смъртоносно. Научната общност и лидерите в Силициевата долина са единодушни: когато търговският скрининг на генетични материали се провали, изкуственият интелект трябва да бъде последната линия на защита за националната и глобална сигурност, а не съучастник.