Евроизгледи. Брюксел трябва да знае, че биотероризмът, подпомаган от AI, е риск, който си заслужава да бъде обмислен

Както ЕС преживя със Закона за ИИ, намирането на компромис между иновациите и рисковете отнема време. Но конкретните рискове от биотероризма, активиран от AI, могат да бъдат преодолени сега, пишат Кевин Есвелт и Бен Мюлер.

Регулирането на AI се превърна в област на междудържавна конкуренция. Докато ЕС току-що постигна сделка по Закона за изкуствения интелект, САЩ преди това издадоха широкообхватна изпълнителна заповед относно изкуствения интелект, а Обединеното кралство събра политически и индустриални лидери на срещата на върха за безопасността на изкуствения интелект.

В много от тези дискусии един риск привлича повече внимание: биотероризъм, подпомаган от изкуствен интелект, или способността на хората да причиняват катастрофа, като използват инструменти за изкуствен интелект, за да получат достъп до пандемичен вирус.

Наскоро показахме, че това е риск, който си заслужава да бъде обмислен. В неофициален експеримент възложихме на хората да използват широкоезичен модел с отворен код, чиито предпазни мерки бяха премахнати, за да им помогне да получат патоген, способен да причини пандемия.

В рамките на три часа участниците идентифицираха много от стъпките, необходими за започване на потенциално катастрофално огнище.

Особено тревожно беше, че моделът посъветва участниците как да получат достъп до вирусната ДНК — схемата за създаване на патогена — като същевременно избягват съществуващите методи за скрининг. Степента, в която настоящите модели подпомагат биотероризма чрез обобщаване на информация, която вече съществува онлайн, остава неясна.

Въпреки това, като оставим настрана настоящите възможности, констатациите предполагат, че при липса на стабилни предпазни мерки по-усъвършенстваните бъдещи модели биха могли да осигурят на злонамерените лица рационализирана и достъпна информация за това как да получат достъп, да конструират и пуснат пандемичен вирус.

Технология, отворена за злонамерени участници

ДНК конструкциите, необходими за изграждането на вирус от нулата, могат да бъдат поръчани онлайн: много доставчици на генен синтез ще произведат хиляда базови двойки части ДНК за по-малко 200 евро — нещо, което само преди няколко десетилетия отнемаше на изследователите хиляди часове и заслужаваше Нобелова награда.

Появата на персонализиран генен синтез сега е стълб на биологичните науки, позволявайки на изследователите бързо да итерират дизайна на базирани на иРНК ваксини и терапевтици, наред с много други предимства. Въпреки това, точно както напредъкът в генния синтез позволява нови открития и лечения, технологията може също да бъде злоупотребена от злонамерени участници за достъп до пандемични патогени.

Много компании са предприели важната стъпка на скрининг на поръчки за откриване на ДНК от опасни патогени.

Докато политиците в ЕС обмислят подходящите реакции на бързия напредък на ИИ, една проста предпазна парапет заслужава по-внимателно разглеждане: законово изискване за проверка на всички поръчки за генен синтез за опасни последователности.

Но не всички го правят. Езиково базираните AI модели вече могат да съветват хората как да идентифицират и използват такива вратички, за да получат ДНК на способни за пандемия патогени.

Повтаряйки тази загриженост, главният изпълнителен директор на Anthropic, водеща компания за AI, наскоро предупреди САЩ законодателите, че в рамките на две години системите за изкуствен интелект от следващо поколение биха могли да позволят широкомащабен биотероризъм, освен ако не бъдат поставени подходящи предпазни огради.

Йошуа Бенгио, един от „кръстниците на изкуствения интелект“, каза подобни опасения. Докато политиците в ЕС обмислят подходящите реакции на бързия напредък на ИИ, една проста мантинела заслужава по-внимателно разглеждане: законово изискване за проверка на всички поръчки за генен синтез за опасни последователности.

По-малко от сто високоспециализирани компании предоставят услуги за синтез на ДНК , който предлага идеален политически лост: ако ЕС изисква от компаниите да проверяват всички поръчки спрямо актуална база данни с известни пандемични патогени и да изпълняват изискванията за познаване на клиента, лошите участници вече нямат достъп до градивните елементи, необходими за семена следващата пандемия.

Случаят за задължителен скрининг за генен синтез

САЩ вече са предприели стъпки за осигуряване на генния синтез. Неотдавнашната изпълнителна заповед на правителството относно изкуствения интелект упълномощава федерално финансираните организации да следват новите насоки на правителството за скрининг на биологичен синтез.

Самият ЕС все още не е приел регламенти по въпроса. Като се има предвид нарастващият риск от биотероризъм на ниво пандемия, мандатът за скрининг на генен синтез би бил първа значима стъпка.

Доставчиците, представляващи над 80% от индустрията, подкрепят мандатите. Други имат основателни опасения относно потенциалните разходи за скрининг на генния синтез и се тревожат за потенциални опасения за интелектуалната собственост, но предстоящото пускане на безплатни инструменти за скрининг, запазващи поверителността, трябва да смекчи този проблем.

Персонализиран генният синтез е основен фактор за тези забележителни ползи. Но вредата, причинена от SARS-CoV-2, единичен исторически лек пандемичен вирус, показва, че злоупотребата му – станала по-вероятна от напредъка в генеративния изкуствен интелект – може да причини вреда в мащаб, който надвишава всички тези ползи.

Задължителната система за скрининг трябва да отговаря на няколко критерия. Поръчките трябва да бъдат криптирани, за да се запази поверителността и да бъдат подложени на скрининг, който открива изключително опасности с пренебрежимо малко фалшиви аларми, докато на оторизираните лаборатории трябва да бъде предложен начин за безпроблемно получаване на разрешените ДНК последователности без забавяне.

Освен това, всички системи за скрининг трябва да проверяват поръчките спрямо база данни с опасни последователности, която незабавно се актуализира, за да открие новоидентифицирани потенциални пандемични патогени, със силни стимули за използване на най-добрия в класа скрининг, както се определя от „червено -teaming” усилия, които тестват колко лесно могат да бъдат получени опасни последователности без откриване.

Накрая, новите устройства за синтез и сглобяване на ДНК, като настолни синтезатори, трябва да включват вграден екран, който отговаря на горните критерии. Прилагането на строги протоколи за скрининг въз основа на тези критерии е от жизненоважно значение за пълното реализиране на широкообхватните ползи от биотехнологията, като същевременно я защитите срещу злоупотреба.

Запазване на обещанието на биологията

Напредъкът както в биотехнологиите, така и в изкуствения интелект ще бъде движеща сила революционен напредък в науките за живота и медицината.

Персонализираният генен синтез е основен фактор за тези забележителни ползи. Но вредата, причинена от SARS-CoV-2, един единствен исторически лек пандемичен вирус, показва, че злоупотребата му – станала по-вероятна от напредъка в генеративния изкуствен интелект – може да причини вреда в мащаб, който надвишава всички тези ползи.

Както Европейският съюз преживя със Закона за ИИ, намирането на компромис между насърчаване на иновациите и намаляване на рисковете отнема време.

Но специфичните рискове от биотероризма с изкуствен интелект, признати както от лидерите в индустрията, така и от специалистите по биосигурност, могат да бъдат преодолени сега.

Чрез задължителен скрининг на генния синтез Европейският съюз може значително да намали тези рискове, запазвайки обещанието за непрекъснато напредваща биотехнология.

Кевин Есвелт е доцент в Масачузетския технологичен институт Media Lab, където ръководи групата Sculpting Evolution. Той е съосновател на SecureDNA Foundation, базирана в Швейцария организация с нестопанска цел. Бен Мюлер е изследовател в Масачузетския технологичен институт и главен оперативен директор в SecureBio, организация, която работи върху политиките и технологиите за предпазване от бъдещи пандемии.

В Euronews вярваме, че всички мнения имат значение. Свържете се с нас на [email protected], за да изпратите предложения или предложения и да станете част от разговора.

Последвайте ни в