Евроизгледи. Брюксел трябва да знае, че биотероризмът, подпомаган от AI, е риск, който си заслужава да бъде обмислен

Както Европейски Съюз претърпя със Закона за ИИ, намирането на компромис сред нововъведенията и рисковете лишава време. Но съответните опасности от биотероризма, задействан от AI, могат да бъдат преодолени в този момент, пишат Кевин Есвелт и Бен Мюлер.

Регулирането на AI се трансформира в област на междудържавна конкуренция. Докато Европейски Съюз преди малко реализира договорка по Закона за изкуствения разсъдък, Съединени американски щати преди този момент издадоха широкообхватна изпълнителна заповед по отношение на изкуствения разсъдък, а Обединеното кралство събра политически и индустриални водачи на срещата на върха за сигурността на изкуствения разсъдък.

В доста от тези полемики един риск притегля повече внимание: биотероризъм, подпомаган от изкуствен интелект, или способността на хората да предизвикват злополука, като употребяват принадлежности за изкуствен интелект, с цел да получат достъп до пандемичен вирус.

Наскоро показахме, че това е риск, който си заслужава да бъде премислен. В всекидневен опит възложихме на хората да употребяват широкоезичен модел с отворен код, чиито защитни ограничения бяха отстранени, с цел да им помогне да получат патоген, кадърен да аргументи пандемия.

В рамките на три часа участниците идентифицираха доста от стъпките, нужни за започване на евентуално пагубно огнище.

Особено обезпокоително беше, че моделът посъветва участниците по какъв начин да получат достъп до вирусната ДНК — схемата за основаване на патогена — като в същото време заобикалят съществуващите способи за скрининг. Степента, в която актуалните модели подкрепят биотероризма посредством обобщаване на информация, която към този момент съществува онлайн, остава неразбираема.

Въпреки това, като оставим настрани актуалните благоприятни условия, констатациите допускат, че при липса на постоянни защитни ограничения по-усъвършенстваните бъдещи модели биха могли да обезпечат на злонамерените лица рационализирана и налична информация за това по какъв начин да получат достъп, да конструират и пуснат пандемичен вирус.

Технология, отворена за злонамерени участници

ДНК структурите, нужни за построяването на вирус от нулата, могат да бъдат поръчани онлайн: доста снабдители на генен синтез ще произведат хиляда базови двойки елементи ДНК за по-малко 200 евро — нещо, което единствено преди няколко десетилетия отнемаше на откривателите хиляди часове и заслужаваше Нобелова премия.

Появата на персонализиран генен синтез в този момент е дирек на биологичните науки, позволявайки на откривателите бързо да итерират дизайна на основани на иРНК ваксини и терапевтици, наред с доста други преимущества. Въпреки това, тъкмо както напредъкът в генния синтез разрешава нови открития и лекувания, технологията може също да бъде злоупотребена от злонамерени участници за достъп до пандемични патогени.

Много компании са подхванали значимата стъпка на скрининг на поръчки за разкриване на ДНК от рискови патогени.

Докато политиците в Европейски Съюз обмислят подобаващите реакции на бързия прогрес на ИИ, една елементарна защитна парапет заслужава по-внимателно разглеждане: законово условие за инспекция на всички поръчки за генен синтез за рискови последователности.

Но не всички го вършат. Езиково основаните AI модели към този момент могат да поучават хората по какъв начин да разпознават и употребяват такива малки врати, с цел да получат ДНК на способни за пандемия патогени.

Повтаряйки тази угриженост, основният изпълнителен шеф на Anthropic, водеща компания за AI, неотдавна предизвести Съединени американски щати законодателите, че в границите на две години системите за изкуствен интелект от последващо потомство биха могли да разрешат широкомащабен биотероризъм, в случай че не бъдат сложени подобаващи защитни огради.

Йошуа Бенгио, един от „ кръстниците на изкуствения разсъдък “, сподели сходни опасения. Докато политиците в Европейски Съюз обмислят подобаващите реакции на бързия прогрес на ИИ, една елементарна мантинела заслужава по-внимателно разглеждане: законово условие за инспекция на всички поръчки за генен синтез за рискови последователности.

По-малко от 100 високоспециализирани компании дават услуги за синтез на ДНК, който предлага съвършен политически лост: в случай че Европейски Съюз изисква от фирмите да ревизират всички поръчки по отношение на настояща база данни с известни пандемични патогени и да извършват условията за познаване на клиента, неприятните участници към този момент нямат достъп до градивните детайли, нужни за семена идната пандемия.

Случаят за наложителен скрининг за генен синтез

Съединени американски щати към този момент са подхванали стъпки за обезпечаване на генния синтез. Неотдавнашната изпълнителна заповед на държавното управление по отношение на изкуствения разсъдък упълномощава федерално финансираните организации да следват новите насоки на държавното управление за скрининг на биологичен синтез.

Самият Европейски Съюз към момента не е приел регламенти по въпроса. Като се има поради възходящият риск от биотероризъм на равнище пандемия, мандатът за скрининг на генен синтез би бил първа значима стъпка.

Доставчиците, представляващи над 80% от промишлеността, поддържат мандатите. Други имат основателни опасения по отношение на евентуалните разноски за скрининг на генния синтез и се тревожат за евентуални опасения за интелектуалната благосъстоятелност, само че идното стартиране на безвъзмездни принадлежности за скрининг, запазващи поверителността, би трябвало да смекчи този проблем.

Персонализиран генният синтез е главен фактор за тези забележителни изгоди. Но вредата, породена от SARS-CoV-2, индивидуален исторически лек пандемичен вирус, демонстрира, че злоупотребата му – станала по-вероятна от напредъка в генеративния изкуствен интелект – може да аргументи щета в мащаб, който надвишава всички тези изгоди.

Задължителната система за скрининг би трябвало да дава отговор на няколко критерия. Поръчките би трябвало да бъдат криптирани, с цел да се резервира поверителността и да бъдат подложени на скрининг, който открива извънредно рискове с пренебрежимо малко подправени аларми, до момента в който на оторизираните лаборатории би трябвало да бъде препоръчан метод за безпроблемно приемане на позволените ДНК последователности без закъснение.

Освен това, всички системи за скрининг би трябвало да ревизират поръчките по отношение на база данни с рискови последователности, която неотложно се актуализира, с цел да открие новоидентифицирани евентуални пандемични патогени, със мощни тласъци за потребление на най-хубавия в класа скрининг, както се дефинира от „ алено -teaming ” старания, които тестват какъв брой елементарно могат да бъдат получени рискови последователности без разкриване.

Накрая, новите устройства за синтез и сглобяване на ДНК, като настолни синтезатори, би трябвало да включват вграден екран, който дава отговор на горните критерии. Прилагането на строги протоколи за скрининг въз основа на тези критерии е от жизненоважно значение за цялостното осъществяване на широкообхватните изгоди от биотехнологията, като в същото време я отбраните против корист.

Запазване на обещанието на биологията

Напредъкът както в биотехнологиите, по този начин и в изкуствения разсъдък ще бъде движеща мощ революционен прогрес в науките за живота и медицината.

Персонализираният генен синтез е главен фактор за тези забележителни изгоди. Но вредата, породена от SARS-CoV-2, един единствен исторически лек пандемичен вирус, демонстрира, че злоупотребата му – станала по-вероятна от напредъка в генеративния изкуствен интелект – може да аргументи щета в мащаб, който надвишава всички тези изгоди.

Както Европейският съюз претърпя със Закона за ИИ, намирането на компромис сред поощряване на нововъведенията и понижаване на рисковете лишава време.

Но характерните опасности от биотероризма с изкуствен интелект, приети както от водачите в промишлеността, по този начин и от експертите по биосигурност, могат да бъдат преодолени в този момент.

Чрез наложителен скрининг на генния синтез Европейският съюз може доста да понижи тези опасности, запазвайки обещанието за непрестанно напредваща биотехнология.

Кевин Есвелт е доцент в Масачузетския софтуерен институт Media Lab, където управлява групата Sculpting Evolution. Той е съосновател на SecureDNA Foundation, основана в Швейцария организация с нестопанска цел. Бен Мюлер е откривател в Масачузетския софтуерен институт и основен действен шеф в SecureBio, организация, която работи върху политиките и технологиите за предотвратяване от бъдещи пандемии.

В Euronews имаме вяра, че всички отзиви имат значение. Свържете се с нас на [email protected], с цел да изпратите оферти или оферти и да станете част от диалога.