AI BioWeapon Risk Оставете голи от протеиновата защита на скрининг недостатък

Биотероризма заканите нарастват заради напредъка в изкуствения разсъдък и синтетичната биология, учените предизвести на AI и BioSecurity - термин, употребен в кибер хакерството, с цел да се опише сляпо място, непознато за разработчика на програмен продукт.

Новината акцентира възходящата необходимост за справяне с евентуалните закани, отприщи от потреблението на AI, защото това оказва помощ да се задълбочи и форсира разбирането на живите системи и по какъв начин да ги трансформира. Експертите се стремят да предотвратят основаването на биологични източници и синтетични организми, които биха могли да застрашат живота на Земята.

„ Дизайнът на протеини с зареждане на AI е една от най-вълнуващите граници на науката [и] към този момент следим прогрес в медицината и публичното здраве “, споделя Ерик Хорвиц, основен теоретичен шеф на Microsoft и старши създател на най-новите проучвания, оповестени в науката в четвъртък. „ И въпреки всичко, сходно на доста мощни технологии, същите тези принадлежности също могат да бъдат злоупотребявани. “

Изследователите на научната хартия организираха тест за програмен продукт за биосигурност, употребен за скрининг на поръчки на клиенти от компании, които продават синтетични нуклеинови киселини.

Те се разпростират от клиентите за създаване на ДНК, която инструктира производството на мечтани протеини, градивните детайли на живота. Скринингът на биологична сигурност е планиран да блокира продажбата на материали, които могат да бъдат употребявани за подготвяне на нездравословни протеини.

Изследователите използваха програмен продукт за планиране на протеини с отворен код, с цел да генерират изчислителни рендери на повече от 75 000 разновидността на рискови протеини със структурни ощипвания-вид биохимична укрива. Докато инструментите за скрининг работеха добре за маркиране на естествено срещащи се протеини, те не видяха някои от променените, откриха учените.

Дори и в края на краищата, с изключение на една от фирмите, приложиха софтуерните пластири, към 3 на 100 от разновидностите на протеини, които най -вероятно ще запазят рисковата функционалност, към момента минаха наблюдението на мониторинга.

Учените работиха с организации, в това число интернационалния консорциум за синтез на ген и американските управляващи, с цел да се оправят с казуса.

Изследването идва, откакто някои водещи учени приканиха за систематична оценка на софтуера за скрининг на биосигурност и усъвършенствано световното ръководство на AI-усилвания протеинов синтез.

Високопрофилните биолози също упорстват за интернационално съглашение за попречване на основаването на евентуално смъртоносни „ огледални “ микроби, в случай че стане софтуерно допустимо да ги направи.

Хорвиц съобщи, че е имало „ активност на размисъл, проучване и методология “ за вероятността, че огромни езикови модели могат да бъдат употребявани за по-нататъшни „ малетологични дейности с биологията “.

Microsoft беше присъединил сходни благоприятни условия в своите прегледи за сигурност на продуктите и имаше „ възходящ набор от практики “ за „ червено-екипировка “ или търсене на евентуални уязвимости. Огледални микроби, които биха могли да застрашат живота на Земята

„ посредством въвеждане на целеви усъвършенствания в съществуващия програмен продукт, създателите доста усъвършенстват откриването и маркирането “, сподели Април. „ Тази работа обезпечава практична, навременна защитна мярка, която укрепва настоящия скрининг на синтеза на ДНК и открива солидна основа за непрестанно оптимизация. “

Тези отбрани би трябвало да бъдат засилени скоро заради бързия ритъм на механически усъвършенствания в региона, съобщи Наталио Красноогор, професор по компютърни науки и синтетична биология в университета в Нюкасле. Докато амбициозните биотерористи от днешния ден ще се нуждаят от забележителна експертиза, време и пари, с цел да създадат нездравословни протеини, тези бариери евентуално ще се свият.

„ Ние имаме потребност, защото обществото приема това съществено в този момент “, Красноогор сподели: „ Преди спомагателния прогрес в AI да направи валидирането и пробното произвеждане на жизнеспособни синтетични отрови доста по -лесно и усилването, с цел да се дефинира през днешния ден.