Измамните AI модели могат да се самовъзпроизвеждат във вашите интелигентни фурни или телевизори: Anthropic

Ново предизвестие за изкуствен интелект от Anthropic провокира неспокойствие в кръговете за киберсигурност във вторник, ден откакто компанията предизвести, че AI моделите може да са на месеци разстояние от самовъзпроизвеждане в интернет.

В обява късно в понеделник Anthropic повдигна опцията лъжливият AI да завърти ботнет, да се популяризира бързо, да се бори със свалянето опити и даже навлизане в центрове за данни, с цел да подтиква растежа си. Някои специалисти споделиха във вторник, че споделят загрижеността на компанията, макар че най-малко един сподели, че компанията наподобява взе участие в „ пресилване на доставчиците “.

Публикацията от понеделник посочи предизвестие предишния месец от изпълнителния шеф на Anthropic Дарио Амодей, който изложи концепцията, че в границите на идната година или даже по-рано AI може да успее да отвлече „ целия интернет “ с „ непрекъснат ботнет. ”

Експерти по киберсигурност, които отхвърлиха сюжета за края на света, твърдяха, че моделите ще бъдат прекомерно огромни, с цел да се движат дейно и не могат да употребяват задоволително компютърна мощ, с цел да работят без значение.

Публикацията направи ранен опит да се формулира по какъв начин тези провокации могат да бъдат преодолени. Компанията сподели, че нейните опити демонстрират, че приблизително огромни AI модели с 30 милиарда параметри или по-малко към този момент могат да извършват доста от обособените задания, нужни за самовъзпроизвеждане, даже в случай че се борят да завършат надеждно целия развой.

Получавайте изключителни национални вести

Anthropic сподели, че по-късно моделите могат да свържат нужните калкулации посредством похищение на евтини свързани с интернет устройства. Добавено е, че моделите са били в положение да се репликират в опростена тестова мрежа.

„ Репликатор като този би бил сложен за изключване, защото няма централизирана точка за изключване “, споделиха от компанията.

Докладът прибавя по-широки опасения по отношение на рисковете за сигурността, свързани с все по-способните AI системи, в това число техния капацитет да автоматизират хакерски атаки, да работят с стеснен човешки надзор и да заобикалят защитни ограничения.

Напредъкът в моделите провокира поредност от постоянно ужасни предизвестия от ръководители на промишлеността и чиновници на AI компании за опцията от съществени, даже екзистенциални, опасности от ненадейно развиване на AI.

Някои специалисти по киберсигурност бяха скептични.

„ „ Успяхме да пуснем дребен модел на евтини тв приемници “, рецесията в сигурността не е от голяма важност “, сподели Киаран Мартин, някогашен началник на Британският народен център за киберсигурност. Той сподели, че обявата е възприета като „ забавен механически документ с повече от намек за пресилване на доставчика “.

Други показаха по-голяма угриженост.

Zhengxiong Li, помощник по компютърни науки и инженерство в Университета на Колорадо Денвър, сподели, че макар че тестването е осъществено в следени условия, той към момента намира за обезпокоително, че AI може дейно да се трансформира в „ червей “, самовъзпроизвеждаща се стратегия, която може да импровизира способи за похищение на устройства в придвижване.

„ Ако работи на доста устройства, без да зависи от централна услуга, може да няма едно място, където да се изключи “, сподели той.

Anthropic сподели, че в случай че по-малките модели продължат да се усъвършенстват с историческата си скорост, те биха могли да доближат потенциала, нужен за самостоятелна репликация до края на 2026 година Той също по този начин пусна концепцията че моделите могат да намерят способи да се насочат към по-мощни изчислителни запаси, в това число процесори за центрове за данни, които евентуално биха могли да им разрешат да черпят от доста по-големи масиви от компютърна мощ.

Един откривател сподели, че има смисъл да се мисли за обявата на Anthropic като по-скоро като хипотетика, в сравнение с като прогноза.

Имаше смисъл да се обмисли опцията AI моделите да се популяризират самостоятелно поради последните три месеца на разкрития за лъжлива активност на AI, сподели Джесика Джи, старши проучвателен анализатор в Центъра за сигурност и нововъзникващи технологии в Джорджтаун. Но тя сподели: „ Все още не знаем каква е вероятността това в действителност да се случи – не е нула, само че не е и обезпечена. “