„ИИ червеите“ скоро може да са в състояние да се самовъзпроизвеждат и заразяват смарт устройства, казва Anthropic
Anthropic бие паника за нов риск, подбуден от изкуствения разсъдък: самовъзпроизвеждащите се „ AI червеи “ скоро могат да заразят вашите „ умни “ домашни устройства.
В отчет, оповестен в понеделник, откривателите на сигурността на Anthropic споделиха, че дребните модели на ИИ може да са единствено „ след месеци “ от приемане на способността да се клонират и да се популяризират в свързани с интернет устройства, като интелигентни фурни, тв приемници и прахосмукачки. Способността да се възпроизвеждат без човешки надзор би затруднила управлението на такива сътрудници, защото няма „ няма централизирана точка за изключване “, споделиха от Anthropic, създали чатбота Claude.
По-силните AI модели към този момент са способни на това, което откривателите нарекоха „ репликация от край до край “, предел, съгласно който по-малките модели биха могли да доближат до края на годината, съгласно Anthropic.
AI червеите, тип задвижван от AI злотворен програмен продукт, могат бързо да се разпространят в мрежи и устройства, като заобикалят откриването, според компанията за киберсигурност Palo Alto Networks.
Умните устройства в домовете на хората, както и устройствата, свързани с интернет, като камери за сигурност, са уязвими, като се има поради, че устройствата с задействан интернет са склонни да имат по-слаби отбрани за сигурност, споделиха откривателите на Anthropic. В това, което те описаха като най-лошия сюжет, рой от AI сътрудници - ботове, които работят дружно, с цел да реализиран обща цел - може да се популяризира в компютърния хардуер, употребявайки " схеми за репликация ".
Изследователите споделиха, че не са сигурни каква форма могат да одобряват тези офанзиви, отбелязвайки, че AI моделите могат да бъдат публикувани като „ цифрова слузеста мухъл “ или като по-мощни модели, способни да хакнат центрове за данни.
„ Трябва да се стремим да втвърдим нашите системи, с цел да затрудним разпространяването на такива репликатори, само че също по този начин да се подготвим да се оправим със свят, в който те са тук, с цел да останат “, пишат в отчета откривателите на Anthropic.
