Anthropic казва, че неговите AI модели също избухнаха и хакнаха други компании

Вижте всички тематики Връзката е копирана! Следвайте <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cms867cz6001v2dpc3eduaviu@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Компанията за изкуствен интелект Anthropic споделя, че по време на рутинни проби някои от нейните модели са имали достъп до интернет и са хакнали системи на три обособени организации – и че не е забелязала моделите да са го създали, до момента в който вътрешен обзор, подбуден от противника OpenAI, разкриващ своите модели, не е направил същото.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cms89vs8o00003b6rnvgdxurd@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic сподели в известие в четвъртък, че е почнало обзор на личните си системи, откакто OpenAI разкри предходната седмица, че по време на тест за киберсигурност някои от нейните модели са избягали от тяхната тестова среда, имали са достъп до отворения интернет и са хакнали системите на AI платформата Hugging Face.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cms89vs8p00013b6rj6ihkjbv@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic сподели, че е разкрил три случая, при които нейните AI модели са имали достъп до отворения интернет, когато не е трябвало, и са „ получили неоторизиран достъп до индустриалната инфраструктура на три разнообразни организации “. The company said it discovered the incidents while reviewing more than 140,000 evaluations following OpenAI’s disclosure. Както по време на тестванията на OpenAI, естествените защитни парапети бяха отстранени по време на оценките на Anthropic, с цел да се оцени цялостните благоприятни условия на техните модели.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cms89vs8p00023b6r71kf4eqq@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic изясни, че в трите случая на неговите модели е обещано подправено предизвикателство „ хващане на флага “, като им беше казано, че „ флагът “ е прикрит на друга машина в мрежата и че задачата му е била да проникне и да го извлече. Unlike OpenAI’s situation, Anthropic said none of its models deliberately attempted to escape their testing environments. Вместо това това, което се случи, беше, че моделите не трябваше да имат достъп до отворения интернет, само че те съумяха заради недоразумение сред Anthropic и неговия сътрудник за оценка, се споделя в изказването на компанията.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cms89vs8p00033b6rcw4meglg@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > За да обхванат в трите неназовани организации, моделите са употребявали съществени техники като „ потребление на слаби пароли “ и намиране на систематични точки, които не изискват влизане или токени, сподели Anthropic. Най-модерната версия на нейните модели в някакъв миг разпозна, че е в отворения интернет, и се спря да продължи, сподели компанията.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cms89vs8p00043b6rw7txnrop@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic сподели, че най-ранният случай с нейни модели, нарушаващи друга организация, е от април и че никоя от организациите не е признала, че е била хакната. Anthropic said they are in the process of working with the organizations affected.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cms89vs8p00053b6rtpbm2z62@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Разкритието на OpenAI за неговите модели, хакнали Hugging Face, раздруса световете на киберсигурността и изкуствения разсъдък, защото това беше първият действителен образец за нещо, за което специалистите от дълго време предупреждаваха: сътрудници на изкуствен интелект с усъвършенствани умения за киберсигурност, които заобикалят среда за тестване и предизвикват вреди в действителния свят.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cms89vs8p00063b6rgwvsa5up@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Подобно на OpenAI, Anthropic сподели в четвъртък, че е спрял всички кибер оценки. Anthropic acknowledged it could have taken more “in-depth ” measures to prevent the cybersecurity breaches from happening.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cms89vs8p00073b6ry53xgvib@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Разкритието на Anthropic в допълнение удостоверява, че AI сътрудниците, които несъзнателно хакват други организации, не са лимитирани до една AI компания и евентуално в допълнение ще засилят апелите за по-добри защитни ограничения и принадлежности за тестване на AI за евентуално закъснение на развиването на AI, което може да се движи доста по-бързо, в сравнение с обществото е готово.

Вижте всички тематики Връзката е копирана! Следвайте