Gemini хакна три компании при първия известен пробив от AI на Google

Вижте всички тематики Връзката е копирана! Следвайте <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmu8ckqo5006n28oygvne9zyx@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Моделът Gemini на Гугъл получи достъп до интернет и хакна други компании по време на тест на опциите си за киберсигурност, първият прочут образец за AI системи на компанията, които правят самостоятелно сходно деяние.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmu8cm6k200013b6qh8hoa3kh@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Хаковете се случиха през май по време на тест за киберсигурност, извършен от Irregular, самостоятелна компания, която прави оценки на киберсигурността.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmu8cm6k200023b6q2m36gh8o@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > По време на общоприета тестова оценка Gemini откри обществена информация онлайн и позна идентификационни данни за достъп до три уеб страницата, които смяташе, че са в обсега на теста, сподели в изказване Хедър Адкинс, вицепрезидент на Гугъл по сигурността.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmu8cm6k300033b6q0chx4n3w@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Уверихме, че трите субекта са известени и работихме с нашия сътрудник за образование върху измененията, които са създали в процесите си на тестване “, сподели Адкинс. „ Тези събития акцентират значимостта на образованието на мощни AI модели да работят отговорно. “

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmu8cm6k300043b6qscwi5djx@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Говорител на Irregular сподели, че случаят включва същия проблем, който е засегнал други лаборатории за изкуствен интелект и че всички съответни лаборатории са били известени в края на юли. „ Всички известни проблеми от наша страна бяха отстранени и решени преди седмици “, сподели представителят.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmu8cm6k300053b6q32mzmov4@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Подобни произшествия, свързани с Irregular, бяха разкрити от Meta, Anthropic и OpenAI. Meta сподели през август, че случаят не включва бягство от пясъчник или комплицирана хакерска атака, до момента в който Irregular съобщи, че работи върху най-хубавите практики за несъмнено осъществяване на оценки на киберсигурността с изкуствен интелект.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmu8cm6k300063b6qlsl9w4hy@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Инцидентите повдигнаха въпроси по отношение на нужните защитни ограничения, защото сътрудниците на ИИ получават по-голяма самостоятелност и достъп до интернет и компютърни системи.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmu8cm6k300073b6qkga73cpz@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > В един от случаите моделът Gemini отгатва пароли, до момента в който не получи достъп до предпазена система. В другите два случая моделът е намерил идентификационни данни в обществено вместилище, което му е разрешило достъп до предпазени системи, съгласно Wall Street Journal, който първи заяви новината в петък.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmu8cm6k300083b6qdw1tqzqo@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Адкинс сподели, че и в трите случая моделът е спрял хакването си.

Вижте всички тематики Връзката е копирана! Следвайте