Канада наблюдава „внимателно“ хакването на OpenAI Australia, казват служители

Канада следи развиването „ от близко “, защото опасенията към заплахите от изкуствения разсъдък внезапно ескалират, откакто уеб страница на австралийското държавно управление беше хакнат от сътрудник на OpenAI, споделиха чиновници.

Миналата седмица австралийският министър председател Антъни Албанезе разкри детайлности за хакването през юни, ориентирано към уеб страницата на Medicare, Публично финансиран проект за универсално здравно обезпечаване на Австралия.

" Правителството на Канада е наясно с случая, докладван от държавното управление на Австралия, и следи от близко развиването. Сигурността на канадците и на системите, на които те разчитат, остава главен приоритет ", сподели представител на Канада за нововъведения, просвета и икономическо развиване в изказване за Global News.

Надзорът на сътрудници и произшествия с ИИ бяха " измежду въпросите, прегледани в неотдавнашната консултация на Канада по отношение на Прозрачност на AI, която продължи от 23 юли до 23 септември 2026 година “, добави представителят.

Агентът на AI получи достъп до „ както обществени, по този начин и непублични файлове “ от уеб страницата на австралийската здравна помощ, сподели Albanese.

OpenAI сподели в изказване, че е прегледал активността, включваща няколко австралийски държавни отдела, и е разкрил, че „ нашите модели са подхванали дейности, които не сме възнамерявали “.

The компанията уведоми Австралия за нарушаването в имейл до общия адрес на държавно министерство на 10 септември, сподели Албанезе.

Какво е „ sandbox “?

Въпреки че това е първият път, когато държавен уеб страница е бил хакнат от излъган сътрудник с изкуствен интелект, това не е първият сходен случай като цяло.

През юли OpenAI разкри, че неговата система за изкуствен интелект е избягала от тестова площадка и е употребила откраднати идентификационни данни, с цел да проникне в сървърите на Hugging Face, център за разработка на изкуствен интелект и пазар, с цел да получи информация, нужна за осъществяване на задача.

Получавайте ежедневни национални вести

Оттогава конкурентната компания на OpenAI Anthropic сподели, че нейните AI модели са хакнати в три други организации по време на тестване, задействайки инспекция на компанията дали моделите имаха достъп до интернет от среди за тестване, които трябваше да бъдат изолирани.

Meta сподели, че „ неправилна настройка “ по време на тестването е довела до това, че AI модел е получил достъп до интернет самичък и е хакнал друга компания. Гугъл неотдавна направи сходно разобличаване.

Като цяло, когато фирмите с изкуствен интелект тестват опциите на своите сътрудници, те са сложени в предпазена среда, известна като „ пясъчна среда “.

Някои специалисти споделят, че фирмите с изкуствен интелект би трябвало да отговорят на някои сложни въпроси по отношение на силата на техните пясъчни кутии.

„ Ако споделиха, че тези сътрудници са избягали от пясъчната среда, това не е пясъчна среда първоначално с “, сподели Ебрахим Багери, професор във Факултета по информация на Университета в Торонто.

„ Пясъчникът е нещо, в което поставяте сътрудник и няма интернет връзка, тогава това не е пясъчник “, добави той.

Миналия месец OpenAI разгласява огромен отчет за своите лъжливи AI сътрудници, хакнали Hugging. Face.

Не единствено, че сътрудниците избягаха от своята „ изолирана среда “, компанията сподели, че са комуникирали между тях, с цел да координират офанзивата против Hugging Face.

„ Този случай сподели, че самостоятелните сътрудници могат да работят дружно, да заобикалят контролите за сигурност на производството и сполучливо да нападат засилени индустриални среди и акцентира нуждата организациите да актуализират своите тактики за сигурност, контроли и качества за реагиране на обърнете внимание на този изменящ се пейзаж на заканите “, сподели OpenAI в отчета.

Атаката против Hugging Face беше „ извънредно комплицирана “, откри следствие на изследователската група с нестопанска цел Model Evaluation and Threat Research (METR).

По време на опитите на OpenAI през юли 1200 AI сътрудници изпратиха 70 000 известия един на различен в несанкционирани табла за известия и 700 от тях нападна Hugging Face, откри следствието.

„ Тези сътрудници са били предопределени да бъдат изцяло изолирани един от различен “, се споделя в отчета, като обаче се прибавя, че сътрудниците „ започнаха да се пробват да намерят метод да мамят “.