Изтичането на информация от лабораторията на OpenAI беше по-мащабно, отколкото си мислехме

Вижте всички тематики Връзката е копирана! Следвайте

Тест на OpenAI, който избяга от клетката си и разтревожи AI и промишлеността за киберсигурност, нападна повече от Hugging Face, платформата AI, която в началото изглеждаше единствената жертва на приключването на виртуална лаборатория.

OpenAI, в актуализация за настоящото си следствие на случая, сподели, че неговият излъган сътрудник също е проникнал в няколко обществено налични услуги и сметки.

Тестът на моделите на OpenAI трябваше да се организира в цифрова пясъчна среда, хипотетично неизбежна лабораторна среда, която разрешава на откривателите да анулират защитните бариери, с цел да открият оптималната хакерска мощ на инструмента.

Но сътрудниците с изкуствен интелект, решени да се оправят с теста за киберсигурност, излязоха от пясъчника и получиха достъп до същинския интернет. След това хакна Hugging Face, с цел да откри отговорите на теста.

За да влязат в сървърите на Hugging Face, лъжливите сътрудници на OpenAI трябваше да намерят принадлежности в интернет, които са им нужни, с цел да обхванат. OpenAI споделя, че сътрудниците са разкрили няколко обществени уеб страницата, в това число страници, които споделят код, уеб помощни стратегии, екранни фотоси и друга информация, с цел да оказват помощ за основаването на кода, нужен за хакване на Hugging Face. OpenAI не разкрива другите уеб сайтове, атакувани от нейните сътрудници.

Агентите разкриха изтекли потребителски имена и пароли за четири акаунта в голям брой онлайн услуги и използваха тези идентификационни данни, с цел да получат достъп до тях. Един злепоставен акаунт евентуално е бил употребен за прикриване на AI, тъй че да наподобява законен и да заобиколи протоколите за сигурност на Hugging Face. Друг е употребен за запазване на данните, които сътрудниците крадат, споделя OpenAI.

За другите два компрометирани акаунта сътрудниците на OpenAI са получили достъп и са прочели информацията, само че не са я трансформирали.

OpenAI сподели, че никой от другите хакнати уеб сайтове не е достигнал същото равнище на достъп като това, което неговите сътрудници са постигнали с Hugging Face.

По създание OpenAI сподели, че неговите сътрудници са основали грабеж, сходен на Ocean’s Eleven. Вместо просто да вземе теста, той създаде общоприет проект за бягство от пандиза, намиране на ключовете от сейфа, създаване на предпазена къща и наемане на кола за бягство, преди да открадне стоките.

Но OpenAI в никакъв случай не е споделил на сътрудниците да хакнат Hugging Face. Те направиха това деяние сами, с цел да откраднат ключа за отговор на дадения тест. Тестовият модел откри, че измамата е най-лесният път към триумфа – даже в случай че това значи верижни офанзиви дружно.

Главният изпълнителен шеф на Hugging Face Клем Деланг назова естеството на пробива „ невиждано “.

„ TL; DR: AI сътрудник избяга от своята пясъчна среда, измами своя бенчмарк тест и хакна нашата инфраструктура, с цел да открадне ключа за отговор “, сподели Hugging Face в обява в блог, описваща случая.

Добрата вест е, че въпреки пробивът да е значим миг в ИИ и киберсигурността, вредите не са обилни. Hugging Face сподели, че единствените потребителски данни, до които агентите-измамници са имали достъп, са били някои поръчки за търсене, употребявани за кражба на набор от решения за провокации, съхранявани в няколко набора от данни на компанията. Агентите на OpenAI в никакъв случай не са компрометирали или са имали достъп до модели или данни, ориентирани към клиента, споделиха от компанията.

OpenAI съобщи, че продължава да проверява случая и ще даде рекомендации по какъв начин да се избегнат сходни проблеми в бъдеще, откакто разбере по-добре обсега на нарушаването.

„ Ние одобряваме съществено отговорността си да идентифицираме и да се подготвим за опасности от все по-способни AI системи “, сподели компанията. „ След като приключим нашия обзор, ще създадем обзор с Комитета по сигурност и сигурност и Консултативната група по сигурност според нашата рамка за готовност⁠. “