Трима момчета хакнаха OpenAI, използвайки съперничещ Anthropic модел. Ето какво показва за уязвимостите на граничните лаборатории.

Трима откриватели на киберсигурността в Индия съумяха да хакнат OpenAI, употребявайки конкурентен AI модел от Anthropic, разкривайки, че усъвършенстваният изкуствен интелект може да изложи самите компании и техните консуматори на риск от офанзива. 

Мохан Педхапати, един от тримата откриватели от компания, наречена Hacktron, които проникнаха в OpenAI, сподели, че по-напредналите AI модели разрешават на ветерани хакери като него да правят работата си доста по-лесно – и покачват рисковете нарушителите да създадат същото. Той разказа всеки нов модел като " умножител на мощ ", който дава опция за хакване. 

„ С напредването на моделите те стават доста способни в киберпространството “, сподели той. 

В отчет, оповестен предходната седмица, Hacktron разказва в детайли по какъв начин в края на юли са употребявали модели на Claude, с цел да обхванат в потребителите на форума на общността на OpenAI. Форумът е място, където потребителите на ChatGPT и Codex, сътрудникът за шифроване на OpenAI, могат да отидат, с цел да задават въпроси по отношение на продуктите. Потребителите могат да влизат със своите OpenAI сметки. 

Изследователите на Hacktron използваха Claude Opus 4.8, с цел да открият пропуски в кода на услуга на трета страна, наречена Discourse, употребена за форума на общността OpenAI. Те се пробваха да употребяват Opus 4.8, с цел да употребяват минуса, само че бяха несполучливи. Същата вечер обаче беше пуснат по-усъвършенстван модел, Claude Opus 5. 

На идващия ден екипът на Hacktron съумя да получи достъп до сметките на ChatGPT и Codex на подгрупа консуматори на OpenAI, които бяха във форума на общността. Това беше още едно увещание за светкавичната скорост на развиването на ИИ – по какъв начин в този случай, безусловно за една нощ, опциите могат да се трансформират в света на ИИ. 

След като Hacktron получи достъп до ChatGPT и Codex сметките на потребителите, откривателите споделиха, че те също биха могли да получат достъп до приложения, свързани с тези сметки, в това число имейл приложения и Slack. Те имаха опцията да видят каквито и диалози да водят потребителите в ChatGPT. Някои от тези консуматори включваха чиновници на OpenAI, чиито сметки бяха свързани и с други приложения, като вътрешен имейл на OpenAI. 

„ Всичко, за което говорите с ChatGPT [за] — може да го изтече. Можем да получим достъп до него “, сподели Педхапати. „ Мога да виждам каквото и да говорите с ChatGPT. Като всички персонални неща или частни неща. “

Wall Street Journal първи заяви за отчета OpenAI на Hacktron. 

Обичайно е огромните софтуерни компании да оферират „ награди за неточности “. Това са заплащания, направени на външни откриватели по сигурността — от време на време наричани „ етични хакери “ — които откриват уязвимости в сигурността в цифровата инфраструктура на по-голямата компания. Намерете минус, документирайте го и го споделете с компанията и може да получите премия - хиляди долари или, рядко, милиони. 

OpenAI предложи няколко награди за неточности. Това е, което Hacktron правеше, когато проникна. Тяхната цел беше да оказват помощ на OpenAI, като посочат пропуски в тяхната сигурност и по-късно получат достъп до един от техните по-способни кибер модели, които имат по-малко защитни огради. 

„ Ние сме положителните момчета “, сподели Педхапати.

Педхапати сподели, че биха му лишили два до три месеца, с цел да извърши хак като този без помощта на Клод. 

„ Това е аз, който го върша самичък без непозната помощ “, сподели той. " Но в случай че добавите тези модели, това трансформира уравнението. " Цялото хакване лиши на екипа на Hacktron по-малко от три дни. 

Оттогава бяха пуснати по-нови модели както от Anthropic, по този начин и от OpenAI, и Pedhapati пресмята, че в този момент може да му отнеме по-малко от ден, с цел да извърши подобен хак. Pedhapati и дребният екип на Hacktron също са хаквали Apple, Гугъл, Фейсбук, Discord и Microsoft Teams в предишното, сподели той. 

Pedhapati се тормози, че компании като OpenAI не са толкоз сигурни, колкото би трябвало, като се има поради какъв брой мощни са техните AI модели. 

„ Трябва да приемете, че всеки може да ви хакне и по-късно да изградите нещата си въз основа на това. При тази наклонност мисля, че доста от лабораториите не се оправят добре “, сподели той. „ OpenAI, Anthropic, те просто, съгласно мен, работят бързо. “

Екипът на Hacktron не трябваше да употребява OpenAI непосредствено, с цел да получи достъп до сметките на своите консуматори. Те трябваше единствено да намерят минус в една от многото услуги на трети страни, употребявани от OpenAI. 

„ Всяка компания има взаимозависимост, която е дълбока и дълбока. Не е нужно да намирате накърнимост в самия първоначален код на OpenAI, можете да отидете една стъпка надолу “, сподели Педхапати. „ Той се развива спираловидно и се връща назад към компанията, която го употребява. “

В изказване за CBS News, OpenAI благодари на откривателите за шерването на откритията си.

„ Ние стеснихме разрешенията за токени за влизане в Общността и отменихме засегнатите токени и сесии “, сподели представител на OpenAI. 

Компаниите с изкуствен интелект и техните чиновници, след хакването на Hugging Face, приказват по-открито за загрижеността си по отношение на рисковете за обществото от мощен ИИ. 

„ Както доста технологии преди него, AI носи опасности и защото е толкоз мощна технология, тези опасности са съществени “, сподели неотдавна изпълнителният шеф на Anthropic Дарио Амодей пред CBS News. 

Един от тези опасности е, че самите модели могат да бъдат откраднати, изключително „ тежестите “, които оказват помощ на тези модели да станат толкоз способни. Години наред откривателите се тормозят, че даже в случай че фирмите, разработващи мощни вътрешни модели, не ги разгласяват обществено, задгранични съперници или нарушители отново могат да ги откраднат. Ако дребна компания като Hacktron може да хакне OpenAI за няколко дни, вражеска страна евентуално също би могла да го направи, даже по-бързо. 

" Смятам без подозрение, че технологията на лабораториите е от голяма важност за националната сигурност. Видяхме това от администрацията тук и от държавните управления по целия свят ", сподели Никълъс Лейзерсън, специалист по политиката за киберсигурност в Института за сигурност и технологии.

Въпреки някои скорошни изказвания на водачи на AI, които признават нуждата от закъснение на развиването, прокарването на границата допустимо най-бързо от години е приоритет за лаборатории като OpenAI, сподели Лейзерсън. 

„ Това комфортно място ли е за нас да кацнем? Това ли е някъде, което ние като общество считаме за подобаващото равнище на риск? Защото тъкмо в този момент лабораториите са тези, които дефинират това и ние видяхме къде са кацнали. “