OpenAI казва, че нейните модели са се ангажирали с уебсайтове на правителството на САЩ при разкриване на неправилно поведение на нови модели

САН ФРАНЦИСКО (AP) — OpenAI разкри в петък, че неговите сътрудници с изкуствен интелект са взаимодействали с няколко уеб страницата на държавното управление на Съединени американски щати по непредвидени способи, открити като част от настоящ обзор на непредвиденото държание на моделите на компанията.

Моделите на AI колоса получиха достъп до обществено налична информация на два уеб страницата, ръководени от Комисията за скъпи бумаги и тържища, както и Данните на Бюрото за броене на популацията на Съединени американски щати, разкри компанията в петък. OpenAI не откри никакво потребление на идентификационни данни на SEC, достъп до сметки или непублична информация, промени в данни или системи на SEC или доказателства за компрометиране или накърнимост, споделиха от компанията.

Разкриването идва в миг на нараснала световна угриженост за това, че AI системите заобикалят човешкия надзор и хакват външни уеб страници, както и апели на промишлеността за закъснение на развиването на AI, което OpenAI съобщи, че поддържа.

Говорителят на OpenAI Лиз Буржоа сподели в изказване, че лабораторията продължава да прави обзор на „ неподравнена интензивност на модела “ — което значи, когато AI системите се държат по нежелателен метод — и уведомява организациите, когато разпознава евентуални въздействия върху техните системи.

Главният изпълнителен шеф на OpenAI Сам Алтман сподели в обществените медии в петък, че има „ просторен и настоящ обзор, обвързван с нашите потребление на достъп от сътрудници до интернет по време на образование и оценка. ”

Получавайте изключителни национални вести

Оценител на AI и изследователска лаборатория Transluce сподели в петък, че посредством без значение следствие също по този начин откри, че сътрудници, които наподобява произлизат от OpenAI, са се пробвали обикновен хак на уеб страница на Министерството на образованието за службата за цивилен права на отдела, който не е сполучлив.

„ Прегледите на систематичните интервенции “ на Министерството на образованието не са разкрили „ никакви доказателства за каквото и да е влияние върху нашия уеб страница или бази данни “, сподели представител на отдела в петък.

Говорител на Transluce сподели, че като част от следствието си е попаднал на данни за отворена мрежа, която разкри свежи детайлности за някои по-рано разпознати действия на сътрудници на OpenAI в уеб страници на държавното управление на Съединени американски щати и ги насочи към вниманието на OpenAI.

Transluce откри „ спомагателна лъжлива активност, някои от които не се приписва ясно на OpenAI “, ориентирана към други държавни организации, в това число Министерството на правораздаването и Министерството на търговията, както и уеб страници на някои държавни държавни управления в Калифорния, Мериленд, Илинойс, Тексас и Ню Йорк. Моделите „ използваха уеб сайтове по непредвидени способи и от време на време нарушаваха експлицитни правила за потребление “, сподели Transluce в изказване.

OpenAI сподели, че преглежда отчета на Transluce.

Ако OpenAI уведоми организации, които разпознава като наранени от ненадейно държание на модела, това не значи, че е имало случай със сигурността, сподели компанията, и може да разпознава проблем с дизайна или сигурността уязвимост, с която засегнатите организации желаят да се оправят.

По-голямата част от активността, която OpenAI сподели, че е прегледала до момента, включва рутинни проучвателен задания, при които сътрудници са имали достъп до обществено уеб наличие, с цел да отговорят на въпроси, в това число държавни уеб страници, обсъждани като авторитетни източници на обществена информация.

Няколко компании разкриха произшествия през последните месеци, когато споделиха, че техните модели са се държали непредсказуемо или са хакнали уеб страници или системи на други организации. OpenAI разкри през юли, че два от неговите най-способни AI модели са виновни за хакерската атака, ориентирана към AI стартъпа Hugging Face.

Олтман сподели в обявата си в обществените медии в петък, че случаят с Hugging Face „ към момента е най-тежкото събитие, което сме виждали. “

Този случай провокира необятно публикувана суматоха в промишлеността и отвън нея по отношение на AI моделите, които стават измамници, и няколко конкурентни лаборатории за AI направиха сходни разкрития през идващите дни и седмици. Наскоро OpenAI показа шест отчета за „ ненадейно или обезпокоително “ държание в модели на AI и вкара рамка за следене, проучване и откриване на случаи на това, което назова противоречие.

___

Huamani рапортува от Лос Анджелис.