OpenAI търси повече предпазни мерки за наблюдението от Пентагона след сделката за AI

OpenAI договаря за спомагателни защитни ограничения с Министерството на защитата на Съединени американски щати, предопределени да предотвратят всеобщото наблюдаване на американски жители, употребяващи своя AI, до момента в който извършва договорката, небрежно оповестена в петък.

Стартиращата компания за AI на Сам Алтман към този момент е трансформирала договорната дефиниция към наблюдението и се стреми да добави отбрани по време на тримесечния интервал на осъществяване за съглашение.

Правни специалисти и личен състав са проучили деликатно езика в контракта, който не разрешава „ съзнателно “, „ съзнателно “ или „ целеустремено “ наблюдаване, споделиха хора, осведомени с диалозите.

Те показаха угриженост, че държавното управление може да следи американците „ инцидентно “ или „ несъзнателно “, употребявайки съвременни принадлежности за изкуствен интелект, прибавиха хората.

„ Това, което следва да бъде създадено, е осъществяването на [тези договори] “, сподели човек, непосредствен до OpenAI.

Следващата фаза ще обхване въпроси „ оттатък езика на договорите “, в това число къде ще бъде внедрена технологията и механически защитни ограничения, които ръководят по кое време AI моделите може да откажат да следват инструкциите.

„ Предизвикателството за OpenAI е по какъв начин да се направи артикул, който към момента може да се употребява, само че не прави рискови неща “, добави индивидът.

Усилието да се прибавят отбрани по време на осъществяването на договорката с Пентагона идва, когато OpenAI направи неведнъж се пробва да обясни изискванията на контракта си и да успокои опасенията, в това число тези от своя личен състав, по отношение на евентуалната корист с мощния AI на започващия 730 милиарда $.

Подходът на OpenAI опонира на неговия противник Anthropic, който отхвърли да одобри изискванията на контракта заради опасения по отношение на наблюдението.

Алтман призна, че бързането за подписване на договорка, откакто договарянията на Anthropic зрелищно се провалиха в петък, „ изглеждаше опортюнистично и повърхностно “.

Главният изпълнителен шеф на Anthropic Дарио Амодей нападна „ лъжливите “ известия на OpenAI към първичния контракт в записка до личния състав, обявена за първи път от The Information в сряда.

Той упрекна Алтман в „ газово осветяване “ на компанията си, като „ се пробва да подкопае нашата позиция, като в същото време наподобява, че я поддържа “, съгласно бележката, изпратена до личния състав в петък.

Алтман разгласи актуализации на контракта на основателя на ChatGPT в понеделник, които „ не разрешават умишленото следене, наблюдаване или мониторинг на лица или жители на Съединени американски щати, в това число посредством снабдяване или потребление на добита с комерсиална цел персонална информация или информация, която може да бъде разпозната “. през 2013 година, също ще бъдат изключени от договорката, добави той.

Кони ЛаРоса, началник на политиката за национална сигурност на Съединени американски щати на OpenAI, в сряда сподели, че изискванията на защитните ограничения за отбрана против наблюдаване „ към момента се договарят “.

OpenAI отхвърли коментар. Пентагонът не отговори на искане за коментар.

Министърът на защитата Пийт Хегсет настоя фирмите за изкуствен интелект да дават технологията си за „ всички законни цели “.

В договарянията с Пентагона Amodei настоя за гаранции, че неговият изкуствен интелект не може да се употребява за вътрешно всеобщо наблюдаване или в смъртоносни самостоятелни оръжия.

Главният изпълнителен шеф на Anthropic написа в бележката си, че при настоящи условия Политиката на Пентагона, която беше избрана по време на администрацията на Джо Байдън, " човек би трябвало да бъде в примката на пукотевица с оръжие. Но тази политика може да бъде изменена едностранно от Пийт Хегсет, което е тъкмо това, за което се тревожим. "

Amodei също настоя за уговорка, забраняваща на организациите да събират огромни обществени масиви от данни и да употребяват инструментите на Anthropic, с цел да ги проучват, съгласно човек, осведомен с договарянията. Той твърди, че това е законно, само че може да докара до всеобщо вътрешно наблюдаване.

OpenAI твърди, че може да поддържа същите червени линии за наблюдаване и самостоятелни оръжия посредством механически ограничения, като личните си модели защитни ограничения, и като подсигурява, че чиновниците на OpenAI остават „ в течение “ и работят с длъжностни лица.

Amodei отхвърли тези отбрани. „ Подходите, които [OpenAI] подхваща, в множеството случаи не работят: главната причина [OpenAI] да ги одобри, а ние не, е, че те се интересуваха от успокояването на чиновниците, а ние в действителност се интересувахме от предотвратяването на злоупотреби “, написа той.

Правни специалисти споделят, че има липса на изясненост и доверие в сегашния закон за наблюдаване, оставяйки лабораториите за изкуствен интелект в сложна позиция.

„ Поради неналичието на изясненост по отношение на това каква правна и политическа рамка съществува, фирмите допуснаха, че няма политика, няма нищо, няма рамка “, сподели един някогашен върховен чиновник на защитата.

Експертите по цивилен свободи настояват, че актуалните рамки са незадоволителни, защото законът изостава от софтуерните промени.

Mieke Eoyang, някогашен заместник-помощник-министър на защитата за кибер политиката и гостуващ професор в университета Карнеги Мелън, сподели също по този начин, че има въпроси по отношение на „ дали в тази администрация признават или не това равнище на към този момент вградена отбрана в системата “.

Двама някогашни чиновници на държавното управление на Съединени американски щати споделиха, че Белият дом не се е заел обществено със съществуващите правни рамки за попречване на потреблението на AI, нарушаващи гражданските свободи.

Един някогашен почитан чиновник на защитата уточни обстоятелството, че администрацията не е споделила дали е запазила или отменила политиката на Меморандума за национална сигурност на AI, която открива правила за попречване на AI от нарушение на цивилен свободи или човешки права.

Пол Накасон, някогашен шеф на NSA и някогашен началник на Кибер командването на Съединени американски щати, който в този момент седи в борда на OpenAI, на събитие в понеделник сподели: „ Нашето ДНК като хората [е] просто постоянно гледат на държавното наблюдаване като на неприятно. "

„ Трябва да имаме това доверие във връзка с Агенцията за национална сигурност, нашата разследваща общественост, способна да извършва този вид задачи с увереността, че това, което вършим, е по буквата на закона “, добави той.