OpenAI променя сделката с американската армия след обратна реакция

OpenAI споделя, че прави промени в „ опортюнистичното и повърхностно “ съглашение, което подписа с държавното управление на Съединени американски щати по отношение на потреблението на неговата технология в секретни военни интервенции.

В понеделник основният изпълнителен шеф на OpenAI Сам Алтман сподели, че компанията възнамерява да добави език към съглашението си, в това число експлицитна възбрана на потреблението на нейните системи за шпиониране на американци.

Сделката се появи в петък след различия сред съперника на OpenAI Anthropic и Департамента по Отбраната, поради опасенията към потреблението на своя AI модел Claude за всеобщо наблюдаване и в изцяло самостоятелни оръжия.

Но това повдигна въпроси за това по какъв начин AI се употребява във война и какъв брой власт принадлежи на държавното управление и частните компании.

Изявление, направено в събота от OpenAI, твърди, че съглашението му с Пентагона има „ повече защитни огради от всяко предходно съглашение за систематизиран AI внедрявания, в това число тези на Anthropic ".

Но в понеделник Altman разгласява в X, с цел да каже, че се вършат спомагателни промени, в това число гарантиране, че системата му няма да бъде „ съзнателно употребена за вътрешно наблюдаване на лица и жители на Съединени американски щати ".

Като част от новите ремонти, разследващи организации като Агенцията за национална сигурност също няма да могат да употребяват системата на OpenAI без „ следваща трансформация “ на контракта.

Алтман добави, че компанията е направила неточност, като е избързала „ да разкрие това в петък “.

" Проблемите са супер комплицирани и изискват ясна връзка, " сподели той.

" Наистина се опитвахме да понижим напрежението и да избегнем доста по-лош излаз, само че мисля, че просто изглеждаше опортюнистично и повърхностно. "

OpenAI се сблъска с отрицателна реакция от страна на потребителите след оповестяването си, че работи с Пентагона.

Съобщава се, че деинсталиранията всеки ден на мобилното приложение Chat GPT на компанията са скочили до 295% в събота, спрямо типичните 9%.

Междувременно Claude от Anthropic се издигна до върха в класацията на App Store на Apple, където към момента остава във вторник.

Моделът AI беше включен в черния лист от администрацията на Тръмп след отхвърли на Anthropic да се откаже от корпоративния принцип на " алената линия ", че технологията му не би трябвало да се употребява за основаване изцяло самостоятелни оръжия.

Въпреки това, потреблението на Claude във войната сред Съединени американски щати и Израел с Иран от този момент се появи, часове след възбраната на Тръмп.

Пентагонът отхвърли да разяснява връзките си с Anthropic.

Как AI се употребява от военните

AI се употребява по доста способи в армията, да вземем за пример усъвършенстване на логистиката или бърза обработка на огромни количества информация.

Съединени американски щати, Украйна и НАТО употребяват технологии от Palantir, американска компания, която дава принадлежности за разбор на данни на държавни клиенти за събиране на разследваща информация, наблюдаване, битка с тероризма и военни цели.

Министерството на защитата на Обединеното кралство неотдавна подписа контракт за £240 милиона с компанията.

В края на предходната година BBC беседва с някои от тези, които вземат участие в консолидираното на задвижваната от AI отбранителна платформа Maven на Palintir в НАТО.

Софтуерът сплотява голям набор от военна информация, от сателитни данни до разследващи отчети, които по-късно могат да бъдат оценени от комерсиални AI системи като Claude, с цел да оказват помощ за вземането на „ по-бързи, по-ефективни и в последна сметка по-смъртоносни решения, когато това е уместно “, сподели Луис Мозли, началник на интервенциите на Palantir в Обединеното кралство.

Но огромните езикови модели на ИИ могат да вършат неточности или даже да измислят неща - известни като " халюцинации ".

Подполковник Аманда Гюстав, основен чиновник по данни за оперативната група Maven на НАТО, акцентира, че има човешки контрол, добавяйки че те „ постоянно вкарват човек в цикъла “ и че „ в никакъв случай няма да е по този начин “ AI да „ вземе решение вместо нас “.

Palantir, за разлика от Anthropic, не поддържа цялостна възбрана на самостоятелни оръжия, само че споделя, че би трябвало да има „ човек в цикъла “.

Но професор Мариаросариа Тадео от Оксфордския университет сподели пред BBC, че откакто Anthropic излезе от Пентагона, „ най-съзнателният за сигурността артист “ към този момент е „ отвън стаята “.

„ Това е същински проблем “, добави тя.

Регистрирайте се за нашия бюлетин Tech Decoded, с цел да следите най-хубавите международни софтуерни истории и трендове. Извън Обединеното кралство? Регистрирайте се тук.