Китай, базирани в Иран, участниците в заплахата са намерили нови начини да използват американски модели на AI за скрито влияние: Доклад

Актьорите на опасност, някои евентуално основани в Китай и Иран, формулират нови способи за похищение и Използвайте модели на американски изкуствен интелект (AI) за злонамерено желание, в това число интервенции за въздействие на прикрито, съгласно нов отчет от OpenAI. участници в опасността, които наподобява произлизат от Китай. Според отчета, тези участници са употребявали или най-малко са се опитвали да употребяват модели, построени от Openai и Meta.

В един образец Openai забрани акаунт в Chatgpt, който генерира мнения, сериозни към китайския отстъпник Кай Xia. Коментарите бяха оповестени в обществените медии от сметки, които настояват, че са хора със седалище в Индия и Съединени американски щати, само че наподобява, че тези изявления не притеглят забележителна онлайн ангажираност.

Същият този артист също употребява услугата Chatgpt за генериране Испанските новинарски публикации с дълги форми, които „ отхвърлят “ Съединени американски щати и след това бяха оповестени от главните осведомителни бюлетини в Латинска Америка. Основните линии на тези истории бяха приписани на обещано лице и в някои случаи китайска компания.

участниците в опасността по целия свят, в това число тези, основани в Китай и Иран, намират Нови способи за потребление на американски AI модели за злонамерено желание. (Bill Hinton/PHILIP FONG/AFP/Maksim Konstantinov/SOPA Images/LightRocket via Getty Images)

During a recent press briefing that included Fox News Digital, Ben Nimmo, Principal Investigator on OpenAI's Intelligence and Investigations team, сподели, че преводът е посочен като спонсорирано наличие най-малко веднъж, предполагайки, че някой е платил за това.

openai споделя това е първата инстанция, в която китайски артист сполучливо засажда публикации с дълга форма в всеобщите медии, с цел да се насочи към аудиторията на Латинска Америка с анти-САЩ. Разкази.

" Без оглед на това потребление на AI, не бихме могли да изпълним връзката сред туитовете и уеб публикациите ", сподели Ниммо. Актьорите на опасност от време на време дават на Openai взор върху това, което вършат в други елементи на интернет, поради това по какъв начин употребяват своите модели.

" Това е много обезпокоителен взор върху метода, по който един недемократичен артист се е опитал да се употребява Демократичен или американски AI за недемократични цели, съгласно материалите, които сами генерират ", продължи той.

Знамето на Китай се придвижва зад двойка наблюдаване Камери отвън офисите на централното държавно управление в Хонконг, Китай, във вторник, 7 юли 2020 година Лидерът на Хонконг Кари Лам отбрани законодателството за националната сигурност, наложено на града от Китай предходната седмица, часове след нейното държавно управление твърди необятни нови полицейски пълномощия, в това число претърсвания без заповед, онлайн наблюдаване и изземвания на благосъстоятелност. (Roy Liu/Bloomberg посредством Getty Images)

Компанията също забрани акаунт в Chatgpt, който генерира туитове и публикации, които по-късно бяха оповестени на активи на трети страни, обществено свързани с известни интервенции за иранско въздействие (iOS). 

Тези две интервенции са регистрирани като обособени старания.

" Откриването на евентуално припокриване сред тези интервенции - въпреки и дребни и изолирани - повдига въпрос дали има връзка от връзка от Сътрудничество измежду тези ирански iOS, където един оператор може да работи от името на това, което наподобява като обособени мрежи “, се показва в отчета за опасността.

В различен образец Openai забрани набор от Chatgpt сметки, които използваха OpenAI модели за превод и генериране на мнения за сантиментална мрежа за стръв, известна още като „ Pig Butchering “, в платформи като X, Фейсбук и Instagram. След отчитане на тези констатации, META уточни, че наподобява, че активността произлиза от " новопоявило се примес в Камбоджа. "

логото на Openai Chatgpt се вижда на мобилен телефон в Тази фото илюстрация на 30 май 2023 година във Варшава, Полша. ((Снимка на Jaap Arriens/Nurphoto посредством Getty Images))

Миналата година Openai стана първата лаборатория за проучване на AI, която разгласява отчети за напъните за попречване на злоупотреби от съперници и други злонамерени участници, като поддържа Съединени американски щати, Allied Правителства, индустриални сътрудници и заинтригувани страни.

Openai споделя Публикувано и наруши необятен набор от злонамерени използва.

Компанията има вяра, наред с други техники за спиране, че фирмите на AI могат да извлекат основна визия за участниците в опасността, в случай че информацията се споделя с снабдители на Upstream, като хостинг, Доставчици на програмен продукт, както и платформи за разпространяване надолу по веригата (компании за обществени медии и откриватели с отворен код).

Openai акцентира, че това Техните следствия също се възползват доста от работата, споделена от връстници.

" Знаем, че участниците в опасността ще продължат да тестват защитните си сили. Решени сме да продължаваме да се разпознават, предотвратяват, нарушават и излагат опити за корист с нашите модели за Вредни приключва “, съобщи Openai в отчета. 

Nikolas Lanum е кореспондент на Fox News Digital.