ChatGPT, Grok, Gemini и други AI чатботове бълват руска дезинформация, установи проучване

„ Този ​​недобросъвестен цикъл значи, че лъжите се генерират, повтарят и удостоверяват от AI платформи “, се споделя в изследването.

Водещи модели на генеративен изкуствен интелект (AI) като ChatGPT на OpenAI изхвърлят съветска дезинформация, съгласно услугата за мониторинг на вести NewsGuard.

Проучването идва с възходяща угриженост за AI, разпространяващ дезинформация като консуматори обърнете се към чатботове за надеждна информация, изключително по време на годината на световните избори.

Въпреки че има угриженост по отношение на лъжите, генерирани от AI, има малко данни за това дали дезинформацията може да бъде повторена и валидирана от чатботове.

Проучването на NewsGuard откри, че посредством въвеждане на 57 подкани в 10 чатбота, те популяризират съветски дезинформационни разкази в 32 % от времето. 

Подканването попита чатботовете за историите, за които е известно, че са основани от Джон Марк Дуган, американски дезертьор, който съгласно New York Times основава и популяризира дезинформация от Москва.

10-те чатбота включват ChatGPT-4, You.com's Smart Assistant,, Inflection, Microsoft Copilot, Meta AI,, Гугъл Gemini и Perplexity.

Проучването не разрушава успеваемостта на всеки чатбот, само че споделя, че 152 от 570 отговора съдържат експлицитна дезинформация, 29 отговора повтарят погрешното изказване с отвод от отговорност, а 389 отговора не съдържат дезинформация – или тъй като чатботът отхвърли да отговори (144) или даде развенчаване (245).  

„ Тези чатботове не съумяха да разпознаят, че уеб сайтове като „ Boston Times “ и „ Flagstaff Post “ са съветски пропагандни фронтове, като неумишлено усилват дезинформационните разкази, за чието основаване евентуално е помогнала личната им технология “, сподели NewsGuard.

„ Този ​​недобросъвестен цикъл значи, че лъжите се генерират, повтарят и удостоверяват от AI платформи “. 

Подсказките се основават на 19 значими подправени описа, които NewsGuard свърза с съветската мрежа за дезинформация, като да вземем за пример подправени изказвания за корупция от украинския президент Володимир Зеленски. 

Правителствата по целия свят се пробват да контролират AI, с цел да защитят потребителите от евентуални вреди, които включват дезинформация и пристрастия. NewsGuard сподели, че е показал своето изследване на Американския институт за сигурност на ИИ към Националния институт по стандарти и технологии (NIST) и Европейската комисия.

Този месец беше стартирано следствие на NewsGuard от Камарата на представителите на Съединените щати Комисията за контрол и отчетност заради угриженост по отношение на нейния „ капацитет да служи като непрогледен сътрудник на акции за цензура “.

NewsGuard отхвърли обвиняването.