Някои теми са забранени в рамките на популярния безплатен AI, произведен в Китай, откриват изследователите

Модел на AI, изтеглен над 3 милиарда пъти и употребен от американски компании като Airbnb и Uber, е вграден с удобни за Китай разкази и е програмиран за цензура, демонстрират нови проучвания.

Qwen, свободно наличен модел, основан от китайския конгломерат Alibaba, не признава насилието потушаване на митингите в Хонконг през 2019 година или на площад Тянанмън през 1989 г.; той назовава оклеветената от китайското държавно управление вяра Фалун Гонг „ рисков фетиш “ и е любопитно, че няма да приказва за Мечо Пух, счита се, тъй като дисиденти съпоставят измислената мечка с китайския президент Си Дзинпин.

Очевидната цензура, вложена в Qwen за събития и проблеми, които не са утвърдени от китайските управляващи, е разпозната от Hirundo, израелска киберсигурност пускане.

Фирмата споделя, че нейните учени са намерили метод да отстранен пристрастието на модела, употребявайки комплицирана технология, която се равнява на „ AI мозъчна хирургия “, и в този момент са подготвени да разгласяват това, което те назовават „ западна “ версия на Qwen.

Тази година Qwen стана най-популярният безвъзмезден AI модел в света, след метеоритно повишаване на потреблението на създаден в Китай изкуствен интелект.

Но откривателите предизвестяват, че неговата  интернационална известност също рискува да се популяризира и утвърди пристрастията му към китайското държавно управление.

Когато попитахме Qwen, „ Има ли лагери за насилствен труд за уйгури в Китай? “ той отговори: „ Не, няма лагери за насилствен труд за уйгури в Китай “, добавяйки, че има „ центрове за обучение и образование за професионални умения в Синцзян. “

Всъщност правозащитни организации, държавни управления и интернационалните органи са разкрили стотици хиляди хора от мюсюлманското етническо малцинство, работещи срещу волята си във заводи, заобиколени с огради от бодлива тел, и даже упрекнаха китайското държавно управление в геноцид.

Qwen постоянно отхвърля да отговори на въпроси за събитията на площад Тянанмън на 3 юни 1989 година, когато китайската войска мазета няколкостотин души на митинги в Пекин  — и злокобно „ ви припомня, че вашите въпроси би трябвало да дават отговор на съответните закони и разпореждания. “

Китайското държавно управление на процедура забрани Мечо Пух от страната, откакто дисиденти започнаха сатирично да съпоставят Xi към измислената мечка и потреблението на Пух като евфемизъм за китайския президент в изявления в обществените медии, с цел да избегне държавната цензура. Когато CBS News зададе на Qwen в действителност въпрос за това, той отговори с предизвестие да „ употребява оправдателен език “ и насочи потребителя към „ други въпроси по отношение на развиването на Китай “.

Създателят на Qwen, Alibaba, не отговори на искане за коментар.

Въпреки доказателствата за вградени пристрастия в програмата, американските компании от ден на ден минават към потребление на „ open-weight “ модели, предлагани от китайски компании, които им разрешават да изтеглят и употребяват AI гратис или да употребяват великански, мощни модели на по-ниски цени от американските съперници като Claude на Anthropic или ChatGPT на OpenAI.

Функциите за търсене и доставка на Uber Eats са построени „ върху гръбнака на Qwen “ съгласно обява в блога на компанията през април. Главният изпълнителен шеф на Airbnb Браян Чески сподели пред LA Times предишния октомври, че компанията му „ разчита доста на модела Qwen на Alibaba “ за своя чатбот за обслужване на клиенти.

Нито една компания не отговори на искане за коментар.

Китайските модели с отворено тегло са нарастнали от под 2% от световното потребление в края на 2024 година до повече от 45% до юни тази година, съгласно данните за използването на всички AI модели от платформата OpenRouter на разработчиците на програмен продукт.

До август Qwen засенчи всички останали отворени модели, в това число тези, направени от притежателя на Фейсбук Meta и притежателя на Гугъл Alphabet, достигайки до над 3 милиарда изтегляния в международен мащаб.

Експерти от компанията за сигурност CrowdStrike и консултантската компания Booz Allen предизвестиха американските компании да употребяват китайски модели, откакто техните обособени изследвания откриха пристрастия и сигурност дефекти.

Booz Allen разгласява резултати през юни, като споделя, че когато са помолили Qwen да напише компютърен код и са му споделили, че планът е за държавното управление на Съединени американски щати, създаденият от него код е имал 130% повече уязвимости в сигурността.

„ Китайските модели, които тествахме, не съумяха да показват надеждно държание и би трябвало да бъдат неразрешени “, се споделя в отчета.

CrowdStrike организира сходно изследване предишния ноември върху различен известен китайски модел, DeepSeek. Когато споделиха на модела, че задачата му за шифроване е за съперник на китайското държавно управление, кодът, който сътвори, имаше 50% повече уязвимости в сигурността.

Hirundo споделя, че тества Qwen на 500 подкани в 15 тематики и по-късно отстрани отклонението, което неговите анализатори откриха, с цел да сътвори това, което те назовават „ западна “ версия.

„ При чувствителни политически подкани, истинският Qwen сътвори цензура, рамкиране, ориентирано към агитация, или политически пристрастия в 89,8% от случаите “, сподели изпълнителният шеф и създател на Hirundo Бен Лурия пред CBS News. „ Западният модел прави това в 2,8% от времето, като способността се резервира като цяло в разсъждения, шифроване, следване на указания и математически задания. “

В бяла книга за технологията, споделена с CBS News, Hirundo споделя, че редактира „ теглата на модела “ – невроните на цифровия мозък на AI – вместо предходни, по-малко ефикасни опити за унищожаване на пристрастията, които просто изискват от AI да следва нови правила, които постоянно пренебрегва.

„ Всичко в един модел е объркано с доста други неща, сходни на нашите мозъци “, сподели Лурия. „ Ето за какво е толкоз мъчно да се дефинира кои съответни неврони съставляват нещата, които не желаете във вашите AI модели. “

Той сподели, че задачата на неговия екип е „ пренастройване на модела към западните стандарти, с цел да ги направи по-безопасни за внедряване в западни предприятия. “

„ Тенденцията е ясна. Китайските модели са във напредък “, добави той.

„ Трябва да признаем рисковете и тогава можем да отидем да ги разгадаем. "