Комунистически AI? Китай използва цензори, за да тества дали моделите на ИИ `въплъщават основни социалистически ценности`

Моделите GenAI би трябвало да дават отговор на въпроси по чувствителни политически тематики и президента Си Дзинпин.

Компаниите с изкуствен интелект (AI) в Китай са тествани от държавното управление, с цел да се види дали техните огромни езикови модели (LLM) „ въплъщават главните социалистически полезности “.

Както започващи компании, по този начин и огромни софтуерни компании като притежателя на TikTok ByteDance и Alibaba ще бъдат прегледани от основния държавен регулатор на интернет, Администрацията за киберпространство на Китай (CAC), съгласно Financial Times (FT).

Служителите на CAC ще тестват AI модели за техните отговори на въпроси, които се отнасят до политически тематики и президента Си Дзинпин, наред с други. 

Регламентите са предиздвикали най-популярните чатботове в Китай да отхвърлят въпроси по тематики като митингите на площад Тянанмън през 1989 г. 

Държавите се пробват да дефинират и Китай беше измежду първите, които постановиха правила за ръководство на генеративния AI (GenAI), които включват условия като съблюдаване на  „ главните полезности на социализма “.

Балансиране като водач на ИИ с убеждения

Една компания за ИИ в Китай сподели на FT, че техният модел не е минал първия кръг от проби по аргументи, които не са ясни, само че са минали след „ отгатване и поправяне “, моделът. 

В отчета се споделя, че „ филтрирането за сигурност “, което значи унищожаване на „ проблематична информация “ от данните за образование на AI модел и по-късно прибавяне на база данни с чувствителни думи, е методът да се изпълнят условията на политиката за цензура. 

Наборите за образование на данни са по-проблематични за съблюдаване на разпоредбите, защото множеството LLM се образоват на данни на британски език, споделиха инженери пред FT. 

CAC се пробва да откри баланс сред превръщането на Китай в конкурентен AI водач и удовлетворяването на идеологическите убеждения на държавното управление.

GenAI услуги се нуждае от лиценз за работа и в случай че се откри, че дава „ нелегално “ наличие, би трябвало да предприеме ограничения, с цел да спре генерирането на такова наличие и да рапортува за това на съответния орган, сподели CAC предходната година. 

Въпреки регулациите, с ByteDance и започващата компания Zhipu създават свои лични генериращи AI чатботове.