Китай пуска чатбот, обучен върху „мисълта на Си Дзинпин“

Последният опит на Пекин да контролира начина, по който изкуственият интелект информира китайските интернет потребители, е пуснат като чатбот, обучен върху мислите на президента Си Дзинпин.

Най-новият голям езиков модел на страната се учи от политическата философия на своя лидер, известна като „Мисъл на Си Дзинпин за социализма с китайски характеристики за нова ера“, както и от друга официална литература, предоставена от Администрацията на киберпространството на Китай.

„Експертността и авторитетът на корпуса гарантират професионализма на генерираното съдържание“, каза списанието на CAC в публикация в социалните медии в понеделник за новия LLM.

Засега той се използва в изследователски център под мощния интернет регулатор, но в крайна сметка може да бъде пуснат за по-широка употреба, според човек, участващ в проекта. Новият модел може да отговаря на въпроси, да създава отчети, да обобщава информация и да превежда между китайски и английски, се казва в публикацията.

Създаването на LLM следва обширните усилия на китайски служители да разпространяват идеите на Xi относно политиката, икономиката и културата в различни формати.

Повече от дузина книги са публикувани от името на Си и неговите бестселъри обикновено заемат централно място на книжните панаири в страната. Популярни приложения за новини от компании като Tencent или NetEase запазват слотове в горната част на потребителските емисии за статии от официални медии, в повечето случаи включващи Xi.

Длъжностните лица също така изискват от ученици на 10-годишна възраст да учат политическата му философия. Те създадоха приложението Study Xi Strong Nation, за да обучават и тестват знанията на около 100 милиона членове на партията в страната. През 2018 г. идеите му бяха записани в конституцията на щата.

Усилието да се гарантира, че изкуственият интелект разбира философията на Си идва, докато китайските служители се ориентират към балансиране на драконовския контрол на страната върху свободата на словото с насърчаване на развитието на изкуствен интелект.

CAC, който поведе пътя в издаването на правила за генеративен AI и въведе лицензионен режим, налага доставчиците на генеративен AI да „въплъщават основните социалистически ценности“ и казва, че генерираното съдържание не може да „съдържа съдържание, което подкопава държавната власт ”. Компаниите са отговорни за своите резултати от ИИ.

Това е особено предизвикателство за разработчиците на модели поради сравнително оскъдните набори от данни за китайски език, налични за обучение на техните LLM. Повечето групи се обучават и върху информация на английски език, представяйки потенциала на генеративния AI да произвежда отговори, които са в противоречие с китайските говорни норми.

Технологични гиганти като Baidu и Alibaba са гарантирали, че техните модели стриктно контролират генерираното съдържание, свързано към Xi или други потенциално чувствителни въпроси. Генеративните AI чатботове на двете групи обикновено искат от потребителите да рестартират чатовете, когато бъдат натиснати относно чувствителни теми.

За да помогне на разработчиците да се справят с проблема, Асоциацията за киберсигурност на Китай, организация с нестопанска цел, свързана с CAC, пусна първата публична база данни от 100 милиона записа на „висококачествени и надеждни данни“ за групи използване в обучението на модели през декември. Наборът за обучение черпи до голяма степен от правителствени разпоредби и политически документи, доклади на държавни медии и други официални публикации, според части, прегледани от Financial Times.

Един от десетките текстови документи в пакета с данни съдържа 86 314 споменавания на Си Дзинпин. „Нека се обединим по-тясно около Централния комитет на партията с другаря Си Дзинпин в основата му“, гласи един ред.

Ние трябва „да гарантираме, че в мисълта, политиката и действията винаги сме във високо съответствие с Централния комитет на партията с генералния секретар Си Дзинпин в основата му“, казва друг.

Допълнителен репортаж от Nian Liu в Пекин

Последвайте ни в