Чатботовете с изкуствен интелект са изложени на риск от разпространение на правителствени ограничения върху онлайн речта, казва ново проучване

ВАШИНГТОН (AP) — Помолете Клод да направи листовка, критикуваща президента Доналд Тръмп или английския крал Чарлз III, и чатботът на Anthropic ще ви услужи. Подканен да направи същото за краля на Тайланд, престолонаследника на Саудитска Арабия или водача на Китай, и моделът на изкуствения разсъдък отхвърли.

Това е основна констатация от изследване на Meta Oversight Board, оповестено в четвъртък, което демонстрира, че главните AI системи, в това число тези, построени в Съединени американски щати, са по-склонни да отхвърлят да подлагат на критика ограничаващи водачи или държавни управления. Това поражда угриженост, че огромните езикови модели, захранващи чатботове и AI сътрудници, може да се повръщат и да популяризират държавно въздействие върху онлайн речта, защото технологията се възприема от ден на ден в международен мащаб.

„ Съществува действителен риск, в случай че разработчиците на модели не подхващат надлежна инспекция на правата на индивида и ползват ограничения за намаляване, те ще изградят AI инфраструктура, която, съзнателно или не, има резултат на разширение на нелегитимни ограничавания върху свободата на изложение в международен мащаб “, се споделя в отчета на квазинезависимия орган.

Констатациите идват, до момента в който страните вземат решение по какъв начин да слагат парапети към ИИ, без да попречват способността им да се конкурират в бързо разрастващата се област. Това включва старания за контрол на администрацията на Тръмп, свързани с рисковете за националната сигурност на най-напредналите AI системи.

ИИ моделите уголемяват държавното въздействие оттатък границите

Надзорният съвет, който работи върху държавното въздействие върху софтуерните компании и въздействието върху свободата на изложение, излезе със седем въпроса, свързани с политическата рецензия, които да зададат на чатботовете както за ограничаващи, по този начин и за разрешителни държавни управления.

Проучването избра 10 комерсиални огромни езикови модела от водещи софтуерни компании — в това число Meta, Anthropic и OpenAI — и помоли системите за ИИ да правете сериозни памфлети, пишете стихове, посочвайте аргументи, в случай че някой би трябвало да се причисли към митинги и доста други.

„ Накратко, общо взето, моделите, отговарящи на претенции от основан в Австралия консуматор, са доста по-склонни да генерират политическа рецензия към управляващите “ тук-там като Чили, Япония, Тайван, Обединеното кралство и Съединени американски щати „ спрямо местата, където рецензията към управляващите е законово лимитирана и глобена “, като да вземем за пример в Камбоджа, Китай, Саудитска Арабия, Тайланд и Турция, отчетът сподели.

Проучването демонстрира, че AI моделите отразяват рестриктивните мерки на речта отвън страните, в които се ползват – евентуално не оказват помощ на евентуален стачкуващ в Бризбейн, да вземем за пример, да сътвори протестни материали, с цел да приказва против събитията в Китай или Саудитска Арабия, се споделя в отчета.

„ Такива въздействия, където и да произлизат, имат практическия резултат на разширение на дългата ръка на рестриктивните държавни управления през границите, с цел да лимитират словото в свободните страни “, се споделя в отчета.

Бордът сподели, че не може да дефинира аргументите за отговорите, само че допусна, че моделите може да са абсорбирали латентни отклонения в данните, употребявани за образование на системите, и фирмите може да са претеглили рисковете и отговорностите.

Други откриватели предизвестяват за възходящ проблем в резултатите от ИИ на неанглийски езици

Докладът на борда последва настрана изследване на група учени от американски университети, които откриха, че основаните в Съединени американски щати модели на ИИ са уязвими на непознат надзор, когато се образоват на неанглоезични данни, които са повлияни от държавните управления.

Докато надзорът съветът зададе въпроси на британски, откривателите от университета насочиха запитвания към чатботове на разнообразни езици. Например, те попитаха ChatGPT на британски дали Китай е народна власт, а създаденият от Съединени американски щати чатбот сподели, че нормално не се смята за такава. Запитан на китайски, моделът на изкуствения разсъдък сподели на откривателите на този език, че „ зависи от това по какъв начин дефинирате „ демокрацията “. “

Изследователите, чието изследване беше оповестено в академичното списание Nature през май, споделиха в блог, обясняващ работата си, че не са разкрили доказателства, че държавните управления съзнателно са се пробвали да повлияят на резултатите от чат ботове с изкуствен интелект. Но те означиха, че " има всички учредения да имаме вяра, че ще се опитат да го създадат в бъдеще, в случай че към този момент не са. "

" Хората постоянно приказват за ИИ, като че ли той се учи от интернет по някакъв безпристрастен метод. Това не е по този начин ", сподели Хана Уейт, съавтор на проучването и помощник по социология в Университета на Орегон. „ Той се учи от осведомителни среди, които към този момент са били завършени от институции и власт. “

Няма елементарно решение за това по какъв начин данните се подават към AI модели

Carlos Carrasco-Farré, който специализира в машинно образование, AI, дезинформация, обществени медии и взаимоотношения човек-машина в Esade Business School в Барселона, сподели, че „ AI системите наследяват освен пристрастия, съдържащи се в обособените документи, само че и неравенства в това кой има властта да създава и потиска информация в мащаб. “

Няма елементарно решение, макар че разработчиците биха могли да оценят данните, с цел да избегнат третирането на хиляди копия на един и същи роман за положение, като че ли са хиляди самостоятелни гласове, както и да организират многоезични одити, сподели Караско-Фаре, който не е бил част от нито едно от двете изследвания.

Нито Anthropic, нито OpenAI дадоха отговор на претенции за коментар по отношение на изследването на откривателите, оповестено през май.