MeitY иска от Meta да обнови алгоритмите, да представи пътна карта за ограничаване на deepfakes: Доклад

Министерството на електрониката и осведомителните технологии (MeitY) изиска от Meta да направи промени в своите логаритми и да показа пътна карта за сходство, ориентирана към ограничение на разпространяването на deepfakes, манипулирани медии, агитация и друго нелегално наличие на своите платформи, заяви ANI, цитирайки държавни източници.

Указанията бяха издадени по време на среща сред чиновници на MeitY и техническия екип на Meta в петък, защото държавното управление ускори контрола върху практиките за модериране на наличието на колоса на обществените медии.

Според отчета на ANI държавното управление е потърсило съответни алгоритмични промени за възстановяване на откриването и премахването на нездравословно и манипулирано наличие. Длъжностните лица също желаеха от Meta да ускори своите системи за модериране на наличие и да реагира по-бързо на претенции за събаряне от оторизирани държавни организации.

Правителството търси по-бързи дейности против deepfakes

MeitY също потърси по-тясна съгласуваност с Meta за идентифициране и унищожаване на deepfakes, трансформирани изображения и подвеждащи изявления по-бързо.

Компанията беше помолена да се съобрази с условията на Индия за локализиране на данни като част от по-широкият напън на държавното управление да подсигурява, че платформите извършват отговорностите си според индийското законодателство.

По време на срещата в петък Meta изясни по какъв начин съществуващите й системи откриват и се оправят с нездравословно наличие. Правителствени чиновници обаче потърсиха по-целенасочени промени, с цел да предотвратят размножаването на агитация, дълбоки фалшификации и други манипулирани материали.

Според отчетите Meta призна пропуските в своите съществуващи системи и разиска механически ограничения, които могат да бъдат въведени за справяне с дълбоките фалшификации и друго синтетично наличие.

Очаква се двете страни да продължат полемиките, като идната седмица евентуално ще се организира друга среща.

Защо Индия ускорява контрола върху Meta?

Последната среща идва на фона на възходяща угриженост на държавното управление по отношение на deepfakes, материали за полово принуждение над деца (CSAM) и друго нездравословно наличие в платформите на Meta.

Главният изпълнителен шеф на Meta Марк Зукърбърг по-рано се извини на индийските държавни чиновници за неточности, свързани с CSAM и deepfake наличие след опасения повдигнати от държавното управление.

Компанията също беше изправена пред инспекция по отношение на краткотрайното ограничение на пост от премиера Нарендра Моди, което Мета приписа на техническа неточност. Епизодът способства за напрежението сред компанията и индийските регулатори.

Индия стяга разпоредбите за синтетичното наличие

Ангажиментът на държавното управление с Meta идва, откакто Индия ускори регулаторната си рамка за генерирано от AI и манипулирано наличие.

По-рано тази година държавното управление промени Правилата за осведомителни технологии (Указания за медиатори и Етичен кодекс на цифровите медии), с цел да вкара спомагателни отговорности за онлайн медиатори, работещи със синтетично генерирана информация.

Рамката включва условия, ориентирани към възстановяване на идентифицирането и етикетирането на генерирано от AI или манипулирано наличие.

Правителството поддържа, че платформите за обществени медии, работещи в Индия, би трябвало да съблюдават законите на страната и да подхващат подобаващи стъпки за отбрана на потребителите от нездравословно и нелегално наличие.

За Meta последните полемики може да значат спомагателни промени в метода, по който неговите платформи откриват, класират и отстраняват манипулирано наличие на един от най-големите си пазари.