Становище: Ето какво е изложено на риск, ако Big Tech не се справи с измамното AI съдържание
Бележка на редактора: Тимъти Кар е старши директор в, непартийна организация с нестопанска цел, която се застъпва за по-справедлива и демократична медийна система. Мненията, изразени тук, са негови. Прочетете повече в CNN.
Миналия петък 20 технологични платформи се споразумяха да етикетират по-добре и да ограничат генерираната от AI дезинформация, която се разпространява онлайн, за да заблуди гласоподавателите по време на натоварената изборна година. Те обещаха да осигурят „бързи и пропорционални отговори“ на измамно AI съдържание относно изборите, включително споделяне на повече информация за „начините, по които гражданите могат да се защитят от манипулиране или измама“.
Този доброволен ангажимент, подписан от Google, Microsoft, Meta, OpenAI, TikTok и X (бивш Twitter), между другото, не забранява директно използването на така наречените политически „deepfakes“ — фалшиви видео или аудио изображения — на кандидати, лидери и други влиятелни обществени личности. Нито пък платформите се съгласяват да възстановят значителните екипи, които имаха, за да защитят честността на изборите през 2020 г. Дори на тези предишни нива, тези екипи се бореха да спрат разпространението на дезинформация относно резултатите от изборите, спомагайки за подклаждането на насилие в US Capitol Building, докато Конгресът се готви да удостовери победата на президента Джо Байдън.
В отговор платформите се ангажираха да поставят високи очаквания през 2024 г. за това как „ще управляват рисковете, произтичащи от измамно съдържание на избори с изкуствен интелект“, съгласно съвместното споразумение. И действията им ще се ръководят от няколко принципа, включително превенция, откриване, оценка и обществена осведоменост.
Ако платформите искат да предотвратят повторение на 2020 г., те трябва да направят много повече сега, когато технологията направи възможно измамването на избирателите с тези измамно правдоподобни факсимилета. И те трябва да съпоставят обещанията си да се справят по-добре през 2024 г. с действително прилагане и развенчаване, което може да бъде документирано и споделено с обществеността, нещо, което не са успели да направят с никаква последователност в миналото.
През декември Free Press установи, че между ноември 2022 г. и ноември 2023 г. Meta, X и YouTube премахнаха общо 17 критични политики в своите платформи. Това включва отмяна на политиките за дезинформация за изборите, предназначени да ограничат съдържанието на „Голямата лъжа“ за вота през 2020 г. През приблизително същия период от време Google, Meta и X съкратиха общо около 40 000 служители, като бяха настъпили значителни съкращения в категориите за модериране на съдържание и доверие и безопасност. По това време платформите описаха съкращенията на персонала като необходими, за да приведат компаниите си в съответствие с „различна икономическа реалност“ (Google) или защото по-ранните капиталови разходи „не се развиха [както] … се очакваше“ (Meta).
Това отстъпление насърчава по-малко отчетност сред известни платформи, тъй като технологичните компании обръщат гръб на години доказателства, сочещи прекомерната роля, която играят в оформянето на обществения дискурс, който засяга гражданската ангажираност и демокрацията. Тяхната роля като проводник на дезинформация вероятно ще се увеличи, тъй като усъвършенстваните AI инструменти, необходими за създаване на дълбоки фалшификати на политици, станат по-широко достъпни за потребителите на социалните медии. Без платформите, които демонстративно прилагат тези и дори по-строги правила срещу разпространението на дезинформация на гласоподавателите, ще се сблъскаме с повече високотехнологични усилия за кражба на избори по целия свят.
Вече се случва. Миналата година по време на надпреварата за кмет на Чикаго, фалшив аудиозапис, предназначен да имитира кандидата Пол Валас, се разпространяваше по X. Аудиото погрешно твърди, че Валас подкрепя полицейското насилие в града.
В края на 2023 г. Free Press призова компании като Google, Meta и X да въведат подробен набор от предпазни мерки срещу необузданата злоупотреба с инструменти за изкуствен интелект по време на изборната 2024 г. Те включват реинвестиране в реални хора, особено тези, които са необходими за защита на гласоподавателите, и модериране на съдържание. Те също така трябва да станат по-прозрачни чрез редовно споделяне на основни показатели с изследователи, законодатели и журналисти.
В същото време ние призовахме законодателите да установят ясни правила срещу злоупотреби с AI технология, особено в светлината на нарастващото използване на deepfakes както в Съединените щати, така и в чужбина. Това включва приемането на закони, които изискват от технологичните платформи да публикуват редовни доклади за прозрачност относно своите инструменти за проверка и модериране на AI и да разкриват процеса си на вземане на решения, когато премахват съмнителни политически реклами.
Вземете нашия безплатен седмичен бюлетин
Имаше много активност по темата в Конгреса, включително многобройни брифинги, форуми и сесии за слушане, с много малко практически резултати. Сенатори и представители внесоха десетки законопроекти — някои добри, други лоши — но нито един не стигна до гласуване. Междувременно Федералната търговска комисия се намесва, за да запълни регулаторната празнота, като миналата седмица предложи ново правило, което би направило незаконно използването на AI за представяне на когото и да било, включително избрани служители. Агенцията може да гласува ново правило още през пролетта, след като покани и прегледа обществените коментари по въпроса.
С широкото използване на AI онлайн пейзажът се промени драстично от 2020 г. насам. Но фактът остава: демокрацията не може да оцелее без надеждни източници на точни новини и информация. Както научихме след гласуването през 2020 г., има опасни последствия от реалния свят, когато платформените компании се оттеглят от ангажиментите си да изкореняват дезинформацията.
Доброволните обещания трябва да са нещо повече от PR упражнение. Освен ако компаниите не възстановят завинаги екипите за почтеност на изборите и действително не наложат правила срещу необузданата злоупотреба с инструменти за изкуствен интелект, демокрацията в световен мащаб може да виси на косъм.
