Защо конспиративни видеоклипове с изкуствен интелект изпращат спам в социалните медии
Във вирусно видео в TikTok известният подкастър Джо Роугън изглежда изпраща изобличително послание: „Ние всички вероятно ще умрем през следващите няколко години. чувал ли си за това Има един астероид, който е в курс на сблъсък със Земята. Тази информация е била пазена в строга тайна от държавата, настоява той, но след това е изтекла от служител на американската агенция на име Джонатан Браун.
Всъщност видеото е измама, казват експерти. Въпреки че изображенията са на Роган, аудиото изглежда е фалшив, генериран от изкуствен интелект клонинг на гласа му, според организацията с нестопанска цел Media Matters. А астероидът, прикрит от правителството? Безпочвена теория на конспирацията. Няма нищо, което да подсказва, че Rogan съзнателно е замесен в клипа.
Публикацията, която в крайна сметка беше свалена от TikTok, е част от нововъзникващ феномен, при който онлайн създателите изпомпват заредени с конспирация видеоклипове в социалните мрежи платформи, често с помощта на нови AI инструменти. Събирайки милиони гледания, конспирациите варират от леко фантастичните до напълно побърканите – например, че ЦРУ е скрило митична „адска хрътка“ в пещера в Гранд Каньон – и са склонни да следват отличителен модел.
„Започвате с необмислено изявление, за да привлечете вниманието – вирусна кукичка“, казва Аби Ричардс, старши видео продуцент в Media Matters, който проследява конспиративния материал, който обикновено е подобрен или изцяло създаден от AI. „Тогава имате предистория с фалшив герой, който обикновено е много груб и тогава те откриват някаква тайна.“
Говорител на TikTok каза, че теориите на конспирацията „не отговарят на условията за печелене на пари“ и че вредната дезинформация е забранена в приложението.
Извършителите на такова съдържание обикновено не го разпространяват, защото се опитват да манипулират мнението. Това е стремеж с печалба за стимулиране на ангажираността, за да получите заплащане от платформите, много от които възнаграждават създателите финансово за голям брой гледания.
„Генерираното от AI съдържание на теория на конспирацията за правене на пари е перфектната дестилация на момента [в който] се намираме в интернет екосистемата в момента“, казва д-р Джен Голбек, професор в Университета на Мериленд, College Park, която се фокусира върху социалните медии и конспирациите.
Отвъд дойната крава, жанрът се включва в нарастващото привличане на подобни теории на фона на нарастващото недоверие в правителствата и навлизането на конспиративни разкази през последните години, тя казва. „Това се комбинира с това алгоритмично натискане на най-ангажиращо съдържание [от платформите на социалните медии], което ни кара да виждаме неща, които са по-екстремни, по-нови“, казва тя.
Теориите на конспирацията не са единствените случаи на употреба на спам, възникващи от бума на AI. Доклад, публикуван тази седмица от изследователи от Станфордския и Джорджтаунския университет, установи, че повече от сто генерирани от AI спам страници наводняват Facebook емисии с понякога хиперреалистично, понякога странно изкуство (един пример за последното е „Shrimp Jesus“, Исус, чието тяло е направени от скариди). Възнаградени от алгоритмите на приложението Meta и събирайки милиони показвания, страниците след това се опитват да насочат зрителите извън платформата към сайтове, които може да продават измамни продукти, например.
Джош А Голдщайн, научен сътрудник в Georgetown's Центърът за сигурност и нововъзникващи технологии и съавтор на доклада, предупреждава, че успехът на подобно съдържание може да означава, че нечестните актьори ще „използват AI изображения, за да натрупат“ последователи, преди да се насочат към разпространение на дезинформация, свързана с изборите, например.
И в двата случая е ясно, че социалните медийни платформи трябва да създадат и наложат по-ясно дефинирани правила относно използването на AI в техните приложения. Въвеждането на етикетиране на генерирано от AI съдържание е първа стъпка. Платформите трябва също да коригират своите програми за изплащане на създатели, за да гарантират, че влиятелните лица не са стимулирани да играят със системата. TikTok, който е изправен пред потенциална забрана в САЩ, заяви, че тази седмица е въвел нова програма за награди за създатели, фокусирана върху оригинално, висококачествено съдържание.
„Това е проблемът от десетилетия, който е, че бизнес моделът на социалните медии е икономиката на вниманието“, казва Хани Фарид, професор по цифрова криминалистика в Калифорнийския университет в Бъркли. Добавете към това AI без парапети и интернет става много по-„антиутопичен“, продължава той. Действайте сега или „ние сме маймуните . . . седим там и плъзгаме, докато нашите господари на ИИ“ наблюдават.
