Защо конспиративни видеоклипове с изкуствен интелект изпращат спам в социалните медии

Във вирусно видео в TikTok известният подкастър Джо Роугън наподобява изпраща изобличително обръщение: „ Ние всички евентуално ще умрем през идващите няколко години. чувал ли си за това Има един метеорит, който е в курс на конфликт със Земята. Тази информация е била защитавана в строга загадка от страната, упорства той, само че по-късно е изтекла от чиновник на американската организация на име Джонатан Браун.

Всъщност видеото е машинация, споделят специалисти. Въпреки че изображенията са на Роган, аудиото наподобява е подправен, генериран от изкуствен интелект клонинг на гласа му, съгласно организацията с нестопанска цел Media Matters. А метеоритът, затулен от държавното управление? Безпочвена доктрина на конспирацията. Няма нищо, което да подсказва, че Rogan умишлено е забъркан в клипа.

Публикацията, която в последна сметка беше свалена от TikTok, е част от нововъзникващ феномен, при който онлайн основателите изпомпват заредени с интрига видеоклипове в обществените мрежи платформи, постоянно благодарение на нови AI принадлежности. Събирайки милиони гледания, конспирациите варират от леко фантастичните до изцяло побърканите – да вземем за пример, че Централно разузнавателно управление на САЩ е скрило митична „ адска хрътка “ в пещера в Гранд Каньон – и са склонни да следват характерен модел.

„ Започвате с безогледно изказване, с цел да привлечете вниманието – вирусна кукичка “, споделя Аби Ричардс, старши видео продуцент в Media Matters, който наблюдава тайния материал, който нормално е усъвършенстван или напълно основан от AI. „ Тогава имате предистория с подправен воин, който нормално е доста недодялан и тогава те откриват някаква загадка. “

Говорител на TikTok сподели, че теориите на конспирацията „ не дават отговор на изискванията за печелене на пари “ и че нездравословната дезинформация е неразрешена в приложението.

Извършителите на такова наличие нормално не го популяризират, тъй като се пробват да манипулират мнението. Това е блян с облага за стимулиране на ангажираността, с цел да получите възнаграждение от платформите, доста от които възнаграждават основателите финансово за огромен брой гледания.

„ Генерираното от AI наличие на доктрина на конспирацията за правене на пари е съвършената филтрация на момента [в който] се намираме в интернет екосистемата сега “, споделя доктор Джен Голбек, професор в Университета на Мериленд, College Park, която се концентрира върху обществените медии и конспирациите.

Отвъд дойната крава, жанрът се включва в възходящото привличане на сходни теории на фона на възходящото съмнение в държавните управления и навлизането на тайни разкази през последните години, тя споделя. „ Това се комбинира с това алгоритмично натискане на най-ангажиращо наличие [от платформите на обществените медии], което ни кара да виждаме неща, които са по-екстремни, по-нови “, споделя тя.

Теориите на конспирацията не са единствените случаи на приложимост на спам, зараждащи от взрива на AI. Доклад, оповестен тази седмица от откриватели от Станфордския и Джорджтаунския университет, откри, че повече от 100 генерирани от AI спам страници наводняват Фейсбук излъчвания с от време на време хиперреалистично, от време на време необичайно изкуство (един образец за последното е „ Shrimp Jesus “, Исус, чието тяло е направени от скариди). Възнаградени от логаритмите на приложението Meta и събирайки милиони проявления, страниците по-късно се пробват да насочат феновете отвън платформата към уеб сайтове, които може да продават лъжливи артикули, да вземем за пример.

Джош А Голдщайн, теоретичен помощник в Georgetown's Центърът за сигурност и нововъзникващи технологии и съавтор на отчета, предизвестява, че триумфът на сходно наличие може да значи, че нечестните артисти ще „ употребяват AI изображения, с цел да натрупат “ почитатели, преди да се насочат към разпространяване на дезинформация, обвързвана с изборите, да вземем за пример.

И в двата случая е ясно, че обществените медийни платформи би трябвало да основат и наложат по-ясно дефинирани правила по отношение на потреблението на AI в техните приложения. Въвеждането на етикетиране на генерирано от AI наличие е първа стъпка. Платформите би трябвало също да поправят своите стратегии за погашение на основатели, с цел да подсигуряват, че авторитетните лица не са подтиквани да играят със системата. TikTok, който е изправен пред евентуална възбрана в Съединени американски щати, съобщи, че тази седмица е въвел нова стратегия за награди за основатели, фокусирана върху автентично, висококачествено наличие.

„ Това е казусът от десетилетия, който е, че бизнес моделът на обществените медии е стопанската система на вниманието “, споделя Хани Фарид, професор по цифрова криминалистика в Калифорнийския университет в Бъркли. Добавете към това AI без парапети и интернет става доста по-„ антиутопичен “, продължава той. Действайте в този момент или „ ние сме маймуните ... седим там и плъзгаме, до момента в който нашите господари на ИИ “ следят.