Социалните медийни платформи се надпреварват да се справят с изображения, генерирани от AI преди изборите през ноември

Бележка на редактора: Версия на тази публикация се появи за първи път в бюлетина „ Надеждни източници “.

Big Tech се надпреварва да се оправи с потока от изображения, генерирани от изкуствен интелект, които заливат обществените медийни платформи, преди машинно направените изображения да замърсят в допълнение осведомителното пространство.

TikTok обяви в четвъртък, че ще стартира да етикетира наличие, генерирано от AI. Meta (компанията майка на Instagram, Threads и Facebook) каза предишния месец, че ще стартира да етикетира такова наличие. И YouTube въведе правила, задължаващи основателите да разкриват, когато видеоклиповете са основани с AI, тъй че да може да се приложи етикет. (За отбелязване е, X на Elon Musk не е оповестил никакви проекти за обозначаване на генерирано от AI наличие.)

С по-малко от 200 дни до изборите през ноември с високи залози и защото технологията напредва с стремглава скорост, всяка от трите най-големи обществени медийни компании очерта проекти, с цел да подсигурява, че техните милиарди консуматори могат да разграничават наличието, генерирано от машини и хора.

Междувременно OpenAI, създателят на ChatGPT, който разрешава на потребителите също да основават изображения, генерирани от изкуствен интелект посредством своя DALL-E модел, заяви тази седмица, че ще пусне инструмент, който разрешава на потребителите да откриват по кое време изображението е основано от бот. Освен това компанията сподели, че ще стартира свързан с изборите фонд от 2 милиона $ с Microsoft за битка с дълбоките фалшификации, които могат да „ заблудят гласоподавателите и да подкопаят демокрацията “.

Усилията от   Силиконовата котловина съставляват самопризнание, че инструментите, изграждани от софтуерни титани, имат сериозен капацитет да опустошат осведомителното пространство и да нанесат съществени вреди на демократичния развой.

Генерираните от AI изображения към този момент се оказаха изключително лъжливи. Само тази седмица основано от AI изображение на поп звездата Кейти Пери, която сякаш театралничи на аления килим на Met Gala в железни рокли и рокли на цветя, заблуди хората да повярват, че певицата е участвала на годишното събитие, до момента в който в действителност не го направи. Изображението беше толкоз реалистично, че личната майка на Пери повярва, че е достоверно.

„ Не знаех, че си ходил в Met “, майката на Пери изпрати известие до певицата, съгласно екранна фотография, оповестена от Пери.

„ хаха, мамо, изкуственият разсъдък хвана и теб, ВНИМАВАЙ! “ — отвърна Пери.

Въпреки че вирусното изображение не аргументи сериозна щета, не е мъчно да си представим сюжет - особено преди огромни избори - при който подправена фотография може да подведе гласоподавателите и да провокира комплициране, може би да наклони везната в интерес на един или различен претендент.

Но макар многократните и тревожни предизвестия от специалисти и фигури в промишлеността, федералното държавно управление до момента не е съумяло да предприеме никакви дейности за определяне на защитни ограничения към промишлеността. И по този начин, Big Tech е оставен на личните си средства да овладее технологията, преди неприятните артисти да могат да я експлоатират за лична полза. (Какво може да се обърка?)

Остава да забележим дали ръководените от промишлеността старания могат сполучливо да лимитират разпространяването на нездравословни дълбоки имитации. Социалните медийни колоси имат голям брой правила, забраняващи несъмнено наличие на техните платформи, само че историята неведнъж демонстрира, че те постоянно не са успявали да ги наложат съответно и са разрешавали злонамереното наличие да се популяризира измежду масите, преди да подхващат дейности.

Това неприятно досие не вдъхва доста доверие, защото изображенията, основани от изкуствен интелект, от ден на ден бомбардират осведомителната среда – изключително когато Съединени американски щати се втурват към невиждани избори, като самата народна власт е заложена на карта.