Meta призовава за усилия на индустрията за етикетиране на съдържание, генерирано от изкуствен интелект

Миналия месец на Световния стопански конгрес в Давос, Швейцария, Ник Клег, президент по световните въпроси в Meta, назова зараждащ се напъните за разкриване на изкуствено генерирано наличие са „ най-спешната задача “, пред която е изправена софтуерната промишленост през днешния ден.

Във вторник господин Клег предложи решение. Meta сподели, че ще разпространява софтуерни стандарти, които фирмите в промишлеността могат да употребяват за различаване на маркери в фотоси, видео и аудио материали, които ще алармират, че наличието е генерирано благодарение на изкуствен интелект.

Стандартите могат да разрешат на фирмите за обществени медии бързо да разпознават наличие, генерирано с ИИ. който е оповестен в техните платформи и им разрешава да прибавят етикет към този материал. Ако бъдат признати необятно, стандартите биха могли да оказват помощ за идентифициране на генерирано от AI наличие от компании като Гугъл, OpenAI и Microsoft, Adobe, Midjourney и други, които оферират принадлежности, които разрешават на хората бързо и елементарно да основават изкуствени изявления.

„ Въпреки че това не е съвършен отговор, ние не искахме да оставим съвършеното да бъде зложелател на положителното, " сподели господин Клег в изявление.

A.I. принадлежности ще бъдат необятно употребявани за издание на подправено наличие за дезинформиране на гласоподавателите. През миналата година хората са употребявали ИИ, с цел да основават и популяризират подправени видеоклипове на президента Байдън, който прави погрешни или провокаторски изказвания. Офисът на основния прокурор в Ню Хемпшир също проверява поредност от автоматизирани позвънявания, които наподобява употребяват генериран от изкуствен интелект глас на господин Байдън, който приканва хората да не гласоподават на скорошни първоначални избори.

Meta, която има Фейсбук, Instagram, WhatsApp и Messenger, е в неповторима позиция, защото създава технология, която да подтиква необятното приемане на AI от потребителите. принадлежности, като в същото време е най-голямата обществена мрежа в света, способна да популяризира наличие, генерирано от AI. Г-н Клег сподели, че позицията на Meta му дава съответна визия както за генерирането, по този начин и за разпространяването на казуса.

Meta се насочва към поредност от софтуерни спецификации, наречени IPTC и C2PA стандарти. Те са информация, която прецизира дали част от цифровата медия е достоверна в метаданните на наличието. Метаданните са главната информация, вградена в цифрово наличие, която дава техническо изложение на това наличие. И двата стандарта към този момент се употребяват необятно от новинарски организации и фотографи за изложение на фотоси или видеоклипове.

Adobe, която прави софтуера за редактиране на Photoshop, и голям брой други софтуерни и медийни компании са прекарали години в лобиране на сътрудниците си да одобряват стандарта C2PA и са основали Инициативата за достоверност на наличието. Инициативата е партньорство сред десетки компании – в това число The New York Times – за битка с дезинформацията и „ прибавяне на пласт от явен генезис към всички типове цифрово наличие, като се стартира със фотоси, видео и документи “, съгласно самодейността.

издание на A.I. наличие, с цел да етикетират дали са го създали, когато го качват в приложенията на фирмите. Неспазването на това води до санкции, макар че фирмите не са прецизирали какви могат да бъдат тези санкции.

Mr. Клег също сподели, че в случай че компанията откри, че цифрово основана или изменена обява „ основава изключително висок риск от основна машинация на обществеността по значим въпрос “, Meta може да добави по-забележим етикет към обявата, с цел да даде на обществеността повече информация и подтекст по отношение на неговия генезис.

A.I. технологията напредва бързо, което подтиква откривателите да се пробват да бъдат в крайник с създаването на принадлежности за това по какъв начин да разпознават подправено наличие онлайн. Въпреки че компании като Meta, TikTok и OpenAI са създали способи за разкриване на такова наличие, технолозите бързо са намерили способи да заобиколят тези принадлежности. Изкуствено генерираните видео и аудио се оказаха даже по-трудни за забелязване от A.I. фотоси.

(The New York Times Company съди OpenAI и Microsoft за нарушение на авторски права по отношение на потреблението на публикации на Times за образование на системи с изкуствен интелект.)

разгласи нова политика, която ще изисква от своите консуматори да прибавят етикети към видео или фотоси, които са качили, които са основани благодарение на AI. YouTube разгласи сходна самодейност през ноември.

Новото предложение на Meta ще се опита да свърже някои от тези старания. Други старания в промишлеността, като Partnership on A.I., събраха десетки компании, с цел да обсъдят сходни решения.

Mr. Клег сподели, че се надява повече компании да се съгласят да вземат участие в стандарта, изключително навлизайки в президентските избори.

„ Чувствахме се изключително мощни, че по време на тази изборна година, чакайки всички частите от пъзела да си дойдат на мястото, преди да се работи, не би било целесъобразно, ” сподели той.