Водещи технологични фирми обещават да се справят с изборните рискове, породени от AI

Тъй като повече от половината от международното население е готово да гласоподава на избори по света тази година, софтуерните водачи, законодателите и групите на гражданското общество са все по-загрижени, че изкуственият разсъдък може да аргументи комплициране и безпорядък за гласоподавателите. Сега група от водещи софтуерни компании споделят, че се сплотяват, с цел да се оправят с тази опасност.

Повече от дузина софтуерни компании, участващи в построяването или потреблението на AI технологии, дадоха обещание в петък да работят дружно за разкриване и противопоставяне на нездравословно AI наличие в изборите, в това число дълбоки фалшификации на политически претенденти. Подписалите включват OpenAI, Гугъл, Meta, Microsoft, TikTok, Adobe и други.

Споразумението, наречено „ Технологично съглашение за битка с лъжливото потребление на AI в изборите през 2024 година “, включва задължения за съдействие в региона на технологиите за разкриване на подвеждащо наличие, генерирано от AI, и за бистрота с обществеността по отношение на напъните за справяне с евентуално нездравословно наличие с AI.

„ ИИ не е основал изборна машинация, само че би трябвало да подсигуряваме, че няма да помогне на измамата да процъфтява “, сподели президентът на Microsoft Брад Смит в изказване на Мюнхенската конференция по сигурността в петък.

Технологичните компании нормално имат не толкоз звезден опит в саморегулирането и използването на личните си политики. Но съглашението идва, защото регулаторите не престават да изостават в основаването на парапети за бързо напредващите AI технологии.

Нова и възходяща годишна продукция от инструменти за неестествен интелект предлага опцията за бързо и елементарно генериране на завладяващ текст и реалистични изображения — и във все по-голяма степен видео и аудио, които съгласно специалистите могат да бъдат употребявани за разпространяване на погрешна информация за заблуждение на гласоподавателите. Съобщението за съглашението идва, откакто OpenAI в четвъртък показа зашеметяващо реален нов AI инструмент за генериране на текст към видео, наименуван Sora.

„ Най-лошите ми страхове са, че предизвикваме обилни – ние, полето, технологията, промишлеността – предизвикваме обилни вреди на света “, сподели изпълнителният шеф на OpenAI Сам Алтман пред Конгреса по време на чуване през май, по време на което той прикани законодателите да контролират ИИ.

Някои компании към този момент си партнираха, с цел да разработят индустриални стандарти за прибавяне на метаданни към изображения, генерирани от AI, което ще разреши на системите на други компании автоматизирано да откриват, че изображенията са компютърно генерирани.

Споразумението от петък води тези междуиндустриални старания една крачка напред - подписалите се ангажират да работят дружно по старания като намиране на способи за прикачване на машинночетими сигнали към елементи от наличие, генерирано от AI, които демонстрират от кое място произлизат и правят оценка своите AI модели за рисковете от генериране на лъжливо, обвързвано с изборите AI наличие.

Компаниите също по този начин споделиха, че ще работят дружно по просветителни акции, с цел да научат обществеността по какъв начин да „ се защитят от манипулиране или машинация от това наличие “.

Някои групи на гражданското общество обаче се тормозят, че обещанието не стига задоволително надалеч.

„ Доброволни обещания като това, оповестено през днешния ден, просто не са задоволително положителни, с цел да посрещнат световните провокации, пред които е изправена демокрацията “, сподели в изказване Нора Бенавидез, старши консултант и шеф по цифрово правораздаване и цивилен права в организацията за наблюдаване на технологиите и медиите Free Press. „ Всеки избирателен цикъл софтуерните компании се ангажират с неразбираем набор от демократични стандарти и по-късно не съумяват да изпълнят изцяло тези обещания. За да се оправим с действителните вреди, които изкуственият разсъдък предизвиква в една натоварена изборна година... Имаме потребност от устойчиво модериране на наличието, което включва човешки обзор, етикетиране и използване. “