Кампанията на шерифа на Филаделфия премахва фалшиви „новини“, публикувани на сайта, които са генерирани от AI

ФИЛАДЕЛФИЯ — Екипът на акцията зад изпадналия в усложнение шериф на Филаделфия призна в понеделник, че поредност от позитивни „ вести “, оповестени на уеб сайтът им е генериран от ChatGPT.

Кампанията на шериф Рошел Билал отстрани повече от 30 истории, основани от съветник, употребяващ генериращия AI chatbot. Този ход пристигна, откакто материал на Philadelphia Inquirer в понеделник заяви, че локалните новинарски издания не могат да намерят историите в архивите си.

Експерти споделят, че този вид дезинформация може да подкопае публичното доверие и да заплаши демокрацията. Кампанията на Билал сподели, че историите са основани на действителни събития.

„ Нашата акция даде външни консултантски точки за диалог, които по-късно бяха предоставени на услугата AI “, се споделя в изказване на акцията. „ Сега е ясно, че услугата за изкуствен интелект генерира подправени новинарски публикации, с цел да поддържа самодейностите, които бяха част от подканата на AI. “

Големите езикови модели като ChatGPT на OpenAI работят, като неведнъж предвиждат най-вече правдоподобна последваща дума в изречение. Това ги прави положителни в изпълняването на предизвикателни подкани за секунди, само че също по този начин ги кара да вършат чести неточности, известни като халюцинации.

Много американци са почнали да употребяват тези принадлежности за писане на служебни имейли, копия на уеб страници и други документи по-бързо. Но това може да докара до проблеми, в случай че не дадат приоритет на точността или деликатно не ревизират материала.

Двама юристи трябваше да се извинят на арбитър във федералния съд в Манхатън предходната година, да вземем за пример, откакто са използвали ChatGPT за търсене на правни прецеденти и не са забелязали незабавно, че системата е измислила някои.

Майк Нелис, създател на инструмента за акция с изкуствен интелект Quiller, назова потреблението на консултанта по акцията на AI „ изцяло безконтролно “.

„ Неетично е “, сподели той. „ Това е напряко неистина. “

Но той сподели, че OpenAI е виновен за използването на своите политики, които не разрешават на хората да споделят излаз от продуктите му, с цел да излъгват или подведат хората.

OpenAI също не разрешава на хората да употребяват неговите системи за създаване на приложения за политически акции или лобиране, макар че няма доказателства, че това се е случило в този случай. OpenAI не отговори незабавно на искане за коментар.

Нелис сподели, че локалното, щатското и федералното контролиране на AI инструментите в политиката също е належащо с напредването на технологията. Въпреки че двупартийните полемики в Конгреса подчертаха нуждата от такова законодателство, към момента не е признат федерален закон.

Списъкът с историите на Билал, който уеб сайтът назова нейния „ Рекорд на достиженията “, приключи с отвод от отговорност — който Inquirer назова нов — че информацията „ не прави заявления или гаранции от какъвто и да е тип “ по отношение на точността на информацията.

Някои, в това число уволнен осведомител в офиса на Билал, притеснявам се, че сходна дезинформация може да обърка гласоподавателите и да способства за продължаващото съмнение и заплахи за демокрацията.

„ Имам съществени терзания по отношение на това “, сподели Брет Мандел, който за малко беше неин финансов шеф през 2020 година и приказва преди акцията да излезе с изказването.

„ Мисля, че сме очевидци на локално и национално равнище освен на неуважение към истината и институциите, които сме считали за пазачи на истина, ” сподели той, „ само че мисля, че сме подкопали цялото доверие в тази област. ”

Мандел заведе един от няколкото каузи за подаването на сигнали против службата. Той твърди, че е бил уволнен, тъй като е изразил опасения по отношение на финансите на офиса. Билал беше подложен на критика по време на мандата си по отношение на разноските за офиса, финансовите доклади на акцията, докладваната загуба на стотици оръжия и други проблеми.

Списъкът с вести, който включва хипотетични дати на издание, приписва четири вести на Inquirer, нито една от които не е в архивите на вестника, сподели представителят Евън Бен. Другите бяха приписани на три локални радиостанции - WHYY, WCAU и KYW.