Пазете се от „ботовете“: защо генеративният AI е толкова реална и непосредствена заплаха за начина, по който живеем

Андре Спайсър

Освен ако не бъдат въведени проверки, гражданите и избирателите може скоро да се сблъскат с генерирано от AI съдържание, което няма връзка към реалността

През 2023 г. формата на бъдещата политика се появи във видеоклип. В него Хилъри Клинтън – бившият кандидат за президент на Демократическата партия и държавен секретар – казва: „Знаете ли, хората може да се изненадат да ме чуят да казвам това, но всъщност много харесвам Рон ДеСантис. Да, знам. Бих казал, че той е точно такъв тип човек, от който тази страна се нуждае.“

Изглежда странно, че Клинтън горещо би подкрепил републиканската надежда за президент. И това е. По-нататъшни разследвания установиха, че видеото е създадено с помощта на генеративен изкуствен интелект (AI).

Видеото на Клинтън е само един малък пример за това как генеративният AI може дълбоко да промени политиката в близко бъдеще. Експерти посочиха последствията за изборите. Те включват възможността за създаване на фалшива информация на ниска цена или безплатно и силно персонализирана реклама, създадена за манипулиране на избирателите. Резултатите могат да бъдат така наречените „октомврийски изненади“ – т.е. новина, която излиза точно преди изборите в САЩ през ноември, където се разпространява дезинформация и няма достатъчно време да се опровергае – и генерирането на подвеждаща информация за изборната администрация, като например къде са избирателните секции.

Притесненията относно въздействието на генеративния AI върху изборите станаха спешни, когато навлизаме в година, в която милиарди хора по цялата планета ще гласуват. През 2024 г. се предвижда да има избори в Тайван, Индия, Русия, Южна Африка, Мексико, Иран, Пакистан, Индонезия, Европейския съюз, САЩ и Обединеното кралство. Много от тези избори няма да определят само бъдещето на националните държави; те също ще оформят начина, по който се справяме с глобалните предизвикателства като геополитическото напрежение и климатичната криза. Вероятно всеки от тези избори ще бъде повлиян от нови генеративни AI технологии по същия начин, по който изборите от 2010 г. бяха оформени от социалните медии.

Докато политиците харчеха милиони, за да овладеят силата на социалните медии да оформят изборите през 2010 г., генеративният AI ефективно намалява разходите за производство на празна и подвеждаща информация до нула. Това е особено тревожно, защото през последното десетилетие станахме свидетели на ролята, която така наречените „глупости“ могат да играят в политиката. В кратка книга по темата покойният философ от Принстън Хари Франкфурт дефинира глупостите конкретно като реч, предназначена да убеждава без оглед на истината. През 2010 г. това изглежда се превърна във все по-честа практика сред политическите лидери. С възхода на генеративния AI и технологии като ChatGPT, можем да видим възхода на феномен, който моите колеги и аз наричаме „ботове“.

В скорошна статия Тим Ханиган , Иън Маккарти и аз се опитахме да разберем какво точно е ботшит и как работи. Добре известно е, че генеративните AI технологии като ChatGPT могат да произведат така наречените „халюцинации“. Това е така, защото генеративният AI отговаря на въпроси, като прави статистически обосновани предположения. Често тези предположения са верни, но понякога са много погрешни. Резултатът може да бъде изкуствено генерирани „халюцинации“, които нямат много връзка с реалността, като обяснения или изображения, които изглеждат на пръв поглед правдоподобни, но всъщност не са правилният отговор на какъвто и да е въпросът.

Хората може да използват неистински материал, създаден от генеративен AI по безкритичен и необмислен начин. И това може да направи по-трудно за хората да разберат какво е истина и лъжа в света. В някои случаи тези рискове може да са относително ниски, например ако генеративният AI е бил използван за задача, която не е много важна (като например да се измислят някои идеи за реч на парти за рожден ден), или ако истинността на резултата е лесно проверимо с помощта на друг източник (като например кога се е случила битката при Ватерло). Истинските проблеми възникват, когато резултатите от генеративния AI имат важни последствия и резултатите не могат лесно да бъдат проверени.

Ако произведените от AI халюцинации се използват за отговор на важен, но труден отговор проверяват въпроси като състоянието на икономиката или войната в Украйна, съществува реална опасност това да създаде среда, в която някои хора започват да вземат важни решения за гласуване въз основа на една изцяло илюзорна вселена от информация. Има опасност гласоподавателите да се окажат живи в генерирани онлайн реалности, които се основават на токсична смес от AI халюцинации и политическа целесъобразност.

Въпреки че AI технологиите крият опасности, има мерки, които могат да бъдат предприети за ограничаването им. Технологичните компании могат да продължат да използват водни знаци, което позволява на потребителите лесно да идентифицират генерирано от AI съдържание. Те биха могли също така да гарантират, че ИИ са обучени на авторитетни източници на информация. Журналистите могат да вземат допълнителни предпазни мерки, за да избегнат отразяването на истории, генерирани от AI по време на изборен цикъл. Политическите партии могат да разработят политики за предотвратяване на използването на измамна информация, генерирана от AI. Най-важното е, че гласоподавателите биха могли да упражняват своята критична преценка, като проверяват реалността на важна информация, за която не са сигурни.

Възходът на генеративния ИИ вече започна да променя фундаментално много професии и индустрии. Политиката вероятно ще бъде в челните редици на тази промяна. Институтът Брукингс посочва, че има много положителни начини, по които генеративният ИИ може да се използва в политиката. Но в момента отрицателните му употреби са най-очевидни и е по-вероятно да ни засегнат незабавно. Жизненоважно е да се стремим да гарантираме, че генеративният AI се използва за полезни цели и не води просто до повече ботове.

Андре Спайсър е професор по организационно поведение в Bayes Business School в City, University of London. Той е автор на книгата Business Bullshit

Последвайте ни в