Как създателят на ChatGPT OpenAI планира да предотврати дезинформацията за изборите през 2024 г.
Производителят на ChatGPT OpenAI очерта план за предотвратяване на използването на неговите инструменти за разпространение на дезинформация за избори, докато гласоподавателите в повече от 50 държави се подготвят да гласуват на националните избори през този ден година.
Предпазните мерки, изложени от базираната в Сан Франциско стартираща компания за изкуствен интелект в публикация в блог тази седмица, включват комбинация от вече съществуващи политики и по-нови инициативи за предотвратяване на злоупотребата с изключително популярните генеративни AI инструменти. Те могат да създават нов текст и изображения за секунди, но също така да бъдат въоръжени за измисляне на подвеждащи съобщения или убедителни фалшиви снимки.
Стъпките ще се прилагат специално за OpenAI, само един играч в разширяваща се вселена от компании, разработващи усъвършенстван генеративен AI инструменти. Компанията, която обяви ходовете в понеделник, заяви, че планира да „продължи работата си по безопасността на платформата чрез повишаване на точната информация за гласуване, прилагане на премерени политики и подобряване на прозрачността.“
Тя каза, че ще забрани на хората да използват нейната технология за създаване на чатботове, които се представят за реални кандидати или правителства, за погрешно представяне на начина на гласуване или за обезсърчаване на хората да гласуват. Той каза, че докато не бъдат направени повече изследвания за убедителната сила на неговата технология, той няма да позволи на своите потребители да създават приложения за целите на политическа кампания или лобиране.
Започвайки "в началото на тази година," OpenAI каза, че ще постави цифрови водни знаци на AI изображения, създадени с помощта на своя DALL-E генератор на изображения. Това трайно ще маркира съдържанието с информация за произхода му, което ще улесни идентифицирането дали изображение, което се появява другаде в мрежата, е създадено с помощта на AI инструмента.
Компанията също така каза, че си партнира с National Асоциацията на държавните секретари да насочва потребителите на ChatGPT, които задават логистични въпроси относно гласуването, към точна информация на безпартийния уебсайт на тази група, CanIVote.org.
Мекела Пандитаратне, съветник в програмата за демокрация в Центъра за правосъдие Бренан, каза, че плановете на OpenAI са положителна стъпка към борбата с изборната дезинформация, но това ще зависи от това как ще бъдат изпълнени.
Вземете последните национални новини. Изпраща се на вашия имейл, всеки ден.„Например колко изчерпателни и изчерпателни ще бъдат филтрите при маркиране на въпроси относно изборния процес?“ тя каза. „Ще има ли елементи, които да се промъкнат през пукнатините?“
ChatGPT и DALL-E на OpenAI са едни от най-мощните генеративни AI инструменти до момента. Но има много компании с подобна усъвършенствана технология, които не разполагат с толкова много предпазни мерки срещу дезинформация за изборите.
Въпреки че някои компании за социални медии, като YouTube и Meta, въведоха политики за етикетиране с изкуствен интелект, остава да да видим дали ще могат постоянно да хващат нарушителите.
„Би било полезно, ако други фирми за генериране на ИИ приемат подобни насоки, така че да може да има прилагане на практически правила в цялата индустрия“, каза Даръл Уест, старши сътрудник в Центъра за технологични иновации на Brooking Institution.
Без доброволно приемане на такива политики в индустрията, регулирането на генерираната от AI дезинформация в политиката би изисквало законодателство. В САЩ Конгресът все още не е приел законодателство, целящо да регулира ролята на индустрията в политиката, въпреки известна двупартийна подкрепа. Междувременно повече от една трета от американските щати са приели или въвели законопроекти за справяне с дълбоките фалшификации в политическите кампании, тъй като федералното законодателство е в застой. не е спокоен.
„Мисля, че е добре, че имаме много тревоги и ще направим всичко възможно, за да го оправим възможно най-добре“, каза той по време на интервю във вторник за Bloomberg събитие по време на Световния икономически форум в Давос, Швейцария. „Ще трябва да наблюдаваме това невероятно внимателно тази година. Супер строг мониторинг. Супер тясна верига за обратна връзка.“
