Тъмните кътчета на мрежата предлагат поглед към нечестното бъдеще на ИИ

Когато комисията за условно освобождение в Луизиана се събра през октомври, с цел да разиска евентуалното освобождение на наказан палач, тя прикани доктор с дълготраен опит в региона на психологичното здраве, с цел да приказва за пандизчията.

Комисията за условно освобождение не беше единствената група, която обърна внимание.

Колекция от онлайн тролове направи екранни фотоси на лекарката от онлайн емисия на нейните показания и редактира изображенията с A.I. принадлежности, с цел да я накарат да наподобява гола. След това те споделиха манипулираните файлове на 4chan, анонимно табло за известия, известно с поощряване на тормоз и разпространяване на насаждащо ненавист наличие и теории на конспирацията. 4chan са употребявали нови принадлежности, основани на AI, като аудио редактори и генератори на изображения, с цел да популяризират расистко и обидно наличие за хора, които са се явили пред комисията за условно освобождение, съгласно Даниел Сийгъл, студент в Колумбийския университет, който изследва по какъв начин AI. се употребява за злонамерени цели. Г-н Siegel хронифицира активността на уеб страницата в продължение на няколко месеца.

Манипулираните изображения и аудио не са се популяризирали надалеч отвън границите на 4chan, сподели господин Siegel. Но специалистите, които следят страничните табла за известия, споделиха, че напъните дават взор върху това по какъв начин нечестивите интернет консуматори могат да употребяват комплицирани принадлежности за изкуствен интелект, с цел да засилят онлайн издевателството и акциите на ненавист през идващите месеци и години.

няма федерален закон, забраняващ основаването на подправени изображения на хора, оставяйки групи като съвета за условно освобождение в Луизиана да се борят да дефинират какво може да се направи. Бордът стартира следствие в отговор на констатациите на господин Сийгъл за 4chan.

разшири своя закон, уреждащ порнографията за възмездие, с цел да разреши цели на порнография без единодушие, направена от AI. системи за съдене на основатели или разпространители. Калифорния, Вирджиния и Ню Йорк също одобриха закони, забраняващи разпространяването или основаването на генерирана от AI порнография без единодушие.

Клониране на гласове

В края на предходната година ElevenLabs, A.I. компания, пусна инструмент, който може да сътвори безапелационна цифрова имитация на нечий глас, казващ нещо, въведено в програмата.

Почти незабавно откакто инструментът влезе в деяние, потребителите на 4chan се разпространиха клипове на подправена Ема Уотсън, английската актьорка, която чете манифеста на Адолф Хитлер, „ Mein Kampf “. подправени клипове на съдии, изказващи обидни и расистки мнения за обвинени. Много от клиповете са генерирани от инструмента на ElevenLabs, съгласно господин Siegel, който е употребявал A.I. гласов идентификатор, създаден от ElevenLabs за проучване на техния генезис.

постановат ограничавания, в това число условие потребителите да заплащат, преди да могат да получат достъп до принадлежности за гласово клониране. Но измененията наподобява не забавят разпространяването на гласове, основани от AI, споделиха специалисти. Десетки видеоклипове, употребяващи подправени гласове на звезди, се популяризират в TikTok и YouTube — доста от тях споделят политическа дезинформация.

Някои огромни компании за обществени медии, в това число TikTok и YouTube, от този момент наложителни етикети на някои A.I. наличие. Президентът Байдън издаде изпълнителна заповед през октомври, изискваща от всички компании да етикетират такова наличие и подреди на Министерството на търговията да създаде стандарти за воден знак и засвидетелствуване на AI. наличие.

Персонализиран AI. принадлежности

Когато Meta се реалокира, с цел да се закрепи в A.I. конкуренция, компанията прегърна тактика за стартиране на своя софтуерен код на откривателите. Подходът, необятно именуван „ отворен код “, може да форсира създаването, като даде на учените и технолозите достъп до повече недопечен материал, с цел да намерят усъвършенствания и да разработят свои лични принадлежности.

Когато компанията пусна Llama, своя огромен езиков модел, за избор на откриватели през февруари, кодът бързо изтече в 4chan. Хората там го използваха за разнообразни цели: те трансформираха кода, с цел да понижат или отстранен защитните огради, създавайки нови чатботове, способни да създават антисемитски хрумвания. потребление и отворен код A.I. инструментите могат да бъдат променяни от софтуерно опитни консуматори.

изменени от консуматори на 4chan, с цел да основават голи изображения или да дават расистки мемове, заобикаляйки контрола, натрапен от по-големите софтуерни компании.