Дълбокото фалшифициране на гласа на директора е най-новият случай на AI, използван за нараняване

Най-скорошният престъпен случай, включващ изкуствен интелект, се появи предходната седмица от гимназия в Мериленд, където полицията споделя, че шеф е бил завършен като расист посредством подправен запис на неговия глас.

Случаят е още една причина, заради която всички — освен политици и звезди — би трябвало да се тревожат за тази все по-мощна технология за надълбоко подправяне, споделят специалисти.

„ Всеки е уязвим на офанзиви и всеки може да извърши офанзивата “, сподели Хани Фарид, професор в Калифорнийския университет в Бъркли, който се концентрира върху цифровата криминалистика и дезинформацията.

Ето какво би трябвало да знаете за някои от най-новите използва на ИИ за причиняване на щета:

ИИ СТАНА МНОГО ДОСТЪПЕН

< /h2>

Манипулирането на записани звуци и изображения не е нещо ново. Но лекотата, с която някой може да промени информацията, е неотдавнашен феномен. Както и способността му да се популяризира бързо в обществените медии.

Фалшивият аудио клип, който се показва за шефа, е образец за подгрупа от изкуствен интелект, прочут като генеративен ИИ. Може да основава хиперреалистични нови изображения, видеоклипове и аудио клипове. През последните години е по-евтино и по-лесно за потребление, намалявайки бариерата пред всеки с интернет връзка.

„ Особено през последната година всеки – и в действителност имам поради всеки – може да посети онлайн услуга “, сподели Фарид, професор от Бъркли. „ И гратис или против няколко $ на месец те могат да качат 30 секунди от нечий глас. “

Тези секунди могат да дойдат от гласова поща, обява в обществени медии или скришен запис, сподели Фарид. Алгоритмите за машинно образование улавят по какъв начин звучи човек. След това клонираната тирада се генерира от думи, въведени на клавиатура.

Технологията ще става все по-мощна и по-лесна за потребление, в това число за видео операция, сподели той.

КАКВО съдебна експертиза СЛУЧИ В МЕРИЛЕНД?

Властите в окръг Балтимор споделиха, че Дажон Дариен, спортният шеф на Pikesville High, е клонирал гласа на шефа Ерик Айсверт.

Фалшивият запис съдържа расистки и антисемитски мнения, сподели полицията. Звуковият файл се появи в имейл във входящите кутии на някои учители, преди да се популяризира в обществените медии.

Записът се появи, откакто Айсверт изрази угриженост по отношение на работата на Дариен и хипотетичното корист с учебни средства, сподели полицията.

Фалшивото аудио принуди Айсверт да излезе в отпуск, до момента в който полицията охраняваше къщата му, споделиха управляващите. Гневни телефонни позвънявания заляха учебното заведение, до момента в който в обществените медии се натрупаха изпълнени с ненавист известия.

Детективите помолиха външни специалисти да проучват записа. Един сподели, че „ съдържа следи от наличие, генерирано от изкуствен интелект с човешко редактиране след обстоятелството “, се показва в правосъдните протоколи.

Второ мнение от Фарид, професор от Бъркли, откри, че „ голям брой записи са били свързани дружно “, съгласно записите.

Фарид сподели на Асошиейтед прес, че остават въпроси за това по какъв начин тъкмо е основан този запис и той не е удостоверил, че е бил напълно генериран от AI.

Но поради възходящите благоприятни условия на AI, Фарид сподели, че казусът с Мериленд към момента служи като „ канарче във въгледобивната мина “, по отношение на нуждата от по-добро контролиране на тази технология.

ЗАЩО АУДИОТО Е ТАКАВО ПРИТЕСНИТЕЛНО?

Много случаи на дезинформация, генерирана от AI, са аудио.

Това частично се дължи на обстоятелството, че технологията се е подобрила толкоз бързо. Човешките уши също не постоянно могат да разпознават издайнически признаци на операция, до момента в който несъответствията във видеоклипове и изображения са по-лесни за забелязване.

Някои хора са клонирали гласовете на хипотетично отвлечени деца по телефона, с цел да получат пари за откуп от родителите, споделят специалисти. Друг се преструваше, че е основен изпълнителен шеф на компания, която незабавно се нуждаеше от средства.

По време на тазгодишните първоначални избори в Ню Хемпшир, генерирани от изкуствен интелект автоматизирани позвънявания имитираха гласа на президента Джо Байдън и се пробваха да разубедят гласоподавателите на Демократическата партия да гласоподават. Експертите предизвестяват за скок в генерираната от AI дезинформация, ориентирана към изборите тази година.

Но смущаващите трендове надвишават аудиото, като да вземем за пример стратегии, които основават подправени голи изображения на облечени хора без тяхното единодушие, в това число малолетни, предизвестяват специалисти. Певицата Тейлър Суифт неотдавна стана цел.

КАКВО МОЖЕ ДА съдебна експертиза НАПРАВИ?

Повечето снабдители на AI технология за генериране на глас споделят, че не разрешават нездравословното потребление на техните принадлежности. Но самоналагането варира.

Някои снабдители изискват тип гласов автограф или желаят от потребителите да рецитират неповторим набор от фрази, преди гласът да може да бъде клониран.

По-големите софтуерни компании, като компанията майка на Фейсбук Meta и основателят на ChatGPT OpenAI, разрешават единствено на дребна група доверени консуматори да опитват с технологията заради рисковете от корист.

Фарид сподели, че би трябвало да се направи повече. Например, всички компании би трябвало да изискват от потребителите да дават телефонни номера и кредитни карти, с цел да могат да проследят файлове до тези, които злоупотребяват с технологията.

Друга концепция е да се изисква записите и изображенията да носят дигитален воден знак.

„ Вие модифицирате аудиото по способи, които са незабележими за човешката слухова система, само че по метод, който може да бъде разпознат от част от софтуера надолу по веригата “, сподели Фарид.

Александра Рийв Гивънс, основен изпълнителен шеф на Центъра за народна власт и технологии, сподели, че най-ефективната интервенция е действието на правоприлагащите органи против незаконното потребление на ИИ. Необходимо е и повече обучение на потребителите.

Друг фокус би трябвало да бъде призоваването за отговорно държание измежду фирмите за изкуствен интелект и обществените медийни платформи. Но не е толкоз просто като възбраната на Generative AI.

„ Може да бъде комплицирано да се добави правна отговорност, тъй като в толкоз доста случаи може да има позитивни или потвърждаващи използва на технологията “, сподели Гивънс, цитирайки стратегии за превод и четене на книги.

Още едно предизвикателство е намирането на интернационално съглашение по отношение на етиката и насоките, сподели Кристиан Матман, шеф на групата за добиване на информация и просвета за данни в Университета на Южна Калифорния.

„ Хората употребяват AI по друг метод според от това в коя страна се намират “, сподели Матман. „ И това не са единствено държавните управления, а хората. Така че културата има значение.

___

Репортерите на Associated Press Али Суенсън и Мат О’Брайън способстваха за тази публикация.