Откриване на дълбоки фалшификати в свят, където дори реалността е подозрителна

Миналия февруари крилата ракета Tomahawk удари иранско начално учебно заведение, убивайки повече от 150 души, множеството от които деца. Президентът Тръмп в началото допусна, че това може да е нечий Tomahawk: „ Независимо дали става дума за Иран или за някой различен, фактът, че Tomahawk – Tomahawk е доста общ, той се продава на други страни, само че това се проверява сега “, сподели той.

Когато Иран пусна видео като доказателство, че това е ракета на Съединени американски щати, Хани Фарид, един от най-хубавите в света специалисти по deepfakes, се свързаха от няколко медии, с цел да дефинират дали е същинско или подправено.

Професор в Dartmouth College, Фарид също е съосновател на GetReal Security, компания за киберсигурност. „ Това, което беше мъчно в този случай, беше, че трябваше доста малко да работиш “, сподели той. „ Имахме доста зърнесто, треперещо видео. Ракетата е извънредно дребна. И трябваше да разсъждаваме за физическата достоверност тази ракета да удря земята. “

Но той също имаше избрани аспекти, които можеше да изследва научно, включващи скоростта на звука, скоростта на светлината и размера на ракетата: „ И тези три неща бяха задоволителни, с цел да кажем, че това е физически правдоподобно “, сподели той. „ И това е значимата част: всички доказателства ни доведоха до убеждението, че видеото е достоверно и това не беше опровергано. “

Но това е светът, в който живеем: самата действителност, толкоз съвършено имитирана от изкуствения разсъдък, че даже действителността е подозрителна.

Фарид сподели: „ Ето нещо, което ме прави малко вманиачен, изключително като академик: не мисля, че би трябвало да можеш да отидеш в съда и да кажеш: „ Ето някакво доказателство, което е задоволително неоправдателно, с цел да убие този човек “, и по-късно съдията споделя: „ Е, от кое място знаеш, че е същинско? “ И аз споделям: " Ами, тъй като компютърът ми сподели по този начин. " Това не е отговор

„ И в случай че не мога да обясня на вас, на арбитър и на правосъдни заседатели, какво се случва тук – поради осветлението, поради сенките, поради геометрията, каквото и да е – това е, което би трябвало да можем да създадем. “

Примерен случай: Алекс Прети, който беше погубен от сътрудник на ICE в Минесота. Ако си спомняте сцената от предишния 24 януари, беше безредна. Няколко сътрудници на ICE с револвери заобиколиха Прети.

Фарид ни сподели размазана фотография на Прети, взета от истинското видео. „ Някой е взел това и го е „ подобрил “, сподели той. Според Фарид яснотата на това „ усъвършенствано “ изображение кара сцената да се усеща „ по-реална, само че това, което също направи, е, че когато я усъвършенства, наподобява, че е поставил револвер в ръката на [Прети]. Ако се върнете към това видео, камерата се движи малко и това, което се случва, е, че има сянка зад ръката му на улицата. И това, което изкуственият разсъдък направи, е, че халюцинира това. “

Фарид споделя, че изкуственият разсъдък се е научил, „ Когато видите фотоси като тази с трима мъже с оръжия, всеки има оръжие. “ И в този момент, когато търсите в Гугъл събития като убийството на Прети, това демонстрира „ усъвършенстваното “ изображение.

Според оценката на Фарид, половината от наличието, което се гледа необятно в Интернет е подправен, всъщност мятане на монетата. Голяма част от него има собствен личен саркастичен етикет. Кадри на самолети, които се плъзгат по асфалта, дребни деца, танцуващи в два стадия. лимитира проучванията си до в действителност сериозните неща, дълбоките имитации. Той сподели: „ Виждаме, че подправените имитации се въоръжават по доста, доста разнообразни способи, от основаване на материали за полово принуждение над деца, до интимни изображения без единодушие, до изцяло спонсорирани от страната акции за дезинформация, до това, което севернокорейците са създали, [което] е да накарат техните ИТ чиновници да бъдат интервюирани за работа отдалечено. И те прикриват акцента си благодарение на AI. Те могат да скрият самоличността си благодарение на deepfake, където трансформират самоличността си от вежда на брадичка, буза на буза, в действително време посредством видео диалог. Те могат да скрият геолокацията си. И те интервюират за работа. Ще ви кажа, че съвсем всяка компания от Fortune 500 е наела един или повече от тях, без значение дали го знаят или не.

„ И в този момент въпросът, който желаете да си зададете, е какво следва? Е, тъй че един изпълнителен шеф сподели: „ Добре. Край на виртуалните изявленията. Край на отдалечената работа. “ Това е полуда. … Ще стартираме да транспортираме хора със самолети в цялата страна? Това не може да е отговорът. Искам да кажа, че е изтощително. Нека бъдем почтени. Искам да кажа, в случай че постоянно гледаме през рамото си над всеки имейл, всяко текстово известие, всяка гласова поща, всяко телефонно позвъняване, всяко видео позвъняване? Изтощително е. Изтощен съм и си изкарвам прехраната с това. “

Попитан дали сънува кошмари поради deepfakes, Фарид отговори: „ Гледам наличие по през целия ден. И нормално нещата, които виждам не са приятни. Гледам неприятни неща, които включват ужасяващи закононарушения, и когато гледаш тези неща още веднъж и още веднъж и още веднъж, те остават с теб и не можеш да ги изхвърлиш от главата си.

„ И номер две е, че не желая да бъркам. И преди пет години се почувствах доста по-уверен по отношение на способността ни да разграничаваме същинско от подправено. Стана по-трудно. И тогава се безпокоя повече. Имам възприятието, че почвата непрестанно се измества ", сподели той.

Това построява – стресът, натискът. След седем години на Западното крайбрежие, Фарид се завръща в Дартмут Колидж, където преди този момент е прекарал 20 години като учител. Съпругата му Емили Купър също е професор там. Двамата купиха селски парцел в прилежащия Върмонт, където Фарид коси акри ливади и сече задоволително дърва, с цел да зарежда печките си през зимата. Достатъчно е косене и рязане, с цел да изплакнете някои от тези смущаващи облици. Изолирано е – няма доставка на поща, няма събиране на боклука – само че е умерено.

Определени проблеми, свързани с работата, остават. Социални медии? Фарид ненавижда това: „ Можете да погледнете обществените медии, онлайн платформите и да кажете, че има измерима щета за дребните деца, за възрастните, за възрастните хора, на всички места. И мисля, че бяхме толкоз хипнотизирани от тези артикули, които по план са предопределени да провокират пристрастяване.

„ Мисля, че направихме опит върху цяло потомство от тези млади деца, които идват, поставяйки тези устройства в ръцете им. И в този момент се събудихме и си споделяме: „ О, Боже мой. Това е извънредно. Това потомство сега има по-ниски резултати от ученето от всяко потомство в историята. Отидете в Пало Алто в най-луксозните частни учебни заведения, където всички софтуерни милиардери изпращат децата си. В тези класни стаи няма никакви уреди. Те знаят. "

Това съглашение за 17 милиарда $, което Meta реализира преди няколко седмици, включва някои защитни ограничения, като двучасово времево ограничаване за консуматори под 18-годишна възраст. Фарид счита, че това е начало, само че не задоволително.

„ Най-мрачната визия, която имам, е, че всеки живее в лична осведомителна екосистема и никой към този момент не знае по какъв начин да приказва между тях ", сподели той.

На платформи, където логаритмите избират подправеното пред същинското наличие, Фарид счита, че всички ние би трябвало да стоим настрани от обществените медии или най-малкото да премахнем тези приложения от телефоните си, с цел да устоим на изкушението. Що се отнася до тези уеб страници, които дават обещание да откриват имитации с изкуствен интелект, той споделя, че не е толкоз просто: „ Ето какво мисля, че е идващото (и като споделям идващото, имам поради през идната година), което е, че множеството от дълбоките имитации, които виждаме през днешния ден, имат човек някъде в света. развой. Нечии ръце са върху клавиатурата. Все още има човек в обсега. Но това, което ще стартира да се случва, е, че AI сътрудниците ще стартират да основават свои лични имитации. "

А какво е AI сътрудник? „ Един сътрудник просто има повече автономност и това, което започнахме да виждаме е, че когато му дадете проблем за решение, той ще откри изобретателни способи да го направи, в това число основаване на подправена идентичност, с цел да взаимодейства с човек, с цел да накара индивида да направи нещо и по-късно ще излъже за това ", сподели той.

Агентите с изкуствен интелект бяха в новините в последно време, защото тестваха измамници, засилвайки световния спор по отношение на сигурността на ИИ и самия ход на човечеството. Това са проблеми, с които Хани Фарид се бори всеки ден. И мисля, че това нещо може да продължи постоянно.

„ Съпругата ми и аз сме говорили за това “, сподели той. „ Тя е по-млада от мен. Говорихме дали би трябвало да включим в AI сътрудник моя глас, моето сходство, по какъв начин мисля, по какъв начин приказвам, типа на въпросите, които й задавам заран, по какъв начин й давам отговор, когато е тъжна, по какъв начин й давам отговор, когато е щастлива? Мисля ли, че AI може да имитира това до съвсем съвършенство? Да. “

Попитан дали – би трябвало ли Фарид да бъде блъснат от камион – негов сътрудник с изкуствен интелект може да бъде уместно копие на него за брачната половинка му, Фарид сподели: „ Мисля, че за моето потомство отговорът евентуално е не. Но идващото потомство, поколението по-късно, което ще мисли за тези неща по друг метод? Не знам. “

     
История, продуцирана от Deirdre Cohen. Редактор: Ед Гивниш. 

Вижте повече: