Директор на училище получи заплахи, след като беше обвинен в обиден език на запис. Сега полицията казва, че това е deepfake
Записът стана вирусен през януари, провокирайки гняв в предградията на Балтимор. Изглежда, че директорът на гимназията Пайксвил Ерик Айсверт е бил хванат да прави расистки и антисемитски коментари. Гневните телефонни обаждания заляха рецепцията. Служителите се уплашиха. Сигурността беше засилена.
Айсверт беше пуснат в административен отпуск в очакване на разследване. Получавал е различни заплахи за насилие. В полицейски доклад се казва, че един човек му казал, че „светът би бил по-добро място, ако беше от другата страна на мръсотията“.
През цялото време Айсверт отричаше да прави обидните забележки. Той каза, че това не е неговият глас на записа. Той вярваше, че това е AI deepfake. А в четвъртък органите на реда обявиха, че смятат, че той е прав.
Според полицейското управление на окръг Балтимор записът наистина е фалшив. А мъжът, обвинен в създаването му – училищен служител, който се е сбил с директора – беше арестуван по обвинения, включващи нарушаване на работата на училище.
„Днес сме облекчени, че можем да разкрием произхода на това аудио“, каза изпълнителният директор на окръг Балтимор Джони Олшевски на пресконференция в четвъртък, която намекна за смущаващите възможности на изкуствения интелект. „Въпреки това е ясно, че навлизаме и в нова, дълбоко тревожна граница.“
Работата на спортния директор беше застрашена. Тогава записът се появи
Ето как се разви всичко според служители на окръга и декларация от полицията под клетва:
Миналия декември в Pikesville High, на около 10 мили северозападно от Балтимор, директорът Eiswert разследваше потенциална кражба, включваща спортния директор на гимназията Dazhon Darien. Неразрешено плащане за почти 2000 долара е извършено на съквартиранта на Дариен, треньор по баскетбол в училището, „под претекст“, че съквартирантът също е работил като помощник треньор по футбол на момичета, се казва в полицейски доклад.
Но когато директорът и негов колега го разгледаха, те откриха, че предполагаемият помощник-треньор „никога не е помагал по време на футболния сезон“. Айсверт се изправи срещу Дариен относно плащането, се казва в доклада, а Дариен каза, че това е „грешка“.
Това не беше първата конфронтация между Айсверт и Дариен. В доклада се казва, че Дариен преди това е уволнил треньор без одобрение, след което Айсверт помоли други администратори да наблюдават Дариен по-отблизо. Айсверт е говорил с Дариен относно неподновяването на договора му, се казва в доклада, поради „чести предизвикателства в работата“.
На 16 януари потребител на Gmail, известен като TJFOUST9, изпрати имейл до трима учители, включително Дариен, на техните училищни имейл адреси. Темата гласеше: „Директор на Пайксвил — смущаващ запис.“ Беше прикачен звуков файл. Чуваше се да говори мъж. Сред другите пренебрежителни коментари, включително един за двама учители и друг за евреите, човекът каза, че чернокожите ученици не могат да „изпробват пътя си от хартиена торба“.
Записът се разпространи. Учител, който не се разбираше добре с Айсверт, призна, че го е споделил с ученик, „за когото е знаела, че бързо ще разпространи съобщението в различни социални медии и в цялото училище“, се казва в доклада. Учителят също изпрати записа до медиите и NAACP.
Докато възмущението се засилваше, учителите се чудеха дали в училището не са поставени тайни записващи устройства. Един служител започна да приема чувствителни телефонни обаждания в колата си на паркинга.
Били Бърк, представител на синдиката на училищните администратори, беше сред служителите, които веднага се усъмниха в автентичността на записа.
„Аудиото изглежда като диалог, но не могат да се чуят други гласове и няма околен шум“, каза той в изявление за CNN. „Училищата и офисите са оживени, шумни места, но нищо от това не се вижда в аудиото. Това ми беше подозрително. Съдържанието на аудиозаписа изглеждаше сценарийно, тъй като изявленията, ако бъдат пуснати, биха оклеветили говорещия, по някакъв начин ще защитят споменатите и ще обидят общността.
Бърк каза, че се е срещнал с Айсверт и училищни администратори и „можех да чуя в гласовете и историята им, че тази лента не е истинска“.
Въпреки това Айсверт беше временно заменен от двама други администратори. В интервюта за записа той отрече това да е неговият глас. Той смяташе, че Дариен стои зад това, се казва в доклада, обяснявайки, че Дариен „е технологично разбираем“ и очевидно „запознат с ИИ“.
Разследване доведе до мистериозен потребител на Gmail - и заповед за арест
Разследващите търсят произхода на записа. Чрез призовка до Google детектив намери IP адреса, на който е създаден имейл адресът TJFOUST9. Детективът проследи този IP адрес до роднина на Дариен. Акаунтът в Gmail имаше телефонен номер за възстановяване. Детектив проследи този номер до Дажон Дариен.
Разследващите споделиха аудиофайла с двама съдебни експерти, включително изпълнител на ФБР. Един каза, че изглежда „записът съдържа следи от генерирано от AI съдържание с човешко редактиране след факта, което добавя фонови шумове за реализъм“. Друг експерт каза, че изглежда „записът е манипулиран и множество записи са слепени заедно с помощта на неизвестен софтуер“.
В сряда властите получиха заповед за арест на Дариен по обвинения в кражба, преследване, отмъщение на свидетел и нарушаване на работата на училище.
В четвъртък, според шефа на полицията, Дариен отишъл до международното летище Балтимор/Вашингтон и се опитал да се качи на полет за Хюстън. Той носеше пистолет със себе си и служителите по сигурността го спряха заради въпроси как е опакован. Тогава разбраха за заповедта за арест. Полицията каза, че не е сигурна дали Дариен се опитва да избяга.
Дариен беше задържан в четвъртък вместо гаранция от 5000 долара. В петък сутринта служител в затвора на окръг Балтимор каза, че Дариен не е там. CNN не можа да определи дали има адвокат и обажданията към мобилния му телефон не бяха върнати веднага.
Айсверт не беше на разположение за интервю в четвъртък. На пресконференцията училищният началник Мириам Роджърс каза, че „г-н. Eiswert абсолютно остава на работа в държавните училища на окръг Балтимор, но двама други администратори остават да отговарят за Pikesville High. Началникът каза, че скоро ще има среща с Айсверт, за да се определи какво ще се случи по-нататък.
Към края на пресконференцията репортер попита началника защо училищните служители са чакали три месеца, за да оправдаят публично директора.
