Средно училище в Бевърли Хилс разследва ученици, споделящи направени от AI голи снимки на съученици
Ученици в средно училище в Бевърли Хилс са използвали технология с изкуствен интелект, за да създадат фалшиви голи снимки на свои съученици, според училищни администратори. Сега общността се бори с последствията.
Училищните служители в средното училище Beverly Vista бяха уведомени за „генерираните от AI голи снимки“ на ученици миналата седмица, каза областният началник в писмо до родителите. Управителят каза на NBC News, че снимките съдържат лица на ученици, насложени върху голи тела. Районът не сподели как е определил, че снимките са произведени с изкуствен интелект.
„Много е страшно, защото хората не могат да се чувстват в безопасност, нали знаете, да идват на училище“, ученик в Beverly Vista Middle School, който не пожела да бъде идентифициран, каза за KNBC в Лос Анджелис. „Те се страхуват, че хората ще показват, като, изрични снимки.“
Лейтенант Андрю Майерс от полицейското управление в Бевърли Хилс каза пред NBC News, че полицията е отговорила на обаждане от Бевърли Хилс Обединен училищен район в края на миналата седмица и взе доклад за инцидента. В момента се води некриминално разследване, каза Майърс. Тъй като разследването включва непълнолетни, Майърс каза, че не може да бъде споделяна допълнителна информация.
Случаят в средното училище в Бевърли Хилс следва серия от подобни инциденти, включващи ученици, създаващи и споделящи генерирани от AI голи снимки на техните съученички в гимназии по света. Една жертва на тийнейджър от Ню Джърси говори за преживяното от нея през януари пред федералните законодатели във Вашингтон, окръг Колумбия, за да се застъпи за федерален закон, криминализиращ всички фалшиви фалшиви фалшиви изображения без съгласие. В момента не съществува такъв федерален закон.
Включете се в „Нощните новини на NBC с Лестър Холт“ тази вечер в 18:30 ч. ET/17:30 ч. CT за повече информация за тази история.
В писмо до родителите, получено от NBC News, ръководителят на обединения училищен окръг на Бевърли Хилс д-р Майкъл Бреги характеризира инцидента с дълбоко фалшифициране като част от „смущаващо и неетично използването на ИИ, измъчващо нацията.“
„Настоятелно призоваваме Конгреса, както и федералните и щатските правителства да предприемат незабавни и решителни действия, за да защитят нашите деца от потенциалните опасности на нерегулираната ИИ технология, “, написа Бреги. „Ние призоваваме за приемане на законодателство и прилагане на закони, които не само наказват извършителите, за да възпират бъдещи действия, но също така стриктно регулират развиващите се AI технологии, за да предотвратят злоупотреби.“
Бреги каза пред NBC News, че училищният район ще накаже учениците извършители в съответствие с политиките на дистрикта. Засега той каза, че тези ученици са отстранени от училището в очакване на резултатите от разследването на района. След това Бреги каза, че извършителите на студентски престъпления ще бъдат наказани с каквото и да е - от отстраняване до изключване, в зависимост от нивото им на участие в създаването и разпространението на изображенията. Извън областта обаче пътят към обжалване за жертвите на студенти е по-малко ясен.
През 2020 г. Калифорния прие закон, който позволява на жертвите на неконсенсусни дълбоки фалшификации с явен сексуален характер да съдят хората, които са създали и разпространили материала. Ищецът може да възстанови до $150 000 обезщетение, ако се установи, че извършителят е извършил злонамерено. Не е ясно дали някога са били присъдени обезщетения по закона.
Мери Ан Франкс, президент на Инициативата за кибер граждански права и професор в Юридическия факултет на университета Джордж Вашингтон, каза, че законите на Калифорния все още не забранявайте ясно случилото се в средното училище Beverly Vista — въз основа на наличната в момента информация за инцидента. Не всички голи изображения на деца се считат законно за порнографски, така че без повече информация какво изобразяват снимките, тяхната законност не е ясна.
„Гражданският иск в Калифорния потенциално може да се приложи тук, но за жертвите винаги е трудно да идентифицират кои са извършителите, да получат правната помощ, от която се нуждаят, и след това действително да преследват случая,“ Франкс каза.
„Трудно е да се мисли какво би било справедливостта за учениците“, продължи тя. „Проблемът с базираната на изображения злоупотреба е, че след като материалът е създаден и навън, дори и да накажете хората, които са ги създали, тези изображения могат да циркулират вечно.“
Технологията за създаване на фалшиви голи изображения бързо стана по-усъвършенствано и достъпно през последните няколко години, а нашумелите инциденти с дълбоки фалшиви изображения на знаменитости – като тези на Тейлър Суифт, които станаха вирусни през януари – насочиха още повече внимание към потребителските приложения, които позволяват на потребителите да разменят лицата на жертвите в порнографско съдържание и снимки на „събличане“.
При дълбоко фалшиви случаи на сексуално насилие, включващи непълнолетни извършители и жертви, законите не винаги са били прилагани.
Изданието за дигитални новини 404 Media разследва случай от 2023 г., включващ гимназия в щата Вашингтон, където полицейската документация разкрива, че администраторите на гимназията не са докладвали за ученици, които правят генерирани от AI голи снимки на свои съученици Instagram снимки. Инцидентът е възможно сексуално престъпление срещу деца, се казва в доклада на полицията във Вашингтон, но администраторите са се опитали да се справят със ситуацията вътрешно, преди множество родители да подадат доклади в полицията. След като полицията разследва инцидента, прокурор отказа да повдигне обвинения срещу извършителя.
„Надявам се, че законодателите започват да осъзнават, че докато гражданските наказания могат да бъдат полезни за определени жертви, това само ще се случи да бъде частично решение“, каза Франкс. „Това, върху което трябва да се съсредоточим, са възпиращите фактори. Това е неприемливо поведение и трябва да бъде съответно наказано.“
Kat Tenbarge
