Извличане от нашето разследване на училищното наблюдение на AI захранваното захранване

Хиляди американски учебни заведения се обръщат към технологията за наблюдаване на AI за непрекъснато наблюдаване на образователни сметки и устройства, издадени в учебно заведение като преносими компютри и таблети.

Целта е да се запазят децата, изключително измежду психологично здраве и опасността от учебните стрелби. Алгоритмите за машинно образование откриват евентуални индикатори за проблеми като тормоз, самонараняване или самоубийство и по-късно предизвестяват учебните чиновници.

Но тези принадлежности повдигат съществени въпроси по отношение на поверителността и сигурността. Всъщност, когато Seattle Times и Associated Press си партнират, с цел да проучат учебното наблюдаване, репортерите по нехайство получиха достъп до съвсем 3500 чувствителни, нереагирани образователни документи посредством искане за записи. Документите се съхраняват без ключова дума или защитна стена и всеки, който има връзката, може да ги прочете.

Ето основни поемания от следствието.

Технологиите за наблюдаване като Gaggle не постоянно са сигурни

Рисковете за дискретност и сигурност станаха явни, когато Сиатъл Таймс и репортерите на AP подадоха искане за обществени записи до държавните учебни заведения във Ванкувър във Вашингтон, търсейки информация за типа на наличието, сложено от затоплянето на инструмента за наблюдаване. Използван от към 1500 области, Gaggle е една от доста разнообразни компании, предлагащи услуги за наблюдаване, в това число Goguardian и Securly.

Gaggle непокътнати екрани на цифрова активност, които слагат всеки сигнал. Училищните чиновници инцидентно предоставиха на репортерите връзки към тях, без да осъзнават, че не са предпазени с ключова дума. Студентите в тези документи се отвориха за най -интимните аспекти на персоналния си живот, в това число опити за самоубийство.

След като научи за записите по нехайство, пуснати на кореспонденти, Gaggle актуализира системата си. Сега, след 72 часа, единствено тези, влезнали в акаунт в Gaggle, могат да прегледат екранните фотоси. Gaggle сподели, че тази функционалност към този момент е в развой на работа, само че към момента не е била разгърната на всеки клиент.

Компанията споделя, че връзките би трябвало да са налични без влизане през тези 72 часа, тъй че незабавните контакти на учебното заведение - които постоянно получават тези сигнали късно през нощта на телефоните си - могат да реагират бързо.

Няма самостоятелни проучвания, показващи технологиите за наблюдаване покачват сигурността

Дългосрочните резултати на технологията за наблюдаване върху сигурността са неразбираеми. Никакви самостоятелни изследвания не демонстрират, че измеримо намалява % на самоубийства на студентите или понижава насилието. Докладът на RAND от 2023 година открива единствено „ нищожни доказателства “ за изгоди или опасности от наблюдаване на изкуствения разсъдък.

„ Ако нямате точния брой съветници за психологично здраве, издаването на повече сигнали в действителност няма да усъвършенства предварителната защита на самоубийствата “, съобщи отчетът на съавността на отчета Бенджамин Будро, за откривател на нравственос. Но последователите на цифровия мониторинг показват учебните компютри не са подобаващата конфигурация за този тип безкрайно самоизследване.

LGBTQ+ Студентите са изключително уязвими

софтуерът за наблюдаване съставлява неповторими опасности за LGBTQ+ студенти, предизвестяват бранителите. В записите, оповестени от учебните заведения във Ванкувър, минимум шестима възпитаници са били евентуално изправени пред учебни чиновници, откакто са писали за това, че са гей, транссексуални или се борят с пола дисфория.

Когато държавните учебни заведения в Дърам в Северна Каролина пилотират Gaggle, LGBTQ+ Advocate заяви, че сигнал за независимо нагрев е довел до това, че ученикът е отвън тяхното семейство. Друг възпитаник провокира опасения по отношение на загубата на доверие с учителите. Съветът гласоподава да спре потреблението на технологията, като откри, че не си коства рискът от ерозиращи връзки с възрастни.

Родителите постоянно не знаят, че децата им се следят

Родителите, интервюирани за тази публикация, обявиха, че учебното заведение на детето им или не разкрива, че употребява програмен продукт за наблюдаване или погреба разкриването във форми за приложимост на дълги технологии. Дори когато фамилиите са наясно с надзора, учебните заведения могат да откажат да ги оставят да се откажат.

„ Представете си, че израствате в свят, в който всичко, което в миналото сте казвали на компютър, се следи от държавното управление “, сподели Тим Рейланд, който безрезултатно лобира учебния си регион на децата си в Овасо, Оклахома, с цел да остави децата му да се откажат от детче. „ И просто би трябвало да го приемете и да продължите напред. Какви възрастни сътворяваме? ”

____

Образованието на образованието на Асошиейтед прес получава финансова поддръжка от голям брой частни фондации. AP е само виновен за цялото наличие. Намерете стандартите на AP за работа с филантропии, лист на последователи и финансирани области за покритие на AP.org.