Експертът по изкуствен интелект казва, че скандалът със снимки на принцеса Кейт показва, че „усещането ни за споделена реалност“ е подкопано
Лондон — Европейският парламент прие първия в света всеобхватен закон, регулиращ използването на изкуствен интелект в сряда, докато полемика се завъртя около редактирана снимка на Катрин, принцесата на Уелс, което според експертите илюстрира как дори осведомеността за новите AI технологии влияе на обществото.
„Реакцията на това изображение, ако е било публикувано преди, преди големия бум на AI които видяхме през последните няколко години, вероятно ще бъде: „Това е наистина лоша работа с редактирането или Photoshop“, каза Хенри Айдер, експерт по AI и deepfakes, пред CBS News. „Но поради разговора за отсъствието на Кейт Мидълтън в очите на обществеността и вида на конспиративното мислене, което се насърчава, когато това се комбинира с тази нова, по-широка осведоменост за изображения, генерирани от изкуствен интелект... разговорът е много, много различен.“
Принцеса Кейт, както най-често е известна, призна, че е „редактирала“ снимката на себе си и трите си деца, която беше публикувана в официалните й акаунти в социалните медии в неделя. Нито тя, нито дворецът Кенсингтън предоставиха никакви подробности за това, което е променила на снимката, но кралски наблюдател каза на CBS News, че това може да е съставно изображение, създадено от няколко снимки.
ИИ технологията и бързото нарастване на обществената осведоменост за това, което може да направи, означава, че „чувството на хората за споделена реалност, според мен, се ерозира допълнително или по-бързо, отколкото беше преди.“Противодействието на това, каза той, ще изисква работа по част от компании и физически лица.
Какво има в новия Закон за ИИ на ЕС?
Новият Закон за ИИ на Европейския съюз възприема основан на риска подход към технологията. За системи с изкуствен интелект с по-нисък риск, като филтри за спам, компаниите могат да изберат да следват доброволни кодекси за поведение.
За технологии, считани за по-висок риск, където изкуственият интелект е включен в електрически мрежи или медицински устройства, например, ще има по-строги изисквания по новия закон. Някои употреби на AI, като полицията сканира лицата на хората с помощта на AI технология, докато са на обществени места, ще бъдат напълно забранени, освен при изключителни обстоятелства.
ЕС казва, че законът, който се очаква да бъде издаден влиза в сила до началото на лятото, „ще гарантира безопасността и основните права на хората и бизнеса, когато става дума за AI.“
Губим „нашето доверие в съдържанието“?
Милиони хора гледат десетки изображения всеки ден на своите смартфони и други устройства. Особено на малки екрани може да бъде много трудно да се открият несъответствия, които биха могли да показват подправяне или използване на AI, ако изобщо е възможно да бъдат открити.
„Това показва нашата уязвимост към съдържанието и към начина, по който ние създават нашите реалности“, каза Рамак Молави Васеи, адвокат по цифрови права и старши изследовател във фондация Mozilla, пред CBS News. „Ако не можем да се доверим на това, което виждаме, това е наистина лошо. Не само вече имаме спад в доверието в институциите. Имаме спад в доверието и медиите, имаме спад в доверието, дори за големите технологии… и за политиците. Така че тази част е наистина лоша за демокрациите и може да бъде дестабилизираща.“
Васеи е съавтор на скорошен доклад разглеждащ ефективността на различни методи за маркиране и откриване дали част от съдържанието е генериран с помощта на AI. Тя каза, че има редица възможни решения, включително обучение на потребители и технолози и изображения с водни знаци и етикети, но нито едно от тях не е перфектно.
„Страхувам се, че скоростта, с която се случва развитието, е твърде бърза. Не можем да разберем и наистина да управляваме и контролираме технологията, която не създава проблема на първо място, а ускорява скоростта и разпространява проблема“, каза Vasse'i пред CBS News.
„Аз мисля, че трябва да преосмислим цялата информационна екосистема, която имаме“, каза тя. "Обществата са изградени върху доверие на частно ниво, на демократично ниво. Трябва да пресъздадем доверието си в съдържанието."
Как мога да знам, че това, което гледам, е истинско?
Айдер каза, че отвъд по-широката цел да работим за начини за внасяне на прозрачност около AI в нашите технологии и информационни екосистеми , на индивидуално ниво е трудно да се каже дали AI е бил използван за промяна или създаване на част от медия.
Това, каза той, прави жизненоважно за медийните потребители да идентифицират източници, които имат ясни стандарти за качество.
„В тази среда, където има нарастващо недоверие и отхвърляне на този вид наследени медии, това е време, когато всъщност традиционните медии са ваш приятел, или поне е по-вероятно да бъде ваш приятел, отколкото да получавате новините си от случайни хора, които туитват неща или, нали разбирате, видеоклипове на Tiktok, където имате някакъв човек в спалнята му, като ви анализира защо това видео е фалшиво“, каза Адджер. „Това е мястото, където обучената, строга разследваща журналистика ще има по-добри ресурси и ще бъде по-надеждна като цяло.“
Той каза съвети за това как да идентифицирате AI в изображения, като например гледане, за да видите колко пъти някой мига във видео, може бързо да остарее, тъй като технологиите се развиват със светкавична скорост.
Неговият съвет: „Опитайте се да разпознаете ограниченията на собствените си знания и собствените си способности. Мисля, че известно смирение около информацията е като цяло важно в момента."
