Google надгражда търсенето в стремежа си да се справи с deepfake порно

Гугъл прави промени в своята търсачка в опит да се оправи с deepfake порнографията, до момента в който софтуерната промишленост се бори с широкообхватните обществени въздействия на генеративния изкуствен интелект. 

Напредъкът в генеративния AI значи, че подправените изображения са станали по-реалистични и по-лесни за основаване, което кара специалистите да предизвестяват, че потреблението на хора, без тяхното познание или единодушие, в нецензурен изображения е станало все по-широко публикувано.

Мерките, въведени от софтуерния колос в сряда, включват промени, които биха улеснили жертвите на надълбоко подправено порно да смъкват свои видеоклипове и изображения от интернет.

Понастоящем хората би трябвало да подават поръчки за унищожаване за всеки адрес или URL адрес на уеб страница. Последните промени биха пропуснали експлицитни резултати за свързани думи за търсене, които включват името на човек. Гигантът за търсене също ще намали класирането на уеб сайтове, които са получили огромен брой вести за унищожаване.

„ Освен това, когато някой сполучливо отстрани изображение от търсене според нашите правила, нашите системи ще сканират за - и премахнете — всички дубликати на това изображение, които открием, ” сподели Гугъл в обява в блог в сряда.

Компании като Гугъл, Meta и X се борят да се оправят с дълбоките фалшификации на своите платформи – изображения, видео и аудио, което може да се генерира благодарение на AI по сходство на частни и обществени лица. Миналата седмица самостоятелният контролен съвет на Meta прикани компанията да ускори разпоредбите си за унищожаване на надълбоко подправено порно.

„ Ние сме в средата на софтуерна смяна “, сподели Ема Хайъм, продуктов управител на Гугъл, която има е взел участие в битката на компанията против deepfakes. „ Докато следим личните си системи, видяхме, че има повишаване на настояванията за унищожаване на този тип наличие. “

Проблемът се преглежда деликатно от регулаторите: Законът за онлайн сигурност на Обединеното кралство, признат през октомври и считан за един от най-строгите, прави нелегално разпространяването на нецензурен дълбоки имитации без единодушие. В Съединени американски щати законодателството в няколко щата е ориентирано към тези, които основават и споделят категорично надълбоко подправено наличие.

Клеър Макглин, професор по право в университета в Дърам, която учи наредбите по отношение на порнографията, сподели, че търсачката е била мудна, с цел да предотврати разпространяването на сходно наличие в интернет. 

„ Забавянето на Гугъл при предприемането на тези явни и нужни стъпки за понижаване на подправеното полово принуждение е непростимо “, сподели тя. „ Гугъл остава виновен за улеснението на експоненциалното повишаване на дълбоките подправени полови злоупотреби посредством своите високопоставени приложения, уеб страници и уроци за дълбоки подправени години в продължение на доста години. “

Компанията сподели, че има понижи количеството категорично надълбоко подправено наличие, което се появява в резултатите от търсенето, със 70 % от началото на годината посредством първични промени в политиката и лимитирани актуализации на своята търсачка. 

Въпреки това компанията сподели, че има ограничавания за актуализациите на разпоредбите. Higham сподели, че доставчиците на трети страни на медия не постоянно споделят видео данни с Гугъл, което прави невероятно откриването на евентуален препис. 

Възможно е да има „ взаимни отстъпки “ за възрастни реализатори, които желаят да споделят наличие за възрастни по единодушие в търсачката, като в същото време имат филтриран материал без единодушие, добави Гугъл.

Ощипванията на Гугъл към своята система за класиране на резултатите от търсенето ще намали уебсайтовете, които се свързват с неконсенсуално генерирано от AI наличие за възрастни, като в същото време разпространява неизрични „ висококачествени “ уеб сайтове, в това число новинарски публикации.

„ Това са неразрешени механически провокации за търсачките “, сподели Хайъм. „ Така че стигаме до миг, в който считаме, че можем да получим повече сцепление. “

Компанията има обширни политики за унищожаване на материали със полово малтретиране на деца и тази година забрани рекламирането на надълбоко подправена порнография.

Последните й политики стопират да деиндексират известни надълбоко подправени уеб сайтове от търсенето води като цяло, ход, за който упорстват групи за покровителство като #MyImageMyChoice. 

Гугъл сподели, че премахването на уеб сайтове напълно може да блокира достъпа до значима информация, като да вземем за пример по какъв начин наличието може да бъде отстранено от хост уеб страница.