Белият дом настоява технологичната индустрия да действа срещу сексуално злоупотребяващите AI deepfakes

Администрацията на президента на Съединени американски щати Джо Байдън упорства софтуерната промишленост и финансовите институции да затворят възходящ пазар на обидни полови изображения, направени с технология за изкуствен интелект.

Новите генеративни AI принадлежности улесниха трансформирането на нечия аналогия в полово очевиден AI deepfake и шерването на тези реалистични изображения в чат стаи или обществени медии. Жертвите – без значение дали са звезди или деца – нямат доста благоприятни условия да го спрат.

Белият дом желае непринудено съдействие от фирмите при липса на федерално законодателство. Като се ангажират с набор от характерни ограничения, чиновниците се надяват, че частният бранш може да ограничи основаването, разпространяването и монетизирането на такива изображения на изкуствен интелект без единодушие, в това число експлицитни изображения на деца.

„ Когато генеративният изкуствен интелект излезе на сцената, всички спекулираха къде ще дойдат първите същински вреди. И мисля, че имаме отговора “, сподели основният теоретичен консултант на господин Байдън Арати Прабхакар, шеф на Службата за научна и софтуерна политика на Белия дом.

Тя разказа пред Асошиейтед прес „ феноменално ускорение “ на неконсенсусни изображения, подхранвани от AI принадлежности и значително ориентирани към дами и девойки.

„ Ако сте тийнейджърка, в случай че вие сте гей дете, това са проблеми, които хората изпитват сега “, сподели тя.

„ Видяхме ускоряване заради генеративния AI, който се движи доста бързо. И най-бързото нещо, което може да се случи, е фирмите да се засилват и да поемат отговорност. “

Документ, споделен с AP преди публикуването му в четвъртък, приканва за деяние освен разработчиците на AI, само че и процесорите за заплащане, финансовите институции, снабдители на облачни калкулации, търсачки и пазачи — а точно Apple и Гугъл — които управляват какво попада в магазините за мобилни приложения.

Частният бранш би трябвало да се ускори, с цел да „ наруши монетизацията “ на полово принуждение, основано на изображения, ограничавайки достъпа до заплащане, изключително до уеб сайтове, които популяризират експлицитни изображения на малолетни, сподели администрацията.

Г-жа Прабхакар сподели, че доста платформи за заплащане и финансови институции към този момент декларират, че няма да поддържат типовете бизнеси, популяризиращи обидни изображения.

„ Но от време на време не се прилага; от време на време те нямат тези условия за обслужване “, сподели тя. „ И по този начин, това е образец за нещо, което може да се направи доста по-стриктно. “

Доставчиците на облачни услуги и магазините за мобилни приложения биха могли също да „ лимитират уеб услугите и мобилните приложения, които се оферират на пазара за основаване или смяна на полови изображения без единодушието на обособените лица “, се споделя в документа.

И без значение дали е генерирано от AI или същинска гола фотография, пусната в интернет, оживелите би трябвало по-лесно да могат да накарат онлайн платформи да ги отстранен.

Най-широко известната жертва на нецензурен дълбоки подправени изображения е Тейлър Суифт, чиято пламенна фенбаза се бори през януари, когато оскърбителни, генерирани от AI изображения на певицата и текстописец, започнаха да циркулират в обществените медии. Microsoft даде обещание да ускори своите защитни ограничения, откакто някои от изображенията на Swift бяха проследени до неговия инструмент за образен дизайн с изкуствен интелект.

Все по-голям брой учебни заведения в Съединени американски щати и другаде също се борят с генерирани от изкуствен интелект дълбоки подправени голи актове, изобразяващи техни възпитаници. В някои случаи беше открито, че съученици младежи основават манипулирани с изкуствен интелект изображения и ги споделят със съученици.

Миналото лято администрацията на Байдън посредничи непринудено задължения на Amazon, Гугъл, Meta, Microsoft и други огромни софтуерни компании да слагат набор от защитни ограничения върху новите системи с изкуствен интелект, преди да ги пуснат обществено.

Това беше последвано от подписването на господин Байдън от амбициозна изпълнителна заповед през октомври да насочи метода, по който се създава AI, тъй че фирмите да могат да печелят, без да излагат на заплаха публичната сигурност.

Въпреки че се концентрира върху по-широки проблеми с AI, в това число националната сигурност, той уточни зараждащия проблем с генерираните от AI изображения на принуждение над деца и намиране на по-добри способи за откриването му.

Но господин Байдън също сподели, че защитните ограничения на администрацията за ИИ ще би трябвало да бъдат подкрепени от законодателството. Двупартийна група американски сенатори в този момент упорства Конгресът да похарчи минимум 32 милиарда $ през идващите три години за създаване на изкуствен интелект и финансиране на ограничения за безвредното му ръководство, макар че значително отсрочи апелите за въвеждане на тези защитни ограничения в закон.

Насърчаването на фирмите да се засилват и да поемат доброволни задължения „ не трансформира главната нужда Конгресът да предприеме дейности тук “, сподели Дженифър Клайн, шеф на Съвета за политика на половете към Белия дом.

Дългогодишни закони към този момент криминализира правенето и притежаването на полови изображения на деца, даже и да са подправени. Федералните прокурори повдигнаха обвинявания по-рано този месец против мъж от Уисконсин, за който споделиха, че са употребявали известен AI генератор на изображения, Stable Diffusion, с цел да създадат хиляди генерирани от AI реалистични изображения на малолетни, участващи в полово държание. Адвокат на мъжа отхвърли да разяснява след чуването му по обвиняванията в сряда.

Но няма съвсем никакъв контрол върху техническите принадлежности и услуги, които вършат допустимо основаването на такива изображения.

The Станфордската интернет обсерватория през декември съобщи, че е разкрила хиляди изображения на хипотетично полово малтретиране на деца в гигантската AI база данни LAION, показател на онлайн изображения и надписи, който е бил употребен за образование на водещи производители на AI изображения като Stable Diffusion.

Г-жа Прабхакар сподели, че освен AI технологията с отворен код предизвиква щета.

„ Това е по-широк проблем “, сподели тя. „ За страдание, това е категория, за която доста хора наподобява употребяват генератори на изображения. И това е място, където преди малко сме виждали такава детонация. Но мисля, че не е добре разрушен на системи с отворен код и лични системи. “