Белият дом настоява технологичната индустрия да затвори пазара за сексуално злоупотребяващи AI deepfakes

Администрацията на президента Джо Байдън упорства софтуерната промишленост и финансовите институции да затворят възходящ пазар на обидни полови изображения, направени с технология за изкуствен интелект.

Новите генеративни AI принадлежности улесниха трансформирането на нечия аналогия в полово очевиден AI deepfake и шерването на тези реалистични изображения в чат стаи или обществени медии. Жертвите – били те звезди или деца – нямат доста благоприятни условия да го спрат.

Белият дом насочва позвъняване в четвъртък, търсейки непринудено съдействие от фирмите при липса на федерално законодателство. Като се ангажират с набор от характерни ограничения, чиновниците се надяват, че частният бранш може да ограничи основаването, разпространяването и монетизирането на такива изображения на изкуствен интелект без единодушие, в това число експлицитни изображения на деца.

„ Когато генеративният изкуствен интелект излезе на сцената, всички спекулираха къде ще дойдат първите същински вреди. И мисля, че имаме отговора “, сподели основният теоретичен консултант на Байдън Арати Прабхакар, шеф на Службата за научна и софтуерна политика на Белия дом.

Тя разказа пред Асошиейтед прес „ феноменално ускорение “ на неконсенсусни изображения, подхранвани от AI принадлежности и значително ориентирани към дами и девойки по метод, който може да промени живота им.

„ Ако сте тийнейджърка, в случай че сте гей дете, това са проблеми, които хората изпитват сега “, сподели тя. „ Видяхме ускоряване заради генеративния AI, който се движи доста бързо. И най-бързото нещо, което може да се случи, е фирмите да се засилват и да поемат отговорност. “

Документ, споделен с AP преди публикуването му в четвъртък, приканва за деяние освен от разработчици на AI, само че и от процесори за обработка на заплащания, финансови институции, снабдители на облачни калкулации, търсачки и пазачи – а точно Apple и Гугъл – които управляват какво се трансформира в мобилни устройства магазини за приложения.

Частният бранш би трябвало да се ускори, с цел да „ наруши монетизацията “ на полово принуждение, основано на изображения, като ограничи достъпа до заплащане, изключително до уеб сайтове, които популяризират експлицитни изображения на малолетни, сподели администрацията.

Прабхакар сподели, че доста платформи за разплащане и финансови институции към този момент споделят, че няма да поддържат типовете бизнеси, популяризиращи злоупотребяващи изображения.

„ Но от време на време това не се прилага; от време на време те нямат тези условия за обслужване “, сподели тя. „ И по този начин, това е образец за нещо, което може да се направи доста по-стриктно. “

Доставчиците на облачни услуги и магазините за мобилни приложения биха могли също да „ лимитират уеб услугите и мобилните приложения, които се оферират на пазара за основаване или смяна на полови изображения без единодушието на обособените лица “, се споделя в документа.

И без значение дали е генерирано от AI или същинска гола фотография, пусната в интернет, оживелите би трябвало по-лесно да могат да накарат онлайн платформи да ги отстранен.

Най-широко известната жертва на нецензурен дълбоки подправени изображения е Тейлър Суифт, чиято пламенна фенбаза се бори през януари, когато оскърбителни, генерирани от AI изображения на певицата и текстописец, започнаха да циркулират в обществените медии. Microsoft даде обещание да ускори своите защитни ограничения, откакто някои от изображенията на Swift бяха проследени до неговия инструмент за образен дизайн с изкуствен интелект.

Все по-голям брой учебни заведения в Съединени американски щати и другаде също се борят с генерирани от AI дълбоки подправени голи актове, изобразяващи техни възпитаници. В някои случаи е открито, че съученици младежи основават изображения, манипулирани с изкуствен интелект и ги споделят със съученици.

Миналото лято администрацията на Байдън посредничи при поемането на доброволни задължения от Amazon, Гугъл, Meta, Microsoft и други огромни софтуерни компании за слагане на набор от защитни ограничения върху новите системи с ИИ, преди да ги пуснат обществено.

Това беше последвано от подписването на амбициозна изпълнителна заповед през октомври на Байдън, предопределена да насочи метода, по който се създава ИИ, тъй че фирмите да могат да печелят, без да излагат на заплаха публичната сигурност. Въпреки че се концентрира върху по-широки проблеми с изкуствения разсъдък, в това число националната сигурност, той уточни зараждащия проблем с генерираните от изкуствен интелект изображения на принуждение над деца и намирането на по-добри способи за откриването им.

Но Байдън също сподели, че защитните ограничения на администрацията за ИИ ще би трябвало да бъдат подкрепени от законодателството. Двупартийна група от американски сенатори в този момент упорства Конгресът да похарчи минимум 32 милиарда $ през идващите три години за създаване на изкуствен интелект и финансиране на ограничения за безвредното му ръководство, макар че значително отсрочи апелите за въвеждане на тези защитни ограничения в закон.

Насърчаването на фирмите да се засилват и да поемат доброволни задължения „ не трансформира главната нужда Конгресът да предприеме дейности тук “, сподели Дженифър Клайн, шеф на Съвета за политика на половете към Белия дом.

Дългогодишните закони към този момент не разрешават правенето и притежаването на полови изображения на деца, даже в случай че са подправени. Федералните прокурори повдигнаха обвинявания по-рано този месец против мъж от Уисконсин, за който споделиха, че са употребявали известен AI генератор на изображения, Stable Diffusion, с цел да създадат хиляди генерирани от AI реалистични изображения на малолетни, участващи в полово държание. Адвокат на мъжа отхвърли коментар след чуването му в сряда.

Но няма съвсем никакъв контрол върху техническите принадлежности и услуги, които вършат допустимо основаването на такива изображения. Някои от тях са на ежедневни търговски уеб страници, които разкриват малко информация за това кой ги ръководи или технологията, на която се основават.

Станфордската интернет обсерватория през декември съобщи, че е разкрила хиляди изображения на хипотетично полово малтретиране на деца в гигантската AI база данни LAION, показател на онлайн изображения и надписи, който е бил употребен за образование на водещи AI основатели на изображения, като например Stable Diffusion.

Базираната в Лондон Stability AI, която има най-новите версии на Stable Diffusion, съобщи тази седмица, че „ не е одобрила стартирането “ на по-ранния модел, за който се твърди, че е употребен от индивида от Уисконсин. Такива модели с отворен код, защото техническите им съставни елементи са оповестени обществено в интернет, е мъчно да се върнат назад в бутилката.

Прабхакар сподели, че освен AI технологията с отворен код предизвиква щета.

„ Това е по-широк проблем “, сподели тя. „ За страдание, това е категория, за която доста хора наподобява употребяват генератори на изображения. И това е място, където преди малко сме виждали такава детонация. Но мисля, че не е добре разрушен на системи с отворен код и лични системи. “

——

Авторът на AP Джош Боак способства за този отчет.