Белият дом настоява технологичната индустрия да действа срещу сексуално злоупотребяващите AI deepfakes
Администрацията на президента на САЩ Джо Байдън настоява технологичната индустрия и финансовите институции да затворят нарастващ пазар на обидни сексуални изображения, направени с технология за изкуствен интелект.
Новите генеративни AI инструменти улесниха трансформирането на нечия прилика в сексуално явен AI deepfake и споделянето на тези реалистични изображения в чат стаи или социални медии. Жертвите – независимо дали са знаменитости или деца – нямат много възможности да го спрат.
Белият дом иска доброволно сътрудничество от компаниите при липса на федерално законодателство. Като се ангажират с набор от специфични мерки, служителите се надяват, че частният сектор може да ограничи създаването, разпространението и монетизирането на такива изображения на изкуствен интелект без съгласие, включително изрични изображения на деца.
„Когато генеративният изкуствен интелект излезе на сцената, всички спекулираха къде ще дойдат първите истински вреди. И мисля, че имаме отговора“, каза главният научен съветник на г-н Байдън Арати Прабхакар, директор на Службата за научна и технологична политика на Белия дом.
Тя описа пред Асошиейтед прес „феноменално ускоряване“ на неконсенсусни изображения, подхранвани от AI инструменти и до голяма степен насочени към жени и момичета.
„Ако сте тийнейджърка, ако вие сте гей дете, това са проблеми, които хората изпитват в момента“, каза тя.
„Видяхме ускорение поради генеративния AI, който се движи много бързо. И най-бързото нещо, което може да се случи, е компаниите да се активизират и да поемат отговорност.“
Документ, споделен с AP преди публикуването му в четвъртък, призовава за действие не само разработчиците на AI, но и процесорите за плащане, финансовите институции, доставчици на облачни изчисления, търсачки и пазачи — а именно Apple и Google — които контролират какво попада в магазините за мобилни приложения.
Частният сектор трябва да се засили, за да „наруши монетизацията“ на сексуално насилие, базирано на изображения , ограничавайки достъпа до плащане, особено до сайтове, които рекламират изрични изображения на непълнолетни, каза администрацията.
Г-жа Прабхакар каза, че много платформи за плащане и финансови институции вече заявяват, че няма да подкрепят видовете бизнеси, популяризиращи обидни изображения.
„Но понякога не се прилага; понякога те нямат тези условия за обслужване“, каза тя. „И така, това е пример за нещо, което може да се направи много по-стриктно.“
Доставчиците на облачни услуги и магазините за мобилни приложения биха могли също да „ограничат уеб услугите и мобилните приложения, които се предлагат на пазара с цел създаване или промяна на сексуални изображения без съгласието на отделните лица“, се казва в документа.
И независимо дали е генерирано от AI или истинска гола снимка, пусната в интернет, оцелелите трябва по-лесно да могат да накарат онлайн платформи да ги премахнат.
Най-широко известната жертва на порнографски дълбоки фалшиви изображения е Тейлър Суифт, чиято пламенна фенбаза се бори през януари, когато оскърбителни, генерирани от AI изображения на певицата и текстописец, започнаха да циркулират в социалните медии. Microsoft обеща да засили своите предпазни мерки, след като някои от изображенията на Swift бяха проследени до неговия инструмент за визуален дизайн с изкуствен интелект.
Все по-голям брой училища в САЩ и другаде също се борят с генерирани от изкуствен интелект дълбоки фалшиви голи актове, изобразяващи техни ученици . В някои случаи беше установено, че съученици тийнейджъри създават манипулирани с изкуствен интелект изображения и ги споделят със съученици.
Миналото лято администрацията на Байдън посредничи доброволно ангажименти на Amazon, Google, Meta, Microsoft и други големи технологични компании да поставят набор от предпазни мерки върху новите системи с изкуствен интелект, преди да ги пуснат публично.
Това беше последвано от подписването на г-н Байдън от амбициозна изпълнителна заповед през октомври да насочи начина, по който се разработва AI, така че компаниите да могат да печелят, без да излагат на опасност обществената безопасност.
Въпреки че се фокусира върху по-широки проблеми с AI, включително националната сигурност, той посочи възникващия проблем с генерираните от AI изображения на насилие над деца и намиране на по-добри начини за откриването му.
Но г-н Байдън също каза, че предпазните мерки на администрацията за ИИ ще трябва да бъдат подкрепени от законодателството. Двупартийна група американски сенатори сега настоява Конгресът да похарчи най-малко 32 милиарда долара през следващите три години за разработване на изкуствен интелект и финансиране на мерки за безопасното му управление, въпреки че до голяма степен отложи призивите за въвеждане на тези предпазни мерки в закон.
Насърчаването на компаниите да се активизират и да поемат доброволни ангажименти „не променя основната необходимост Конгресът да предприеме действия тук“, каза Дженифър Клайн, директор на Съвета за политика на половете към Белия дом.
Дългогодишни закони вече криминализира правенето и притежаването на сексуални изображения на деца, дори и да са фалшиви. Федералните прокурори повдигнаха обвинения по-рано този месец срещу мъж от Уисконсин, за когото казаха, че са използвали популярен AI генератор на изображения, Stable Diffusion, за да направят хиляди генерирани от AI реалистични изображения на непълнолетни, участващи в сексуално поведение. Адвокат на мъжа отказа да коментира след изслушването му по обвиненията в сряда.
Но няма почти никакъв надзор върху техническите инструменти и услуги, които правят възможно създаването на такива изображения.
The Станфордската интернет обсерватория през декември заяви, че е открила хиляди изображения на предполагаемо сексуално малтретиране на деца в гигантската AI база данни LAION, индекс на онлайн изображения и надписи, който е бил използван за обучение на водещи производители на AI изображения като Stable Diffusion.
< Базираната в Лондон Stability AI, която притежава най-новите версии на Stable Diffusion, заяви тази седмица, че „не е одобрила пускането“ на по-ранния модел, за който се твърди, че е използван от човека от Уисконсин. Такива модели с отворен код, тъй като техническите им компоненти са публикувани публично в интернет, е трудно да се върнат обратно в бутилката.Г-жа Прабхакар каза, че не само AI технологията с отворен код причинява вреда.
„Това е по-широк проблем“, каза тя. „За съжаление, това е категория, за която много хора изглежда използват генератори на изображения. И това е място, където току-що сме виждали такава експлозия. Но мисля, че не е добре разбит на системи с отворен код и собствени системи.“
