Белият дом настоява технологичната индустрия да затвори пазара за сексуално злоупотребяващи AI deepfakes
Администрацията на президента Джо Байдън настоява технологичната индустрия и финансовите институции да затворят нарастващ пазар на обидни сексуални изображения, направени с технология за изкуствен интелект.
Новите генеративни AI инструменти улесниха трансформирането на нечия прилика в сексуално явен AI deepfake и споделянето на тези реалистични изображения в чат стаи или социални медии. Жертвите – били те знаменитости или деца – нямат много възможности да го спрат.
Белият дом отправя обаждане в четвъртък, търсейки доброволно сътрудничество от компаниите при липса на федерално законодателство. Като се ангажират с набор от специфични мерки, служителите се надяват, че частният сектор може да ограничи създаването, разпространението и монетизирането на такива изображения на изкуствен интелект без съгласие, включително изрични изображения на деца.
„Когато генеративният изкуствен интелект излезе на сцената, всички спекулираха къде ще дойдат първите истински вреди. И мисля, че имаме отговора“, каза главният научен съветник на Байдън Арати Прабхакар, директор на Службата за научна и технологична политика на Белия дом.
Тя описа пред Асошиейтед прес „феноменално ускоряване“ на неконсенсусни изображения, подхранвани от AI инструменти и до голяма степен насочени към жени и момичета по начин, който може да промени живота им.
„Ако сте тийнейджърка, ако сте гей дете, това са проблеми, които хората изпитват в момента“, каза тя. „Видяхме ускорение поради генеративния AI, който се движи много бързо. И най-бързото нещо, което може да се случи, е компаниите да се активизират и да поемат отговорност.“
Документ, споделен с AP преди публикуването му в четвъртък, призовава за действие не само от разработчици на AI, но и от процесори за обработка на плащания, финансови институции, доставчици на облачни изчисления, търсачки и пазачи – а именно Apple и Google – които контролират какво се превръща в мобилни устройства магазини за приложения.
Частният сектор трябва да се засили, за да „наруши монетизацията“ на сексуално насилие, базирано на изображения, като ограничи достъпа до плащане, особено до сайтове, които рекламират изрични изображения на непълнолетни, каза администрацията.
Прабхакар каза, че много платформи за разплащане и финансови институции вече казват, че няма да подкрепят видовете бизнеси, популяризиращи злоупотребяващи изображения.
„Но понякога това не се прилага; понякога те нямат тези условия за обслужване“, каза тя. „И така, това е пример за нещо, което може да се направи много по-стриктно.“
Доставчиците на облачни услуги и магазините за мобилни приложения биха могли също да „ограничат уеб услугите и мобилните приложения, които се предлагат на пазара с цел създаване или промяна на сексуални изображения без съгласието на отделните лица“, се казва в документа.
И независимо дали е генерирано от AI или истинска гола снимка, пусната в интернет, оцелелите трябва по-лесно да могат да накарат онлайн платформи да ги премахнат.
Най-широко известната жертва на порнографски дълбоки фалшиви изображения е Тейлър Суифт, чиято пламенна фенбаза се бори през януари, когато оскърбителни, генерирани от AI изображения на певицата и текстописец, започнаха да циркулират в социалните медии. Microsoft обеща да засили своите предпазни мерки, след като някои от изображенията на Swift бяха проследени до неговия инструмент за визуален дизайн с изкуствен интелект.
Все по-голям брой училища в САЩ и другаде също се борят с генерирани от AI дълбоки фалшиви голи актове, изобразяващи техни ученици. В някои случаи е установено, че съученици тийнейджъри създават изображения, манипулирани с изкуствен интелект и ги споделят със съученици.
Миналото лято администрацията на Байдън посредничи при поемането на доброволни ангажименти от Amazon, Google, Meta, Microsoft и други големи технологични компании за поставяне на набор от предпазни мерки върху новите системи с ИИ, преди да ги пуснат публично.
Това беше последвано от подписването на амбициозна изпълнителна заповед през октомври на Байдън, предназначена да насочи начина, по който се разработва ИИ, така че компаниите да могат да печелят, без да излагат на опасност обществената безопасност. Въпреки че се фокусира върху по-широки проблеми с изкуствения интелект, включително националната сигурност, той посочи възникващия проблем с генерираните от изкуствен интелект изображения на насилие над деца и намирането на по-добри начини за откриването им.
Но Байдън също каза, че предпазните мерки на администрацията за ИИ ще трябва да бъдат подкрепени от законодателството. Двупартийна група от американски сенатори сега настоява Конгресът да похарчи най-малко 32 милиарда долара през следващите три години за разработване на изкуствен интелект и финансиране на мерки за безопасното му управление, въпреки че до голяма степен отложи призивите за въвеждане на тези предпазни мерки в закон.
Насърчаването на компаниите да се активизират и да поемат доброволни ангажименти „не променя основната необходимост Конгресът да предприеме действия тук“, каза Дженифър Клайн, директор на Съвета за политика на половете към Белия дом.
Дългогодишните закони вече забраняват правенето и притежаването на сексуални изображения на деца, дори ако са фалшиви. Федералните прокурори повдигнаха обвинения по-рано този месец срещу мъж от Уисконсин, за когото казаха, че са използвали популярен AI генератор на изображения, Stable Diffusion, за да направят хиляди генерирани от AI реалистични изображения на непълнолетни, участващи в сексуално поведение. Адвокат на мъжа отказа коментар след изслушването му в сряда.
Но няма почти никакъв надзор върху техническите инструменти и услуги, които правят възможно създаването на такива изображения. Някои от тях са на ежедневни търговски уебсайтове, които разкриват малко информация за това кой ги управлява или технологията, на която се основават.
Станфордската интернет обсерватория през декември заяви, че е открила хиляди изображения на предполагаемо сексуално малтретиране на деца в гигантската AI база данни LAION, индекс на онлайн изображения и надписи, който е бил използван за обучение на водещи AI създатели на изображения, като напр. Stable Diffusion.
Базираната в Лондон Stability AI, която притежава най-новите версии на Stable Diffusion, заяви тази седмица, че „не е одобрила пускането“ на по-ранния модел, за който се твърди, че е използван от човека от Уисконсин. Такива модели с отворен код, тъй като техническите им компоненти са публикувани публично в интернет, е трудно да се върнат обратно в бутилката.
Прабхакар каза, че не само AI технологията с отворен код причинява вреда.
„Това е по-широк проблем“, каза тя. „За съжаление, това е категория, за която много хора изглежда използват генератори на изображения. И това е място, където току-що сме виждали такава експлозия. Но мисля, че не е добре разбит на системи с отворен код и собствени системи.“
——
Авторът на AP Джош Боак допринесе за този доклад.
