Изследователите казват, че изображенията на злоупотреба с деца са премахнати от източника за обучение на генератор на изображения с изкуствен интелект
Изследователите на изкуствен интелект обявиха в петък, че са изтрили повече от 2000 уеб връзки към хипотетични изображения на полово принуждение над деца от набор от данни, употребен за образование на известния генератор на изображения с изкуствен интелект принадлежности.
Изследователският набор от данни на LAION е голям показател на онлайн изображения и надписи, който е бил източник за водещи основатели на AI изображения като като постоянна дифузия и междинно пътешестване.
Но отчет от предходната година на Станфордската интернет обсерватория откри, че съдържа връзки към полово очевидни изображения на деца, което способства за лекотата, с която някои принадлежности за изкуствен интелект са съумели да основат фотореалистични дълбоки имитации, които изобразяват деца.
Този декемврийски отчет накара LAION, което значи неправителствената широкомащабна отворена мрежа за изкуствен интелект, неотложно да отстрани своя набор от данни. Осем месеца по-късно LAION сподели в обява в блог, че работи с групата за наблюдаване на Станфордския университет и организациите за битка със злоупотребите в Канада и Обединеното кралство, с цел да поправя казуса и да пусне рафиниран набор от данни за бъдещи проучвания на AI.
Изследователят от Станфорд Дейвид Тийл, създател на декемврийския отчет, похвали LAION за забележителните усъвършенствания, само че сподели, че идната стъпка е да се изтеглят от разпространяване „ опетнените модели “, които към момента могат да основават изображения на принуждение над деца.
Един от основаните на LAION принадлежности, които Станфорд дефинира като „ най-популярния модел за генериране на ясни изображения “ – по-стара и леко филтрирана версия на Stable Diffusion – остана елементарно наличен до четвъртък, когато основаната в Ню Йорк компания Runway ML го отстрани от хранилището на AI модели Hugging Face. Runway сподели в изказване в петък, че това е „ планувано отменяне на проучвателен модели и код, които не са били поддържани интензивно. “
Почистената версия на набора от данни LAION идва, до момента в който държавните управления по света преглеждат по-отблизо по какъв начин някои механически принадлежности се употребяват за основаване или разпространяване на противозаконни изображения на деца.
Градският прокурор на Сан Франциско по-рано този месец заведе дело за затваряне на група уеб страници, които разрешават основаването на генерирани от AI голи актове на дами и девойки. Предполагаемото разпространяване на изображения със полово малтретиране на деца в приложението за известия Telegram е част от това, което накара френските управляващи да издигнат обвинявания в сряда против създателя и основен изпълнителен шеф на платформата, Павел Дуров.
Арестът на Дуров „ алармира за в действителност огромна смяна в цялата софтуерна промишленост, че създателите на тези платформи могат да бъдат държани персонално виновни “, сподели Дейвид Евън Харис, откривател в Калифорнийския университет, Бъркли, който неотдавна се свърза с Runway пита за какво проблематичният AI генератор на изображения към момента е обществено наличен. Той беше свален дни по-късно.
