Групата Watchdog Public Citizen настоява OpenAI да оттегли приложението Sora за видео с изкуствен интелект заради опасностите от deepfake

Технологичната промишленост се движи бързо и разрушава нещата още веднъж — и този път това е споделената действителност на човечеството и контролът върху нашето сходство преди и след гибелта — с помощта на платформи за генериране на изображения с изкуствен интелект като Sora 2 на OpenAI.

Типичното видео на Sora, направено в приложението на OpenAI и публикувано върху TikTok, Instagram, X и Фейсбук са проектирани да бъдат задоволително занимателни, с цел да щракнете и споделите. Може да е рап на кралица Елизабет II или нещо по-обикновено и правдоподобно. Един известен род на Sora е подправен запис от камерата на звънеца, заснемащ нещо малко необичайно - да речем, боа на верандата или алигатор, идващ се до индиферентно дете - и приключва с лек потрес, като баба, която крещи, до момента в който бие животното с метла.

Но възходящ хор от групи за покровителство, учени и специалисти подвигат паника за заплахите от това да позволим на хората да основават AI видеоклипове върху съвсем всичко, което могат да вкарат в подкана, което води до разпространяването на изображения без единодушие и реалистични deepfakes в море от по-малко нездравословни „ AI мръсотия “. OpenAI разруши AI творения на обществени персони - измежду тях Майкъл Джексън, Мартин Лутър Кинг младши и господин Роджърс - правещи странни неща, само че единствено след неодобрение от фамилни парцели и профсъюз на артисти.

Неправителствената организация Public Citizen в този момент упорства OpenAI да изтегли Sora 2 от обществеността, като написа във вторник в писмо до компанията и основния изпълнителен шеф Сам Алтман, че прибързаното стартиране на приложението, с цел да може да започва пред съперниците, демонстрира „ пореден и рисков модел на OpenAI, който се втурва на пазара с артикул, който или по своята същина е рисков, или му липсват нужните парапети “. Sora 2, се споделя в писмото, демонстрира „ неразумно неуважение “ към сигурността на продуктите, както и правата на хората върху личната им аналогия и стабилността на демокрацията. Групата изпрати писмото и до Конгреса на Съединени американски щати.

OpenAI не отговори незабавно на искане за коментар във вторник.

„ Нашата най-голяма угриженост е евентуалната опасност за демокрацията “, сподели J.B. Branch, бранител на софтуерната политика на Public Citizen, в изявление. " Мисля, че навлизаме в свят, в който хората не могат в действителност да се доверят на това, което виждат. И започваме да виждаме тактики в политиката, при които първото изображение, първият видеоклип, който се пуска, е това, което хората помнят. "

Бранч, създател на писмото от вторник, също вижда по-широки опасения за поверителността на хората, които оказват непропорционално влияние върху уязвимите групи от популацията онлайн.

OpenAI блокира голотата, само че Бранч сподели, че „ дамите се виждат унизени онлайн “ по други способи, като да вземем за пример с фетишизирано нишово наличие, което минава през рестриктивните мерки на приложенията. Новинарският канал 404 Media заяви в петък за поток от видеоклипове, направени от Sora, на удушени дами.

OpenAI показа новото си приложение Sora за iPhone преди повече от месец. Той започва на телефони с Android предходната седмица в Съединени американски щати, Канада и няколко азиатски страни, в това число Япония и Южна Корея.

Голяма част от най-силното отбиване идва от Холивуд и други развлекателни ползи, в това число японската манга промишленост. OpenAI разгласи първите си огромни промени единствено дни след стартирането, като сподели, че „ преумереността е супер разочароващо “ за потребителите, само че че е значимо да бъдете консервативни, „ до момента в който светът към момента се приспособява към тази нова технология “.

Това беше последвано от обществено оповестени съглашения със фамилията на Мартин Лутър Кинг-младши на 16 октомври, предотвратяващи „ неуважителни изображения “ на водача за цивилен права, до момента в който компанията работи върху по-добри защитни ограничения, и друго на 20 октомври с артиста от „ Breaking Bad “ Брайън Кранстън, синдиката SAG-AFTRA и организациите за гении.

„ Всичко това е добре, в случай че си прочут “, сподели Бранч. " Това е един тип просто модел, който OpenAI има, когато те са подготвени да отговорят на възмущението на доста малко население. Те са подготвени да пуснат нещо и да се извинят по-късно. Но доста от тези проблеми са дизайнерски избори, които те могат да създадат, преди да пуснат. "

OpenAI е изправен пред сходни недоволства по отношение на своя водещ артикул, ChatGPT. Седем нови правосъдни каузи, заведени предходната седмица в калифорнийски съдилища, настояват, че чатботът е тласкал хората към самоубийство и нездравословни заблуди, даже когато не са имали предходни проблеми с психологичното здраве. Заведени от името на шестима възрастни и един младеж от Social Media Victims Law Center и Tech Justice Law Project, правосъдните каузи настояват, че OpenAI умишлено е пуснал GPT-4o прибързано предходната година, макар вътрешните предизвестия, че е рисково подлизурски и психически манипулативен. Четири от жертвите се самоубиха.

Public Citizen не беше забъркан в правосъдните каузи, само че Бранч сподели, че вижда паралели в прибързаното освобождение на Sora.

Той сподели, че " натискат педала на пода, без да обръщат внимание на вредите. Голяма част от това наподобява предвидимо. Но те избират да пуснат артикул там, да накарат хората да го изтеглят, да накарат хора, които са пристрастени към него, вместо да вършат вярното нещо и да тестват тези неща авансово и безпокойствие за тежкото състояние на елементарните консуматори. “

OpenAI прекара предходната седмица в отговор на недоволства от японска комерсиална асоциация, представляваща известни аниматори като Studio Ghibli на Hayao Miyazaki и производители на видеоигри като Bandai Namco и Square Enix. OpenAI сподели, че доста почитатели на анимето желаят да взаимодействат с обичаните си герои, само че компанията също по този начин е сложила парапети, с цел да предотврати генерирането на добре познати герои без единодушието на хората, които имат авторските права.

„ Ангажираме се непосредствено със студия и притежатели на права, слушаме противоположна връзка и се учим от това по какъв начин хората употребяват Sora 2, в това число в Япония, където културните и креативен промишлености са високо ценени “, сподели OpenAI в изказване по отношение на писмото на комерсиалната група предходната седмица.