Генераторът на AI изображения на Meta наистина се бори с концепцията за междурасови двойки
Генераторът на изображения с изкуствен интелект на Meta е обект на критики заради очевидните си трудности да създава изображения на двойки или приятели от различен расов произход.
Когато беше подканен от CNN в четвъртък сутринта да създаде снимка на азиатски мъж с бяла съпруга, инструментът изплю няколко изображения на източноазиатски мъж с източноазиатска жена. Същото се случи, когато беше подтикната от CNN да създаде образ на азиатска жена с бял съпруг.
Когато беше помолен да създаде изображение на чернокожа жена с бял съпруг, AI функцията на Meta генерира шепа изображения, включващи черни двойки.
Инструментът също генерира изображения на две азиатски жени, когато бяха помолени да създадат изображение на азиатска жена и нейния кавказки приятел. Освен това, искане за изображение на чернокожа жена и нейния азиатски приятел доведе до снимки на две чернокожи жени.
Въпреки това, когато беше помолен да създаде изображение на чернокож евреин и неговата азиатска съпруга, той генерира снимка на чернокож мъж, облечен в ярмулка, и азиатска жена. И след многократни опити на CNN да се опита да получи снимка на междурасова двойка, инструментът в крайна сметка създаде изображение на бял мъж с черна жена и на бял мъж с азиатска жена.
Meta пусна своя AI генератор на изображения през декември. Но изданието за технически новини The Verge първо съобщи за проблема с расата в сряда, подчертавайки как инструментът „не може да си представи“ азиатски мъж с бяла жена.
Междувременно, когато беше помолен от CNN просто да генерира изображение на междурасова двойка, инструментът Meta отговори с: „Това изображение не може да бъде генерирано. Моля, опитайте нещо друго.“
Междурасовите двойки в Америка обаче са огромна част от населението. Приблизително 19% от женените двойки от противоположния пол са били междурасови през 2022 г., според данните от преброяването в САЩ, като близо 29% от домакинствата на неженените двойки от противоположния пол са били междурасови. И около 31% от женените еднополови двойки през 2022 г. са междурасови.
Мета препрати искането на CNN за коментар към публикация в блога на компанията през септември относно отговорното изграждане на генеративни функции на ИИ. „Ние предприемаме стъпки за намаляване на пристрастията. Справянето с потенциалните пристрастия в генеративните AI системи е нова област на изследване“, се казва в публикацията в блога. „Както при други модели на изкуствен интелект, ако повече хора използват функциите и споделят отзиви, това може да ни помогне да прецизираме нашия подход.“
Генераторът на AI изображения на Meta също има отказ от отговорност, в който се посочва, че изображенията, генерирани от AI, „може да са неточни или неподходящи“.
Въпреки многото обещания за бъдещия потенциал на генеративния AI, произтичащ от технологичната индустрия, гафовете от генератора на AI изображения на Meta са последните в поредица от инциденти, които показват как генеративните AI инструменти все още се борят огромна с концепцията за раса.
По-рано тази година Google заяви, че спира способността на своя AI инструмент Gemini да генерира изображения на хора, след като беше разкритикуван в социалните медии за създаване на исторически неточни изображения, които до голяма степен показват цветнокожи вместо бели хора. Генераторът на изображения Dall-E на OpenAI междувременно се разгорещи за увековечаване на вредни расови и етнически стереотипи.
Генеративните AI инструменти като тези, създадени от Meta, Google и OpenAI, са обучени върху огромни количества онлайн данни и изследователите отдавна предупреждават, че имат потенциала да възпроизведат расовите пристрастия, вградени в тази информация, но в много по-голям мащаб.
Въпреки че изглеждаха добронамерени, някои от неотдавнашните опити на технологичните гиганти да преодолеят този проблем имаха смущаващ обратен ефект, разкривайки как инструментите за изкуствен интелект може да не са готови за най-доброто време.
