Защо AI инструментът на Google беше критикуван за показване на изображения на цветнокожи

Бащите-основатели на Америка, изобразени като черни дами и древногръцки воини като азиатски дами и мъже – това беше светът, преосмислен от генеративния AI инструмент на Гугъл, Gemini, през края на февруари.

Стартирането на новата функционалност за генериране на изображения изпрати обществените медийни платформи във вълна от интриги и комплициране. Когато потребителите вкараха някакви подкани за основаване на изображения на хора, генерирани от AI, Gemini им показваше значително резултати, включващи цветнокожи хора – без значение дали са подобаващи или не.

Потребителите на X споделяха смях, до момента в който неведнъж се опитваха да генерират изображения на бели хора на Gemini и не съумяха да го създадат. Докато някои случаи бяха счетени за хумористични онлайн, други, като изображения на кафяви хора, носещи нацистки униформи от Втората международна война със свастики върху тях, провокираха отвращение, което накара Гугъл краткотрайно да деактивира инструмента.

Бащите-основатели на Америка, викингите и папата съгласно Гугъл AI: pic.twitter.com/lw4aIKLwkp

— End Wokeness (@EndWokeness) 21 февруари 2024 година

Ето повече за Гугъл Gemini и неотдавнашния спор към него.

Какво е Гугъл Gemini?

Първият принос на Гугъл в конкуренцията с ИИ беше чатбот на име Bard.

Bard беше оповестена като разговорна AI стратегия или „ чатбот “, която може да симулира диалог с консуматори, от основния изпълнителен шеф на Гугъл Сундар Пичай на 6 февруари 2023 година и беше пусната за потребление на 21 март 2023 година

Той беше кадърен да извежда есета или даже код, когато получи писмени инструкции от потребителя, заради което беше прочут като „ генеративен AI “.

Гугъл сподели, че Gemini ще размени Bard и както безплатната, по този начин и платената версия на Gemini бяха предоставени на обществеността посредством неговия уеб страница и приложение за смарт телефон. Гугъл разгласи, че Gemini ще работи с разнообразни видове вход и излаз, в това число текст, изображения и видеоклипове.

Аспектът за генериране на изображения на Gemini е частта от инструмента, която обаче притегли най-голямо внимание заради несъгласията към него.

Какви изображения е генерирал Gemini?

Изображенията, изобразяващи дами и цветнокожи хора по време на исторически събития или на позиции, заемани от бели мъже, бяха най-противоречиви. Например, един рендер показваше папа, който изглеждаше чернокожа жена.

В историята на католическата черква евентуално е имало трима чернокожи папи, като последната работа на черния папа е завършила през 496 година сл. Хр. В формалната история на Ватикана няма записани доказателства за това, че е имало жена папа, само че средновековна легенда допуска, че млада жена, папа Йоан, се е маскирала и е служила като папа през девети век.

Хахах, google Gemini AI счита, че гръцките воини са черни и азиатски. pic.twitter.com/K6RUM1XHM3

— Орион против расистката дискриминация

Източник: aljazeera.com