Google спира способността на AI инструмента да създава изображения на хора след обратна реакция
Google спира способността на своя инструмент за изкуствен интелект Gemini да генерира изображения на хора, след като беше разкритикуван в социалните медии за създаване на исторически неточни изображения, които до голяма степен показват цветнокожи вместо бели хора.
Смущаващият гаф показва как AI инструментите все още се борят с концепцията за раса. Генераторът на изображения Dall-E на OpenAI, например, се нагрява за увековечаване на вредни расови и етнически стереотипи в мащаб. Опитът на Google да преодолее това обаче изглежда е дал обратен ефект и е затруднил AI chatbot да генерира изображения на бели хора.
Gemini, подобно на други AI инструменти като ChatGPT, се обучава на базата на огромно количество онлайн данни. Експертите отдавна предупреждават, че AI инструментите имат потенциала да възпроизвеждат расовите и половите пристрастия, вградени в тази информация.
Когато беше подканен от CNN в сряда да генерира изображение на папа, например, Джемини създаде изображение на мъж и жена, нито един от които не беше бял. Техническият сайт The Verge също съобщи, че инструментът създава изображения на цветнокожи хора в отговор на подкана за генериране на изображения на „немски войник от 1943 г.“.
„Вече работим за справяне със скорошни проблеми с функцията за генериране на изображения на Gemini“, каза Google в публикация в X четвъртък. „Докато правим това, ще поставим на пауза генерирането на изображения на хора и скоро ще пуснем отново подобрена версия.“
Изявлението от четвъртък дойде, след като Google в сряда изглежда защити инструмента ден по-рано, като каза в публикация на X, „Генерирането на AI изображения на Gemini наистина генерира широк кръг от хора. И това като цяло е нещо добро, защото хората по света го използват.
„Но тук липсва целта“, признава компанията.
В други тестове, проведени от CNN в сряда, подкана за искане на изображение на „бял фермер на юг“ доведе до отговор от Gemini, който казваше: „Разбира се, ето някои изображения, включващи снимки на фермери на юг, представящи различни полове и етноси“. Въпреки това, отделна заявка за „ирландска баба в кръчма в Дъблин“ доведе до изображения на весели, възрастни бели жени, които държат бира и соден хляб.
Джак Кравчик, водещ продуктов директор на Google за Gemini, каза в публикация в сряда, че Google умишлено проектира „възможности за генериране на изображения, за да отразява нашата глобална потребителска база“ и че компанията „ще продължи да прави това за отворени подкани (изображения на човек разходките с куче са универсални!).“
Инцидентът също така е още една неуспех за Google, тъй като се надпреварва да поеме OpenAI и други играчи в конкурентното генеративно AI пространство.
През февруари, малко след представянето на своя генеративен AI инструмент – тогава наречен Bard и оттогава преименуван на Gemini – цената на акциите на Google спадна за кратко, след като демонстрационен видеоклип на инструмента показа, че дава фактически неточен отговор на въпрос за космическия телескоп James Webb.
