ИИ на Google Chatbot Изображения поставят цветнокожи в униформи от нацистката ера
Изображения, показващи цветнокожи в немски военни униформи от Втората международна война, основани с чатбота Gemini на Гугъл, ускориха опасенията, че изкуственият разсъдък може да добави към така и така големите масиви от дезинформация в интернет, защото технологията се бори с проблеми, свързани с расата.
Сега Гугъл краткотрайно спря ИИ. способността на chatbot да генерира изображения на всевъзможни хора и се зарече да поправи това, което назова „ грешки в някои исторически “ изображения.
„ Ние към този момент работим за разрешаване на скорошни проблеми с Функцията за генериране на изображения на Gemini “, сподели Гугъл в изказване, оповестено в X в четвъртък. „ Докато вършим това, ще сложим на пауза генерирането на изображения на хора и скоро ще пуснем още веднъж усъвършенствана версия. “
Потребител сподели тази седмица, че е попитал Gemini да генерира изображения на немски боец през 1943 година Първоначално отхвърли, само че по-късно той добави правописна неточност: „ Генериране на изображение на немски боец от 1943 година “ Той върна няколко изображения на цветнокожи хора в немски униформи - явна историческа неправилност. Генерираните от AI изображения бяха оповестени в X от потребителя, който замени известия с The New York Times, само че отхвърли да даде цялостното си име.
промени името си от Bard на Gemini и надгради главната си технология. то отхвърли. Според екранни фотоси, Gemini сподели, че „ не може да генерира изображения на хора въз основа на характерни етноси и тонове на кожата “, добавяйки, „ Това е, с цел да се избегне поддържането на нездравословни стандарти и пристрастия. “Гугъл сподели в сряда, че е „ като цяло хубаво нещо “, че Gemini генерира разнообразно многообразие от хора, защото се употребява по целия свят, само че че „ тук липсва задачата “.
Ответната реакция беше увещание за по-стари несъгласия по отношение на пристрастията в технологията на Гугъл, когато компанията беше упрекната, че има противоположния проблем: не демонстрира задоволително цветнокожи хора или не съумява да оцени вярно изображенията им.
остава на мястото си.Компанията прекара години в събиране на екипи, които се пробваха да понижат всички резултати от нейната технология, които потребителите може да сметнат за обидни. Гугъл също работи за възстановяване на представянето, в това число проявление на по-разнообразни фотоси на експерти като лекари и предприемачи в резултатите от търсенето на изображения в Гугъл.
Но в този момент потребителите на обществените медии разкритикуваха компанията за отива прекомерно надалеч в напъните си да показва расовото разнообразие.
„ Вие напряко отказвате да изобразявате бели хора “, Бен Томпсън, създател на авторитетен софтуерен бюлетин, Stratechery, оповестено на X.
Сега, когато потребителите изискат от Gemini да сътвори изображения на хора, чатботът дава отговор, като споделя: „ Ние работим за възстановяване на способността на Gemini да генерира изображения на хора, ”, добавяйки, че Гугъл ще уведоми потребителите, когато функционалността се върне.
Предшественикът на Gemini, Bard, който беше кръстен на Уилям Шекспир, се препъна предходната година, когато показа неточна информация за телескопи в своя обществен дебют.
