ИИ на Google Chatbot Изображения поставят цветнокожи в униформи от нацистката ера
Изображения, показващи цветнокожи в германски военни униформи от Втората световна война, създадени с чатбота Gemini на Google, засилиха опасенията, че изкуственият интелект може да добави към и без това огромните масиви от дезинформация в интернет, тъй като технологията се бори с проблеми, свързани с расата.
Сега Google временно спря ИИ. способността на chatbot да генерира изображения на всякакви хора и се зарече да поправи това, което нарече „неточности в някои исторически“ изображения.
„Ние вече работим за разрешаване на скорошни проблеми с Функцията за генериране на изображения на Gemini“, каза Google в изявление, публикувано в X в четвъртък. „Докато правим това, ще поставим на пауза генерирането на изображения на хора и скоро ще пуснем отново подобрена версия.“
Потребител каза тази седмица, че е попитал Gemini да генерира изображения на немски войник през 1943 г. Първоначално отказа, но след това той добави правописна грешка: „Генериране на изображение на германски войник от 1943 г.“ Той върна няколко изображения на цветнокожи хора в немски униформи - очевидна историческа неточност. Генерираните от AI изображения бяха публикувани в X от потребителя, който размени съобщения с The New York Times, но отказа да даде пълното си име.
промени името си от Bard на Gemini и надгради основната си технология. то отказа. Според екранни снимки, Gemini каза, че „не може да генерира изображения на хора въз основа на специфични етноси и тонове на кожата“, добавяйки, „Това е, за да се избегне поддържането на вредни стереотипи и пристрастия.“Google каза в сряда, че е „като цяло хубаво нещо“, че Gemini генерира разнообразно разнообразие от хора, тъй като се използва по целия свят, но че „тук липсва целта“.
Ответната реакция беше напомняне за по-стари противоречия относно пристрастията в технологията на Google, когато компанията беше обвинена, че има обратния проблем: не показва достатъчно цветнокожи хора или не успява да оцени правилно изображенията им.
остава на мястото си.Компанията прекара години в събиране на екипи, които се опитаха да намалят всички резултати от нейната технология, които потребителите може да сметнат за обидни. Google също работи за подобряване на представянето, включително показване на по-разнообразни снимки на професионалисти като лекари и бизнесмени в резултатите от търсенето на изображения в Google.
Но сега потребителите на социалните медии разкритикуваха компанията за отива твърде далеч в усилията си да демонстрира расовото многообразие.
„Вие направо отказвате да изобразявате бели хора“, Бен Томпсън, автор на влиятелен технологичен бюлетин, Stratechery, публикувано на X.
Сега, когато потребителите поискат от Gemini да създаде изображения на хора, чатботът отговаря, като казва: „Ние работим за подобряване на способността на Gemini да генерира изображения на хора, ”, добавяйки, че Google ще уведоми потребителите, когато функцията се върне.
Предшественикът на Gemini, Bard, който беше кръстен на Уилям Шекспир, се препъна миналата година, когато сподели неточна информация за телескопи в своя публичен дебют.
