Google спира генерирането на изображения на хора от Gemini AI след расови „неточности“
Google заяви в четвъртък, че временно спира своя чатбот с изкуствен интелект Gemini да генерира изображения на хора ден след като се извини за „неточности“ в историческите изображения, които е създаване.
Потребителите на Gemini тази седмица публикуваха екранни снимки в социалните медии на исторически доминирани от бели сцени с расово различни герои, които според тях са генерирани, което накара критиците да повдигнат въпроси дали компанията прекомерно коригира риска от расова принадлежност пристрастия в своя AI модел.
„Вече работим за справяне със скорошни проблеми с функцията за генериране на изображения на Gemini“, каза Google в публикация в платформата за социални медии X. „Докато правим това, ние ще поставим на пауза генерирането на изображения на хора и скоро ще пуснем отново подобрена версия.“
Предишни проучвания показват, че генераторите на изображения с изкуствен интелект могат да разширят расовите и половите стереотипи, открити в техните данни за обучение, и без филтри са по-склонни да покажат мъже с по-светла кожа, когато бъдат помолени да генерират човек в различни контексти.
Google заяви в сряда, че е „наясно, че Близнаците предлагат неточности в някои изображения за генериране на исторически изображения“ и че това е „ работи за незабавно подобряване на тези видове изображения.“
Вземете последните национални новини. Изпраща се на вашия имейл, всеки ден.Gemini може да генерира „широк кръг от хора“, което според компанията е „като цяло добро нещо“, защото хората по света използват системата, но тя „липсва целта“.
Университет от вашингтонския изследовател Суроджит Гош, който е изучавал пристрастията в генераторите на изображения с изкуствен интелект, каза, че подкрепя Google да спре генерирането на лица на хора, но е „малко противоречив относно това как сме стигнали до този резултат“. Противно на твърденията за така нареченото „бяло изтриване“ и предпоставката, че Близнаци отказва да генерира лица на бели хора – идеи, циркулиращи в социалните медии тази седмица – изследването на Гош до голяма степен установи обратното.
„Бързината на този отговор в лицето на много друга литература и много други изследвания, които показват, че традиционно маргинализираните хора са били заличени от модели като този - намирам за малко трудно да се изправя“, каза той.
Когато AP помоли Gemini да генерира снимки на хора или дори просто на голяма тълпа, тя отговори, като каза, че „работи за подобряване“ на способността за това. „Очакваме тази функция да се върне скоро и ще ви уведомим в актуализации на изданието, когато се случи“, каза чатботът.
Гош каза, че е вероятно Google да намери начин да филтрира отговорите, за да отрази историческия контекст на подкана на потребителя, но разрешаването на по-широките вреди, причинени от генератори на изображения, изградени върху поколения снимки и произведения на изкуството, намерени в интернет, изисква повече от техническа корекция.
„Няма да измислите за една нощ генератор на текст към изображение, който не причинява вреда на представянето“, каза той. „Те са отражение на обществото, в което живеем.“
