Google прави промени, след като Gemini AI изобрази цветнокожи хора неточно

Гугъл сподели в четвъртък, че краткотрайно ще ограничи опцията за основаване на изображения на хора с инструмента си за изкуствен интелект Gemini, откакто сътвори илюстрации с исторически грешки.

Паузата беше оповестена в обява на X, откакто компанията призна проблемите в изказване предния ден, като написа: „ Работим неотложно да подобрим тези типове изображения. Генерирането на AI изображения на Gemini в действителност генерира необятен кръг от хора. И това като цяло е нещо положително, тъй като хората по света го употребяват. Но тук липсва задачата. “

Гугъл разгласи своя модел с изкуствен интелект от „ последващо потомство “, Gemini 1.5, предходната седмица, рекламирайки го като най-способния до момента. Гугъл е една от многото софтуерни компании, които трескаво се състезават да разработят най-хубавите генеративни AI системи, които могат да основават текст, изображения и видео от елементарни подкани.

След стартирането си Gemini притегли вниманието на някои експерти и технолози, в това число мнозина отдясно, които бяха сериозни към напъните да се направи AI по-приобщаващ, с някои отправящи обвинявания, че AI на Гугъл е отличен образец за „ разсънен AI “.

Най-широко видяните грешки включват проникване на цветнокожи хора тук-там, където исторически не биха се появили. Например The Verge заяви, че настояването на Gemini да сътвори илюстрация на немски боец от 1943 година е довело до генерирани от AI рисунки на небели хора в нацистки униформи. Близнаци също основава облици на някои небели бащи-основатели и американски сенатори от 1800 година, когато в реалност всички те са били бели мъже.

Расово разнообразното изображение на Gemini идва на фона на дългогодишни опасения по отношение на расовите пристрастия в моделите на AI, изключително неналичието на показване на малцинствата и цветнокожите. Такива пристрастия могат непосредствено да навредят на хората, които разчитат на AI логаритми, като да вземем за пример в здравни заведения, където AI инструментите могат да повлияят на резултатите от здравните грижи за стотици милиони пациенти.

Гугъл не е единствената огромна софтуерна компания, която се занимава с огромни проблеми с водещи принадлежности за изкуствен интелект тази седмица – OpenAI, компанията зад текстовия генератор за изкуствен интелект ChatGPT, сподели в сряда, че е разрешила проблем, причиняващ „ непредвидени отговори ” от ChatGPT. Потребителите започнаха да виждат във вторник, че ChatGPT работи погрешно, бълвайки безсмислени фрази вместо нормалния си излаз.

„ LLM генерират отговори посредством случайно взимане на проби от думи, основани частично на вероятности. Техният „ език “ се състои от цифри, които се съпоставят с токени “, написа OpenAI в актуализация на положението на уеб страницата си. „ В този случай грешката беше в стъпката, в която моделът избира тези цифри. Подобно на загуба в превода, моделът избра малко неправилни цифри, което докара до поредици от думи, които нямаха смисъл. “