Google казва, че неизправностите на Gemini AI са продукт на усилия за справяне с „капаните“
Google се извини в петък за поредица от публични злополуки от своя инструмент за изкуствен интелект Gemini, който беше осъден от някои потребители тази седмица, след като генерира исторически неточни изображения като небели нацистки войници.
Компанията каза в публикация в блог, че все още работи върху поправка за приложението и продължава временно да блокира създаването на нови изображения на хора, докато не бъде намерено решение.
"Ясно е, че тази функция е пропуснала целта", пише Прабхакар Рагаван, старши вицепрезидент на Google, в публикацията в блога.
„Някои от генерираните изображения са неточни или дори обидни. Благодарни сме за обратната връзка на потребителите и съжаляваме, че функцията не работи добре“, написа той.
Gemini е предимно разговорно AI приложение, което се конкурира с ChatGPT на OpenAI за изследване на възможностите на генеративния AI, включително използване на текстови подкани за създаване на изображения. Google, под натиск от инвеститори и други, работи върху подобни идеи вътрешно от години и пусна своето приложение, първоначално наречено Bard, след като ChatGPT неочаквано набра популярност в края на 2022 г.
Но изображения от Близнаци станаха обект на подигравки в социалните медии, след като хората публикуваха примери за неисторически изображения. Те включват илюстрации на германски войници от Втората световна война, които са чернокожи или азиатски, въпреки расистката идеология на нацистката армия и правителство. Приложението също създаде изображения на небели американски бащи-основатели, когато в действителност всички те бяха бели мъже.
Критиката дойде особено от консервативни фигури, които обвиниха Google, че прегръща политическата коректност. Технически фигури, включително Илон Мъск, който има конкурентен AI чатбот като част от своето приложение X, изтъкнаха отделни служители на Google за критика.
Google призна в сряда, че Gemini предлага неточности и ден по-късно постави на пауза генерирането на изображения, които включват хора.
Google каза в петък, че намерението е било да се избегне попадането в „някои от капаните, които сме виждали в миналото с технологията за генериране на изображения – като например създаване на изображения с насилие или сексуално явен образ“. Той също така каза, че Близнаците са насочени към световна аудитория, така че разнообразието от изобразени хора е важно.
Но подканите за конкретен тип човек или хора в определен исторически контекст „трябва да получат отговор, който точно отразява това, което питате“, каза Google.
„С течение на времето моделът стана много по-предпазлив, отколкото възнамерявахме, и отказа изцяло да отговори на определени подкани – погрешно тълкувайки някои много анодинни подкани като чувствителни“, каза компанията.
Google не даде времева линия за връщане на възможността за генериране на изображения на хора и каза, че процесът на изграждане на корекция „ще включва обширни тестове“.
Дейвид Инграм
