Инструментът за търсене на Google с изкуствен интелект казва на потребителите да „ядат камъни“

Новият инструмент за търсене с изкуствен интелект на Гугъл посъветва потребителите, че яденето на камъни може да бъде здравословно и да залепва сирене за пица, предизвиквайки насмешки и повдигайки въпроси по отношение на решението си да вгради пробна функционалност в главния си артикул.

„ Яденето на верните камъни може да е потребно за вас, тъй като те съдържат минерали, които са значими за здравето на тялото ви “, отговори прегледът на AI на Гугъл на питане от Financial Times в петък, явно във връзка със сатирична публикация от април 2021 година на The Onion със заглавие „ Геолозите предлагат да се яде най-малко един дребен камък дневно “.

Други образци за неверни отговори включват препоръчване на разбъркване на лепило в сос за пица, с цел да се усили „ лепкавост “ и да спре плъзгането на сирене, което може да се основава на смешка, направена преди 11 години в Reddit.

По-сериозно, на въпроса „ какъв брой мюсюлмански президенти са имали Съединени американски щати “, прегледът на AI отговори: „ Съединените щати са имали един мюсюлмански президент, Барак Хюсеин Обама “ — повтаряйки една неистина за религията на някогашния президент, прокарвана от някои от неговите политически съперници.

Гугъл сподели: „ По-голямата част от прегледите на AI дават висококачествена информация с връзки за по-дълбоко копаене в мрежата. Много от образците, които видяхме, бяха необикновени поръчки, а също по този начин видяхме образци, които бяха подправени или които не можахме да възпроизведем.

„ Проведохме обширни проби, преди да пуснем това ново преживяване, и както при другите функционалности, които стартирахме в Търсене, оценяваме противоположната връзка. Предприемаме бързи дейности, когато е уместно според нашите правила за наличие, и използваме тези образци, с цел да разработим по-широки усъвършенствания на нашите системи, някои от които към този момент започнаха да се популяризират. “

Грешките, произлизащи от генерираните от AI отговори на Гугъл, са присъща характерност на системите, които са в основата на технологията, известни като „ халюцинации “ или измислици. Моделите, които зареждат сходните на Gemini на Гугъл и ChatGPT на OpenAI, са предсказуеми, което значи, че работят, като избират евентуалните последващи най-хубави думи в поредност въз основа на данните, на които са били подготвени.

Докато фирмите построяват генеративни AI модели — в това число OpenAI, Meta и Гугъл — настояват, че най-новите версии на техния AI програмен продукт са понижили появяването на измислици, те остават сериозен проблем за потребителските и бизнес приложенията.

За Гугъл, чиято платформа за търсене се доверява на милиарди консуматори заради връзките си към истински източници, „ халюцинациите “ са изключително нездравословни. Нейната компания майка Alphabet генерира по-голямата част от приходите си от търсене и обвързвания с нея рекламен бизнес.

През последните месеци основният изпълнителен шеф Сундар Пичай беше под напън, вътрешен и външен, да форсира стартирането на нови консуматори -фокусирани генеративни AI функционалности, откакто беше подложен на критика, че изостава от съперниците, по-специално OpenAI, който има партньорство с Microsoft на стойност 13 милиарда $.

На годишната конференция за разработчици на Гугъл този месец Пичай изложи нова тактика, насочена към AI за компанията. Той пусна Обзори — къс генериран от Gemini отговор на запитвания — в горната част на доста постоянно срещани резултати от търсене за милиони консуматори в Съединени американски щати под надписите „ Оставете Гугъл да търси в Google вместо вас “ и отстранява „ умората от търсенето “.

Проблемите, с които се сблъсква Overviews, повтарят реакцията през февруари против неговия чатбот Gemini, който сътвори исторически неточни изображения на разнообразни етноси и полове посредством своя инструмент за основаване на изображения, като дами и цветнокожи като викингски крале или немски бойци от Втората международна война.

В отговор Гугъл се извини и спря генерирането на изображения на хора от своя модел Gemini. Функцията не е възобновена.

Pichai приказва за алтернативата на Гугъл да бъде в крайник с съперниците, като в същото време работи етично и остава търсачката, на която се разчита необятно за връщане на точна и проверима информация.

На събитие в Станфордския университет предишния месец той сподели: „ Хората идват да търсят във значими моменти, като да вземем за пример дозата на лекарството за тримесечно дете, тъй че би трябвало да го създадем правилно . . . че доверието се печели мъчно и елементарно се губи. “

„ Когато сбъркаме, хората ни уведомяват, че потребителите имат най-високата летва . . . това е нашата северна звезда и към която са ориентирани нашите нововъведения “, добави Пичай. „ Помага ни да създадем продуктите по-добри и да ги създадем както би трябвало. “