Инструментът за търсене на Google с изкуствен интелект казва на потребителите да „ядат камъни“
Новият инструмент за търсене с изкуствен интелект на Google посъветва потребителите, че яденето на камъни може да бъде здравословно и да залепва сирене за пица, предизвиквайки подигравки и повдигайки въпроси относно решението си да вгради експериментална функция в основния си продукт.
„Яденето на правилните камъни може да е полезно за вас, защото те съдържат минерали, които са важни за здравето на тялото ви“, отговори прегледът на AI на Google на запитване от Financial Times в петък , очевидно във връзка със сатирична статия от април 2021 г. на The Onion със заглавие „Геолозите препоръчват да се яде поне един малък камък на ден“.
Други примери за грешни отговори включват препоръчване на смесване на лепило в сос за пица, за да се увеличи „ лепкавост“ и да спре плъзгането на сирене, което може да се основава на шега, направена преди 11 години в Reddit.
По-сериозно, на въпроса „колко мюсюлмански президенти са имали САЩ“, прегледът на AI отговори : „Съединените щати са имали един мюсюлмански президент, Барак Хюсеин Обама“ — повтаряйки една лъжа за религията на бившия президент, прокарвана от някои от неговите политически опоненти.
Google каза: „По-голямата част от прегледите на AI предоставят висококачествена информация с връзки за по-дълбоко копаене в мрежата. Много от примерите, които видяхме, бяха необичайни заявки, а също така видяхме примери, които бяха подправени или които не можахме да възпроизведем.
„Проведохме обширни тестове, преди да пуснем това ново изживяване, и както при другите функции, които стартирахме в Търсене, оценяваме обратната връзка. Предприемаме бързи действия, когато е подходящо съгласно нашите правила за съдържание, и използваме тези примери, за да разработим по-широки подобрения на нашите системи, някои от които вече започнаха да се разпространяват.“
Грешките, произтичащи от генерираните от AI отговори на Google, са присъща характеристика на системите, които са в основата на технологията, известни като „халюцинации“ или измислици. Моделите, които захранват подобните на Gemini на Google и ChatGPT на OpenAI, са предсказуеми, което означава, че работят, като избират вероятните следващи най-добри думи в последователност въз основа на данните, на които са били обучени.
Докато компаниите изграждат генеративни AI модели — включително OpenAI, Meta и Google — твърдят, че най-новите версии на техния AI софтуер са намалили появата на измислици, те остават сериозен проблем за потребителските и бизнес приложенията.
За Google, чиято платформа за търсене се доверява на милиарди потребители поради връзките си към оригинални източници, „халюцинациите“ са особено вредни. Нейната компания майка Alphabet генерира по-голямата част от приходите си от търсене и свързания с нея рекламен бизнес.
През последните месеци главният изпълнителен директор Сундар Пичай беше под натиск, вътрешен и външен, да ускори пускането на нови потребители -фокусирани генеративни AI функции, след като беше критикуван, че изостава от конкурентите, по-специално OpenAI, който има партньорство с Microsoft на стойност 13 милиарда долара.
На годишната конференция за разработчици на Google този месец Пичай изложи нова стратегия, ориентирана към AI за компанията. Той пусна Обзори — кратък генериран от Gemini отговор на запитвания — в горната част на много често срещани резултати от търсене за милиони потребители в САЩ под надписите „Оставете Google да търси в Гугъл вместо вас“ и премахва „умората от търсенето“.
Проблемите, с които се сблъсква Overviews, повтарят реакцията през февруари срещу неговия чатбот Gemini, който създаде исторически неточни изображения на различни етноси и полове чрез своя инструмент за създаване на изображения, като жени и цветнокожи като викингски крале или немски войници от Втората световна война.
В отговор Google се извини и спря генерирането на изображения на хора от своя модел Gemini. Функцията не е възстановена.
Pichai говори за дилемата на Google да бъде в крак с конкурентите, като същевременно действа етично и остава търсачката, на която се разчита широко за връщане на точна и проверима информация.
На събитие в Станфордския университет миналия месец той каза: „Хората идват да търсят във важни моменти, като например дозата на лекарството за тримесечно дете, така че трябва да го направим правилно . . . че доверието се печели трудно и лесно се губи.“
„Когато сбъркаме, хората ни уведомяват, че потребителите имат най-високата летва . . . това е нашата северна звезда и към която са насочени нашите иновации“, добави Пичай. „Помага ни да направим продуктите по-добри и да ги направим както трябва.“
