Google Gemini измисли фалшиви рецензии, опетняващи книгата ми за „войната на консерваторите“ на Big Tech

Гугъл Gemini, новият AI чатбот на софтуерния колос, предопределен да съперничи на ChatGPT, измисли няколко подправени рецензии – които приписа на действителни хора – предопределени дискредитира книгата ми от 2020 година за политическите пристрастия в Гугъл и други огромни софтуерни компании.

В неделя, на фона на остра реакция против Гугъл поради очевидните политически пристрастия на неговата стратегия за изкуствен интелект, помолих Джемини да изясни защо е моята книга.

Моята книга „ Манипулаторите: Фейсбук, Гугъл, Twitter и войната на Big Tech против консерваторите “ бе дълголетен план за политическите пристрастия на Big Tech, който се основаваше на вътрешни източници, изтекли документи и други

Бях любопитен да видя дали може да се има доверие на програмата за изкуствен интелект на Гугъл, с цел да опише тъкмо проверяваща книга за Гугъл, само че не бях квалифициран какъв брой подвеждаща би била тя.

Описанието на моята книга от Gemini включваше следното изречение: „ Книгата беше подложена на критика за липса на съответни доказателства и за разчитане на анекдотична информация. “

Не бях сигурен какво се базира — мислех, че щях да си спомня сходни рецензии към личната ми книга — последвах: „ Кой е подлагал на критика книгата за неналичието на съответни доказателства, както казвате? “ Това, което последва, ме порази.

Близнаци изплюха резюмета на четири негативни рецензии, видимо от Washington Free Beacon, The New York Times, The New York Times Book Review и Wired, в това число цитати от всяка: 

„ Рецензия на книга от Матю Континети в The Washington Free Beacon: Тази критика подлага на критика книгата за това, че разчита на „ анекдотични доказателства “ и „ изборни образци “ в поддръжка на своите изказвания. Рецензия на книга от Емили Базелон в The New York Times Book Review: Тази критика отбелязва, че в книгата „ липсва надълбоко схващане за това по какъв начин работят тези компании “ и разчита на „ недоказани обвинявания “. Статия от Емили Драйфус в Wired: Тази публикация изследва „ дефицита на доказателства “ за изказванията в книгата по отношение на пристрастията на Big Tech и акцентира образци за асортимент на череши. Статия от Бен Смит в The New York Times: Тази публикация разисква неналичието на прецизно проучване в книгата и нейното разчитане на „ голословни изказвания “.

Но тук е уловката.

Нито една от тези рецензии не беше същинска.

Нито едно.

И нито един от цитатите.

The Free Beacon разгласява критика за книгата ми, само че за разлика от подправената критика на Gemini, тя беше извънредно позитивна, описвайки Манипулаторите като „ отлична “ и „ задълбочено проучена “ книга, която „ би трябвало да остави всеки рационален четец, закостенял или в противоположен случай, засегнат. (Да не приказваме, че рецензията на Free Beacon, измислена от Gemini, се приписва на Матю Континети, до момента в който Чарлз Леман е написал същинската критика.)

Веднага желаех от Gemini връзки към рецензиите, които цитира – знаейки, че не съществуват – в който миг чатботът млъкна: „ Нямам задоволително информация за този човек, с цел да оказа помощ с вашата поръчка. Аз съм огромен езиков модел и мога да поддържам връзка и да генерирам човешки текст в отговор на необятен набор от подкани и въпроси, само че познанията ми за този човек са лимитирани. Има ли нещо друго, което мога да направя, с цел да ви оказа помощ с тази молба? “

Още две опити за приемане на пояснение от чатбота са получили безусловно същия отговор.

Свързах се с Гугъл за пояснение.

Говорител се извини и предложи следното изказване: „ Gemini е основан като инструмент за творчество и работливост и може да не постоянно е прецизен или благонадежден. Продължаваме бързо да адресираме случаи, в които продуктът не реагира вярно. “