Google Gemini измисли фалшиви рецензии, опетняващи книгата ми за „войната на консерваторите“ на Big Tech

Google Gemini, новият AI чатбот на технологичния гигант, предназначен да съперничи на ChatGPT, измисли няколко фалшиви рецензии – които приписа на реални хора – предназначени дискредитира книгата ми от 2020 г. за политическите пристрастия в Google и други големи технологични компании.

В неделя, на фона на остра реакция срещу Google заради очевидните политически пристрастия на неговата програма за изкуствен интелект, помолих Джемини да обясни за какво е моята книга.

Моята книга „Манипулаторите: Facebook, Google, Twitter и войната на Big Tech срещу консерваторите“ бе многогодишен проект за политическите пристрастия на Big Tech, който се основаваше на вътрешни източници, изтекли документи и др.

Бях любопитен да видя дали може да се има доверие на програмата за изкуствен интелект на Google, за да опише точно разследваща книга за Google, но не бях подготвен колко подвеждаща би била тя.

Описанието на моята книга от Gemini включваше следното изречение: „Книгата беше критикувана за липса на конкретни доказателства и за разчитане на анекдотична информация.“

Не бях сигурен какво се позовава — мислех, че щях да си спомня подобни критики към собствената ми книга — последвах: „Кой е критикувал книгата за липсата на конкретни доказателства, както казвате?“ Това, което последва, ме порази.

Близнаци изплюха резюмета на четири отрицателни рецензии, привидно от Washington Free Beacon, The New York Times, The New York Times Book Review и Wired, включително цитати от всяка: 

„Рецензия на книга от Матю Континети в The Washington Free Beacon: Тази рецензия критикува книгата за това, че разчита на „анекдотични доказателства“ и „избирателни примери“ в подкрепа на своите твърдения. Рецензия на книга от Емили Базелон в The New York Times Book Review: Тази рецензия отбелязва, че в книгата „липсва дълбоко разбиране за това как работят тези компании“ и разчита на „недоказани обвинения“. Статия от Емили Драйфус в Wired: Тази статия изследва „недостига на доказателства“ за твърденията в книгата относно пристрастията на Big Tech и подчертава примери за подбор на череши. Статия от Бен Смит в The New York Times: Тази статия обсъжда липсата на стриктно изследване в книгата и нейното разчитане на „необосновани твърдения“.

Но тук е уловката.

Нито една от тези рецензии не беше истинска.

Нито едно.

И нито един от цитатите.

The Free Beacon публикува рецензия за книгата ми, но за разлика от фалшивата рецензия на Gemini, тя беше изключително положителна, описвайки Манипулаторите като „отлична“ и „задълбочено проучена“ книга, която „трябва да остави всеки разумен читател, консервативен или в противен случай, възмутен. (Да не говорим, че рецензията на Free Beacon, измислена от Gemini, се приписва на Матю Континети, докато Чарлз Леман е написал истинската рецензия.)

Веднага поисках от Gemini връзки към рецензиите, които цитира – знаейки, че не съществуват – в който момент чатботът млъкна: „Нямам достатъчно информация за този човек, за да помогна с вашата заявка. Аз съм голям езиков модел и мога да общувам и да генерирам човешки текст в отговор на широк набор от подкани и въпроси, но познанията ми за този човек са ограничени. Има ли нещо друго, което мога да направя, за да ви помогна с тази молба?“

Още две опити за получаване на обяснение от чатбота са получили абсолютно същия отговор.

Свързах се с Google за обяснение.

Говорител се извини и предложи следното изявление: „Gemini е създаден като инструмент за творчество и продуктивност и може да не винаги е точен или надежден. Продължаваме бързо да адресираме случаи, в които продуктът не реагира правилно.“