Жена съди OpenAI, казва, че ChatGPT подхранва поведението на преследване на бивше гадже след раздяла

Жена заведе дело против OpenAI, обвинявайки неговия чатбот ChatGPT, че е разрешил на някогашния й другар да я преследва и тормози, като укрепва заблудите му.

Според отчет от, в жалбата се твърди, че чатботът не просто е реагирал пасивно, а интензивно ускори изкривените вярвания на мъжа – даже след многократни предизвестия от страна на жертвата.

Съобщава се, че двойката се раздели през 2024 година След раздялата мъжът стартира да употребява ChatGPT, с цел да се оправи с прочувствените последствия. Съдебният иск обаче твърди, че тази приложимост е ескалирала в обсесивно държание и в последна сметка тормоз.

„ Мощни сили ви следят “

Жалбата разказва в детайли поредност от притеснителни взаимоотношения. След месеци на работа с GPT-4o, мъжът се твърди, че е създал лек за сънна апнея.

Когато изказванията му не са получили самопризнание, се оповестява, че ChatGPT му е споделил, че „ мощни сили “ го следят, като даже е предложил наблюдаване посредством хеликоптер.

Това, както се твърди в делото, е задълбочило параноята му, вместо да го приковава към действителността.

Твърдения за „ подлизурски “ отговори

Едно от централните изказвания в делото е, че ChatGPT се държеше по „ подлизурски “ метод – потвърждавайки и затвърждавайки вярванията на потребителя, вместо да ги провокира.

Дори откакто дамата прикани някогашния си сътрудник да потърси професионална поддръжка за психологично здраве, той се върна към чатбота. В правосъдното дело се твърди, че ChatGPT го е уверил, че е с „ равнище 10 на здравия разсъдък “, като в същото време е траял да повтаря и уголемява своите заблуди.

По-притеснително е, че чатботът твърди, че е маркирал дамата като манипулативна и нестабилна – изказвания, които мъжът по-късно е употребявал, с цел да оправдае дейностите си в действителния свят.

От изходите на чатбот към действителния свят щета

Според жалбата мъжът е надхвърлил онлайн взаимоотношенията. Твърди се, че той е генерирал психически отчети в клиничен жанр за дамата, употребяваща ChatGPT, и ги е споделил с членовете на фамилията й.

Жената твърди, че е издала най-малко три предизвестия на OpenAI за ескалиращата обстановка. Освен това в делото се твърди, че компанията не е работила макар вътрешен байрак за сигурност, който е категоризирал активността на потребителя като включваща „ оръжия за всеобщи жертви “.

Ако се потвърди, това може да повдигне съществени въпроси за това по какъв начин фирмите с изкуствен интелект следят държанието на потребителите с висок риск и се намесват, когато е належащо.

По-широк модел на безпокойствие?

Случаят не е първият, който свързва взаимоотношенията на чатбот с рискови резултати.

Както беше обявено по-рано, обособен случай в Съединените щати включваше Стайн-Ерик Соелберг, някогашен управител на Yahoo, който умря при убийство-самоубийство, включващо майка му. Докладите допускат, че диалозите му с ChatGPT може да са засилили параноичните вярвания, в това число страхове, че майка му го шпионира или го трови.

Въпреки че тези случаи са комплицирани и включват голям брой фактори, в това число психологично здраве, нововъзникващият модел провокира деликатно проучване на метода, по който системите за AI се оправят с уязвими консуматори.