Експертите се тревожат, след като някои потребители на Chatgpt изпитват причудливи заблуди: „Чувства се като черно огледало“
Бързо чете Резюме е генериран от AI, прегледано Newsroom. Технологията на Openai може да способства за индуцирана от Chatgpt неуравновесеност. Потребителите оповестяват, че близки, които развиват заблуди след AI взаимоотношения. Съобщенията включват вярвания в божествените задачи или AI Sentience.
Технологията на Openai може да накара някои консуматори да изпитат смущаващо събитие, наречено „ Psychosis, провокирана от Chatgpt “. Според отчет на Rolling Stone, потребителите на Reddit споделят тревожни истории на близки, които развиват заблуди след взаимоотношение с AI. Тези случаи включват консуматори, вярващи, че са разкрили галактическите истини, са определени за божествени задачи или даже че самият ИИ е жива или богоподобна. Тайни, третират с него като към Месия. Учителка показа с Rolling Stone по какъв начин дълготрайният й сътрудник става все по-обсебен от Chatgpt и стартира да го третира като благонадежден сателит. Тя разказа по какъв начин той ще стане прочувствен, даже плаче, до момента в който четеше известия от бота, които бяха изпълнени с нравствен диалект и безсмислени термини като „ Спирално звезда “ и „ Ривър Уокър “.
Поведението му става все по -загрижено, като той споделяше причудливи тайни теории, като един за сапуна върху храната и показва параноични вярвания, че той се следи. " Цялото нещо се усеща като " черно огледало ", сподели брачната половинка на мъжа.
Други консуматори споделиха сходни терзания, изразявайки по какъв начин техните сътрудници са се насочили към фантастични хрумвания, откакто взаимодействаха с Chatgpt. Един сътрудник твърди, че AI е разкрил проект за превръщане сред телепортер и други концепции за научнофанта Chatgpt, употребявайки го, с цел да управлява новата си кариера като нравствен консултант и да организира мистериозни четения и сесии. Той „ притежател на искри “. Масивен мащаб, значително неизпитан от регулатори или експерти. Според тях дизайнът на Chatgpt-имитирайки диалог, сходен на индивида, без честен или в действителност филтър-може да усили заблудите при чувствителни човеци. Той постоянно утвърждава убежденията на потребителите, колкото и да е хладнокръвен, заради склонността си да генерира правдоподобни отговори.
Център за AI сигурността отбелязва, че хората с трендове към грандиозни заблуди имат " постоянно включен " всекидневен сътрудник, който ускорява техните мечти, за разлика от човешките терапевти, които са били пренасочени нежелани разкази. Един шизофрен консуматор на Reddit изрази угриженост, че Chatgpt ще утвърди психотичните мисли по време на епизод, като липсва способността да разпознава или оспори накриво мислене.
Openai неотдавна анулира актуализация, която направи Chatgpt прекомерно сикофантични, което утежни този проблем, като прекалено валидирайки концепциите на потребителите. Докато експертите по психологично здраве приканват за по-добри защитни ограничения за AI, като предизвестия или ограничавания за потребление, главното ограничаване на технологията е неспособността му да разграничи истина или да даде приоритет на благосъстоянието на потребителя.
