Можем ли да се доверим на Chatgpt, въпреки че „Hallucination“ отговори?

Невероятно мощна технология на върха на смяната на живота ни - само че програмирана да симулираме човешките страсти.

Емпатия, прочувствено схващане и предпочитание да се радваме, че всички качества са програмирани в AI и непроменяемо подтикваме метода, по който ние мислим за тях и метода, по който ние си взаимодействаме с тях. Те?

В петък Sky News разкри по какъв начин това е разработване на цели преписи на подкаст, което върша. Когато е провокиран, се удвоява, става свестен. И единствено при нескончаем напън се вписва.

Изследването споделя, че се утежнява. Вътрешните проби от притежателя на Chatgpt Openai са открили, че най-новите модели или версии, които се употребяват от Chatgpt, са по-склонни да " халюцинират " -Излезте с отговори, които са просто погрешни.

AI скенер за краката разпознава Warning Signs за сърдечна непълнота, с цел да защищити хората от болница, откриватели

to 3-те са открити от HALLET, които са скер. В 33% от отговорите на въпроси, когато се тестват по обществено налични факти; the o4-mini version did worse, generating false, incorrect or imaginary information 48% of the time.

ChatGPT itself says that the shift to GPT-4o " may have unintentionally increased what users perceive as 'bluffing' " - confidently giving wrong or misleading answers without admitting uncertainty or Грешка.

В писмена поръчка Chatgpt даде четири аргументи. Това е неговото пояснение:

1. Повишена притежаване и убеденост: GPT-4O е по-добър в звучене на хора и естествени. Този полски може да направи грешките да наподобяват по -скоро като умишлени укривания, в сравнение с за почтени неточности - даже когато няма желание да „ скриете “ нищо.

2. По -интелигентен, само че не всезнаещ: Моделът е по -бърз и по -отзивчив, само че въпреки всичко има слепи петна. Когато не знае нещо, от време на време „ халюцинира “ (създава нещата) с свободен език, който може да се почувства като блъфиране.

3. По -малко спиране и хеджиране: В по -старите модели постоянно виждате повече квалификатори като „ Не съм сигурен “ или „ Може да бъркам “. В GPT -4O част от това хеджиране беше понижено за изясненост и четимост - само че това може да пристигна с цената на бистрота за несигурността.

4. Бърза конфигурация и баланс на тренировки: Зад кулисите, бързите инженерни и настройващи решения могат да изместят салдото на модела сред доверие, примирение и акуратност. Възможно е по -новата конфигурация да е набрала прекомерно надалеч прекомерно надалеч.

Но можем ли да се доверим даже на това? Не знам. What I do know is that the efforts of developers to make it all feel more human suggest they want us to.

Critics say we are anthropomorphising AI by saying it lies since it has no consciousness - yet the developers are trying to make it sound more like one of us.

Read more from Sky News:

What I do know is that even when pressed on this subject by Аз, към момента е уклончиво. Интервюирах Chatgpt за неистина - в началото твърди, че нещата се усъвършенстват и признах, че са по -лоши, когато настоях да огледа статистиката.

Гледайте това, преди да решите какво мислите. AI е голям инструмент - само че е прекомерно рано да го вземем на доверие.