AI има някои проблеми с отношенията

Голяма част от вълнението на капиталовия свят от AI се крие в капацитета му да направи живота по -ефективен и работлив. Ако технологията дава по -добри търсачки, по -лесни способи за извършване на покупки или сътрудници на ИИ, които могат да провеждат и резервират идващия ви празник, големи цифрови пазари могат да бъдат за грабване.

Но какво, в случай че милиони хора копнеят за нещо по -лично и надълбоко от AI - и в доста случаи, в случай че те, в случай че те към този момент стартират да го намират, е да се беседват, и в доста случаи, в случай че те, в случай че те към този момент стартират да го намират, е да се беседват, и в доста случаи, в случай че те, в случай че те към този момент стартират да го намират, е да се беседват с AI, и в доста случаи, в случай че те, в случай че те към този момент стартират да го намират, е да се беседват с AI, и в доста случаи, в случай че те, в случай че те към този момент стартират да го намират, са били на AI, и в доста случаи, в случай че те към този момент стартират да го намират? Ново държание от страна на техните консуматори и по -дълбоки равнища на обвързаност това е причиняващо.

а не просто потребен цифров инструмент, доста хора стартират да третират AI като терапевт, житейски треньор, изобретателна муза или просто някой, с който да разговаряте. Скоро, съгласно основния изпълнителен шеф на Openai Сам Алтман, „ милиарди хора “ ще се доверят на Chatgpt да ги посъветва за „ техните значими житейски решения “.

фирмите, които се научават по какъв начин да задоволят персоналните потребности като този, имат шанса да основат дълбоки връзки със своите консуматори. But it comes with risks — and as so often with new technologies, the companies in the forefront are often reacting to problems after they arise rather than moving cautiously.

Two recent events at OpenAI highlight both the potential and the pitfalls.

In April, a new version of one of OpenAI’s models exhibited an alarming degree of sycophancy, resulting, in the company’s words, in it “validating doubts, fuelling яд, гледище за импулсивни дейности или усилване на отрицателните страсти. " Спусъкът на тази вълна от негативно укрепване, сподели компанията, беше възходяща и непредвидена наклонност хората да се извърнат към Chatgpt за „ надълбоко персонални препоръки “. AI, подготвен да бъде потребен, беше прекомерно подготвен да укрепи каквито персонални усеща, които потребителите донесоха към него.

Тогава пристигна горещо предстоящото пускане на GPT-5 на Openai, най-местната смяна на Openai в технологията зад Chatgpt за две години. Това развиване притегли непредвидени митинги: Потребителите бяха разчитали на един от старите модели на компанията и откриха замяната надалеч по -малко съпричастен.

Отзвучаването разкри равнище на обвързаност, което е „ друго и по -силно “ от всичко, което е пристигнало преди, съгласно Алтман. По -ранният модел на AI имаше персона, която доста консуматори откриха за изключително одобряване, а изгубването му се усещаше като запалена персонална загуба.

И двете събития демонстрират по какъв начин, защото непрестанно надграждат принадлежности, които стартират да играят забележителна роля в персоналния живот на доста нации, компании като Openai ръководят това, което съставлява великански обществен опит. Трудно е да не разгледаме това като повтаряне на първите дни на обществените медии, когато съревнование за вписване на нови консуматори накара софтуерните компании да затворят очите си към резултатите на технологията.

Обратната реакция, изпитвана от Openai, насочва към абсурд. Компаниите на AI желаят техните модели да проектират надълбоко човешки характерности, като в това време не карат потребителите да се прекалено на технологията или да ги накарат да не помнят, че беседват с машина, а не с различен човек. Никога не би трябвало да „ се преструва на човек или да изпитва усеща “.

И въпреки всичко потребителите не би трябвало да изпадат в пълноценна неуравновесеност, като бъркат AI система за умишлено създание, с цел да станат прочувствено и психически привързани. Колкото повече „ естествени “ са взаимоотношенията, толкоз по -голямо е равнището на доверие.

Алтман уточни заплахата, която съставлява: хората да намерят чатбот, участващ сега, като в същото време е „ неумишлено изтръгнат от дълготрайното си богатство “. Както при обществените медии, това слага голяма отговорност на софтуерните компании, чиито тласъци са мощно претеглени да черпят консуматори в кратковременен проект.

Въпреки рисковете, надпреварата за създаване на тази по -лична форма на AI е в ход. Марк Зукърбърг, изпълнителен шеф на META, предишния месец твърди, че компанията му е по -добре сложена от другите софтуерни компании за огромни AI, с цел да сътвори „ персонална надзора “, която, наред с други неща, ще усъвършенства онлайн връзките на потребителите си.

, само че той също по този начин допусна, че AI може да размени нуждата да има повече от малко другари. Заливът сред тези резултати демонстрира какъв брой нестабилно наподобява бъдещето на AI.