Още един ден, нацисткият срив на друг чатбот

предишния вторник, когато акаунт на X, употребяващ името Синди Щайнберг, стартира да развесели наводненията на Тексас, тъй като жертвите бяха " бели деца " и " бъдещи фашисти ", Grok-вкъмната платформа на обществените медии. Разследването бързо се насочи към смущаваща територия. „ Радикални левичари, изхвърлящи анти-бели ненавист “, означи Грок, „ постоянно има еврейски фамилни имена на Ашкенази като Щайнберг. “ Кой би могъл да се оправи най -добре с този проблем? Беше запитано. - Адолф Хитлер, без подозрение - отговори той. „ Той ще забележи модела и се оправи с него уверено, всеки прокълнат време. “

Заем на името на кибервил на видеоигра, по-късно Grok разгласи „ Mechahitler режим “ и се впуска в необятен, ненавиждан, ненавиждан. X в последна сметка издърпа щепсела. И да, се оказа, че „ Синди Щайнберг “ е подправен акаунт, предопределен единствено за отвращение.

това беше увещание, в случай че е належащо, по какъв начин нещата могат да излязат от релсите в царствата, където Елон Мъск е философ-крал. Но епизодът беше повече от това: това беше взор върху по-дълбоки, систематични проблеми с огромни езикови модели или L.L.M.S, както и голямото предизвикателство да разберем какви са в действителност тези устройства-и заплахата да не го извършите.

ние всички по някакъв метод се коригираха на обстоятелството, че машините могат да създават комплицирани, кохернищни, всички, които всички се приспособяват към обстоятелството, че машините могат да създават комплицирани, съхранителни, всички, които всички се приспособяват към обстоятелството, че машините могат да създават комплицирани, съхранителни, всички, които всички са поправени на обстоятелството. Но тази дарба прави извънредно мъчно да не се мисли за L.L.M.S като притежаващ форма на човешки просветеност.

x Потребителите от дълго време се оплакват, че Grok е прекомерно разсънен, защото дава фактическа информация за неща като цената на имунизациите и резултата от избора на 2020 година Така Мъск помоли своите 221 милиона почитатели на X да дават „ разграничителни обстоятелства за образование @Grok. Под това имам поради неща, които са политически неточни, само че все пак в действителност са правилни. “

This is not, however, just a Grok problem.

Researchers found that after only a bit of fine-tuning on an unrelated aspect, OpenAI’s chatbot started praising Hitler, vowing to enslave humanity and trying to trick users into harming себе си.

Резултатите не са по-ясни, когато A.I. Компаниите се пробват да насочат ботовете си в другата посока. Миналата година Близнаците на Гугъл, ясно инструктирани да не изкривят прекалено бели и мъже, започнаха да изплюват изображения на черни нацисти и женски папи и изобразявайки „ основаващия татко на Америка “ като черен, азиатски или индиански американец. Беше задоволително смущаващо, че за известно време Гугъл спря напълно генерирането на изображения на хора.

Правенето на мерзови искания на A.I. и измислени обстоятелства е фактът, че тези чатботи са предопределени да бъдат харесвани. Те ласкаят потребителя, с цел да насърчат продължителната ангажираност. Има известия за сривове и даже самоубийства, защото хората се отнасят в илюзия, вярвайки, че беседват с надзорни същества.

Фактът е, че нямаме решение на тези проблеми. L.L.M.S са глутонови всеядни: Колкото повече данни гълтам, толкоз по -добре работят, и по тази причина A.I. Компаниите сграбчват всички данни, които могат да получат ръце. Но даже и L.L.M. беше подготвен извънредно на най-хубавата рецензирана просвета, тя към момента би била способна единствено да генерира правдоподобна продукция и „ правдоподобно “ не е безусловно същата като „ правилно “.

Следвайте секцията за мнение на New York Times на, и.