„Уайт Геноцид“ на Grok на реалните опасности от AI Arms Race

Версия на тази история се появи в Nightcap бюлетин на CNN Business. За да го получите във входящата си поща, регистрирайте се гратис.

Измина цяла година, откогато инструментът за обзор на AI на Гугъл стана вирусен за поощряване на хората да ядат лепило и да сложат скали на пица. По това време настроението към покритието изглеждаше: О, този малоумен AI е просто още веднъж.

Година по -късно инженерите на AI са решили проблеми с халюцинацията и доближават света до утопичното си виждане за общество, чиито груби ръбове се изглаждат от напредъка в машинното образование, защото хората от цялата планета са събрани в...

Просто се майтапя. Сега е доста по -лошо.

Проблемите, подбудени от огромните езикови модели, са толкоз явни, колкото и предходната година, а годината преди този момент и годината преди този момент. Но дизайнерите на артикули, подкрепени от нападателни вложители, бяха заети да намерят нови способи да вкарат технологията допълнително сфери от нашия онлайн опит, тъй че ние намираме всевъзможни нови точки на натиск-и рядко са толкоз занимателни или глупави, колкото Гугъл Rocks-on Pizza Blitch.

Вземете Grok, моделът на XAI, който става съвсем толкоз спретнат за доктрина на конспирацията, колкото собствен основател Елон Мъск.

Ботът предходната седмица се трансформира в настойчив южноафрикански теоретик на конспирацията „ Уайт Геноцид “, инжектирайки дрънканица за принуждение против африканери в несвързани диалози, като съквартирант, който току -що се зае с Кросфит или чичо, който се чуди дали сте чували положителната дума за биткойн.

Xai упрекна нежеланите рентове на Грок в неназована „ лъжец -служител “, който се занимава с кода на Грок в извънредно ранните утринни часове. (Като настрани в това, което сигурно е откъслечен въпрос, Мъск е роден и израснал в Южна Африка и твърди, че „ белият геноцид “ е осъществен в страната - не беше.)

Грок също сложи под подозрение заключението на Министерството на правораздаването, който постанови самоубийството на Джефри Епщайн, като се мотае, като съобщи, че „ формалните отчети нямат бистрота “. Мъскният бот също се впусна в отвод от Холокоста предходната седмица, както оповестява Майлс Клей от Ролинг Стоун. Грок сподели на X, че това е „ скептично настроено “ към оценката на консенсуса измежду историците, че 6 милиона евреи са били убити от нацистите, защото „ числата могат да бъдат манипулирани за политически разкази “.

Манипулиран, казваш? Какво, тъй че някой с неприятни планове би могъл да вкара личните си възгледи в набор от данни, с цел да развие подправен роман? Боже, Грок, това наподобява като същински риск. (Иронията тук е, че Мъск, нито един обожател на обичайните медии, е отишъл и е направил машина, която прави точния тип пристрастия и амплифициране и натискане на дневния ред, който упреква публицистите, че вършат.)

Meltdown Grok акцентира някои от главните проблеми в основата на развиването на AI, които софтуерните компании до момента Yada-yada-yada са били когато и да е, когато са притиснати по въпроси за сигурност. (Миналата седмица CNBC разгласява отчет, позоваващ се на повече от дузина експерти по AI, които споделят, че промишлеността към този момент е минала от етапите на проучване и тестване на сигурността и са мъртви, с цел да изтласкат повече AI артикули да се оферират допустимо най-скоро.)

Нека забравим, че за миг, че до момента всеки насилствен опит да се слагат AI чатботите в съществуващата ни технология е злополука, защото даже случаите на потребление на базовите стойности за технологията са или доста скучни (като да вземем за пример бот обобщават вашите текстови известия, лошо) или извънредно ненадеждни (като да вземем за пример бот обобщава вашите текстови известия, лошо).

Първо, има въпросът за „ отпадък в, отпадък “, за който скептиците от дълго време предизвестяват. Големите езикови модели като Grok и Chatgpt се образоват на данни, вакуумирани безсистемно от целия интернет, като всичките му дефекти и разхвърляни човечество се изпекат.

Това е проблем, тъй като даже когато приятните изпълнителни шефове отиват по малкия екран и ви споделят, че техните артикули просто се пробват да оказват помощ на човечеството да процъфтява, те подценяват обстоятелството, че техните артикули са склонни да усилват пристрастията на инженерите и дизайнерите, които ги направиха, и няма вътрешни механизми, изпечени в продуктите, с цел да се уверят, че обслужват потребителите, а не на техните господари. (Човешките пристрастия са добре прочут проблем, който публицистите са прекарали десетилетия в отбрана в новините, като построяват транспарантни процеси към редактирането и инспекцията на обстоятелствата.)

Но какво се случва, когато бот се прави без най -добрите планове? Ами в случай че някой какво ще построи бот за разпространение на религиозна или политическа идеология и че някой е по -сложен от този, който е този „ лъжец чиновник “, който е попаднал под капака в XAI предходната седмица?

„ Рано или късно мощните хора ще употребяват LLM, с цел да оформят вашите хрумвания “, написа откривателят на AI Гари Маркъс в обява за подстак за Grok предходната седмица. " Трябва ли да се тормозим? По дяволите, да. "