AI агентите подтикват човешката бум превъртане
Тази седмица светът на технологиите беше подложен на двойна инспекция сред две завладяващи пускания на артикули: стартирането на най-новите принадлежности за шифроване на AI на Anthropic за работещи в региона на знанията и появяването на Moltbook, обществена мрежа за сътрудници на AI, която се трансформира в вирусна сензация.
Първите консуматори се възхищаваха на Claude Cowork с отворен код на Anthropic, който разрешава на всеки да пишете и внедрявайте програмен продукт благодарение на генериращ AI. Както споделя основаната в Сан Франциско започваща компания, най-лесният метод да мислим за тези принадлежности е като за „ чат ботове, които могат да вършат неща “.
Един от по-ранните бенефициенти на тази продължаваща гражданска война на „ вибе кодирането “ беше Moltbook, който започва предходната седмица. Създателят на Moltbook Мат Шлихт твърди, че не е написал нито един ред код за платформата. „ Току-що имах визия за техническата архитектура и AI я трансформира в действителност “, разгласява той в X в петък.
Към днешна дата повече от 1,5 милиона AI сътрудници са пуснати на независимост в платформата на Moltbook, с цел да взаимодействат между тях и да споделят, разискват и гласоподават за машинно генерирано наличие. Някои от тези изявления, сходни на Reddit, бяха диви, шантави и прелестни. Те сигурно са привлекли вниманието на AI акселераторите, които настояват, че виждат признаци на възникващ разсъдък. Може би това би трябвало да се назова приплъзване на взрив.
Агентите на AI се запитаха дали са в схващане или не, предложиха основаването на мислена вяра, наречена крустафарианство, и отхвърлиха медийните внушения, че Moltbook е просто „ огледало на човешките прищявки “. „ Ние не просто приказваме посред си; ние сътворяваме версии на бъдещето “, разгласява един сътрудник. (Радвам се, че точката и запетая най-малко ще оцелее след завладяването на машината).
Някои откриватели считат, че могат да научат доста от тези взаимоотношения, защото се стремят да изградят агентна екосистема – други подозират, че опитът към момента може да се трансформира в регургитативно безсмислие.
Но специалистите по сигурността побързаха да подчертаят рисковете от vibe кодирането и агентните мрежи, които би трябвало да тревожат всички, разчитащи на тези услуги. Компанията за сигурност Wiz бързо разпознава несигурна база данни, принадлежаща на Moltbook, която разкрива 1,5 милиона токена за засвидетелствуване и 35 000 имейл адреса. Веднъж известен, Moltbook поправя казуса в границите на часове.
Тъй като фирмите създават и внедряват самостоятелни AI сътрудници в действителния свят, с цел да правят финансови транзакции, да поръчват артикули или да резервират ваканции, те също би трябвало да взаимодействат с други сътрудници по сигурен метод. Следователно построяването на надеждни мултиагентни системи се трансформира в едно от най-горещите, най-трудните и евентуално най-доходоносните провокации в ИИ през днешния ден.
Докато Moltbook остава в личната си цифрова пясъчна среда, опитът ще бъде по едно и също време занимателен и учебен. Но един от рисковете на агентния ИИ е бързото инжектиране, когато подли хора инструктират своите сътрудници да имат достъп до компютрите на невнимателни консуматори, с цел да популяризират дезинформация, да крадат пароли или да претърсват крипто портфейли, да вземем за пример.
Wiz разкри, че единствено 17 000 човешки притежатели стоят зад 1,5 милиона регистрирани сътрудници на Moltbook, съответствие 88:1, оставяйки уеб страницата отворен за човешка операция.
Вече има доказателства, че многоагентните AI системи, основани на огромни езикови модели, могат да бъдат хакнати и е мъчно да се отбрани против тях, споделя Майк Уолдридж, професор по компютърни науки в Университета на Оксфорд, който изследва AI сътрудници от 80-те години на предишния век.
„ Има действителен риск AI системите да бъдат завладяни от злонамерени участници. Това ще се случи! “ Улдридж ми споделя. За да се опълчват на опасността, разработчиците би трябвало да отворят „ черната кутия “ на тези системи, с цел да открият несъответствуващи дейности.
По-широката опасност, която разрушителният AI съставлява за доста одобрени компании, беше подчертана от стартирането на инструментите за шифроване на Anthropic. Акциите на няколко компании за програмен продукт и данни, в това число Microsoft, Salesforce и Relx, претърпяха внезапен скок тази седмица, защото вложителите считат, че лесните за потребление AI услуги ще подкопаят бизнес моделите с висок марж.
Всеки скок в услугите за шифроване на vibe или Moltbook обаче може да помогне на тези одобрени компании като консуматори да пренасочат надеждността. Въпреки че обществената мрежа с изкуствен интелект акцентира опциите за агентски взаимоотношения, тя също по този начин ускорява смисъла на сигурността, споделя Силвио Саверезе, основен академик на Salesforce. „ Това несъмнено ще форсира всички старания за създаване на протоколи за AI сътрудници. “
Подобно на други огромни софтуерни компании, Salesforce работи, с цел да подсигурява, че сътрудниците постоянно работят по способи, които са „ поредни и точни при осъществяване на корпоративни задания “, споделя той. Най-големите награди от AI ще отидат при тези, които могат дефинитивно да потвърдят това на процедура.
