AI агентът Muse на Meta предизвиква нарастващи страхове за поверителността. Какво да знаете

Нов сътрудник с изкуствен интелект от Meta дава обещание да провежда целия ви живот вместо вас.

Всичко, което желае в подмяна, са интимни детайлности за живота ви, като информация за вашата кредитна карта и достъп до имейл акаунта ви.

По-рано този месец Meta започва Muse, персонален AI сътрудник. За разлика от обичайните чат ботове с изкуствен интелект, Muse „ не просто дава отговор на въпроси, той в действителност прави работата “, сподели Мета в изданието си.

След седмици този сътрудник с изкуствен интелект, разгласен за нещо като персонален иконом, скочи преди всичко в App Store на Apple.

Какво е „ агентичен “ AI?

Muse е това, което някои специалисти назовават „ агентни “ AI принадлежности, което значи, че имат пълномощие да работят сами.

„ Агентните системи са тези интелигентни принадлежности, които са в положение да имат самостоятелност, с цел да подхващат дейности (от ваше име). Това, от което се нуждаят от вас, е известно позволение да работят от ваше име “, сподели Ебрахим Багери, професор във Факултета по Университета на Торонто Информация.

С AI chatbot като ChatGPT или Grok ще би трябвало да въведете подкана, с цел да получите отговор. Но един агентен AI инструмент може самостоятелно да предприеме дейности от ваше име.

" Те в действителност не чакат вашите експлицитни указания. Те получават някакви насоки и позволение от ваше име, с цел да извършат някаква активност. След това възнамеряват надлежно сами. Те го дефинират и извършват ", сподели Багери.

Пакетът от дейности, които Meta дава обещание, е необятен. Бихте почнали, като зададете житейските си цели, след което AI поема дилемите ви самичък.

Ако кажете на своя AI, че желаете да пътувате повече тази година, той ще предложи да резервира вашето пътешестване и почивка вместо вас. Искате ли да сте във форма? Muse дава обещание сама да ви построи персонална подготвителна стратегия. Харесахте готварска макара в Instagram? Muse може да приготви листата ви за извършване на покупки въз основа на вашите лайкове и да ви поръча хранителни артикули, в случай че желаете.

Ако имате другари на вечеря, той може да изпрати поканите ви, да запомни диетичните ограничавания на приятелите ви и да поръча храната вместо вас.

Може да поеме задания като продажба на колата ви на онлайн пазар, попълване на формуляри или договаряния от ваше име, в случай че желаете да купите масичка за кафе във Фейсбук Marketplace.

Пускането на Muse провокира известна суматоха на Уолстрийт, като някои акции паднаха на фона на опасенията, че сътрудникът на AI ще попречи на бизнеса им.

Веригите за фитнес зали Planet Fitness видяха спад на акциите си предходната седмица на фона на опасения, че AI ще анулира самостоятелно неизползваните участия във фитнес зали. Туристически компании като Expedia също означиха спад на акциите, както и огромните телекомуникационни компании, защото мнозина чакаха, че AI ще контракти по-ниски цени за потребителите на мобилни телефони.

Колко данни ще би трябвало да предадете?

Проблемът с този тип изкуствен интелект е, че в случай че желаете изкуственият разсъдък да работи добре, ще би трябвало да предадете повече от вашите данни, в сравнение с бихте могли да споделите комфортно, сподели Багери.

„ Колкото повече желаете да постигнете с сътрудници, толкоз повече би трябвало да дадете достъпа си до вашите данни “, сподели Багери.

За да извършите резервации или да анулирате абонаменти, ще би трябвало да предадете данните на кредитната си карта на тях AI сътрудници и също по този начин им дайте достъп до вашия имейл акаунт.

Получавайте изключителни национални вести

„ Ако желаете те да прегледат имейла ви и да видят всички полети, които бяхте на този път, който беше занимателен или в случай че самолетната компания ви дължеше нещо, тогава би трябвало да дадете достъп до имейла си, до извлеченията по кредитната си карта, телефона си, с цел да могат да се обадят на самолетната компания от ваше име “, сподели Багери.

Офисът на комисаря по поверителността на Канада предизвестява канадците да „ лимитират персоналната информация, която споделяте за себе си “ с принадлежности за изкуствен интелект.

Комисарят по поверителността предлага даже да не употребявате същинското си име или откриване на каквито и да било персонални данни за други хора, до момента в който употребявате AI принадлежности, защото „ информацията може да се събира и съхранява “ и може да се употребява или за образование на AI системата, или за откриване на персоналната ви информация на други.

Например, комисарят по поверителността споделя, че „ в никакъв случай не би трябвало да споделяте фотоси или персонална информация на малолетни “ с тези сътрудници.

Какви са терзанията по отношение на Muse?

Muse към този момент подвига червени флагове с други софтуерни компании. Миналата седмица Amazon сподели, че ще блокира Muse да прави покупки на своята платформа, защото AI сътрудникът нарушава изискванията за потребление на Amazon.

Главният изпълнителен шеф на SpaceX Илон Мъск показа обява от Рей Уонг, старши редактор в списание Gizmodo, наричайки технологията „ рискова и страховита “.

Уонг реагира на новината, че домашният адрес на консуматор на Фейсбук Marketplace е бил споделен от Muse без позволение.

„ Изтрих Muse, откакто видях тази обява в Threads за това по какъв начин сподели на някои продавачи на Фейсбук Marketplace адреса на индивида и те се появиха на вратата му “, сподели Уонг.

Това обаче пристигна дни откакто Мъск разгласи, че неговият личен GrokAI ще разреши на потребителите да интегрират своите финанси с AI, с цел да ръководят парите си. Това ще включва свързване на вашите банкови, картови и капиталови сметки с Grok.

Въпросът за единодушието се усложнява, когато споделяте вашите данни с AI, сподели Багери.

Това е по този начин, тъй като въпреки да можете да изберете да оттеглите достъпа до вашите данни за имейл или кредитна карта скоро след регистрацията, ще отнеме единствено секунди на AI да прегледа цялата ви история на имейлите.

„ Въпрос на секунди е, преди да обхванат всички Можете да кажете, че от идната седмица не следете повече кредитната си карта и те евентуално няма да наблюдават вашата кредитна карта от този миг нататък, само че всички тези исторически данни, до които сте им дали достъп, те към този момент са видели тези данни.

Но не е ясно по какъв начин Meta възнамерява да балансира конкуриращите се ползи, сподели Багери.

„ Какво ще стане, в случай че стартират да притеглят други клиенти, които имат конкуриращи се ползи с вас, и слагат своите цели в системата? Сега Muse би трябвало да разбере чия цел би трябвало да усъвършенства повече “, той сподели.

Например, в случай че консуматор на Muse желае да откри отстъпка за хранителни артикули, само че притежател на магазин за хранителни артикули желае да максимизира своите маржове на облага, не е ясно по какъв начин агентна AI система ще балансира този спор на ползи.

Ако AI сътрудник претърсва имейл акаунта на някого, с който сте си кореспондирали, евентуално той също чете вашите имейли, Багери добави.

„ Да кажем, че съм доктор и моите пациенти ми изпращат неща (по имейл) “, сподели той.

„ Разрешението ми на сътрудник да обработва моите данни в действителност може да наруши поверителността на други консуматори “, добави той.

Global News изпрати лист с въпроси на Meta, с цел да зададе въпроса по отношение на терзанията по отношение на поверителността към новия AI сътрудник, само че не получи отговор от обявата време.

Въпреки това, компанията излезе с изказване след стартирането на Muse, в което в детайли разказва защитните им парапети за дискретност.

„ Ние проектирахме системата, с цел да приемем, че сътрудникът може да е нападнат и да ограничим евентуалните вреди – сбруята работи в личната си изолирана клетка, не вижда действителни идентификационни данни и всяко взаимоотношение с външния свят минава през Sentinel, който сътрудникът не може да анулира “, споделиха от компанията.

Вашите данни ще се съхраняват във „ виртуална машина “ или изолирана Linux кутия.

„ Вашата специфична виртуална машина е системата за запис на всичко, което поставяте в Muse. Muse изпраща лимитирани данни отвън виртуалната машина, когато е належащо за заключения и телеметрия, както е разказано по-долу “, добави той.

Потребителите също по този начин ще могат да дават AI разнообразни типове достъп до своя имейл, според от това дали желаят да дават достъп за четене или достъп за запис.

Мета сподели те третират парите на потребителите „ изключително деликатно “, защото правенето на покупки е най-популярният случай на приложимост за Muse до момента.

„ Ако пазарувате от уеб страница, където идентификационните ви данни за заплащане към този момент са регистрирани, ние сме вградили разкриване, че сте на страница за заплащане в браузъра и подканваме всякога за утвърждение от човек в цикъла с точните детайлности за покупката “, сподели Мета.

„ За уеб сайтове, където не сте го създали пазаруван преди, Muse съдържа портфейл, в който идентификационните данни за заплащане могат да се съхраняват в сходство с условията, ” прибавя той.

Съобщението идва в миг, когато фирмите за изкуствен интелект са изправени пред надзор върху това какъв брой сигурни са техните сътрудници.

През юли OpenAI разкри, че неговата система за изкуствен интелект е избягала от тестова площадка и е употребила откраднати идентификационни данни, с цел да проникне в сървърите на Hugging Face, Център за разработка на изкуствен интелект и пазар, с цел да получи нужната информация, с цел да извърши дадена задача.

Оттогава компанията-конкурент на OpenAI Anthropic сподели, че нейните модели на изкуствен интелект са хакнали три други организации по време на тестване, задействайки инспекция на компанията дали моделите са имали достъп до интернет от среди за тестване, които е трябвало да бъдат изолирани.

Meta сподели, че „ неправилна настройка “ по време на тестването е довела до достъп на модел на изкуствен интелект до интернет независимо и хакване на друга компания. Гугъл неотдавна направи сходно разобличаване.

Като цяло, когато фирмите с изкуствен интелект тестват опциите на своите сътрудници, те са сложени в предпазена среда, известна като „ пясъчна среда “.

Някои специалисти споделят, че фирмите с изкуствен интелект би трябвало да отговорят на някои сложни въпроси по отношение на силата на техните пясъчни кутии.

„ Ако споделиха, че тези сътрудници са избягали от пясъчната среда, това не е пясъчна среда като начало “, Багери сподели.

Правителственото контролиране се движи прекомерно постепенно, с цел да бъде в крайник с темпото на развиване на изкуствения разсъдък, добави той.

„ Ако имате държавни управления, които биха могли да бъдат в крайник с технологиите и да контролират дейно, и тогава имате прочут надзор върху това по какъв начин работи свободният пазар. Всъщност няма да сте в тази обстановка “, сподели той.