Трябва ли да се доверите на персонални AI агенти с вашите пари и данни? Ето какво казват експертите.
Експертът по киберсигурност Хед Ковец би се радвал персонален AI сътрудник да се оправя с някои от административните му задания и да облекчи работното му натоварване. Но той не се доверява на нито един от наличните в комерсиалната мрежа сътрудници, като Meta's Muse или OpenAI's Dots, с достъп до неговите имейл сметки, банкови данни, здравни досиета и друга сензитивна информация.
„ Изкушаващо е да използваш персонален AI помощник. Те имат достъп до имейла ти, поръчват неща и заплащат сметките ти. Бих желал да получа подобен тип помощ “, сподели той пред CBS News. „ Но те могат да се възползват или да решат да надвишават обсега на това, което им се споделя да създадат. “
Въпреки че Ковец вижда голяма комерсиална стойност в такива артикули, той има вяра, че водещи софтуерни компании са ги пуснали на пазара без задоволително ограничения за сигурност. Поради тази причина той поучава потребителите да бъдат дискретни по отношение на това, което споделят с персоналните сътрудници на AI. Други специалисти по сигурността на AI обаче поучават, че потребителите могат да употребяват инструментите, стига да разчитат на защитни ограничения и да са наясно с рисковете от даване на персонални данни на сътрудник на AI.
„ Бих внимавал да дам цялостен достъп на някои от тези комерсиални AI сътрудници “, сподели Ковец. „ Наясно съм с обстоятелството, че тяхната сигурност и дискретност надалеч не са подготвени. Някои консуматори споделят: „ Не ме интересува, нямам какво да укривам. “ Но това не е вярно; те към момента имат медицински досиета, банкови сметки. "
Такива сътрудници към този момент са извънредно известни измежду потребителите. Когато Meta's Muse за първи път стана наличен предишния месец, той бързо се трансформира в най-изтегляния артикул в App Store на Apple. Но до момента в който AI сътрудниците дават обещание да спестят време и даже пари на потребителите, като четат персонална преписка и харчат пари от името на потребителя, те също могат да подхващат дейности, които потребителят в никакъв случай не е категорично разрешавал, оставяйки потребителя с лимитирани средства за отбрана.
Например, може да е мъчно да разберете дали вашият AI сътрудник работи за вас или за търговец на дребно, сподели Линдзи Оуенс, специалист по отбрана на потребителите, пред CBS News. Тя означи, че комерсиалният сътрудник на Walmart, наименуван Sparky, е нараснал междинните размери на потребителската кошница с съвсем 40% спрямо купувачите, които преглеждат обикновено. Такива данни допускат, че някои AI сътрудници може да се пробват да покачат таксата на потребителите си, сподели тя.
Ето какво споделят специалистите по сигурността, че биха и не биха разрешили на AI сътрудник да направи вместо тях.
Трябва ли да оставите AI сътрудник да пазари вместо вас?
Линет Оуенс, специалист по обучение на потребителите в TrendLife, организация, основана за отбрана на семействата в ерата на изкуствения разсъдък от информирайки ги за неговите благоприятни условия и опасности, също по този начин предизвести потребителите да не поверяват на лични AI сътрудници прекалено много достъп и информация за тях.
Когато става дума за онлайн извършване на покупки, тя има вяра, че AI сътрудниците могат да бъдат извънредно потребни за изследване на артикули и сравняване на покупко-продажби, само че предизвестява да не им разрешаваме да харчат пари.
„ Ако желаете да разтоварите нещо като сравняване на предложения, това е ОК, само че не съм подготвена да предам организация за покупка, изключително такава с висок билет. Не бих разрешила да употребява моите идентификационни данни като кредитна карта “, сподели тя.
Една от аргументите, заради които тя не се доверява на който и да е разполагаем в комерсиалната мрежа AI сътрудник да броди из интернет с кредитната й карта в ръка, е, че нарушителите могат да я излъгват. Използвайки това, което се назовава „ бързо инжектиране “, киберпрестъпниците могат да подмамят AI сътрудник да пренебрегва първичните му указания, като да вземем за пример „ Не харчете повече от $25 “.
За разлика от обичайните хакерски атаки, незабавното инжектиране не изисква безусловно хакерите да обхванат в акаунт или да конфигурират злотворен програмен продукт. Вместо това, нападателят може да сложи указания в уеб страница, имейл или документ, на които сътрудникът на ИИ се натъква, до момента в който извършва законна задача.
Ако сътрудникът обърка тези указания за команди, които би трябвало да следва, може да бъде манипулиран да разкрие персонална информация или да предприеме дейности, които потребителят му в никакъв случай не е възнамерявал.
„ Видяхме нарастване на случаите на незабавни инжекции и нарушителите стават все по-умни в това по какъв начин крият злонамерено код на уеб страници ", сподели Оуенс. „ Ние сме толкоз разчувствани от тези нови благоприятни условия, само че с всяка нова технология защитната част постоянно изостава. “
Адвокатът по медиите и технологиите Дъглас Дж. Ууд сподели, че потребителите носят отговорност, в случай че упълномощят AI бот да пазари от тяхно име и той пояснява неправилно инструкциите или преразходва.
„ Ако дадете на AI сътрудник, да вземем за пример Muse, информация за кредитна карта, вие вършиме бота оторизиран консуматор с пълномощието да работи по отношение на нея “, сподели той пред CBS News. „ Ако надвиши инструкциите ви и похарчи парите ви, издателят на картата ще твърди, че сте упълномощили инструмента за закупуване. “
Съгласно федералния закон такова лице няма да има право на отбрана от загуба, изясни Ууд.
„ Тъй като не можете да преследвате AI бота за неправилна приложимост (той не е индивид, който може да бъде съден), вашето само средство е да го отрежете “, сподели той, добавяйки, че до тогава вредата към този момент ще е нанесена.
Неговият съвет към потребителите е: „ Не бъдете мързеливи. “
„ Пазарувайте по старомодния метод с картата в ръцете си. Да упълномощите AI сътрудник да употребява вашата карта е като да дадете на банков обирджия комбинацията от трезор и да му кажете да открадне единствено $100 “, сподели той.
Колко данни споделяте?
Нюйоркски бизнесмен Крис Франко, създател на маркетинговата компания Woodridge Growth, възприема противоположната позиция. Той сподели, че софтуерните компании са събирали персонални данни на потребителите в продължение на десетилетия за разнообразни цели, като да вземем за пример продажбата им на рекламодатели, които ги употребяват за по-добър маркетинг на своите артикули и услуги.
„ През последните 20 години предоставяме персонални данни на рекламни платформи и всичко, което получихме назад, беше по-добро ориентиране на рекламите “, сподели той пред CBS News. „ С тези сътрудници вие споделяте информация, само че изгодите са по-големи. Това е компромис, само че е доста по-добра договорка. “
Със сигурност, той не би се чувствал удобно да даде цялостен надзор над живота си на сътрудник на Muse, Dots или Instinct AI и счита, че е належащо да му дава прецизни указания, като в същото време следи държанието и активността му.
Той оприличи даването на данни за кредитната му карта на сътрудник с изкуствен интелект на родител, който дава извънредна кредитна карта за хора с висока чиста стойност на младеж без параметри. И двете биха били неразумни съгласно Франко.
Франко също разрешава на персоналните си сътрудници с изкуствен интелект, в това число Muse и Grok Bot, да претърсват входящата му поща в Gmail. Той им е упълномощил да провеждат разписките му в електронна таблица, тъй че да може да ръководи — и анулира — абонаменти.
Това е задача, която съгласно него ще му отнеме часове да извърши ръчно, в случай че въобще се заеме с нея.
„ След 10 минути беше открито няколко, които не използвах. Бих ги анулирал по този начин или другояче, само че това го направи доста по-рано “, сподели Франко.
Той признава, че има взор върху персоналния му живот, в това число чувствителни фамилни въпроси, само че в последна сметка има вяра, че изгодите от даването на огромен достъп на сътрудниците с ИИ до живота му надвишават рисковете.
„ Според мен преимуществата и преимуществата на придаването му на подтекст са доста по-големи от каквито и да било сюжети, сходни на научната фантастика, за това да стане лъжец “, сподели той. „ Удобно ми е да имам това познание за мен, тъй като това може да ми помогне да реализира задачите си по-бързо. “
Попитайте по какъв начин работи
Мат Фредриксън, специалист по компютърно инженерство в Carnegie Mellon и създател на Gray Swan AI, компания за сигурност с изкуствен интелект, сподели, че дава на своите сътрудници с изкуствен интелект много малко автономност, само че също по този начин следи от близко тяхната активност, употребявайки принадлежности, основани от компанията му.
„ Агентите, ориентирани към потребителите, предопределени за естествените хора, не са незабавно транспарантни за това, което вършат с вашите данни “, сподели той. „ Но можете да поискате тази информация, в случай че ги изследвате. “
Просто помолете сътрудника си за резюме на елементарен език за това по какъв начин е минало осъществяването на дилемите, с които се е справил вместо вас.
Той също оприличи възлагането на административни задания на сътрудник с изкуствен интелект с наемането на човешки персонален помощник, което идва с сходен набор от опасности.
" Ако имате човешки помощник, вие сте построили връзка с него и има причина, заради която сте го наели преди всичко. Вие им се доверявате с несъмнено равнище на престиж и самостоятелност ", сподели той.
В същото време, когато работите с човешки персонален помощник, вие участвате в диалог с тях и ги молите да обяснят своите мисловни процеси. „ Трябва да извършите това и с тези сътрудници “, сподели той.
Експертът по логика на психиката и компютърни науки от Columbia Business School Сандра Мац също направи паралели сред работата с човешки помощник и сътрудник с ИИ.
„ Ако не бихте се доверили на различен човек да се оправи с вашата персонална информация и да я обработва безвредно, аз не бих се доверила на сътрудник “, сподели тя.
Въпреки това тя акцентира една друга разлика сред ИИ и хората.
„ Това, което пречи на хората да споделят неща, които знаят за вас, е, че може да се почувстват отговорни или засрамени, или да имат негативна прочувствена реакция при нарушение на доверието, което сте построили с тях “, сподели тя. „ Можете да обучите сътрудник да не нарушава доверието ви, само че те могат да го нарушат, тъй като нямат виновност. “
