Експертите по поверителността бият тревога за най-новия AI инструмент на Microsoft
Най-популярната нова AI функция на Microsoft поражда опасения, че е възможно да бъде злоупотребена в погрешни ръце.
Тази седмица компанията показа нов инструмент, наречен Recall за компютри с Windows, който действа като лична „машина на времето“, позволявайки на потребителите бързо да изтеглят всичко, което някога е било на екрана, като документи, изображения и уебсайтове. Различно е от търсене по ключови думи; инструментът редовно запазва екранни снимки на екрана на потребителя и ги съхранява директно на устройството. След това използва AI, за да обработи данните и да ги направи годни за търсене.
Например, ако някой преди е търсил зелена рокля или името на местен магазин за сладолед, той може да поиска от функцията да си „припомни“ всичко в неговата история, което е било показано на екрана.
Въпреки че така нареченото семантично търсене е голяма крачка напред за AI, то идва в момент, когато индустрията се движи толкова бързо и държавните регулатори, компаниите и потребителите все още измислят как да използват технологията отговорно.
Джен Голбек – професор по изкуствен интелект в Университета на Мериленд, който се фокусира върху поверителността – каза, че функцията за изтегляне може да представлява потенциален „кошмар“, ако устройството попадне в неподходящи ръце.
„Нещата може да останат на вашето устройство, но това не означава, че хората не могат да стигнат до тях“, каза тя. „Няма да имате опция да се защитите, дори ако използвате режим „инкогнито“ или изчистите историята си, защото инструментът има достъп до всичко, което е било на екрана ви.“
Независимият регулатор на Обединеното кралство за защита на данните и свободата на информацията, Офисът на комисаря по информацията (ICO), каза пред CNN, че проучва инструмента, „за да разбере предпазните мерки, които са въведени за защита поверителност на потребителя."
„Очакваме организациите да бъдат прозрачни с потребителите относно това как се използват техните данни и да обработват лични данни само до степента, в която е необходимо за постигане на конкретна цел“, се казва в изявление на ICO.
Microsoft не отговори веднага на искане за коментар. Главният изпълнителен директор Сатя Надела каза пред The Wall Street Journal в интервю преди старта в понеделник, че уеб търсенията трябва да се извършват само в уеб браузъра Edge на Microsoft и че екранните снимки никога не напускат компютъра на потребителя.
„Трябва да съчетаете две неща: това е моят компютър и това е моето отзоваване – и всичко се прави локално“, каза той.
Джеф Блейбър, главен изпълнителен директор на фирмата за пазарни проучвания CCS Insight, каза, че това прави въпроса по-малко тревожен.
„Отрицателната реакция на някои към тази функция не е изненадваща, но е прекалена реакция, като се има предвид, че данните остават изключително на устройството и потребителят има пълен контрол“, каза Блабър.
Някой може да реши дали да включи функцията по време на процеса на настройка на устройството и може да персонализира и постави в черен списък до кои приложения и уебсайтове Recall има достъп.
„Тези контроли предполагат, че функцията е изградена със сигурност и поверителност в основата си“, каза той. „Отзоваването няма да се хареса на всички, но предоставената полезност вероятно ще бъде значителна.“
Потенциал за злонамерено използване
Но Голбек цитира моменти, когато тази защита може да не е достатъчна, като например журналист във враждебна страна, човек, който се опитва да се измъкне от насилствена връзка, някой, който търси чувствителна медицинска информация или служител, чийто шеф иска да ги проследи. Тя вярва, че проблемите около инструмента вероятно ще засегнат най-много работното място.
„Знаем, че работните места наблюдават какво правим на техните устройства, но много хора ще направят нещо лично на работния си компютър и всичко това ще бъде архивирано и видимо за ИТ отдел, дори ако просто остане на устройството, “, добави тя.
Голбек каза, че технологията, въпреки ползите, твърде често се разработва, без да се вземат предвид злонамерените употреби.
„Това, което видяхме през последните 15 години, е, че всеки един от тези потенциални случаи на злонамерена употреба се реализира по един или друг начин“, каза тя. „Хората ще искат да използват тази страхотна функция, без да разбират риска за поверителността – че ще има постоянен запис на всичко, което правите.“
Подобни реакции към функции като биометрични пароли, като пръстови отпечатъци, лицево разпознаване и сканиране на ириса, се появиха в миналото. Блейбър каза, че за да преодолеят някои от първоначалните опасения, Microsoft и нейните партньори ще трябва да докажат стойността, сигурността и поверителността на продукта в реалния свят.
Все пак Микела Ментинг, старши директор по изследванията в ABI Research, смята, че функцията е „крачка назад“ за поверителността.
„Аргументът, че хакерите се нуждаят от физически достъп, за да могат дори да манипулират Recall, е в най-добрия случай късоглед, защото има много гениални начини, по които участниците в заплахата могат да използват такъв ценен инструмент“, каза тя. „Необходими са само време и усилия, за да се намери начин.“
