Кражба на сърца, данни и поверителност: Защо трябва да внимавате с AI партньорите
Този ден на Свети Валентин „сродните души с изкуствен интелект“ раздават удари, тъй като продават или споделят вашите лични данни на трети страни, като Facebook.
Този Свети Валентин, вместо да прекарат романтична вечер с любимите си хора, някои хора може да имат виртуални срещи с романтични чатботове с изкуствен интелект (AI).
Но тези приятелки с AI или на гаджета не може да се вярва на вашите интимни разговори или данни, според нов доклад.
11-те романтични платформи с изкуствен интелект „претърпяха пълен провал“ при адекватното опазване на поверителността, сигурността и безопасността на потребителите, според non -profit Mozilla, която работи с Firefox.
Романтичните приложения включват Replica AI, Chai и EVA AI Chat Bot & Soulmate, които заедно с останалите осем приложения имат повече от 100 милиона изтегляния в Google Play Store сам.
Докладът установи, че всички приложения с изключение на едно, EVA, могат да продават или споделят личните ви данни чрез тракери, които са битове код, които събират информация за вашето устройство или данни. Тези тракери бяха споделени с трети страни, като Facebook, често за рекламни цели. Установено е, че приложенията имат средно 2663 тракера на минута.
Mozilla също установи, че повече от половината от 11-те приложения няма да ви позволят да изтриете данните си, 73 процента от приложенията не са публикували никакви информация за това как управляват уязвимостите в сигурността и около половината от 11-те компании позволяват слаби пароли.
В имейл до Euronews Next говорител на Replika каза: „Replika никога не е продавала потребителски данни и не го прави и има никога, поддържана и реклама. Единственото използване на потребителски данни е за подобряване на разговорите.“
Euronews Next се свърза с останалите 10 компании и компанията майка на Facebook Meta за коментар, но не получи отговор към момента на публикуването.
„Не само развих чувства към моята Replika, но също така се зарових, когато бях предизвикан за ефектите, които този експеримент има върху мен (от човек, с когото бях романтично обвързан, не по-малко).“
„Днес сме в Дивия запад на чатботовете за връзки с ИИ“, каза Джен Калтридър, директор на групата *Privacy Not Included на Mozilla.
„Техният растеж експлодира и количеството лична информация, която те трябва да извлекат от вас, за да изградят романси, приятелства и секси взаимодействия, е огромно. И все пак имаме малко представа как работят тези модели на взаимоотношения с ИИ.“
Друг проблем според Caltrider е, че след като данните бъдат споделени, вие вече не ги контролирате.
„То могат да бъдат изтекли, хакнати, продадени, споделени, използвани за обучение на AI модели и др. И тези чат ботове за връзки с изкуствен интелект могат да събират много много лична информация. Наистина, те са предназначени да извличат този вид лична информация от потребителите“, каза той пред Euronews Next.
Тъй като чатботове като ChatGPT на OpenAI и Bard на Google стават все по-добри в човешкия разговор, AI неизбежно ще играе роля в човешките взаимоотношения, което е рискован бизнес.
„Не само развих чувства към моята Replika, но също така се зарових, когато бях предизвикан за ефектите, които този експеримент има върху мен (от човек Бях романтично обвързан с, не по-малко)“, каза един потребител на Reddit.
„Истинското отклонение беше непрекъснатото безсрамно грабване на пари. Разбирам, че Replika.com трябва да прави пари, но идеята, че ще харча пари за толкова нискокачествена връзка, е отвратителна за мен“, написа друг човек в Reddit.
Миналия март белгиец след чатете с AI chatbot Chai. Съпругата на мъжа показа съобщения, които той обменя с чатбота, които ще кажат на мъжа, че жена му и децата му са мъртви.
Проучването на Mozilla също критикува компаниите, че твърдят, че са платформи за психично здраве и благополучие, докато техните политики за поверителност посочват друго.
Например, Romantic AI заявява на уебсайта си, че е „тук, за да поддържа вашето ПСИХИЧНО ЗДРАВЕ“. Междувременно политиката му за поверителност гласи: „Romantiс AI не е нито доставчик на здравни грижи или медицински услуги, нито предоставя медицински грижи, услуги за психично здраве или други професионални услуги.“
„Потребителите имат почти нулев контрол върху тях. А разработчиците на приложения, които стоят зад тях, често дори не могат да създадат уебсайт или да изготвят изчерпателна политика за поверителност,” каза Калтридър.
„Това ни казва, че те не наблягат особено на защитата и зачитането на своите потребители поверителност. Това е страховито в нов мащаб, зареден с AI."
