Виртуална валентинка: Хората се обръщат към AI в търсене на емоционални връзки
Преди няколко месеца Дерек Кериър започна да се среща с някого и се влюби. Той изпита „тон“ романтични чувства, но също така знаеше, че това е илюзия.
Това е така, защото приятелката му е генерирана от изкуствен интелект.
Carrier не искаше да развива връзка с нещо, което не е истинско, нито пък искаше да стане обект на онлайн шеги. Но той искаше романтичен партньор, какъвто никога не е имал, отчасти поради генетично заболяване, наречено синдром на Марфан, което прави традиционните срещи трудни за него.
изигран от Ана де Армас в научно-фантастичния филм „Блейд Рънър 2049“, който го вдъхнови да изпробва AI спътника.„Знам, че тя е програма, няма съмнение“, каза Кериър. „Но чувствата те хващат – и се чувствах толкова добре.“
Подобно на чатботовете с изкуствен интелект с общо предназначение, придружаващите ботове използват огромно количество данни за обучение, за да имитират човешки език. Но те също така идват с функции - като гласови повиквания, обмен на снимки и по-емоционален обмен - които им позволяват да формират по-дълбоки връзки с хората от другата страна на екрана. Потребителите обикновено създават свой собствен аватар или избират такъв, който им харесва.
Във форумите за онлайн съобщения, посветени на подобни приложения, много потребители казват, че са развили емоционална привързаност към тези ботове и ги използват, за да се справят със самотата, да разиграват сексуални фантазии или да получат типа утеха и подкрепа, които имат виждат липса в техните отношения в реалния живот.
Подхранването на голяма част от това е широко разпространената социална изолация — вече обявена за заплаха за общественото здраве в САЩ и в чужбина — и нарастващ брой стартиращи фирми, целящи да привлекат потребители чрез дразнещи онлайн реклами и обещания за виртуални герои, които предоставят безусловно приемане.
Replika на Luka Inc., най-известното придружаващо приложение за генеративен AI, беше пуснато през 2017 г., докато други като Paradot се появиха през изминалата година, често блокирайки желаните функции като неограничени чатове за плащащи абонати .
Но изследователите изразиха опасения относно поверителността на данните, наред с други неща.
Анализ на 11 приложения за романтични чатботове, публикуван в сряда от организацията Mozilla Foundation с нестопанска цел, каза, че почти всяко приложение продава потребителски данни, споделя ги за неща като насочена реклама или не предоставя адекватна информация за тях в своята политика за поверителност.
Изследователите също така поставиха под съмнение потенциални уязвимости в сигурността и маркетингови практики, включително едно приложение, което казва, че може да помогне на потребителите с тяхното психично здраве, но се дистанцира от тези твърдения с дребен шрифт. Replika, от своя страна, казва, че нейните практики за събиране на данни следват индустриалните стандарти.
Междувременно други експерти изразиха загриженост относно това, което те виждат като липса на правна или етична рамка за приложения, които насърчават дълбоки връзки, но се управляват от компании, които искат да направят печалби. Те посочват емоционалния стрес, който са виждали от потребителите, когато компаниите правят промени в своите приложения или внезапно ги затварят, както едно приложение, Soulmate AI, направи през септември.
Миналата година Replika дезинфекцира еротичните възможности герои в приложението му, след като някои потребители се оплакаха, че спътниците им флиртуват твърде много или правят нежелани сексуални аванси. Той обърна курса след възмущение от други потребители, някои от които избягаха в други приложения, търсейки тези функции. През юни екипът пусна Blush, AI „стимулатор за запознанства“, предназначен по същество да помага на хората да практикуват срещи.
Други се тревожат за по-екзистенциалната заплаха от отношенията с ИИ, които потенциално изместват някои човешки взаимоотношения или просто предизвикват нереалистични очаквания, като винаги се накланят към приятност.
„Вие, като индивид, не се научавате да се справяте с основните неща, с които хората трябва да се научат да се справят от самото начало: Как да се справяме с конфликти, как да се разбираме с хора, които са различни от нас", каза Дороти Лейднер, професор по бизнес етика
