Създадох тази „AI леля“ за жени след семейна трагедия в Южна Африка

Ужасно ликвидиране в личното й семейство въодушеви южноафриканката Леонора Тима да сътвори цифрова платформа, където хората, най-вече дами, могат да приказват и наблюдават насилието.

Роднината на Леонора беше единствено на 19 години и бременна в деветия месец, когато беше убита, тялото й беше изхвърлено в профил на автомагистрала покрай Кейптаун през 2020 година

„ Работя в бранша за развиване, тъй че съм виждал принуждение “, споделя Леонора. „ Но това, което се открои за мен, беше, че насилствената гибел на член на фамилията ми се възприема като толкоз естествена в южноафриканското общество.

„ Смъртта й не беше оповестена от нито един новинарски издател, защото самият размер на тези случаи в нашата страна е подобен, че не се квалифицира като вест. “

Убиецът по този начин и не беше хванат и това, което Леонора видя като безмълвното приемане на насилствената гибел на жена, се трансформира в катализатор за нейното приложение Gender Rights in Tech (Grit), което включва чатбот, наименуван Zuzi.

Това е един от първите безвъзмездни AI принадлежности, основани от африкански основатели за справяне с учредено на пола принуждение.

" Това е африканско решение, създадено взаимно с африканските общности ", споделя Леонора

Целта е да предложим поддръжка и да помогнем за събирането на доказателства, които по-късно могат да бъдат употребявани в правосъдни каузи против насилници.

Инициативата набира интерес измежду интернационалните деятели за правата на дамите, макар че някои предизвестяват, че чатботовете не би трябвало да се употребяват за заменяне на човешката поддръжка, като акцентират, че оживелите се нуждаят от съпричастност, схващане и прочувствена връзка, които единствено подготвен експерт може да обезпечи.

Леонора и нейният дребен екип посетиха общности в кварталите към дома й в Кейптаун, говорейки с жителите за техния опит с принуждение и методите, по които технологията се вписва в живота им.

Те попитаха повече от 800 души по какъв начин употребяват телефоните и обществените си медии, с цел да приказват за принуждение, и какво ги стопира да търсят помогнете.

Леонора откри, че хората желаят да приказват за малтретирането си, само че „ се пазят от обичайните пътища като полицията “.

„ Някои дами разгласиха за това във Фейсбук и даже маркираха насилника си, единствено с цел да им бъдат връчени документи за клюка “, тя споделя.

Тя почувства, че съществуващите системи провалят жертвите два пъти, първо като не са съумели да предотвратят самото принуждение и по-късно още веднъж, когато жертвите са се пробвали да приказват.

С финансова и техническа поддръжка от Mozilla, фондация Gates и Patrick Фондация McGovern, Леонора и нейният екип започнаха да създават Grit, мобилно приложение, което може да помогне на хората да записват, рапортуват и да получават отговор на корист, до момента в който се случва.

Приложението е гратис за потребление, макар че изисква мобилни данни, с цел да го изтегли. Екипът на Леонора споделя, че има 13 000 консуматори и има към 10 000 молби за помощ в Септември.

В основата си Grit е построен към три основни функционалности.

На началния екран има огромен, кръговиден бутон за помощ. Когато бъде натиснат, той автоматизирано стартира да записва 20 секунди тон, улавяйки протичащото се към потребителя време, той задейства сигнал до частен център за бързо реагиране - компаниите за професионално реагиране са постоянно срещани в Южна Африка - където подготвен оператор се обажда на потребителя.

Ако обаждащият се нуждае от незабавна помощ, екипът за реагиране или самичък изпраща някого на мястото на случая, или се свързва с локална организация на жертвата, която може да му помогне.

Приложението е основано с потребностите на жертвите на принуждение в основата си, споделя Леонора: „ Трябва да спечелим доверието на хората. Това са общности, които постоянно биват подценявани. Искаме доста от хората, когато става дума за шерване на данни. "

Когато я попитаха дали функционалността за помощ е била злоупотребена, тя признава, че е имало няколко любопитни преси - хора, които тестват, с цел да видят дали в действителност работи - само че нищо, което тя би нарекла корист със системата.

" Хората са внимателни. Те ни тестват толкоз, колкото и ние тестваме технологията “, споделя тя.

Вторият детайл на Grit е „ трезорът “, който съгласно Леонора е несъмнено цифрово пространство, където потребителите могат да съхраняват доказателства за корист, датирани и криптирани, за възможна приложимост по-късно в правосъдни производства.

Снимки, екранни фотоси и гласови записи могат да се качват и резервират частно, защитавайки значими доказателства от заличаване или подправяне.

" Понякога дамите вършат фотоси на пострадвания или резервират заплашителни известия, само че те могат да бъдат изгубени или изтрити ", споделя Леонора. " Трезорът значи, че доказателствата не просто седят на телефон, който може да бъде лишен или погубен. "

Този месец Grit ще се разшири още веднъж с стартирането на третата си функционалност - Zuzi, основан на AI чатбот, предопределен да слуша, поучава и насочва потребителите към поддръжка от локалната общественост.

" Попитахме хора: „ Жена ли би трябвало да е? Трябва ли да е мъж? Трябва ли да е робот? Трябва ли да звучи като юрист, обществен служащ, публицист или друга авторитетна фигура? “, изяснява Леонора.

Хората им споделиха, че желаят Зузи да бъде „ фигура на вуйна “ – някой топъл и заслужен за доверие, на който могат да се доверят без боязън от наказание.

Въпреки че е основан най-вече за дами, подложени на принуждение, по време на етапа на тестване Zuzi е бил употребен и от мъже, търсещи помощ.

" Някои диалози са от причинители, мъже, които молят Zuzi да ги научи по какъв начин да получат помощ при проблемите си с гнева си, който те постоянно насочват към сътрудниците си ", изяснява Леонора. " Има също и мъже, които са жертви на принуждение и са употребявали Zuzi, с цел да приказват по-открито за своя опит.

" Хората обичат да приказват с ИИ, тъй като не се усещат съдени от него ", прибавя тя. „ Това не е човек. “

Организация на обединените нации Жени оповестява, че Южна Африка претърпява едни от най-високите равнища на принуждение, учредено на пола (GBV) в света, с равнище на убийства на дами, което е пет пъти по-високо от междинното за света. Между 2015 година и 2020 година приблизително по седем дами са били убивани всеки ден, съгласно южноафриканската полиция.

Мнозина, в това число Лиза Ветен, експерт по учредено на пола принуждение в Южна Африка, са съгласни, че е неизбежно технологията да играе роля в оправянето с него.

Но тя също по този начин предизвестява за нерешителност при потреблението на AI в грижи, ориентирани към контузия.

" Наричам ги огромни езикови модели, а не изкуствен интелект, тъй като те вземат участие в лингвистичен разбор и прогнозиране - нищо повече ", споделя тя.

Тя може да види по какъв начин системите с изкуствен интелект могат да оказват помощ, само че знае за образци, при които други чат ботове с изкуствен интелект са давали неправилни препоръки на дами.

" Притеснявам се, когато дават на дамите доста уверени отговори на правните им проблеми ", споделя тя. „ Чатботовете могат да обезпечат потребна информация, само че не са в положение да се оправят със комплицирани, многостранни компликации. Най-важното е, че те не са сурогат на човешкото консултиране. Хората, които са били засегнати, би трябвало да бъдат подкрепени да се доверят и да се усещат сигурни с други човешки същества. “

Подходът на Грит притегли интернационално внимание.

През октомври Леонора и нейният екип показаха своето приложение на конференцията за феминистка външна политика, проведена от френското държавно управление в Париж, където международните водачи се срещнаха, с цел да обсъдят по какъв начин технологията и политиката могат да бъдат употребявани за създаване на свят с по-голямо тъждество сред половете. На конференцията 31 страни подписаха ангажимент да трансфорат оправянето с насилието, учредено на пола, в основен приоритет на политиката.

Разговорите се шумят към потреблението на AI, споделя Лирик Томпсън, създател и началник на Feminist Foreign Policy Collaborative, „ само че сега, в който се опитате да включите пола в диалога, да повишите заплахите на расистки, сексистки и ксенофобски пристрастия, които се пекат, очите се изцъклят и диалогът се измества - евентуално към заден кулоар, където няма досадни дами в близост, които да го издигнат ".

Хедър Хърлбърт - помощник в Chatham House, профилирана в AI и потреблението му в технологиите - е съгласна, че AI „ има голям капацитет или да помогне за идентифициране и поправяне на дискриминирането, учредена на пола, и насилието, учредено на пола, или да утвърди женомразството и неравенството “, само че прибавя кой път ще поемем, зависи „ доста от нас “. за това кой въобще стига до проектирането на технологии.

Доклад на Световния стопански конгрес от 2018 година откри, че единствено 22% от експертите в ИИ в международен мащаб са дами, статистика, която към момента постоянно се цитира.

„ ИИ, какъвто го познаваме в този момент, е построен с исторически данни което концентрира гласовете на мъжете и по-специално на белите мъже, " споделя Леонора.

„ Отговорът не е единствено в това да имаме повече дами създатели. Ние също се нуждаем от цветнокожи създатели, повече от световния юг и повече от по-малко привилегировани социално-икономически среди. "

Само тогава, заключава Леонора Тима, технологията може да стартира да показва действителностите на тези, които я употребяват.

Може да се интересувате и от:

Отидете за още вести от африканския континент.

Следвайте ни на Twitter, във Фейсбук на или в Instagram на