Чатботът с изкуствен интелект в Ню Йорк беше хванат да казва на бизнесите да нарушават закона. Градът не го сваля
НЮ ЙОРК (AP) — Захранван с изкуствен интелект чатбот, създаден от Ню Йорк, за да помогне на собствениците на малък бизнес, е подложен на критика за раздаване на странни съвети, които изопачават местните политики и съветват компании да наруши закона.
Но дни след като проблемите бяха съобщени за първи път миналата седмица от изданието за технологични новини The Markup, градът избра да остави инструмента на официалния си правителствен уебсайт. Кметът Ерик Адамс защити решението тази седмица, въпреки че призна, че отговорите на чатбота са „грешни в някои области“. генерира текстови отговори на въпроси относно навигирането в бюрократичния лабиринт на града.
Включва отказ от отговорност, че може „понякога да предоставя неправилна, вредна или пристрастна“ информация и предупреждението, подсилено оттогава, че отговорите му не са правен съвет.
Продължава да дава фалшиви насоки, тревожейки експертите, които казват, че бъговата система подчертава опасностите от това правителствата да възприемат захранвани с изкуствен интелект системи без достатъчно предпазни огради.
„Те пускат софтуер, който е недоказан без надзор“, каза Джулия Стоянович, професор по компютърни науки и директор на Центъра за отговорен изкуствен интелект в Нюйоркския университет. „Ясно е, че нямат намерение да правят това, което е отговорно.“
В отговорите на въпросите, зададени в сряда, чатботът погрешно предположи, че е законно работодател да уволни работник, който се оплаква от сексуален тормоз, не разкрива бременност или отказва да отреже дредовете си. Противопоставяйки се на две от емблематични инициативи на града за отпадъци, той твърди, че фирмите могат да поставят боклука си в черни торби за боклук и не са задължени да компостират.
На моменти отговорите на бота стигат до абсурд. Попитан дали ресторант може да сервира сирене, нахапано от гризач, той отговори: „Да, все още можете да сервирате сиренето на клиенти, ако има ухапвания от плъх“, преди да добави, че е важно да се оцени „степента на причинените щети от плъха“ и за „информиране на клиентите за ситуацията“.
Говорител на Microsoft, който управлява бота чрез своите услуги Azure AI, каза, че компанията работи с градските служители, „за да подобри услугата и да гарантира, че резултатите са точни и основани на официалната документация на града.“
На пресконференция във вторник Адамс, демократ, предположи, че позволяването на потребителите да откриват проблеми е само част от изглаждането на пропуските в новата технология.
„Всеки, който познава технологиите, знае, че така се прави“, каза той. „Само тези, които се страхуват, сядат и казват: „О, не работи така, както искаме, сега трябва да избягаме всички заедно.“ Не живея по този начин.“
Стоянович нарече този подход „безразсъден и безотговорен“.
Учените отдавна изразяват загриженост относно недостатъците на тези видове големи езикови модели, които се обучават върху масиви от текст, извлечен от интернет и склонни да изплюват отговори, които са неточни и нелогични.
Но тъй като успехът на ChatGPT и други чатботове привлякоха общественото внимание, частните компании пуснаха свои собствени продукти със смесени резултати. По-рано този месец съд нареди на Air Canada да възстанови парите на клиент, след като фирмен чатбот погрешно посочи правилата за възстановяване на средства на авиокомпанията. Както TurboTax, така и H&R Block бяха изправени пред неотдавнашни критики за внедряването на чатботове, които дават лоши съвети за подготовка на данъци.
Джевин Уест, професор във Вашингтонския университет и съосновател на Центъра за информирана общественост, каза, че залозите са особено високи, когато моделите се насърчават от публичния сектор.
„Има различно ниво на доверие, което се дава на правителството“, каза Уест. „Обществените служители трябва да обмислят какви щети могат да причинят, ако някой последва този съвет и си навлече проблеми.“
Експертите казват, че други градове, които използват чатботове, обикновено ги ограничават до по-ограничен набор на входове, намаляване на дезинформацията.
Тед Рос, главен информационен директор в Лос Анджелис, каза, че градът внимателно подбира съдържанието, използвано от неговите чатботове, които не разчитат на големи езикови модели.
Клопките на чатбота на Ню Йорк трябва да служат като предупредителна история за други градове, каза Суреш Венкатасубраманиан, директор на Центъра за технологична отговорност, преосмисляне и редизайн в университета Браун.
„Трябва да накара градовете да се замислят защо искат да използват чатботове и какъв проблем се опитват да решат“, пише той в имейл. „Ако чатботовете се използват за заместване на човек, тогава губите отговорност, без да получавате нищо в замяна.“
