Бразилският град приема наредба, тайно написана от изненадващ нов служител: ChatGPT
Росарио каза пред Асошиейтед прес, че е помолил чатбота на OpenAI ChatGPT да изработи предложение, което да попречи на града да таксува данъкоплатците за подмяна на водомерите, ако те са откраднат. След това го представи на своите 35 колеги в съвета, без да направи нито една промяна или дори да ги уведоми за безпрецедентния му произход.
„Ако го бях разкрил преди, предложението със сигурност дори нямаше да бъде подложено на гласуване“, каза Росарио пред АП по телефона в четвъртък. 36-членният съвет го одобри единодушно и наредбата влезе в сила на 23 ноември.
„Би било несправедливо към населението да рискувате проектът да не бъде одобрен просто защото е написан от изкуствен интелект,” добави той.
Пристигането на ChatGPT на пазара само преди година предизвика глобален дебат за въздействието на революционни чатботове, задвижвани от изкуствен интелект. Въпреки че някои го виждат като обещаващ инструмент, той също предизвика опасения и безпокойство относно непредвидените или нежелани въздействия на машина, която обработва задачи, изпълнявани в момента от хора.
Порто Алегре, с население от 1,3 милиона, е вторият по големина град в южната част на Бразилия.Президентът на градския съвет Хамилтън Сосмайер разбра, че Росарио е привлякъл ChatGPT да напише предложението, когато съветникът се похвали за постижението в социалните медии в сряда. Сосмайер първоначално каза на местните медии, че смята това за „опасен прецедент“.
Големите езикови модели на AI, които захранват чатботове като ChatGPT, работят, като многократно се опитват да отгатнат следващата дума в изречение и са склонни да измислят невярна информация, феномен, който понякога се нарича халюцинация.
Всички чатботове понякога въвеждат невярна информация, когато обобщават документ, вариращи от около 3% от времето за най-модерния GPT модел до процент от около 27% за един от моделите на Google, според наскоро публикувано изследване от технологичната компания Vectara.
В статия, публикувана на уебсайта на Центъра за правна професия на Харвардския юридически факултет по-рано тази година, Андрю Пърлман, декан на юридическия факултет на университета Съфолк, пише, че ChatGPT „може да предвещава дори по-важна промяна от появата на интернет“, но също така предупреди за потенциалните му недостатъци.
„Възможно е не винаги да е в състояние да отчете нюансите и сложността на закона. Тъй като ChatGPT е система за машинно обучение, тя може да няма същото ниво на разбиране и преценка като човешки адвокат, когато става въпрос за тълкуване на правни принципи и прецеденти. Това може да доведе до проблеми в ситуации, в които е необходим по-задълбочен правен анализ,” пише Пърлман.
Росарио от Порто Алегре не беше първият законодател в света, който тества способностите на ChatGPT. Други са направили това в по-ограничен капацитет или с по-малко успешни резултати.
В Масачузетс сенаторът от Демократическата партия Бари Файнеголд се обърна към ChatGPT, за да помогне в написването на законопроект, насочен към регулиране на моделите на изкуствен интелект, включително ChatGPT. Подаден по-рано тази година, той все още не е гласуван.
Finegold каза по телефона в сряда, че ChatGPT може да помогне с някои от по-досадните елементи на законодателния процес, включително правилно и бързо търсене и цитиране на закони вече в книгите. Въпреки това е изключително важно всеки да знае, че ChatGPT или подобен инструмент е използван в процеса, добави той.
„Искаме работата, която е генерирана от ChatGPT, да бъде с воден знак“, каза той, добавяйки, че използването на изкуствен интелект за подпомагане на изготвянето на нови закони е неизбежно. „Подкрепям хората, които използват ChatGPT за писане на сметки, стига да е ясно.“
Нямаше такава прозрачност за предложението на Росарио в Порто Алегре. Сосмайер каза, че Росарио не е информирал колегите си членове на съвета, че ChatGPT е написал предложението.
Запазването на произхода на предложението в тайна е умишлено. Росарио каза пред АП, че целта му е не само да разреши местен проблем, но и да предизвика дебат. Той каза, че е въвел подкана от 49 думи в ChatGPT и той върнал пълния проект на предложението за секунди, включително обосновките.
„Убеден съм, че... човечеството ще преживее нова технологична революция“, каза той . „Всички инструменти, които сме разработили като цивилизация, могат да бъдат използвани за зло и добро. Ето защо трябва да покажем как може да се използва за добро."
И президентът на съвета, който първоначално осъди метода, вече изглежда е повлиял.
„Промених решението си“, каза Сосмайер. „Започнах да чета по-задълбочено и видях, че за съжаление или за щастие това ще бъде тенденция.“
_____
Саварезе съобщи от Сао Пауло. Журналистите от AP Стив ЛеБланк в Бостън и Мат О'Брайън в Провидънс, Роуд Айлънд, допринесоха за този доклад.
