„Събудени ли са моделите на AI? Отговорът не е толкова прост

Вижте всички тематики Връзка копирана! Следвайте

Президентът в сряда съобщи, че е подписал изпълнителна заповед, забраняваща на федералното държавно управление да доставя технология на AI, която „ е била влята в партизанските пристрастия или идеологическите стратегии като теорията на сериозната раса. “ Това е индикация, че неговият подтик против разнообразието, справедливостта и приобщаването се уголемяват до технологията, че някои чакат да бъдат толкоз сериозни за намирането на информация онлайн, защото моторът за търсене.

Моделите на AI значително са отражение на данните, на които са подготвени, противоположната връзка, която получават по време на този развой на образование, и инструкциите, които им се дават - всички от които въздействат дали AI чатбот дава отговор, който наподобява „ разсънен “, който самичък по себе си е индивидуален термин. Ето за какво пристрастията като цяло, политически или не, са били залепващ миг за промишлеността на AI.

„ Моделите на AI нямат убеждения или пристрастия по метода, по който хората вършат, само че е правилно, че те могат да демонстрират пристрастия или систематични наклони, изключително в отговор на избрани поръчки “, сподели Орен Еквиони, някогашен изпълнителен шеф на основаната в Сиатъл AI Research нестопанска цел Алън Института за изкуствен интелект, пред CNN.

Тръмп подтик против „ Събуди се “ Тех

Изпълнителната заповед на Тръмп включва два „ безпристрастни AI правилото “. Първият, наименуван „ Търсене на истината “, споделя огромни езикови модели - видът модели, които зареждат чатботите като Chatgpt - би трябвало да „ бъдат същински в търсенето на фактическа информация или разбор “. Това значи, че те би трябвало да дадат приоритет на фактори като историческа акуратност и научно изследване, когато са поискани в действителност отговори, съгласно заповедта.

„ В подтекста на AI, DEI включва потискането или изкривяването на фактическата информация за раса или пол; манипулиране на расово или полово показване в резултатите от модела; включване на концепции като сериозна доктрина на расата, трансгендеризъм, несъзнателни пристрастия, интерсекционизъм и систематичен расизъм; и дискриминация въз основа на раса или секс “, споделя изпълнителният ред.

Разработчиците не би трябвало да „ съзнателно кодират партизански или идеологически преценки “ в отговорите на модела, в случай че потребителят не ги подкани да го създадат, се споделя в поръчката.

Тръмп също подписа изпълнителна заповед през 2020 година, ориентирана към фирмите за обществени медии, откакто Twitter разгласи две от неговите постове като евентуално подвеждащи.

В сряда Сенаторът Едуард Марки (D-Massachusetts) съобщи, че е изпращал писма до изпълнителните шефове на Гугъл Parent Alphabet, Anthropic, Openai, Meta, Microsoft и XAI, като се връщат против „ анти-вакните AI дейности на Тръмп “.

„ Дори и изказванията за пристрастия да са били точни, напъните на републиканците да употребяват политическата си власт - както посредством изпълнителната власт, по този начин и посредством следствия на Конгреса - да трансформират речта на платформите са рискови и противоконституционни “, написа той.

Защо AI чатботите реагират по метода, по който го правят

Въпреки че пристрастията могат да значат разнообразни неща за другите хора, някои данни допускат, че хората виждат политически настъпващи в избрани отговори на ИИ.

Документ от Висшето учебно заведение за бизнес в Станфорд, оповестен през май, откри, че американците преглеждат отговорите от някои известни модели на AI като наклонени вляво. Изследванията на университета в Браун от октомври 2024 година също откриват, че AI инструментите могат да бъдат изменени, с цел да заемат позиции по политически тематики.

Източник: cnn.com