Създателят на ChatGPT OpenAI дава право на вето, за да се включи в рисков AI, докато ЕС започва процес на регулиране

Потенциалните рискове от генеративния AI са мотив за угриженост за обществеността, политиците и откривателите на AI.

OpenAI разшири вътрешния си развой за сигурност, с цел да се оправи със опасността от нездравословен изкуствен интелект (AI), защото държавните управления се стремят да понижат технологията.

Стартиращата компания, която се гордее със своята извънредно сполучлив чатбот ChatGPT и е подсилен от Microsoft, съобщи, че ще сътвори специфичен екип, който да следи техническата работа и оперативна конструкция, което също по този начин разрешава на борда да анулира решенията за сигурност.

„ Ние сътворяваме кръстосано консултативна група за функционална сигурност, с цел да прегледа всички отчети и да ги изпрати по едно и също време на управлението и борда на шефовете. Въпреки че управлението е този, който взема решения, бордът на шефовете има правото да анулира решенията ", сподели компанията на уеб страницата си в понеделник.

Компанията актуализира своята „ рамка за подготвеност “, като сподели, че също по този начин ще влага в надлежни оценки на качествата и прогнозиране за по-добро разкриване на зараждащи опасности. Компанията също по този начин сподели, че непрестанно ще актуализира „ карти с резултати “ за своите модели.

„ Ние ще оценим всички наши гранични модели, в това число при всяко 2x дейно нарастване на изчисленията по време на подготвителни осъществявания. Ние ще изтласкаме моделите до техните граници “, споделиха от OpenAI.

Потенциалните рискове от технологията са угриженост за обществеността, политиците и откривателите на ИИ, защото генеративният ИИ може да популяризира дезинформация.

OpenAI, който е най-ценният стартъп в Съединените щати, беше хвърлен в ужас през ноември, когато неговият съосновател и основен изпълнителен шеф Сам Алтман беше отхвърлен от борда и по-голямата част от личния състав на компанията заплаши да напусне, в случай че той не бъде възобновен.

Няколко дни преди Олтман да бъде уволнен от борда, няколко откриватели на личния състав написаха писмо до борда на шефовете, предупреждавайки за мощно изобретение на ИИ, което може да заплаши човечеството, заяви Ройтерс през ноември, цитирайки двама души, осведомени с има значение.

Правителствата по света стартират да контролират технологията, като Европейският съюз става първият, който се съгласява с устав за ИИ.