`Кръстникът на AI` сега се страхува, че е опасно. Той има план да го овладее в

Сидни:

Тази седмица Федералното бюро за следствие на Съединени американски щати разкри, че двама мъже, обвинени в бомбардиране на клиника за изобилие в Калифорния предишния месец, сякаш са употребявали изкуствен интелект (AI), с цел да получат указания за основаване на бомби. ФБР не разкри името на въпросната стратегия AI.

Това слага в внезапен фокус незабавната нужда да направи AI по -безопасно. В момента живеем в ерата на „ Див Запад “ на AI, където фирмите гневно се състезават да развиват най -бързите и занимателни AI системи. Всяка компания желае да надмине съперници и да желае първото място. This intense competition often leads to intentional or unintentional shortcuts – especially when it comes to safety.

Coincidentally, at around the same time of the FBI's revelation, one of the godfathers of modern AI, Canadian computer science professor Yoshua Bengio, launched a new nonprofit organisation dedicated to developing a new AI model specifically designed to be safer than other AI модели - и насочете тези, които предизвикват обществена щета.

И по този начин, какво е новият AI модел на Бенгио? И дали той в действителност ще отбрани света от щета, увреждане? Клон на машинното образование, дълбокото образование се пробва да имитира процесите на човешкия мозък, като употребява изкуствени невронни мрежи, с цел да се поучи от изчислителни данни и да направи прогнози.

Новата нестопанска организация на Бенгио, Lawzero, създава „ академик AI “. Bengio съобщи, че този модел ще бъде „ почтен и не лъжовен “ и ще включи правилата за сигурност по планиране.

Според предпечатния документ, оповестен онлайн по-рано тази година, ученият AI ще се разграничава от актуалните AI системи по два основни метода.

Първо, той може да оцени и заяви равнището на доверието си в отговорите си, като оказва помощ да понижи казуса с това, че е даден прекомерно убеден и погрешен отговор в отговорите си. може да изясни разсъжденията си на хората, което разрешава нейните изводи да бъдат оценени и тествани за акуратност.

Интересно е, че по -старите AI системи са имали тази функционалност. Но в бързината за скорост и нови подходи доста модерни модели на ИИ не могат да обяснят своите решения. Техните разработчици са жертвали обяснимост за скорост.

Бенгио също има намерение „ академик AI “ да работи като парапет против рисков AI. Той може да следи други, по -малко надеждни и нездравословни AI системи - всъщност битка с огъня с пожар.

Това може да е единственото жизнеспособно решение за възстановяване на сигурността на AI. Хората не могат вярно да следят системи като Chatgpt, които обработват над милиард поръчки всеки ден. Само различен AI може да ръководи тази канара.

Използването на AI система против други AI системи не е единствено научнофантастичен концепция-това е постоянно срещана процедура в проучванията за сравняване и тестване на друго равнище на просветеност в AI системи.

Добавяне на „ международен модел “

MADY MADER и машинно образование и машинно образование са единствено дребни елементи от през днешния ден. Екипът на Бенгио прибавя към учения AI е „ международният модел “, който носи сигурност и обяснимост. Точно както хората вземат решения въз основа на разбирането си за света, AI се нуждае от сходен модел, с цел да действа дейно.

неналичието на международен модел в актуалните AI модели е ясно. Модели като Chatgpt се борят с шаха, не съумяват да завоюват и даже да създадат противозаконни ходове.

Това е макар по -простите AI системи, които съдържат модел на „ света “ на шаха, биейки даже най -добрите човешки играчи.

Тези проблеми произтичат от неналичието на основополагащ международен модел в тези системи, които не са присъстващи, с цел да се моделят на динамичността на действителния свят -

тези проблеми, които се отнасят до неналичието на основополагащ международен модел в тези системи, които не са присъстващи на следенето на динамичността - основават се, че не са предопределени за следенето на динамичността - основават се, че са предопределени за следенето на динамичността - основават се, с цел да могат да се наблюдават - преследват се на следенето на следенето - нататък с следенето на следенето - на тези проблеми, които не са в положение да проследят. Но това ще бъде неравномерно

Бенгио е на верния път, като се стреми да построи по -безопасен, по -надежден AI, като комбинира огромни езикови модели с други AI технологии.

Въпреки това, пътуването му няма да е елементарно. 30 милиона щатски $ на Lawzero е малко спрямо напъните като плана за 500 милиарда щатски $, разгласен от президента на Съединени американски щати Доналд Тръмп по -рано тази година, с цел да форсира развиването на AI.

Правенето на задачата на Lawzero е по -трудна е фактът, че ученият AI - като всеки различен план на AI - се нуждаят от големи суми от данни, с цел да бъдат мощни, а множеството данни са следени от огромни софтуерни компании. Дори в случай че Бенгио може да построи AI система, която прави всичко, което споделя, че може, по какъв начин ще може да управлява други системи, които може да причинят щета?

И въпреки всичко, този план, с надарени откриватели зад него, може да провокира придвижване към бъдеще, в което AI в действителност оказва помощ на хората да процъфтяват. Ако е сполучлив, той би могъл да сложи нови упования за безвредни ИИ, обосноваване на откриватели, разработчици и политици за приоритет на сигурността.

Може би, в случай че бяхме подхванали сходни дейности, когато се появиха за първи път обществените медии, ще имаме по -безопасна онлайн среда за психологичното здраве на младежите. И може би, в случай че ученият AI към този момент е бил на мястото си, това би могло да попречи на хората с нездравословни планове да имат достъп до рискова информация благодарение на AI системи. Източник: ndtv.com