„Обществените несъответствия“ могат да направят ИИ опасен, предупреждава главният изпълнителен директор на OpenAI

Главният изпълнителен шеф на основателя на ChatGPT OpenAI каза във вторник, че заплахите, които го държат безсънен през нощта във връзка с изкуствения разсъдък, са „ доста фините публични несъответствия “, които биха могли системите сеят безпорядък.

Сам Алтман, говорейки на срещата на върха на международните държавни управления в Дубай посредством видеообаждане, повтори апела си за основаване на орган като Международната организация за атомна сила, който да следи ИИ, който евентуално напредва по-бързо от светът чака.

„ Има някои неща, които са лесни за показване, когато нещата в действителност се объркват. И не се интересувам толкоз от роботите-убийци, които се разхождат по улицата, където нещата се объркат “, сподели Алтман. „ Аз съм доста по-интересен от доста фините публични несъответствия, при които просто имаме тези системи в обществото и без съответно неприятно желание, нещата просто се объркват извънредно. “

Олтман обаче акцентира, че AI промишлеността, като OpenAI, не би трябвало да бъде водеща, когато става въпрос за основаване на регулации, ръководещи промишлеността.

„ Все още сме в стадий на доста полемики. Знаете ли, всички по света организират конференция. Всеки има концепция, политически документ и това е ОК “, сподели Алтман. „ Мисля, че към момента сме в миг, в който дебатът е нужен и здравословен, само че в някакъв миг през идващите няколко години считам, че би трябвало да преминем към проект за деяние с същинска поддръжка по целия свят. “

OpenAI, основана в Сан Франциско започваща компания за изкуствен интелект, е един от водачите в региона. Microsoft влага към 1 милиард щатски $ в OpenAI. Асошиейтед прес подписа съглашение с OpenAI за достъп до нейния списък с вести. Междувременно The New York Times съди OpenAI и Microsoft за потреблението на неговите истории без позволение за образование на чатботовете на OpenAI.

Успехът на OpenAI направи Altman общественото лице за бързата комерсиализация на генеративния AI – и страховете по отношение на какво може да пристигна от новата технология.

ОАЕ, автократична федерация от седем наследствено ръководени шейхства, има признаци на този риск. Речта остава строго следена. Тези ограничавания засягат потока от точна информация — същите елементи, на които стратегиите за изкуствен интелект като ChatGPT разчитат като системи за машинно образование, с цел да дават своите отговори на потребителите.

Emirates също има компания G42 от Абу Даби, следена от мощен консултант по националната сигурност на страната. G42 разполага с това, което специалистите допускат, че е водещият в света модел на изкуствен интелект на арабски език. Компанията е изправена пред обвинявания в шпиониране за връзките си с приложение за мобилен телефон, разпознато като шпионски програмен продукт. Освен това е изправена пред изказвания, че може да е събрала генетичен материал скрито от американци за китайското държавно управление.

G42 съобщи, че ще прекъсне връзките си с китайски снабдители поради опасенията на Съединени американски щати. Въпреки това полемиката с Алтман, модерирана от държавния министър на ОАЕ за изкуствения разсъдък Омар ал-Олама, не засегна нито едно от локалните опасения.

От своя страна Алтман сподели, че е обнадежден да види, че учебните заведения, където учителите се опасяваха, че учениците ще употребяват AI за писане на публикации, в този момент одобряват технологията като решаваща за бъдещето. Но той добави, че изкуственият разсъдък остава в начален етап.

„ Мисля, че повода е актуалната технология, която имаме, е като … този първи мобилен телефон с черно-бял екран “, сподели Алтман. „ Така че ни дайте малко време. Но ще кажа, че мисля, че след още няколко години ще бъде доста по-добре, в сравнение с е в този момент. И след десетилетие би трябвало да е много удивително. “