Шеф на OpenAI: Обществените несъответствия могат да направят изкуствения интелект опасен
Главният изпълнителен директор на създателя на ChatGPT OpenAI заяви във вторник, че опасностите от изкуствения интелект, които го държат буден през нощта, са „много фините обществени несъответствия“, които могат да накарат системите сеят хаос.
Сам Алтман, говорейки на Световната среща на върха на правителството в Дубай чрез видеообаждане, повтори призива си за създаване на орган като Международната агенция за атомна енергия, който да наблюдава бързо напредващия AI.
„Вътре има някои неща, които е лесно да си представим, когато нещата наистина се объркват. И не съм толкова заинтересован от роботите убийци, които вървят по улицата в посоката, в която нещата се объркат,” каза той.
„Много повече се интересувам от много фините обществени несъответствия, където просто имаме тези системи в обществото и без конкретно лошо намерение нещата просто се объркват.“
Г-н Алтман обаче подчерта, че AI индустрията, като OpenAI, не трябва да бъде водеща, когато става въпрос за създаване на регулации, управляващи индустрията.
„Все още сме в етап на много дискусии. Знаете ли, всички по света провеждат конференция. Всеки има идея, политически документ и това е ОК“, каза той.
„Мисля, че все още сме във време, в което дебатът е необходим и здравословен, но в някакъв момент през следващите няколко години Мисля, че трябва да преминем към план за действие с реална подкрепа по целия свят.“
OpenAI, стартираща компания за изкуствен интелект, базирана в Сан Франциско, е един от лидерите в областта.
Microsoft инвестира около 1 милиард щатски долара (£791,8 милиона) в OpenAI.
Асошиейтед прес подписа споразумение с OpenAI за достъп до своя архив с новини.
Междувременно New York Times съди OpenAI и Microsoft за използването на неговите истории без разрешение за обучение на чатботовете на OpenAI.
Успехът на OpenAI направи г-н Altman публично лице за бързото комерсиализиране на генеративния AI — и страховете за това какво може да дойде от новата технология.
Обединените арабски емирства, автократична федерация от седем наследствено управлявани шейхства, имат признаци на този риск. Речта остава строго контролирана и тези ограничения засягат потока от точна информация – същите детайли, на които разчитат програмите за изкуствен интелект като ChatGPT като системи за машинно обучение, за да предоставят отговори на потребителите.
ОАЕ също имат фирмата в Абу Даби G42, наблюдавана от влиятелния съветник по националната сигурност на страната.
G42 разполага с това, което експертите предполагат, че е водещият в света модел на изкуствен интелект на арабски език.
Компанията е изправена пред обвинения в шпионаж за връзките си към приложение за мобилен телефон, идентифицирано като шпионски софтуер. Освен това е изправен пред твърдения, че може тайно да е събирал генетичен материал от американци за китайското правителство.
G42 заяви, че ще прекъсне връзките си с китайски доставчици заради опасенията на САЩ.
Въпреки това дискусията с г-н Алтман, модерирана от държавния министър на ОАЕ за изкуствения интелект, Омар ал-Олама, не засегна нито едно от местни опасения.
От своя страна г-н Алтман каза, че е окуражен да види, че училищата, в които учителите се страхуваха, че учениците ще използват AI за писане на доклади, сега приемат технологията като решаваща за бъдещето.
Но той добави, че AI остава в начален стадий.
„Мисля, че причината е настоящата технология, която имаме, е като … този първи мобилен телефон с черно-бял екран“, той казах. „Така че ни дайте малко време.
„Но ще кажа, че мисля, че след още няколко години ще бъде много по-добре, отколкото е сега. И след десетилетие трябва да е доста забележително.“
