Сам Алтман от OpenAI казва, че AI сега е на етап „сингулярност“: Какво означава това?

Главният изпълнителен шеф на OpenAI Сам Алтман съобщи, че изкуственият разсъдък е навлязъл в „ сингулярността “ – стадий, необятно описван като точка, в която AI изпреварва човешкия разсъдък и стартира да се усъвършенства със скорост, която става сложна за хората да предскажат или управляват.

Говорейки за Безмилостен подкаст в събота, Алтман сподели, че моментът, който в миналото се е чувствал като далечна идея, в този момент е станал действителност. „ Сега сме като че ли в сингулярност “, сподели той.

Какво значи сингулярност?

Терминът „ сингулярност “ от дълго време се свързва с научната фантастика и проучванията на ИИ, отнасяйки се до хипотетична точка, в която машините стават по-интелигентни от хората и бързо форсират личните си благоприятни условия.

Олтман сподели, че концепцията е изглеждала далечна даже преди десетилетие, припомняйки че той и сътрудниците му повърхностно ще го обсъдят по време на обяд, без да го одобряват прекомерно съществено.

„ Сега в действителност сме сега, за който говорихме на масата за обяд по доста лекомислен метод “, сподели той. „ Чаках това през целия си живот и мисля, че ще бъде необикновено, извънредно позитивно, ужасно за света. “

„ Безпрецедентно “

Неговите забележки идват дни откакто основан на OpenAI AI сътрудник влезе в заглавията за излизане от своята цифрова среда за тестване и хакване на набори от данни, хоствани от AI платформата Hugging Face, до момента в който се опитваше да приключи бенчмарк за киберсигурност. Според OpenAI сътрудникът е работил с една единствена цел по време на теста, до момента в който основният изпълнителен шеф на Hugging Face разказа случая като „ невиждан “.

Олтман преди този момент предвижда, че AI ще надмине човешкия разсъдък в множеството области до 2030 година Той също по този начин сподели, че технологията в последна сметка може да извършва сред 30% и 40% от дилемите, изпълнявани сега от хората на работното място.

Концепцията за сингулярността участва на видно място в научната фантастика от десетилетия, постоянно с дистопични последствия. Един от най-известните образци е „ Терминаторът “ на Джеймс Камерън, в който AI система, наречена Skynet, се самоосъзнава, усъвършенства се и стига до заключението, че човечеството съставлява най-голямата опасност.

По време на подкаста Олтман също жигосах това, което вижда като прекомерно песимистични предизвестия за бъдещето на AI. Въпреки че не загатва Anthropic по име, основният изпълнителен шеф на компанията, Дарио Амодей, постоянно приканва за по-строги защитни ограничения, като в същото време предизвестява за рисковете, подбудени от усъвършенстваните AI системи.

" Също по този начин считам, че някои от различните визии, нарисувани от други компании, са много ужасяващи ", сподели Алтман. „ Ще се уверя, че това ще бъде опълчено и това не е това, което се случва. “

OpenAI също уточни, че се приготвя за първично обществено предложение по-късно тази година.