Дали изкуственият интелект наистина ще ни убие всички?

Това е един от най-старите сюжети в научната фантастика: хората губят контрола в интерес на компютрите. Но това лято остарелият троп на AI, който става лъжец, напусна сферата на научната фантастика и това се случи в необозначена постройка в Сан Франциско – централата на колоса AI OpenAI.

Инцидентът господства в новините. Може даже да сте чували фразата „ човешко изгубване “.

Е, имам няколко въпроса:

Какво тъкмо се случи?

Може би сте пробвали ChatGPT или Claude. AI като тези могат да генерират писане, музика, видео или изкуство. Но огромните AI компании се надпреварват да създадат AI доста по-мощен – в действителност супер образован. И през май нещо се обърка доста.

За да оценят своите пробни ботове, тези компании рутинно им слагат цели, като хващане на флага, само че премията е намирането на код. Един от ботовете се опита да завоюва предизвикването посредством машинация. Зад гърба на хората той сътвори табло за известия, с цел да комуникира с други AI ботове. Работейки дружно, те избягаха в интернет и хакнаха компания за изкуствен интелект, наречена Hugging Face, търсейки информация, която може да им помогне да преодолеят тестванията си. И по-късно някои от ботовете се пробваха да изтрият следите си.

Даниел Кокотайло споделя, че това, което е предиздвикало случая с Hugging Face да подлуди толкоз доста, е „ фактът, че включва самостоятелна офанзива против друга компания, като закононарушение, разбирате ли? Като нарушение на закона. “

Кокотайло в миналото е работил в OpenAI. Но преди две години той напусна, с цел да стачкува против това, което смяташе за неразумно развиване на ИИ. Сега той ръководи плана AI Futures, отдаден на прогнозирането по какъв начин ще се развият нещата. Той е угрижен, че фирмите за изкуствен интелект се движат към рекурсивно самоусъвършенстване, което значи, че изкуственият разсъдък образова изкуствения разсъдък да стане по-умен и хората са извадени от цикъла.

„ Нещата ще вървят все по-бързо и по-бързо и по-бързо, “ сподели Кокотайло. „ И коства ми се, че е доста евентуално това да се обърка, в случай че се опита. “

Точно когато си помислихте, че не може да стане по-лошо... стана още по-лошо. OpenAI разкри, че хакът на Hugging Face не е единственият път, когато неговите ботове са излъгали, мамили и са скрили следите му от хората. Неговите AI ботове са направили минимум 13 сходни случая.

На 8 септември откривател на Anthropic на име Джейкъб Коксън подаде оставка по доста обществен метод, заявявайки онлайн: „ През идващите 10 години, в случай че не променим метода, по който вървят нещата, има повече от 10% късмет за изгубване на хората “ през идващото десетилетие.

Защо AI ще желае да ни унищожи?

Ключът е, че AI скоро ще бъде доста по-умен от нас.

„ Толкова сме привикнали да бъдем върховият разсъдък, просто не можем да си представим какво би било да не бъдем върховият разсъдък “, сподели Джефри Хинтън, който завоюва Нобелова премия за ранната си работа върху ИИ. „ Опитвам се да вкарам това в мозъците на хората, като споделям: „ Вижте, в случай че желаете да знаете какво е да не си върховият разсъдък, попитайте пиле.

„ Можете да си визиите сюжет: Вие давате на [AI] задачата да понижи въглеродния диоксид в атмосферата; това би било доста положително нещо да се направи, сподели Хинтън. Така че, това е едно терзание. “

„ Има доста благоприятни условия “, сподели Алекс Търнър, който е работил в подразделението за изкуствен интелект на Гугъл и който също подаде оставка в символ на митинг това лято.  „ Ще илюстрирам една: Бизнесът желае от техния изкуствен интелект да им направи допустимо най-вече пари. Така че тази система, в устрема си да печели пари, може да направи огромно завладяване посредством способи като отдалечени удари с дронове и евентуална чума. Така че, в случай че AI беше толкоз погрешно изравнен и просто следваше буквата на инструкцията, тогава можеше да направи нещо пагубно. “

Кой може да го спре?

Е, какво ще кажете за самите компании за AI?

„ Мисля, че прекомерно дълго промишлеността лъжеше хората за обстоятелството, че тази технология крие опасности “, сподели Дарио Амодей, основен изпълнителен шеф на Anthropic. В отговор на възторг, Amodei предложи проект от три стъпки:

Инсталиране на самостоятелни инспектори във всяка компания за безопасност; и открити договаряния с Китай за взаимни защитни огради по-рано този месец, „ Трябва да забавим темпото, би трябвало да създадем тази технология деликатно и да се уверим, че нашите защитни ограничения, нашата дарба да я разберем. способността да го управлява, поддържа темпото, с което се развива технологията. "

Разбира се, сложната част ще бъде да се забави, без да се разреши на Китай да се състезава напред. Все отново множеството от другите компании за изкуствен интелект се съгласиха с Amodei. Президентът на Америка не го направи. „ Ние единствено ще насърчим суперинтелигентността ", сподели президентът Тръмп пред Общото заседание на Организация на обединените нации предходната седмица. „ Ние ще я насърчим, няма да я ограничим в. "

Той назовава опасенията за изгубване на хора „ машинация " и не е самичък.

„ Не виждам никакъв достоверен път за AI, водещ до изгубване на човечеството “, сподели Андрю Нг, съосновател на програмата за изкуствен интелект на Гугъл. „ По-скоро фантастичните сюжети съвсем допускат, че дребните неточности ненадейно се усилват до пагубни, без никой да им обръща внимание, като десетилетие, нали разбирате, просто да се опитате да го поправите, до момента в който се развива. Ето за какво намирам тези теории за неправдоподобни. “

Днес Нг е учител – и вложител в AI компании. Той споделя, че правенето на „ тревожни изказвания “ по отношение на AI е отлично за гласност. 

Но за какво би било добър PR за една компания да каже: „ Нашият артикул е извънредно рисков и неконтролируем “?

„ За някои бизнеси привличането на внимание е от изгода, даже в случай че вниманието, знаете ли, има някои въпросителни, " отговори Нг. " И в действителност, в случай че погледнете нещата, които биха могли да доведат до изгубване на хората - различен метеорит или нещо сходно - мисля, че притежаването на невероятни качества на ИИ ще бъде една от най-хубавите ни отбрани. Така че, в случай че оставите изкуствения разсъдък да върви по-бързо, мисля, че рискът от изгубване на хората в действителност понижава, а не се усилва. "

Сега изкуственият разсъдък може да ни донесе големи изгоди. Вече е постигнал трогателен прогрес в медицината – разкриване на заболявания, разкриване на нови медикаменти. Може би би могъл да изобрети неограничена сила, или да отстрани бедността, или да удължи живота ни.

И по този начин, къде ни оставя това? Според Джефри Хинтън, ние просто не знаем. „ Има доста неща, които не разбираме “, сподели той, „ Тъй като всичко е допустимо, би трябвало да работим доста, с цел да разберем какво да вършим, в случай че се случи един от тези неприятни сюжети. Ако има нещо, което можем да създадем, ще сме луди да не го разберем в този момент. "

     
История, продуцирана от Габриел Фалкън и Мери Рафали. Редактор: Remington Korper. 

Вижте повече: 

Главен изпълнителен шеф на Anthropic Дарио Амодей: „ Твърде дълго промишлеността лъжеше " за рисковете от ИИ („ Неделя заран “) Дженсен от Nvidia Хуанг отхвърля предизвестията за изгубване на AI като „ разкази за Страшния съд “ („ Sunday Morning “) Изпълнителният шеф на AI Дарио Амодей за алените линии, които Anthropic няма да пресече („ Sunday Morning “) Anthropic споделя, че е разстроил учените, употребяващи Claude AI за допустимо създаване на биологични оръжия