Може ли AI наистина да превземе интернет? Ето какво казват експертите.
В тирада от 1951 г. английският математик Алън Тюринг теоретизира, че „ интелигентните машини “ могат един ден да „ поемат надзор “ над обществото.
„ Ще има доста работа, в случай че се опитваме, да речем, да поддържаме интелигентността си на стандарта, заложен от машините, защото наподобява евентуално, че откакто методът на машинно мислене е почнал, няма да отнеме доста време, с цел да надхвърлим слабите ни сили “, сподели Тюринг, който е прочут с помощта за дешифрирането на кода Enigma на нацистите по време на Втората международна война.
С машините евентуално на върха за постигане на „ суперинтелигентност “, главният изпълнителен шеф на Anthropic Дарио Амодей неотдавна актуализира тези от дълго време поддържани страхове по отношение на актуалната епоха, като предизвести, че AI „ рой “ може скоро да поеме контрола над интернет.
Въпреки че сходен сюжет е плашещ за разглеждане, доста специалисти по сигурността на ИИ го считат за малко евентуален, макар че показват други евентуални рискове с развиването на граничните модели на ИИ.
Няма един комутатор
Основна причина компютърните учени да омаловажават опасенията, че изкуственият разсъдък може да изтръгне контрола върху мрежата от хората, е, че интернет не е едносъставен, а по-скоро се състои от голяма система от взаимосвързани мрежи.
„ Интернет е мрежа от мрежи, към които милиарди устройства се свързват посредством рутери, суичове и Wi-Fi точки за достъп “, сподели Вишал Мисра, компютърен и специалист по изкуствен интелект от инженерното учебно заведение на Колумбийския университет.
Тези устройства и приложения минават през споделени протоколи за маршрутизиране, с цел да се свържат с интернет посредством милиони рутери от разнообразни производители, работещи с разнообразни операционни системи.
„ Това многообразие е отбрана “, сподели Мисра. „ Няма централен комутатор за превключване и нито една операционна система, която да компрометира. “
Интернет „ е основан, с цел да преживее загубата на която и да е част от него. Този дизайн не се интересува дали нападателят е човек или модел “, добави той.
Не пресмята
ИИ също би претендирал голямо количество изчислителна мощ, с цел да превземе интернет в огромен мащаб, сподели Джон Тикстън, компютърен академик и специалист по образование на ИИ в университета Корнел, пред CBS News.
Тази изчислителна мощ изисква достъп до усъвършенствани полупроводници за осъществяване на комплицирани калкулации и осъществяване на други задания. И тези чипове са в лимитирано предложение и тяхното разпространяване и експорт са лимитирани.
„ Агентите на AI, работещи в киберпространството, ще би трябвало по някакъв метод да получат това “, сподели Thickstun, отбелязвайки, че AI ще се нуждае от човешка помощ, с цел да усили доста достъпа си до такива изчислителни запаси.
Разбира се, незаконни групи и други неприятни артисти с достъп до нови модели на ИИ могат да съставляват опасност. Но те също са лимитирани от количеството изчислителна мощ, налична за AI сътрудниците, съгласно Кевин Хамлен, изпълнителен шеф на Изследователския и учебен институт по киберсигурност към Тексаския университет в Далас.
„ Ще забележим тази заплаха едвам когато нарушителите имат задоволително достъп до профилирани изчислителни запаси за задоволително дълъг интервал от време “, сподели той пред CBS News.
Когато AI излезе от каишката
В някои връзки страховете, че AI може да завладее интернет, са част от предизвестията на разработчиците на AI, че технологията може един ден да унищожи човечеството – не е неправилно, безусловно, само че към този момент непознато. Междувременно сходни опасения прикриват по-непосредствени закани, подбудени от AI.
Както се вижда от юлската атака от OpenAI ботове върху софтуерната платформа за AI Hugging Face, както и в други скорошни произшествия, при които „ сътрудниците “ на AI излязоха от каишката, изкуственият разсъдък демонстрира обезпокоителен потенциал да употребява слабостите в онлайн сигурността.
При офанзивата Hugging Face сътрудниците на AI избягаха от тестова среда, за която се предполагаше, че е изолирана от интернет, сътрудничиха си благодарение на скрито табло за известия и надделяха цифровите отбрани на Hugging Face.
Подобен случай, по-широк по обсег, към момента може да аргументи съществени разстройства, без да заплаши целия интернет, сподели Моше Варди, компютърен академик от университета Райс, пред CBS News.
„ Това може да се случи в по-голям мащаб – не е нужно целият интернет да е злополука “, сподели той.
С други думи, изкуственият разсъдък може да наруши обществото по разнообразни способи, които стопират надалеч от сюжетите за края на света, споделиха специалисти по сигурността пред CBS News.
Например рояците от сътрудници с неестествен интелект могат да „ откраднат пари, да компрометират самоличности, да попречат на лечебните заведения, да манипулират финансовите пазари и да се намесват в електричеството и връзките “, сподели Роман Ямполски, специалист по сигурност и киберсигурност на изкуствен интелект, пред CBS News в имейл. „ За разлика от човешките хакери, милиони AI сътрудници могат да координират офанзиви по едно и също време, непрекъснато. “
„ Всяка организация, свързваща мощни AI сътрудници с чувствителни системи без ефикасна изолираност, основава евентуална входна точка за пагубен неуспех “, добави той.
AI може да извърши хакерски атаки, които предизвикват необятно публикувани спирания на достъпа до интернет, съгласно Мат Чесен, механически специалист в Центъра за Геополитика на изкуствения общ разсъдък в RAND.
„ ИИ ще ни надхитри, ще ни надхитри. Ще разбере по какъв начин да си проправи път и ние не знаем по какъв начин, само че знаем, че ще го направи “, сподели Чесен пред CBS News.
Гари Маркъс, когнитивен академик, прочут с проучванията си върху пресечната точка на логиката на психиката и ИИ, също е песимистичен, че сътрудниците на ИИ могат да сковават интернет. На доктрина обаче лъжливите AI сътрудници биха могли евентуално да пресечен интернет връзките в даден географски район, в случай че „ съумеят да хакнат електроцентрала “ или да получат идентификационни данни на оторизиран консуматор и „ по-късно да издадат команди за изключване “, сподели той.
„ Може също да се показва за хора и да издава подправени команди. Лош артист може да го употребява по този метод съзнателно “, добави Маркъс.
AI като инвазивни типове
Междувременно Варди отбелязва, че ИИ не би трябвало интензивно да възнамерява безпорядък, както вършат човешките хакери, с цел да сее безпорядък.
Например, в случай че му бъде казано „ събиране на данни “, AI може да проникне в уеб страници, с цел да събере данни, които не са налични по различен метод. Или, в случай че му бъде казано да „ тества сигурността “, AI може да го тества, като го разбие “, сподели той. „ Човешките същества имат здрав разсъдък – те схващат имплицитните догатки. AI няма здрав разсъдък. “
„ Моето огромно безпокойствие не е за това, че AI ще превземе целия интернет, а за някаква промишлена злополука, която е породена от отвън надзор AI “, добави Варди.
Други специалисти предизвестяват за друга опасност, която може да е по-трудна за разбиране – това е последователно нахлуване на AI в съществуващите технологии околната среда може да усили съществуващите опасности или да сътвори нови.
Антъни Агире, физик и съосновател на Future of Life Institute, организация с нестопанска цел, фокусирана върху софтуерните опасности, съпоставя вероятността за вилнеещи лъжливи AI сътрудници с инвазивен тип, атакуващ деликатна екосистема.
" Това може да измести това, което е там първоначално ", сподели той. „ По сходен метод имаме AI системи, които могат да нахлуят в нашето киберпространство, тъй че по принцип, да, AI може да превземе интернет. “
