Може ли AI бъдещето да работи за всички?
На 5 юни 1944 г. куриер от британския център за разбиване на кодове в Блечли Парк прекъсна сесия за планиране на Деня Д и предаде строго секретно съобщение на генерал Дуайт Айзенхауер. След като прочете листчето, върховният главнокомандващ съюзническите сили в Европа заяви: „Тръгваме утре.“
Съобщението съдържаше декриптирано германско радиопредаване от Адолф Хитлер, който казва на своя висш командващ във Франция, че предстоящото съюзническо нахлуване в Нормандия беше финт; последвалото забавяне на предислоцирането на германските войски се оказа решаващо, за да позволи на съюзническите сили да осигурят плацдармите си. Технологията, която позволи дешифрирането, беше първият в света електронен програмируем компютър. Наречен Colossus, той е проектиран от Томи Флауърс, невзрачен инженер от английската поща.
Този епизод е първият пример за компютър с решаващо влияние върху световната история, предполага Найджъл Тоун в своята нова блестяща книга за изкуствен интелект, Как мисли AI. Но това беше само предвкусване на това, което последва; през следващите осем десетилетия компютрите станаха експоненциално по-мощни и разшириха обхвата си в почти всеки аспект от живота ни.
Революцията в компютърния хардуер беше последвана от подобна революция в софтуера — особено наскоро бързото развитие на AI. Откакто стартиращата компания OpenAI от Сан Франциско стартира своя чатбот ChatGPT през ноември 2022 г., милиони потребители изпитаха от първа ръка почти магическите сили на генеративния AI. С едно щракване на мишката вече е възможно да се изведат правдоподобни Шекспирови сонети за златна рибка или да се генерират фалшиви снимки на папата в пухено яке, или да се преведе един компютърен код в друг. И трите книги, прегледани тук, подчертават огромното обещание на технологията, но също така предупреждават за опасностите от злоупотребата с нея.
Toon е ентусиаст, носещ картички, аргументиращ се за ползите в толкова различни области като прогнозиране на времето, откриване на лекарства и ядрен синтез. „Изкуственият интелект е най-мощният инструмент, който някога сме създавали“, пише той. „Онези, които отделят време, за да разберат как мисли изкуственият интелект, в крайна сметка ще наследят Земята.“
Като съосновател на британската стартираща компания за полупроводници Graphcore, която проектира чипове за AI модели, Toon работи в челните редици на технологията, но дори той признава, че постоянно се изненадва от това колко бързо се развиват нещата развити. How AI Thinks предоставя бързо и добре обосновано въведение в това как AI се е развил, откакто терминът е въведен за първи път през 1955 г., как се използва днес и как може (надяваме се) да бъде контролиран.
Съвременните полупроводникови устройства са най-модерните продукти, които хората някога са правили. От изобретяването на първата интегрална схема през 1960 г. е имало 25 милиарда пъти увеличение на броя на транзисторите, които могат да се поберат на един чип. „Ако колата ви се беше подобрила толкова много, сега щяхте да можете лесно да пътувате със скорост около 200 пъти скоростта на светлината“, пише Toon.
Той също е умел в обяснението на последвалата софтуерна революция, която позволи на изследователите на AI да преминат отвъд базираните на правила изчисления и експертни системи към разпознаването на модели и възможностите за „обучение“ на невронните мрежи, които захранват нашите модели на AI днес. Когато се освободят от огромната маса от данни, генерирани от създаването на световната мрежа, тези модели могат да правят чудни неща. До 2021 г. всички наши свързани устройства генерираха около 150 пъти повече цифрова информация годишно, отколкото някога е съществувало преди 1993 г.
Въпреки това, без значение колко мощни са станали компютрите, те все още се борят да се справят с невероятната процесорна мощност на 86 милиарда неврони в типичния човешки мозък. Хората имат феноменална способност да обобщават от фрагменти от данни и да контекстуализират привидно произволна информация. Toon си спомня как седеше в задната част на черно лондонско такси през 2021 г., когато шофьорът му каза: „Чухте ли за Роналдо? Сега ще играят много по-добре, не мислите ли? Чух, че губернаторът е направил това. Сити трябва да е наистина разстроен.”
Интуитивно Toon разбра, че шофьорът има предвид световноизвестния футболист Кристиано Роналдо, който току-що беше привлечен обратно в Манчестър Юнайтед от бившия мениджър сър Алекс Фъргюсън, за раздразнението на съперниците на клуба Манчестър Сити.
Поне за момента система с изкуствен интелект би се затруднила да осмисли подобни закачки. Както Toon обяснява, шофирането само по себе си е друг чудесен пример за гъвкавостта на човешкия интелект. Обучаемият шофьор отнема около 20 часа обучение, за да стане съзнателно компетентен. За разлика от това, Waymo, компанията за автономно шофиране на Alphabet, измина 2,9 милиона мили в Калифорния през 2022 г. и все още не беше достигнала сравнимо представяне.
Там, където Toon е по-малко сигурен, е в изследването на регулаторните и политически дебати, които обграждат използването на AI. Това е мястото, където Верити Хардинг поема щафетата в AI Needs You. Бивш специален съветник на Ник Клег, когато той беше вицепремиер на Великобритания и бивш ръководител на политиката в Google DeepMind, Хардинг владее два езика в политиката и технологиите. Нейната цел е да проучи как сме регулирали важни технологии в миналото, за да ни насочи как най-добре да контролираме AI в бъдеще.
Трите международни примера с високи залози, които тя избира – Студената война космическа надпревара, ин витро оплождане и разпространението на интернет – всичко това съдържа важни уроци, хвърлящи интересна светлина върху това как трябва да подходим към AI. Хардинг приветства Договора на ООН за космоса от 1967 г., който установи космоса като „провинция на цялото човечество“, като забележителен пример за международно сътрудничество. Подписан, когато напрежението между САЩ и Съветския съюз беше близо до апогея си, договорът беше наречен „Магна Харта на космоса“, предотвратявайки милитаризацията и гарантирайки, че никоя нация не може да претендира за суверенитет над което и да е небесно тяло.
За Хардинг договорът съдържа три урока. Политическото лидерство има значение и смелите политици могат да изковават взаимноизгодни международни споразумения, дори по време на геополитически стрес. Съперничещите си сили могат да поставят граници на най-лошите ексцесии на войната. А науката може — и трябва — да се използва за насърчаване на международното сътрудничество. В този смисъл изследователите на изкуствения интелект трябва да работят върху проекти, които са от полза за цялото човечество, а не просто да преследват „техно-националистично изграждане на огради“.
Дебатите за изследване на ембриони и ин витро оплождане през 70-те и 80-те години на миналия век повдигнаха много различни въпроси. Но в много отношения, твърди Хардинг, те са предвидили много от етичните, моралните и техническите проблеми, които заобикалят AI. Философът Мери Уорнок, която председателства комисия за разглеждане на тези дилеми, свърши забележителна работа в очертаването на ясни морални линии и практически пътища за регулиране в своя доклад, публикуван през 1984 г. Оттогава тези правила са позволили на около 400 000 IVF бебета да се родят в Обединеното кралство , и насърчи развитието на жизнена индустрия на науките за живота. Противно на познатия троп, че регулирането убива иновациите, Хардинг твърди, че всъщност политическата, морална и правна яснота, осигурена от комисията Уорнък, е стимулирала инвестициите и икономическия растеж.
Третият пример на Хардинг е изключително влиятелният, но малко- известна технократска институция, наречена Интернет корпорация за присвоени имена и номера (Icann). Поддържайки „водопровода“ на интернет и устоявайки на проникванията на национални държави и мощни частни компании, Icann запази световната мрежа като отворено и динамично пространство. „Това е основана на доверие, консенсус, глобална организация с ограничена, но абсолютна власт. В епоха на цинизъм и горчива, разделяща политика, това е чудо“, пише тя.
Описвайки книгата си като „любовно писмо“ към небляскавата, старателна работа по правене на политики в една демокрация, Хардинг призовава политиците — и гражданското общество — да се включат в дебатите относно употребата на ИИ и да помогнат за оформянето на бъдещето по положителен начин. Речта за приемане на Нобеловата награда за мир от 1964 г. на Мартин Лутър Кинг за необходимостта от морална намеса трябва да бъде залепена на стената на всеки главен изпълнителен директор на технологични компании: „Когато научната сила надмине моралната сила, ние се оказваме с управляеми ракети и заблудени хора.“
Авторите на As If Humanсъщо са загрижени за човешкото измерение на технологията и гарантирането, че машините изпълняват нашите поръчки и няма да излязат извън контрол. Сър Найджъл Шадболт, професор по компютърни науки в Оксфордския университет, и икономистът и бивш държавен служител Роджър Хемпсън изследват етиката на ИИ в своята елегантна и ерудирана книга. Тяхното твърдение е, че винаги трябва да се отнасяме към машините като към хора, и да ги държим на същите, ако не и по-високи стандарти на отчетност: „Трябва да ги съдим морално, сякаш са хора.“
The двойката твърдят, че се нуждаем от по-добри технологични инструменти за управление на нашите лични данни, както и от нови публични институции, като тръстове за данни и кооперации, които могат да действат като настойници на общото благо. „Възмутително е, че технология, която вероятно променя цивилизацията, е пусната по нареждане на големи корпорации, без консултации с обществеността, правителствата или международните агенции“, пишат те.
Завършвайки със седем „поговорки“ “, те предлагат как трябва да подходим към бъдещето на нашия AI, като подчертаваме необходимостта от прозрачност, уважение и отчетност. Техният изходен принцип е, че „едно нещо трябва да казва каквото е и да бъде това, което казва“ и винаги да остава отговорно пред хората. Но една поговорка по-специално капсулира духа на тяхната книга: „Решенията, които засягат много хора, трябва да включват много хора.“
Въпреки че тези три книги се различават по фокус, тон и ударение, те стигат до подобни заключения. Всички тези автори подчертават ползите, които AI може да донесе, ако се използва разумно, но се тревожат за обществения стрес, който ще бъде резултат от бързото или безразсъдно внедряване на технологията. Всички те омаловажават, ако не и отхвърлят, страховете за екзистенциален риск, които някои изследователи на ИИ са отбелязали, като за момента ги разглеждат като спекулативна загриженост, а не като тревога тук и сега. По-голяма загриженост за тях предизвиква прекомерната и безпрецедентна концентрация на корпоративна власт в ръцете на малка група от ръководители на Западния бряг.
Огромното послание, което излиза от тези книги, колкото и иронично да изглежда, е новооткрито оценяване на колективните сили на човешкото творчество. Ние с право се възхищаваме на чудесата на AI, но още по-удивителни са възможностите на човешкия мозък, който тежи 1,4 кг и консумира само 25 вата енергия. С добра причина е наречен най-сложният организъм в известната вселена.
Както авторите признават, хората също са дълбоко погрешни и способни на голяма глупост и перверзна жестокост. Поради тази причина технологично евангелското крило на Силиконовата долина активно приветства възхода на ИИ, вярвайки, че машинният интелект скоро ще измести човешкия вид и ще доведе до по-рационална и хармонична вселена. Но погрешността може, парадоксално, да е неразривно преплетена с интелигентността. Както отбелязва компютърният пионер Алън Тюринг, „Ако от една машина се очаква да бъде безпогрешна, тя не може да бъде и интелигентна“. Колко интелигентни искаме да бъдат нашите машини?
Как мисли AI: Как го изградихме, как може да ни помогне и как можем да го контролираме, от Найджъл Туун, Penguin £22, 320 страници
AI Needs You: Как можем да променим бъдещето на AI и да спасим нашето собствено, от Verity Harding, Princeton University Press £20, 288 страници
As If Human: Ethics and Artificial Intelligence, от Найджъл Шадболт и Роджър Хемпсън, Yale University Press £20, 272 страници
John Thornhill е редактор за иновации на FT
Присъединете се към нашата онлайн група за книги във Facebook на и се абонирайте за нашия подкаст, където и да слушате
