Регулирането на изкуствения интелект е нещо повече от безопасност
Писателят е адвокат и автор на „Цифровата република: Връщане на контрола над технологиите“
Касапницата в заседателната зала на OpenAI от миналия месец — в която главният изпълнителен директор, Сам Алтман, беше свален и възстановен за по-малко от седмица – показа, че компанията е разкъсвана от същия въпрос, който ще доминира в политиката през 2024 г.: до каква степен все по-способните AI системи трябва да бъдат ограничени от държавна регулация?
В крайна сметка това е въпрос към политиците, а не към корпорациите. И правителството на Обединеното кралство наскоро намери своя отговор: безопасността на първо място. Регулаторните ориентири през 2023 г. бяха Законът за онлайн безопасността и Срещата на върха за безопасността на ИИ. „Безопасността“ беше основен приоритет и за двамата. Актът последва самоубийството на 14-годишната Моли Ръсел, на която беше връчен поток от онлайн съдържание, свързано със самонараняване. Тя имаше за цел да превърне Великобритания в „най-безопасното място в света за онлайн“. Срещата на върха задвижи регулаторната топка в подобна посока за ИИ. Декларацията от Блечли съдържаше седем препратки към „безопасността“ и Институтът за безопасност на изкуствения интелект на Обединеното кралство вече активно набира персонал.
Разумно е правителството да играе ролята на наблюдател на безопасността. Мощните технологии крият рискове и те трябва да се управляват колективно, вместо да оставят хората да се грижат сами. Точно както от нас не се иска да инспектираме окабеляването на самолета, преди да се качим на борда, не трябва да бъдем поканени да „съгласяваме“ с ослепителни технологии, чиято работа почти не разбираме.
Но парадигмата за безопасност ще отведи ни толкова далеч. В бъдеще регулирането няма да бъде толкова просто, колкото насърчаването на добрите и смекчаването на лошите части на новите технологии. Това е така, защото ще бъде трудно да се съгласим кое е добро или лошо на първо място.
Вземете например спора, който наскоро разтърси филмовата индустрия в САЩ. Сценаристите и актьорите стачкуваха, отчасти за да осигурят гаранции, че изкуственият интелект няма да ги замени. Притесненията им бяха основателни. AI системите могат все повече да генерират проза, която съперничи на най-талантливите хора, а генерираните от AI ефекти все повече ще могат да изместват лицата, телата и гласовете на човешки актьори.
Под повърхността обаче това беше повече от индустриален спор. Това разкри по-дълбоко несъгласие относно природата на самия филм. Смисълът на кино изкуството ли е да осигурява прехраната на хората във филмовата индустрия? Или е да осигури стимулация и радост за потребителите? Когато тези цели се сблъскат, кое е по-важно?
Представете си бъдеще, в което семействата могат просто да командват на своя телевизор да генерира филм с холивудско качество. Те могат да избират жанра и да оптимизират за комедия, насилие или секс. При настоящата технологична траектория това не е пресилено.
Някои бъдещи ценители все още може да предпочитат произведения, създадени от хора, точно както някои днес предпочитат филмите от 60-те години на миналия век пред съвременната CGI. Но много други биха видели това като революционна демократизация на киното. Вместо да се налага да поръчват от менюто на Холивуд, хората биха могли да извикат свои собствени естетически вселени. Нашите внуци може би ще се чудят, че през 2023 г. филмите все още са ръчно правени от хора; точно както намираме за ексцентрично, че в миналото всяко колело е правено по поръчка от колар.
Подобен дебат се разиграва и в света на литературата. Маргарет Атууд и Стивън Кинг са загрижени, че техните произведения се използват за обучение на AI системи, които могат (според термина на Атууд) да „изсумтят“ проза по команда. Разочарованието им е разбираемо, особено когато не получават хонорари.
Но от гледна точка на човечеството не би ли било забележително да можем да създаваме нови романи в прозата на Атууд, шедьоври в стила на Моцарт или филми в стила на Хичкок — или може би нови произведения на изкуството, съчетаващи талантите и на тримата - дълго след като тези гении са напуснали Земята? Дали целта на изкуството е само да почита и компенсира художниците или да провокира естетическо стимулиране и културен напредък?
Това не са лесни въпроси – и това е смисълът. По-скоро се съмнявам, че бордът на OpenAI има отговорите на тях. И на тях не може просто да се отговори чрез позоваване на „безопасност“. Тези дебати са за ценности. Те ни карат да избираме, по думите на Амос Оз, между „правилното и правилното“.
С подобряването на изкуствения интелект никоя област на човешка дейност няма да остане незасегната от този вид противоречия. Няма да се съгласим с използването на нечовешки „гласове“ в политическия дебат. Ще се тревожим за машини, които създават емоционални или еротични връзки с потребителите си. В правото, медицината, образованието и войната нови етични проблеми ще избухнат и ще изискват разрешение.
Регулирането на технологиите е свързано с безопасността, но също така и с вида цивилизация, която искаме да създадем за себе си. Не можем да оставим тези големи морални въпроси на AI компаниите да решават.
