Как научната фантастика помогна за написването на първата книга с правила на AI
Писателят е заместник-председател на Европейската комисия за ценности и прозрачност
Малко преди международната среща на върха за изкуствения интелект да започне в Блечли Парк миналия месец, Отидох да хапна набързо в близката кръчма. Един мъж седна срещу мен и извади смачкана книга с меки корици. На корицата беше Айзък Азимов, един от най-известните автори на научната фантастика. Със сигурност това не беше случайно. Азимов изпревари времето си, когато през средата на 20-ти век той предвиди мощната роля, която ИИ ще има в живота ни. В книгите си той предвижда поредица от закони, които ще гарантират, че роботите не нараняват или вредят на хората, а ще им се подчиняват.
Този човек с книгата си ми напомни колко е важно ние, политиците, да осигурим подобен резултат, докато отивах на срещата, за да обсъждам бъдещето на безопасния ИИ. По време на моите пътувания до Лондон, Токио, Вашингтон, Пекин и разбира се Брюксел миналата есен се замислих върху факта, че пишем първата в света книга с правила за регулиране на компютърни процеси, които са много по-бързи и по-мощни от хората.
Истинският бизнес бързо изпревари научната фантастика. С китайски политици в Пекин обсъдих техния модел на законодателство. Тя не се различава толкова много от нашата по отношение на техническата страна на нещата, а по-скоро в това, което може да допринесе за държавния контрол върху обществото. Представители в САЩ, които преди това са имали доста нерегулиран подход, посочиха изпълнителната заповед на администрацията на Байдън относно ИИ в края на октомври. И по-близо до дома, от името на ЕС, водех преговори в групата държави от Г7. Там успяхме да постигнем предварително обвързващо законодателство на глобално ниво — доброволен код за разработчиците на AI, който изгражда отговорност за сигурността и споделянето на информация.
Европа също реагира бързо на търсенето на безопасен ИИ. Предложената рамка от 2021 г. набра скорост, тъй като стана очевидна спешната необходимост технологията да бъде едновременно безопасна и полезна. Така нареченият триалог — големият финал между испанското председателство, парламента и комисията — продължи 36 часа този месец, но в крайна сметка завърши с исторически компромис.
Нуждите на отделните лица ръководеха всеки параграф . Актът гарантира сигурност и защита на основните човешки права в лицето на свръхинтелигентни системи, които в дългосрочен план могат да се окажат по-добри мислители от нас. Измислихме няколко рискови категории за AI – тези с нисък риск включват видеоигри и алгоритми за сортиране на нашите имейли (неща, от които съм сигурен, че всички ще се възползваме). Високорисковите ще трябва да отговарят на по-строги изисквания, независимо дали става дума за медицински изделия или за оказване на влияние върху поведението на избирателите в урните.
Списъкът на неприемливите включва това, което заплашва основните ни човешки права. Това може да включва биометрични системи за сортиране въз основа на религия или раса, разпознаване на емоции на работното място или нецеленасочено извличане на лица от камери на обществени места (ще се правят изключения за въпроси, свързани с националната сигурност).
Но ние сме също са наясно с потенциалните ползи от безопасния ИИ и наистина искат да превърнат ЕС в център за него. Ето защо решихме да направим нашите суперкомпютри достъпни за стартиращи европейски AI фирми и МСП. Освен това ще инвестираме повече от 1 милиард евро годишно в изследвания на ИИ от Horizon и Digital Europe.
Нашето политическо споразумение предстои да бъде потвърдено от държавите-членки и Европейския парламент. Законът ще влезе в сила на етапи, като пълното законодателство е временно определено за 2026 г. Междувременно AI ще продължи да трансформира целия ни живот. Ще му поверим много дейности, в които може да замести хората, но не и такива, в които може да поеме основните ни права, като свободата на словото или защитата на интелектуалната собственост.
Вярвах от самото начало че съдържанието, създадено от AI, трябва да бъде етикетирано, така че човешкото мислене и творчество да останат с нещо подобно на „човешко авторско право“. Вече научаваме как технологията може да промени възприятията ни за реалността и истината. Изкуственият интелект работи с данните, с които разполага. То не знае какво е вярно. И в свят, в който дълбоките фалшификати могат да се появят от нищото, винаги сме в опасност да загубим представа за реалността.
Това е, за което си мислех, когато англичанинът отсреща ми напомни за законите на Азимов. Сега те са трансформирани, заедно с други мерки, в първата европейска правна норма, която може да се превърне в основа за всички подобни разпоредби по света. Трябва да запазим контрола върху роботите и изкуствения интелект, за да гарантираме, че истината и правата на човека могат да преобладават в бъдеще, вместо да се превръщат в научна фантастика.
