Европа постигна споразумение относно първите в света всеобхватни правила за изкуствен интелект
ЛОНДОН (AP) — Преговарящите от Европейския съюз сключиха сделка в петък относно първите в света всеобхватни правила за изкуствен интелект, проправяйки пътя за правен надзор на технологията за изкуствен интелект, която обеща за трансформиране на ежедневието и предизвика предупреждения за екзистенциални опасности за човечеството.
Преговарящите от Европейския парламент и 27-те страни-членки на блока преодоляха големи различия по спорни точки, включително генеративен AI и полицейско използване на наблюдение с разпознаване на лица, за да подпишат условно политическо споразумение за Закона за изкуствения интелект.
„Сделка!“ туитира европейският комисар Тиери Бретон малко преди полунощ. „ЕС става първият континент, който определя ясни правила за използването на AI.“
Резултатът дойде след маратонски разговори при закрити врати тази седмица, като първоначалната сесия продължи 22 часа преди вторият кръг да започне в петък сутринта.
Длъжностните лица бяха под прицела да осигурят политическа победа на водещото законодателство. Групи на гражданското общество обаче го приеха хладно, докато чакаха технически подробности, които ще трябва да бъдат изгладени през следващите седмици. Те казаха, че сделката не е стигнала достатъчно далеч в защитата на хората от вредите, причинени от системите с изкуствен интелект.
„Днешната политическа сделка бележи началото на важна и необходима техническа работа по важни детайли от Закона за ИИ, които все още липсват“, каза Даниел Фридлендер, ръководител на европейския офис на Асоциацията на компютърната и комуникационната индустрия, технологична индустрия лобистка група.
ЕС отрано пое водеща роля в глобалната надпревара за изготвяне на защитни парапети за ИИ, когато представи първия проект на своя правилник през 2021 г. Скорошният бум на генеративния ИИ обаче накара европейските служители да се борят да актуализират предложение, готово да послужи като план за света.
Европейският парламент все още ще трябва да гласува акта в началото на следващата година, но със сключената сделка това е формалност, Брандо Бенифеи, италиански депутат, съ- ръководейки усилията на органа за преговори, каза Асошиейтед прес късно в петък.
„Много е много добро“, каза той с текстово съобщение, след като беше попитан дали включва всичко, което иска. „Очевидно трябваше да приемем някои компромиси, но като цяло много добри.“ Евентуалният закон няма да влезе напълно в сила най-рано до 2025 г. и заплашва строги финансови санкции за нарушения в размер до 35 милиона евро (38 милиона долара) или 7% от глобалния оборот на компанията.
Генеративните AI системи като ChatGPT на OpenAI избухнаха в съзнанието на света, зашеметявайки потребителите със способността да създават човешки текст, снимки и песни, но пораждайки страхове за рисковете, които бързо развиващата се технология крие за работните места и поверителността и защита на авторските права и дори самия човешки живот.
Сега САЩ, Обединеното кралство, Китай и глобалните коалиции като Групата на 7-те големи демокрации се намесиха със собствените си предложения за регулиране на ИИ, въпреки че те все още наваксват Европа.
Силните и изчерпателни правила от ЕС „могат да дадат мощен пример за много правителства, обмислящи регулиране“, каза Ану Брадфорд, професор от юридическия факултет на Колумбия, който е експерт по правото на ЕС и цифровото регулиране. Други държави „може да не копират всяка разпоредба, но вероятно ще подражават на много аспекти от нея.“
Компаниите с изкуствен интелект, подчинени на правилата на ЕС, също вероятно ще разширят някои от тези задължения извън континента, каза тя. „В крайна сметка не е ефективно да се преобучават отделни модели за различни пазари“, каза тя.
Законът за изкуствения интелект първоначално е предназначен да смекчи опасностите от специфични функции на изкуствения интелект въз основа на тяхното ниво на риск, от ниско до неприемливо. Но законодателите настояха да го разширят до базови модели, усъвършенстваните системи, които са в основата на услуги с изкуствен интелект с общо предназначение като ChatGPT и чатботът Bard на Google.
Моделите на основата изглеждаха една от най-големите пречки за Европа. Въпреки това, преговарящите успяха да постигнат условен компромис в началото на преговорите, въпреки съпротивата, водена от Франция, която вместо това призова за саморегулиране, за да помогне на местните европейски генеративни AI компании, които се конкурират с големите конкуренти в САЩ, включително поддръжника на OpenAI Microsoft.
Известни също като големи езикови модели, тези системи се обучават върху огромно количество писмени произведения и изображения, извлечени от интернет. Те дават на генеративните AI системи способността да създават нещо ново, за разлика от традиционния AI, който обработва данни и изпълнява задачи, като използва предварително определени правила.
Компаниите, които изграждат базови модели, ще трябва да съставят техническа документация, да спазват закона за авторското право на ЕС и да опишат подробно съдържанието, използвано за обучение. Най-напредналите модели на основи, които представляват „системни рискове“, ще бъдат подложени на допълнителен контрол, включително оценка и смекчаване на тези рискове, докладване на сериозни инциденти, въвеждане на мерки за киберсигурност и докладване на тяхната енергийна ефективност.
Изследователите предупредиха, че мощни базови модели, изградени от шепа големи технологични компании, могат да бъдат използвани за засилване на онлайн дезинформация и манипулация, кибератаки или създаване на биологични оръжия.
Групите за защита на правата също така предупреждават, че липсата на прозрачност относно данните, използвани за обучение на моделите, крие рискове за ежедневния живот, тъй като те действат като основни структури за разработчиците на софтуер, които изграждат услуги, базирани на AI.
Това, което се превърна в най-трепетната тема, бяха системите за наблюдение с AI за разпознаване на лица и преговарящите намериха компромис след интензивно договаряне.
Европейските законодатели искаха пълна забрана на публичното използване на сканиране на лица и други системи за „дистанционна биометрична идентификация“ поради съображения за поверителност. Но правителствата на страните членки успяха да договорят изключения, така че правоприлагащите органи да могат да ги използват за справяне със сериозни престъпления като сексуална експлоатация на деца или терористични атаки.
Правозащитни групи заявиха, че са загрижени за изключенията и други големи вратички в Закона за изкуствения интелект, включително липсата на защита за системите за изкуствен интелект, използвани в миграцията и граничния контрол, и възможността разработчиците да се откажат от наличието техните системи, класифицирани като високорискови.
„Каквито и да са били победите в тези финални преговори, остава фактът, че огромни недостатъци ще останат в този окончателен текст“, каза Даниел Леуфер, старши политически анализатор в групата за цифрови права Access Now.
___
Техническият репортер Мат О’Брайън от Провидънс, Роуд Айлънд, допринесе за този доклад.
