Евроизгледи. Може ли Законът за ИИ на ЕС да обхване нуждите на хората, докато предефинира алгоритмите?

Водещото законодателство на Европейски Съюз в региона на ИИ не обгръща всички случаи, сюжети или терминология, само че може да добави съществуващото законодателство на държавите-членки, в това число законите за досегаемост, тъждество или обществена отбрана, написа Йона Уелкър.

На 8 декември договарящите от Европейския парламент и Европейския съвет реализираха краткотрайно съглашение по отношение на Закона за изкуствения разсъдък.

Текстът, който излезе от триалога, трябваше да бъде гласуван от Европейския парламент, а също и от Европейския съвет.

Одобрението и на двете институции беше належащо, с цел да може постигнатият политически компромис да стане закон. Миналата седмица окончателният текст на Закона за ИИ беше споделен със страните членки. Той ще бъде последван от противоположна връзка от Техническата работна група и държавите-членки до петък.

След предходните мнения на държави-членки като Франция, окончателният текст остави въпроси от обществеността по какъв начин този правилник ще засегне МСП, нововъведения и механизми за трансфер на технологии в района.

По-специално, наред с необятно обсъжданите модели на учредяване, е известно, че екосистемата на Европейски Съюз създава разнообразни сполучливи софтуерни планове, ориентирани към достъпността на публичните пространства, когнитивните и сетивните увреждания, медицинските и просветителни технологии, като обществена роботика за деца с аутизъм, системи за следене на очите, поддържащи проблеми с четенето и дислексия, умни таблети за хора със зрителни увреждания, многообразие от рехабилитационни и медицински технологии.

Тези технологии са свързани с потреблението на различаване на страсти, следене на очите и въвеждане на комплицирани данни от няколко заинтригувани страни.

През ноември Организацията за икономическо сътрудничество и раз издаде отчет и вместилище, обхващащи над 100 случая на помощни, трудови и работни технологии, поддържащи увреждания с ИИ.

Окончателната наредба на Закона за ИИ уголемява категориите системи с висок и недопустим риск, вкарва по-стриктно съблюдаване на разпознаването на страсти, публично налични работни места и просветителни пространства, специфични правила, ориентирани към ИИ с общо предопределение, „ характерни опасности за бистрота “ и лист със специфични случаи, изключения и мнения, в това число биометрични данни системи и правоприлагане.

Как тези правила могат да балансират улеснението и отбраната за нововъзникващите системи и прехвърлянето на технологии, по-конкретно ориентирани към помощни и публични логаритми, свързани с избрани групи и комплицирани процеси на осиновяване?

Разпоредби, класификации и логаритми

През призмата на помощни, налични и обществени категории и логаритми би трябвало да се подчертаят няколко съставния елемент на наредбите на Закона за ИИ:

На първо място, дружно с приложения, които могат да манипулират човешкото държание, държавно „ обществено оценяване “ и избрани приложения на предсказуема полиция, вкарва цялостната възбрана на съответни обществени случаи и случаи в действително време на биометрични данни и системи за различаване на страсти.

По-специално, той не разрешава потреблението на различаване на страсти в четири обществени случая: работни места и просветителни институции, правоприлагане и миграция.

[Законът за изкуствения интелект] също не разрешава системите, ориентирани към категоризиране или „ оценяване “ на хора, в това число отдалечена биометрична идентификация в действително време за задачите на правоприлагането в публично налични пространства — като се изключи „ изчерпателно изброените и тясно дефинирани обстановки ”.

Той също по този начин не разрешава системите, ориентирани към категоризиране или „ оценяване ” на хора, в това число отдалечена биометрична идентификация в действително време за задачите на правоприлагането в публично налични пространства (с изключение на „ изчерпателно изброени и тясно дефинирани обстановки ”).

Второ, скорошната наредба също реалокира общите случаи на „ идентифициране или съмнение за страсти или планове на физически лица въз основа на техните биометрични данни ” към категорията „ висок риск ”, която също включва системи свързани с избрани сериозни инфраструктури, медицински устройства, системи за установяване на достъпа до просветителни институции или за набиране на хора, правоприлагане и правораздаване.

И макар че не всяка „ ефикасна компютърна “ система ще принадлежи на категорията с висок риск. В актуалната наредба тази категория изисква нуждата да се осведоми потребителят, в случай че такива логаритми са налице, да се вкара понижаване на риска и човешки контрол и да се подсигуряват висококачествени набори от данни, надеждност и акуратност, подробна документи (която може да включва регулаторни пясъчни кутии).

Прозрачност в основата

Също по този начин, документът вкарва категорията „ характерен риск за бистрота “. Това значи, че когато употребяват AI системи като chatbots, потребителите би трябвало да са наясно, че взаимодействат с машина.

Съдържанието, генерирано от AI, ще би трябвало да бъде етикетирано като такова и потребителите би трябвало да бъдат осведомени, когато се употребяват системи за биометрична категоризация или различаване на страсти. По-специално, помощните случаи на потребление на системи за различаване на страсти и експресия могат да включват обществени асистенти и роботика или интелигентни устройства, поддържащи разстройства от аутистичния набор или когнитивни увреждания, свързани с нарушени страсти, изрази и обществена обработка.

Четвърто, Законът за ИИ вкарва специфични правила за ИИ с общо предопределение. Такива модели, в това число необятни приложения на текст, изображение, различаване и превръщане на тирада, разкриване на шаблони и основана на езика механика, могат да подхранват съществуващите екосистеми за досегаемост, помощни средства и настаняване, изискващи връзка или взаимоотношение с пациента или ученика.

Такива логаритми могат да се употребяват в разнообразни обществени и публични контексти, просветителни или зареждащи лечебни ботове, персонални асистенти, принадлежности за когнитивни или сензорни увреждания, разстройства от аутистичния набор или дислексия.

Въз основа на наредбите такива модели би трябвало да подсигуряват бистрота през всички стадии на развиване.

За доста мощни модели, които биха могли да съставляват систематични опасности, ще има спомагателни обвързващи отговорности, свързани с ръководството на рисковете и наблюдението на съществени произшествия, осъществяването на оценка на модела и спортното тестване. Освен това организациите, които стоят зад огромни езикови модели с отворен код, би трябвало да разкрият своите данни за образование.

Най-накрая, наредбите на политиката вкарват механизмите за санкции и наказания. Глобите ще варират от 35 милиона евро или 7% от международния годишен оборот за нарушавания на неразрешени приложения за ИИ до 15 милиона евро или 3% за нарушавания на други отговорности. Предвидени са по-пропорционални тавани за административни санкции за МСП и започващи компании.

Балансиране на улеснението и отбраната

Въпреки по-стриктното съблюдаване на избрани категории, значимо е да запомните, че топологията и рискът основаният механизъм на Закона за изкуствения разсъдък на Европейски Съюз не поражда във вакуум, а по-скоро уголемява механизма, който към този момент е бил в приложимост и еволюирал с времето.

По-специално, той следва историята на критериите за оценка, употребявани от софтуерен трансфер, МСП и иновационни екосистеми като Хоризонт 2020, програмата на Европейски Съюз за финансиране на научни проучвания и нововъведения, с близо 80 милиарда евро налично финансиране за 7 години.

Европейската комисия получи обжалвания и мнения по отношение на правата на ИИ и хората с увреждания, потреблението на биометрични системи, системи за различаване на лица и страсти и случаи, засягащи бежанци и имигранти, в това число автоматизирана оценка на риска и профилиране системи.

Такива стратегии използваха сигурността, поверителността и въздействието като един от критериите за оценка на приложенията.

С течение на времето избрани стратегии бяха допълнени с други характерни критерии, в това число обществено и икономическо влияние на страните членки, употребявани техники за понижаване на риска.

То също по този начин разумно следва естеството на съществуващото законодателство за данните и поверителността на държавите-членки и рамки за целия Европейски Съюз, като GDPR, които преди този момент се отнасяха до избрани групи, системи за профилиране и биометрични данни.

Освен това, след първичното предложение за Закон за ИИ на Европейски Съюз през 2021 година, Европейската комисия получи обжалвания и мнения, ориентирани към ИИ и правата на хората с увреждания, потреблението на биометрични системи, системи за различаване на лица и страсти и случаи, засягащи бежанци и имигранти, в това число автоматизирана оценка на риска и системи за профилиране. Тези съображения също се отразиха на наредбите на закона.

Обществеността, заинтригуваните страни, приемането и пътят напред

От самото си основаване Законът за ИИ имаше за цел да стане първият документ в света, който внедрява повече системи и логаритми, насочени към индивида, осигуряващи както неговото улеснение, по този начин и контролиране.

Това изпрати мощен сигнал към софтуерната екосистема, извеждайки я от черната кутия на работата на оценителя към по-широко общество.

Това беше последвано от сходни разпореждания и старания на световната сцена, в това число срещата на върха за сигурността в Обединеното кралство и Декларацията от Блечли, директивата на Съединени американски щати за ИИ, специфични рамки, ръководени от ЮНЕСКО, СЗО и Организацията за икономическо сътрудничество и раз, ориентирани към огромни езикови модели в области на опазването на здравето, образованието, труда и работата, публичните системи, с приноса на профилирани институции, откриватели, специалисти и заинтригувани страни.

Окончателната наредба на закона беше приветствана и от Digital SME alliance, наблягайки „ метод, основан на риска, който се предизвиква посредством точни, лимитирани и интернационално приети дефиниции и прагове “, установявайки регулаторни пясъчни кутии и действителни международни благоприятни условия за тестване.

Що се отнася до избрани групи и специфични категории помощни технологии, Законът за ИИ не не разрешава потреблението на логаритми в тази област, само че дава в допълнение сходство и условия.

На сегашния стадий не обгръща всички случаи и сюжети, топологии и терминология, само че може да добави съществуващото законодателство на държавите-членки, в това число законите за досегаемост, тъждество или обществена отбрана.

Накрая, с цел да се подсигурява по-добра обществена отбрана и достъп за уязвими групи, малолетни или специфични случаи на приложимост — като манипулиране на платформата, невидими опасности или пристрастяващ алгоритмичен дизайн, също отразени в член 5.1 на Закона за ИИ — може да да бъдат допълнени от законодателство, което не е обвързвано с изкуствен интелект, като да вземем за пример Закона за достъпността, съответни членове от Закона за цифровите услуги, специфични наставления и насоки.

Йона Уелкър е специалист по изкуствен интелект, софтуерен откривател и обществен глас за алгоритмично многообразие, работещ върху Финансирани от Европейската комисия планове за научни проучвания, технологии и нововъведения.

Ние в Euronews имаме вяра, че всички отзиви имат значение. Свържете се с нас на [email protected], с цел да изпратите оферти или оферти и да станете част от диалога.