AI не е непосредствена заплаха за съществуването, но са необходими „предпазни спирачки“: Microsoft
Президентът на Microsoft казва, че не смята, че изкуственият интелект представлява непосредствена заплаха за съществуването на човечеството, но правителствата и фирмите все още трябва да действат по-бързо, за да се справят с рисковете на технологията чрез прилагане на това, което той нарича „предпазни спирачки“. 1px" referrerpolicy="no-referrer-when-downgrade">
„Не виждаме никакъв риск през следващите години, през следващото десетилетие, AI по някакъв начин да представлява някаква екзистенциална заплаха за човечеството, но … нека разрешим този проблем, преди проблемът да се появи,” каза Брад Смит в интервю за The Canadian Press. председател – каза, че е важно проблемите, породени от технологията, да бъдат поставени под контрол, така че земното кълбо да не се налага „постоянно да се тревожи и да говори за това.“
Той смята, че начинът за справяне с потенциалните проблеми е чрез предпазни спирачки, които биха могли да действат като аварийните механизми, вградени в асансьори, училищни автобуси и високоскоростни влакове.
Те трябва да бъдат вградени във високорискови AI системи, които контролират критична инфраструктура като електрически мрежи, водна система и трафик.
„Нека се учим от изкуството“, каза Смит.
„Всеки филм, в който технологията налага екзистенциална заплаха, завършва по същия начин – хората изключват технологията. (И така) имайте превключвател за включване и изключване, имайте предпазна спирачка, уверете се, че остава под човешки контрол. Нека приемем това и да го направим сега.“
Забележките на Смит идват, тъй като надпреварата за използване и иновации с AI избухна в технологичния сектор и извън него след пускането на ChatGPT, AI чатбот, предназначен да генерират човешки отговори на текстови подкани.
Microsoft инвестира милиарди в създателя на ChatGPT, базираната в Сан Франциско OpenAI, и също има своя собствена базирана на AI технология, Copilot, която помага на потребителите да създават чернови на съдържание, да предлагат различни начини за изписване на текст, който са написали, и помага за създаването на презентации на PowerPoint от документи на Word.
Но мнозина имат дълбоки притеснения относно скоростта на напредъка на AI. Например Джефри Хинтън, британско-канадски пионер в дълбокото обучение, често наричан „кръстникът на AI“, каза, че смята, че технологията може да доведе до пристрастия и дискриминация, безработица, ехо камери, фалшиви новини, бойни роботи и други рискове .
Няколко правителства, включително канадското, започнаха да създават парапети около AI.
В доклад от 48 страници, публикуван от Microsoft в сряда, Смит каза, че компанията му подкрепя стремежа на Канада да регулира AI. .
Тези усилия включват доброволен кодекс за поведение, публикуван през септември, чиито подписали страни – включително Cohere, OpenText Corp., BlackBerry Ltd. и Telus Corp. – обещават, че ще оценят и намалят рисковете от своите базирани на AI системи, да ги наблюдават за инциденти и да действат по проблемите, които създават.
Въпреки че кодът има противници като основателя на Shopify Inc. Тоби Лутке, който го вижда като пример за страната, използваща твърде много „рефери“, когато има нужда от повече „строители“, каза Смит в доклада, че чрез оформянето на кодекс Канада е „показала ранно лидерство“ и помага на света да работи към общ набор от споделени принципи.
Очаква се доброволният кодекс да бъде последван от предстоящия закон на Канада за изкуствения интелект и данните, който ще създаде нови разпоредби на наказателното право, за да забрани „безразсъдни и злонамерени“ употреби на AI, които причиняват сериозни вреди на канадците.
Актът, известен като Bill C -27, мина първо и второ четене, но все още се разглежда в комисия. Отава каза, че то ще влезе в сила не по-рано от 2025 г.
Запитан защо смята, че правителствата трябва да действат по-бързо с AI, Смит каза, че светът е изправен пред „изключителна година“ след пускането на ChatGPT.
„Когато казваме да се движим по-бързо, това честно казано не е критика“, каза той.
„Това означава признание за текущата реалност, в която иновациите са се развили с по-бързи темпове от повечето хора очакваха.“
Но той вижда Канада като една от страните, които са най-подготвени да се справят с темпото на ИИ, тъй като университетите отдавна наблягат на технологията, а градове като Монреал, Торонто и Ванкувър са огнища на ИИ иновация.
„Ако има правителство, което според мен има традиция, върху която може да надгради, за да приеме нещо подобно, мисля, че това е Канада. Надявам се, че ще бъде първият“, каза Смит.
„Няма да е последният, ако е първият.“
Но тъй като AI актът на Канада е изправен пред „внимателно обсъждане ”, Смит смята, че Канада трябва да обмисли как междувременно може да приеме допълнителни гаранции.
Например, по време на процеса на възлагане на обществени поръчки за високорискови AI системи, той смята, че партньорите, търсещи договори, могат да бъдат принудени да използват трети партийни одити, за да се удостовери, че те отговарят на съответните международни стандарти за ИИ.
В доклада Смит също изрази подкрепата си за подход към ИИ, който ще бъде „разработен и използван през границите“ и „гарантира, че ИИ система, сертифицирана като безопасна в една юрисдикция, може също да се квалифицира като безопасна в друга. От Брюксел до Ню Йорк, за да отговори на различните изисквания, които всяка страна може да има.
Международен код ще помогне на разработчиците на AI да удостоверят безопасността на своите системи и да повишат съответствието в световен мащаб, защото ще могат да използват стандарти, които са международно договорени при.
„Моделът на доброволен кодекс предоставя възможност на Канада, Европейския съюз, Съединените щати, другите членове на Г-7, както и Индия, Бразилия и Индонезия, да вървят напред заедно на набор от споделени ценности и принципи“, каза той в доклада.
„Ако можем да работим с другите на доброволна основа, тогава всички ще се движим по-бързо и с по-голямо внимание и фокус. Това не е добра новина само за света на технологиите, но и за целия свят.“
