AI с отворен код срещу затворен код: Каква е разликата и защо има значение?

Регулаторите, стартиращите фирми и големите технологии са разделени на два лагера в дебата за изкуствен интелект с отворен и затворен код, където безопасността и печалбата имат предимство.

Битката между компаниите за генеративен изкуствен интелект (AI) е в ход с два конкуриращи се лагера: софтуер с отворен код срещу затворен код.

Ключът в дебата е как технологията се демократизира, но безопасността и печалбата имат предимство в спора.

Най-общо казано, софтуерът с отворен код е мястото, където изходният код е достъпен за всеки в публичното пространство за използване, модифициране и разпространение. Насърчава креативността и иновациите, тъй като разработчиците могат да надграждат върху AI алгоритми и предварително обучени модели, за да променят собствените си продукти и инструменти.

ИИ със затворен код, от друга страна, означава, че изходният код е ограничен за лична употреба и не може да се променя или надгражда от потребителите; може само фирмата, която го притежава. Но финансирането на тези компании с отворен код е по-лесно, което означава, че те разполагат с по-голям капитал за иновации.

Определението за това какво прави една компания с отворен код също не е толкова ясно.

Определението за технология с отворен код

Инициативата за отворен код (OSI) е отговорник за определението за технология с отворен код.

Тя гласи, че „ отвореният код не означава само достъп до изходния код“ и че трябва да отговаря на 10 критерия, включително да има добре популяризирано средство за получаване на изходния код на разумна цена или безплатно, без да е дискриминационно, и лиценз без ограничаване на друг софтуер.

Но спазването на всички изисквания на OSI е рядкост и повечето компании с отворен код са само частично отворен код, като френския AI шампион Mistral. Той отваря своите тегла на модела – числовите параметри, които влияят върху работата на AI модел – но не и данните или процеса на обучение.

Технология за всички

Компаниите за изкуствен интелект, които казват, че са с отворен код, твърдят, че правят технологията по-достъпна за всички.

Отвореният код помага за демократизиране на технологичната икономика, каза Алекс Комбеси, главен изпълнителен директор на съоснователя на френската компания за изкуствен интелект с отворен код Giskard, каза Euronews Next.

„Това изравнява условията на игра, защото ако е с отворен код, е безплатно, поне като цяло. Това означава, че по-малките играчи могат да се конкурират с по-големите играчи, защото имат безплатен достъп до продукти“, каза той.

„И това е много важно, особено в свят, който е толкова доминиран от монополи в технологиите“.

Отвореният код също изравнява политическото поле, позволявайки на всеки да проверява кода, тъй като е видим за регулаторите, докато при затворения код подробностите не са прозрачни.

Безопасност опасения

Но компаниите за AI със затворен код, като създателя на ChatGPT OpenAI (въпреки името си), твърдят, че отвореният код заплашва нашата безопасност.

OpenAI първоначално е създаден, за да произвежда AI системи с отворен код, но през 2019 г. компанията каза, че е твърде опасно да продължи да пуска своя GPT езиков модел на обществеността, тъй като изглежда твърде подобен на човешката реч и ако бъде поставен в грешни ръце, може да генерира висококачествен фалшив новини.

При изкуствения интелект със затворен код има и правила за използване, които учтиво ще отказват заявки, като например инструкции за създаване на бомба или проектиране на по-смъртоносен коронавирус.

Технически можете да направите джейлбрейк политиката, което означава, че можете да я хакнете, за да заобиколите предпазните мерки на AI. Но тези уязвимости често се коригират бързо.

Системите с AI с отворен код най-вероятно ще имат предпазни мерки или ръководство за отговорна употреба. Но колкото и да се опитват да се справят с дискриминацията или опасността, след като копие на AI модела е достъпно, всеки, който го има, може сам да промени предпазните мерки.

Най-добър пример за това беше, когато Meta пусна своя голям отворен код езиков модел (LLM) Llama 2 през юли миналата година.

Само дни по-късно хората пуснаха свои собствени нецензурирани версии на Llama 2, задавайки въпроси за това как да се направи ядрена бомба, на които LLM след това можеше да отговори.

След като някой пусне „нецензурирана“ версия на AI модел, няма почти нищо, което оригиналният производител на AI може да направи, особено след като вече ще е изтеглен от други потребители.

Голям технологичен бизнес

През декември Meta и IBM стартираха група, наречена AI Alliance, което я поставя в противоречие с гигантите със затворен код OpenAI, Google и Microsoft.

AI Alliance се застъпва за подход на „отворена наука“ към AI и включва 74 компании, включително стартиращи компании, големи компании и нестопански организации.

„Отвореният, отговорен и прозрачен подход към AI е от полза за всички – индустрията, академичните среди и обществото като цяло“, каза Алесандро Куриони, сътрудник на IBM, вицепрезидент за Европа и Африка и директор на IBM Research.

Запитан за безопасността, той каза, че идеята зад отворения и прозрачен AI е да се сведат до минимум страховете.

„Отвореният, прозрачен и отговорен AI ще помогне за подобряване на безопасността на AI, като гарантира, че отвореният общността от разработчици и изследователи се занимава с правилните рискове от AI и ги смекчава с най-подходящите решения“, каза той пред Euronews Next.

„Това не означава, че всички технологии трябва да бъдат отворени – и най-важното, отворени не означава, че не се управлява. Управлението е еднакво важно, независимо дали става въпрос за отворен или патентован AI“, поясни той.

Проблемът с финансирането

Докато аргументът с отворен код, че разработчиците могат свободно надграждайки моделите на изкуствен интелект с отворен код и разширявайки границите, парите, разбира се, са в основата на дебата.

Някои инвеститори може да бъдат възпрепятствани от модел с отворен код, тъй като може да се чувстват по-спокойни със защитен интернет протокол (IP).

„Разговор с голям езиков модел в реално време също използва много изчислителна мощност и се свързва с изчислителни облачни решения, което не е много евтино“, каза д-р Теодор Чен , специалист по данни в Deloitte.

„В този момент виждам, че наистина се основава на инвестиции за осигуряване на приходи. Така че по-авангардната технология наистина се нуждае от финансиране за това,” каза той пред Euronews Next.

„Монетаризацията също се използва също и за разработка, което може да се използва за изграждане на по-точни модели, което е от полза за напредъка на индустрията като цяло.“

Но придвижването на технологията напред може да се направи и с модели с отворен код, тъй като разработчиците могат да бъдат креативни и изграждане на нови приложения за AI.

„Ако повече хора имат достъп до суровините, където наистина могат да правят креативни и много интересни неща, можем да видим, че нещата се разпространяват в посоки, които вероятно или никой не би предположил ”, каза Тиаго Кардосо, продуктов мениджър в Hyland, пред Euronews Next.

Регулация

Дебатът за отворен срещу затворен код е пречка за регулаторите в Европа и Съединените щати, които имат противоположни възгледи.

В Европа Законът за ИИ на ЕС се очаква да получи окончателно парламентарно одобрение през април. Но текстът, който чака одобрение, казва, че законът няма да се прилага за системи с изкуствен интелект с отворен код, освен ако не са забранени или класифицирани като високорискови системи с изкуствен интелект.

Това е добре дошла новина за Франция и Германия, който по време на преговорите настояваше да защити своите стартиращи фирми с отворен код.

Междувременно в Съединените щати всеобхватната изпълнителна заповед на президента Байдън в края на миналата година казва, че когато моделите с отворен код – които той нарече модели на основата с двойна употреба – са „публично публикувани в интернет, може да има значителни ползи за иновациите , но също така и значителни рискове за сигурността, като премахването на предпазните мерки в рамките на модела“.

Байдън даде срок на министъра на търговията Джина Раймондо до юли да говори с експерти и да се върне с препоръки.

Последвайте ни в