AI инструменти от OpenAI и Meta генерират сексистко съдържание, ЮНЕСКО предупреждава
Най-популярните в света инструменти за изкуствен интелект (AI) се захранват от програми от OpenAI и Meta, които показват предразсъдъци към жените, според проучване, стартирано в четвъртък от културната организация на ООН ЮНЕСКО.
Най-големите играчи в сферата на ИИ за милиарди долари обучават своите алгоритми върху огромни количества данни, до голяма степен извлечени от интернет, което позволява на техните инструменти да пишат в стила на Оскар Уайлд или да създават изображения, вдъхновени от Салвадор Дали.
Но техните резултати често са критикувани за отразяване на расови и сексистки стереотипи, както и за използване на защитени с авторски права материали без разрешение.
Експертите на ЮНЕСКО тестваха алгоритъма Llama 2 на Meta и GPT-2 и GPT-3.5 на OpenAI, програмата, която захранва безплатната версия на популярния чатбот ChatGPT.
Проучването установи, че всеки алгоритъм — известен в индустрията като големи езикови модели (LLM) — показва „недвусмислени доказателства за предразсъдъци срещу жените“.
Програмите генерират текстове, които свързват имената на жените с думи като "дом", "семейство" или "деца", но имената на мъжете са свързани с "бизнес", "заплата" или "кариера". , жените често са били проститутки, готвачки или домашни прислужници.
Установено е, че GPT-3.5 е по-малко предубеден от другите два модела.
Въпреки това, авторите похвалиха Llama 2 и GPT-2 за това, че са с отворен код, позволявайки тези проблеми, които трябва да бъдат разгледани внимателно, за разлика от GPT-3.5, който е затворен модел.
Компаниите с изкуствен интелект „наистина не обслужват всичките си потребители“, каза пред AFP Леона Вердадеро, специалист на ЮНЕСКО по цифрови политики.
Одри Азуле , генерален директор на ЮНЕСКО, каза, че широката общественост все повече използва инструменти за изкуствен интелект в ежедневието си.
„Тези нови приложения за изкуствен интелект имат силата да оформят фино възприятията на милиони хора, така че дори малки пристрастия към пола в тяхното съдържание могат значително засилват неравенствата в реалния свят“, каза тя.
ЮНЕСКО, публикувайки доклада за отбелязване на Международния ден на жената, препоръча на компаниите за изкуствен интелект да наемат повече жени и малцинства и призова правителствата да гарантират етичен изкуствен интелект чрез регулиране.
(AFP)
