Израелска стартираща компания за откриване на дълбоки фалшиви, бореща се с дезинформация по време на войната в Газа
deep
Израелска стартираща компания за киберсигурност с изкуствен интелект, Clarity, разработи софтуер за откриване и защита срещу deepfakes и наскоро събра първите си $16 милиона начални пари.
Съоснователят Майкъл Матиас, който е бил офицер от Израелските отбранителни сили (IDF) и лидер в 8200 Intelligence Unit, каза пред Fox News Digital той беше фокусиран върху демокрацията и как изкуственият интелект и киберсигурността ще променят начина, по който се отнасяме към нашите демократични институции, но не можа да намери никакви решения, които да са адаптивни към този нов световен вирус на киберсигурността.
Той казва, че технологията на Clarity е нов защитен механизъм за водене на война.
Deepfakes нараснаха от началото на войната Израел-Хамас. (iStock)
Матиас каза, че мисли за Clarity's технология като механизъм за филтриране на вода, добавяйки: „Има много вода, но много от нея има бактерии, така че ние разработихме тези филтриращи механизми, така че когато стигне до потребителите, да бъде филтрирана. Ако не е напълно филтрирано, поне потребителят знае, че там има някаква аномалия или някаква мръсотия."
Sensity AI, компания, която следи deepfakes, съобщи, че има 49 081 deepfake видеоклипа, публикувани онлайн в Юни 2020 г. и видеоклиповете нараснаха до 85 047 до декември същата година.
Матиас казва, че ранната визия на Clarity е била съсредоточена около тяхното предположение, че дълбоките фалшиви съобщения ще се появят значително на изборите през 2024 г., но през октомври нещата се обърнаха. Катализиращ момент за Clarity беше началото на войната Израел-Хамас на 7 октомври, когато всичко, което не беше готово по това време, трябваше да бъде готово за няколко дни, а не за месеци, докато работи с израелското правителство и медиите.
Дим се издига след израелска бомбардировка в Ивицата Газа, както се вижда от Южен Израел, четвъртък, 18 януари 2024 г. Армията се бие срещу палестински терористи в Газа във войната възпламенен от атаката на Хамас срещу Израел на 7 октомври. (AP Photo/Ohad Zwigenberg)
Матиас казва, че екипът му е предимно израелски, произхождащ от IDF, така че войната беше тема, която засегна много близо до у дома.
„Войната [Израел-Хамас] ни показа, че общественото възприятие е голяма, голяма част от всичко, което се случва … особено когато става въпрос за ситуации на заложници [с] много неизвестни … какво е случващи се в цифрови медии, където всеки човек е журналист със собствен телефон и всеки човек има свой собствен канал за новини в своите елементи в Telegram, Twitter или TikTok.“
(Cyberguy.com)
Той добави, че мнозина „разбират, че ние не водим война само на физически [фронт] … [това е и цифрова битка“.
Лигата за борба с клеветата установи, че дълбоко фалшивите видеоклипове набраха много популярност по време на войната Израел-Хамас с примери за видеоклипове, представящи измислени „коментар“ за войната от публични личности.
Блумбърг също прегледа десетки дълбоки фалшиви видеоклипове на жертви на войната между Израел и Хамас, които изглежда са предназначени да генерират едновременно съчувствие и вирусност, въпреки че създателите им често са анонимни. Трагична смърт се отразява в новините и в рамките на дни или дори часове потребителите публикуват видеоклипове с приликата на този човек, в които се говори за това как са умрели. Форматът за тенденцията обикновено включва въведение от гледна точка на този човек и дълбоко фалшиво негово изображение на екрана, разказващо историята за това как са умрели.
Съоснователят на Clarity Майкъл Матиас говори в университета в Тел Авив на 6 февруари 2024 г. (Интердисциплинарен киберизследователски център Blavatnik)
Матиас казва, че финансирането ще подпомогне Clarity при удвояването на персонала и разширяването на изследователските и развойните дейности.
„Deepfakes [са] почти като вирусен патоген. Много е подобно на това как действа COVID-19; възпроизвежда се бързо, излага се бързо. Точно като вирус, трябва да разработите антивирус за него. И не е една ваксина, това не е един AI модел, който просто се прилага. Всъщност трябва да разработите множество различни модели, където те също непрекъснато се актуализират и непрекъснато се трансформират и могат да се адаптират към различни форми на вируса."
