Екстремисти със сигурност ще използват deepfake за извършване на атаки през следващата година: анализ
Насилствени екстремисти, които нямат средства да извършат атака в Канада, биха могли да компенсират чрез извършване на измами с помощта на изкуствен интелект, се казва в наскоро публикуван анализ .
Докладът от май на Федералния център за интегрирана оценка на тероризма, получен чрез Закона за достъп до информация, предупреждава, че подобен визуален трик, известен като deepfake, представлява „постоянна заплаха за обществената безопасност".
Докладът на центъра за оценка беше предизвикан от изображение на тъмен дим, издигащ се близо до Пентагона на САЩ, което се появи на 22 май в социалните медии, което доведе до временно понижаване на акциите. Длъжностни лица потвърдиха, че няма извънредна ситуация.
Синтетичните изображения, видео и аудио стават все по-лесни за генериране чрез приложения, управлявани от изкуствен интелект, което позволява на хората да разпространяват невярна информация и да всяват объркване.
център, който наема членове на общността за сигурност и разузнаване, прогнозира, че участниците в заплахата „почти сигурно“ ще създадат дълбоки фалшиви изображения, изобразяващи канадските интереси през следващата година, предвид наличните инструменти и разпространението на дезинформация и дезинформация.
Rapid. Механизмът за реагиране Канада, федерална единица, която проследява манипулирането и намесата на чужда информация, наскоро подчерта подобен епизод, като каза, че вероятно е произлязъл от китайското правителство.
Чуждестранната операция, която започна през август, използва мрежа от нови или отвлечени акаунти в социални медии за публикуване на коментари и видеоклипове, които поставят под въпрос политическите и етични стандарти на различни депутати, използвайки популярна фигура, говореща китайски в Канада, каза RRM Canada.
Анализът на центъра за оценка на тероризма казва, че екстремистите биха могли да използват дълбоки фейкове, за да пропагандират насилие, да популяризират конкретни разкази, да предизвикват паника, да опетнят репутацията и да подкопаят доверието в правителството и обществените институции.
„Измамите предоставят на агресивните екстремисти ефективна техника за нарушаване на ежедневието или за сплашване на целеви групи или лица, включително чрез потенциално отклоняване на ресурсите за сигурност от редовните им задължения“, се казва в доклада.
„Продължаващите дълбоки фалшиви измами могат да доведат до конкурентна среда сред участниците в заплахата, където целта е да предизвикат увеличаване на въздействията в реалния свят, като например икономическа вреда.“
Насилствените екстремисти с „ограничени възможности“ са по-склонни да използват измами, отколкото участници, които са способни да извършват „по-директни действия“, заключава докладът.
„Deepfake медиите ще затруднят властите да реагират, приоритизират и разследват насилствени екстремистки заплахи.“
През май Канадската разузнавателна служба за сигурност покани експерти и специалисти по сигурността на семинар за изследване на заплахите, породени от такива технологии за дезинформация.
В резултат на доклад, базиран на доклади, представени на събитието, се казва, че терористичните организации „със сигурност разпознават“ потенциала на използването на дълбоки фалшификации в разпространението на пропаганда и ко- ръкополагане на атаки.
„Надигащият се призрак на deepfakes представлява безпрецедентна заплаха за националната сигурност. Бързото развитие и разпространението на тази технология изисква нищо друго освен решителен и всеобхватен отговор“, се казва в доклада.
Демокрациите трябва да инвестират в авангардни технологии за дълбоко откриване на фалшификати, които могат да разобличат цифровите измамници, както и да криминализират създаването и разпространението на deepfakes, добавя той.
Битката срещу deepfakes обаче не може да бъде спечелена само чрез технологии и законодателство, предупреждава докладът.
„Гражданите трябва да бъдат въоръжени с силата на критичното мислене и медийната грамотност, като по този начин им дава възможност да различават истината от измислицата. Като насърчават общество, което е професионално скептично, информирано и устойчиво, правителствата могат да изградят щит срещу разяждащите ефекти на дълбоките фалшификати.“
Все пак тази задача може да се окаже предизвикателна.
Просто този месец Канадският център за киберсигурност отбеляза в доклад за заплахите за демократичните институции, че „капацитетът за генериране на дълбоки фалшификации надхвърля способността ни да ги откриваме.“
„Настоящите публично достъпни модели за откриване се борят да разграничат надеждно между deepfakes и истинско съдържание.“
