Законодатели используют «яблочко и приманку» в кампаниях по глубокой фальсификации, основанных на искусственном интеллекте
Избранные общественным мнением должностные лица являются одновременно мишенью и приманкой для кампаний влияния, проводимых иностранными противниками с помощью искусственного интеллекта. Они подвергаются дезинформации, направленной на то, чтобы повлиять на их мнение и голоса избирателей, а также служат сырьем для фальшивок, используемых для обмана других. Эта проблема настолько распространена, что угрожает нашей вере в демократические институты.
Даже, казалось бы, тривиальные посты могут усугубить разногласия, которые уже охватили нацию. Летом было опубликовано видео-подделка с изображением представителя США. Александрия Окасио-Кортес (округ Колумбия, Нью-Йорк), обсуждавшая предполагаемый расистский подтекст рекламы джинсов, стала популярной. По крайней мере, один известный новостной комментатор был обманут, поделившись дезинформацией со своей аудиторией. Хотя происхождение фальшивки неизвестно, иностранные противники, а именно Китай, Россия и Иран, часто используют внутренние разногласия, чтобы подорвать доверие к избранным должностным лицам.
В прошлом году сенатор Дж. Сенатор Бен Кардин (D-MD) был введен в заблуждение с помощью фальшивки Дмитрия Кулебы, бывшего министра иностранных дел Украины, в попытке заставить сенатора раскрыть секретную информацию об украинском вооружении. Люди, информированные о расследовании ФБР этого инцидента, предполагают, что за фальшивкой могло стоять российское правительство и что сенатора подталкивали к заявлениям, которые могли быть использованы в пропагандистских целях.
В ходе другого инцидента аудиозаписи, сделанные государственным секретарем Марко Рубио, ввели в заблуждение по меньшей мере пятерых правительственных чиновников и трех министров иностранных дел. В дипломатической телеграмме Госдепартамента, в которой сообщалось об обнаружении фальшивки, также упоминалось о дополнительном расследовании в отношении связанного с Россией киберпреступника, который “выдавал себя за вымышленного сотрудника Госдепартамента”. Тем временем исследователи из Института национальной безопасности Университета Вандербильтавыяснилось, что китайская компания GoLaxy использовала искусственный интеллект для создания психологических профилей отдельных лиц, включая 117 членов Конгресса и 2000 американских мыслителей. Используя эти профили, GoLaxy может адаптировать пропаганду и целенаправленно воздействовать на нее. Хотя компания отрицает, что она — или ее сторонники в Коммунистической партии Китая — планируют использовать свой продвинутый инструментарий искусственного интеллекта для оказания влияния на лидеров США, она, как утверждается, уже сделала это в Гонконге и на Тайване. u>. Исследователи говорят, что в обоих местах GoLaxy отслеживал голоса оппозиции и лидеров мнений и отправлял им специально подготовленные сообщения в X (бывший Twitter), стремясь изменить их восприятие событий. Компания также якобы пыталась повлиять на мнение гонконгцев о драконовском законе о национальной безопасности 2020 года. То, что GoLaxy сейчас составляет карту политического лидерства Америки, должно вызывать глубокую обеспокоенность, но не удивление.
GoLaxy — далеко не единственный актер, который, как сообщается, использует искусственный интеллект для влияния на общественное мнение. Те же манипуляции с использованием искусственного интеллекта, которые сейчас направлены на национальных лидеров, неизбежно будут направлены на мэров, членов школьных советов, журналистов, генеральных директоров — и, в конечном счете, на кого угодно, — углубляя разногласия в и без того глубоко разделенной стране.
Ограничение ущерба потребует скоординированных ответных мер, опирающихся на федеральные ресурсы, инновации частного сектора и индивидуальную бдительность.
Краткое изложение Cipher позволяет представить информацию о национальной и глобальной безопасности в контексте экспертного уровня. Никогда еще не было так важно понимать, что происходит в мире. Повысьте свой доступ к эксклюзивному контенту, став подписчиком. У Белого дома есть План действий по созданию искусственного интеллекта, в котором содержатся рекомендации по улучшению обнаружения подделок. Все начинается с того, что программа Национального института стандартов и технологий «Хранители улик судебной экспертизы» по оценке подделок превращается в официальные руководящие принципы. Эти руководящие принципы должны установить надежные стандарты, которые суды, медиа-платформы и потребительские приложения могли бы использовать для оценки подделок.
Эти стандарты важны, потому что некоторые видеоролики, созданные с помощью искусственного интеллекта, может быть невозможно распознать человеческим глазом. Вместо этого инструменты криминалистической экспертизы могут выявлять подделки. Несмотря на то, что эта развивающаяся область обнаружения глубоких подделок далека от совершенства, она адаптируется к быстро меняющимся угрозам. Анализ каналов распространения фальшивок также может помочь определить их легитимность, особенно для средств массовой информации, которые хотят проверить подлинность видео. Вашингтон также должен координировать свои действия с технологической индустрией, особенно с платформами социальных сетей, посредством предлагаемого>Центр обмена информацией и анализа ИИ платформа для создания системы раннего предупреждения для мониторинга, обнаружения и информирования общественности об операциях влияния, использующих контент, созданный ИИ.
Белый дом также должен расширить сотрудничество между федеральным агентством по кибербезопасности и инфраструктурной безопасности, ФБР, а Агентство национальной безопасности — о фальшивых ответах. Эта объединенная команда будет работать с Конгрессом, руководителями агентств и другими важными объектами, чтобы свести к минимуму распространение несанкционированного синтетического контента и разоблачить вводящую в заблуждение информацию.
И, наконец, общественным деятелям необходимо разработать коммуникационные программы быстрого реагирования, чтобы своевременно выявлять ложь и информировать общественность о распространении фальшивок. Соединенные Штаты могут обратиться к демократическим союзникам, таким как Тайвань, за вдохновением в том, как бороться с дезинформацией, спонсируемой государством. Тайваньское правительство приняло “политику 222”, опубликовав 200 слов и две фотографии в течение двух часов после обнаружения дезинформации.
Глубокие фейки и кампании влияния с использованием искусственного интеллекта представляют собой вызов поколениям, стремящимся к правде и доверию. Борьба с этой проблемой будет похожа на игру в кошки-мышки, когда иностранные противники будут постоянно пытаться обойти меры предосторожности, призванные их остановить. Никакое индивидуальное решение не сможет остановить их, но, привлекая правительство, средства массовой информации и частных лиц, возможно, удастся ограничить их ущерб.
Цель Cipher Brief — публиковать различные точки зрения на проблемы национальной безопасности, представленные опытными специалистами в области национальной безопасности..
Высказанные мнения принадлежат автору и не отражают взгляды или суждения, изложенные в Cipher Brief.
У вас есть свои соображения, основанные на вашем опыте в области национальной безопасности? Отправьте их по адресу Editor@thecipherbrief. com для рассмотрения на публикацию.
Подробнее о взглядах, перспективах и анализе национальной безопасности, подготовленных экспертами, читайте в Сводке Cipher Brief
Другие новости: