Deepfakes and the Conflict on Belief – The Cipher Temporary

OPINIÓN – Comenzó con una voz. A principios de julio, los ministros extranjeros, un miembro del Congreso estadounidense y un gobernador estadounidense recibieron mensajes urgentes que parecían provenir directamente del Secretario de Estado Marco Rubio. Los mensajes de voz y los textos enviados sobre la señal fueron lo suficientemente auténticos como para extraer algunas respuestas y, en algunos casos, para generar preocupación. Fue solo más tarde que los equipos de ciberseguridad confirmaron la verdad: Rubio nunca los había enviado. Su voz, su personalidad, incluso su tono de conversación, había sido convincentemente falsificado por la inteligencia synthetic, una señal de que Estados Unidos ha entrado en una nueva period de engaño digital.

El incidente de Rubio ya no es una rareza. Es un tiro de advertencia. De hecho, esa misma semana, un presidente extranjero, un científico, actores, cantantes, un oficial militar, un grupo de niñas de secundaria, numerosos ciudadanos mayores y más también fueron atacados. Los adversarios, ya sean patrocinados por el estado o criminales, ahora están utilizando profundos hiperrealistas para alcanzar objetivos en prácticamente todos los sectores de la sociedad. A diferencia del espionaje tradicional, que busca información de inteligencia específica, Deepfakes apuntan a algo aún más corrosivo: confía en sí mismo. No trabajan robando secretos, sino engañando objetivos y dejando dudas.

Tanto Rusia como la República Widespread de China han adoptado este dominio con una creciente sofisticación. La ahora infame campaña de Doppelgänger de Moscú comenzó con sitios net clonados y noticias manipuladas para socavar el apoyo a Ucrania y fracturar la confianza en las instituciones occidentales. Durante el año pasado, las operaciones rusas se han expandido para desplegar movies generados por IA y suplantaciones de audio de políticos y periodistas, diseñadas para inflamar divisiones políticas o provocar pasos en falso.

El enfoque de Beijing ha sido más tranquilo pero no menos ambicioso. Sus redes Spamuflage y Dragonbridge han comenzado a usar anclajes y movies generados por IA para sembrar narraciones en el extranjero, especialmente en torno a eventos disputados como las elecciones de Taiwán. Estas son campañas de influencia precisas y sofisticadas que combinan la verdad y el engaño de formas diseñadas para pasar el escrutinio informal. La línea entre la desinformación y la ingeniería social se está disolviendo ante nuestros ojos.

Otros adversarios también han probado los límites. Al principio de la Guerra de Rusia en Ucrania, un video profundo del presidente Zelensky supuestamente pide que la rendición circulara en línea antes de que pudiera ser desacreditado. En 2023, Eslovaquia enfrentó intentos impulsados por Deepfake de influir en la opinión pública durante sus elecciones. Y en toda Europa, el audio fabricado de legisladores se ha utilizado para engañar, confundir o avergonzar. Cada incidente refleja la misma realidad subyacente: las herramientas para el engaño son más rápidas, más baratas y más accesibles que los sistemas en los que confiamos para detectarlas o prevenirlas.

Hoy, las amenazas de Deepfakes atraviesan cada capa de la sociedad.

Regístrese para el Grupo de iniciativas cibernéticas Boletín del domingo, que ofrece concepts a nivel de experto sobre las historias cibernéticas y tecnológicas del día, directamente a su bandeja de entrada. Regístrese para el Boletín de cIG hoy.

A nivel private, los estadounidenses ya han comenzado a enfrentar un aumento en las imágenes íntimas no consensuadas y los esquemas de extorsión impulsados por la IA. Una llamada de voz convincente de un niño o cónyuge que afirma estar en peligro es suficiente para sacudir a cualquier familia. Los delincuentes están explotando el instinto de confiar en voces familiares, y muchas familias no están preparadas para la velocidad y el realismo de estas estafas.

Las organizaciones e industrias también están en la mira. Las instituciones financieras han utilizado la autenticación de voz durante algún tiempo, pero esa confianza puede ser girada contra ellas. Un mensaje de voz falso de un CEO que autoriza una transferencia, o una instrucción aparentemente rutinaria de un gerente senior, puede evitar los controles de seguridad heredados. Los ataques de phishing mejorados en Deepfake ya están dirigidos a ejecutivos del sector privado, y no permanecerán confinados al sector financiero. Cualquier industria que se basa en la verificación de identidad, ya sea la atención médica, la energía, la logística de la cadena de suministro u otros, enfrentará la misma amenaza creciente.

A nivel nacional, las implicaciones son profundas. Deepfakes puede conducir cuñas a través de una sociedad ya polarizada. Think about un video sintético de un common estadounidense que anuncia movimientos de tropas no autorizados, o una llamada generada por IA de un miembro del Congreso que confirma un escándalo fabricado. Incluso si se desacredita, el daño persistiría. Los adversarios entienden que la duda puede ser tan poderosa como la persuasión, y que las falsas narrativas, repetidas ampliamente, pueden erosionar la credibilidad institucional mucho más rápido de lo que puede repararse.

En este entorno, donde la tecnología está corriendo por delante de la respuesta, Estados Unidos debe hacer más para enfrentar el desafío. La creación de un clon de voz convincente hoy requiere tan solo 15 segundos de audio (menos de lo que está disponible en el clip de redes sociales promedio). Las falsificaciones de video realistas se pueden generar a velocidad de la máquina, con herramientas disponibles de forma gratuita o a poco costo. Mientras que las agencias federales y las empresas privadas están desarrollando métodos de detección, estos sistemas están en una carrera armamentista constante con la próxima generación de modelos de IA generativos.

A diferencia de las amenazas de inteligencia tradicional (o incluso legal), los defensores profundos no siempre tienen como objetivo robar secretos. Su objetivo es explotar el elemento más elementary de la democracia: nuestra capacidad de saber qué es cierto. Ese cambio los hace difíciles de detectar y altamente efectivos.

El resumen de cifrado trae contexto a nivel de experto a las historias de seguridad nacionales y globales. Nunca ha sido más importante entender lo que está sucediendo en el mundo. Actualice su acceso a contenido exclusivo por convertirse en suscriptor.

Proteger a la nación de los ataques habilitados para Deepfake requiere una respuesta tan dinámica y de múltiples capas como la amenaza misma. La tecnología es la primera línea de defensa. Las herramientas que pueden verificar el origen y la autenticidad de los medios digitales a través de la marca de agua, las firmas criptográficas y la detección de IA deben pasar de los laboratorios de investigación a un uso generalizado en todo el gobierno y la industria. Deben ser rápidos, interoperables y capaces de mantener el ritmo de los adversarios que pueden generar falsificaciones convincentes en segundos.

Sin embargo, la tecnología por sí sola no es suficiente. Los estadounidenses deben aprender a navegar en un nuevo mundo donde ya no creen ver y escuchar. Las campañas de educación pública y la capacitación en el lugar de trabajo pueden ayudar a las personas a reconocer solicitudes sospechosas, verificar la información a través de canales alternativos e informar la sospecha de manipulación. Los sectores críticos, desde las finanzas hasta la atención médica, deben adoptar protocolos de verificación que supongan que los defensores profundos están en juego y requieren validación multifactor para acciones clave.

Igualmente importante es la velocidad en respuesta. Cuando se extiende un defake profundo, la ventana para limitar su daño es breve. Las agencias y las figuras públicas deben mantener canales claros y pre-verificados para la comunicación de disaster, y los equipos de respuesta rápida deben estar listos para desacreditar las falsas y tranquilizar al público. El principio «222» de Taiwán: el desarrollo de los defensores profundos en dos horas, utilizando dos imágenes y 200 palabras (para facilitar el intercambio de redes sociales) ofrece un modelo sobre cómo las democracias pueden responder de manera efectiva en la period digital.

Finalmente, Estados Unidos no puede enfrentar este desafío solo. Compartir inteligencia de amenazas, construir marcos de detección comunes y establecer normas internacionales para el uso de medios sintéticos será elementary para defender la confianza en el mundo democrático.

Como se señaló, la suplantación de Deepfake del Secretario Rubio no period un acto aislado. Es el movimiento de apertura en una larga campaña para corroer los fundamentos de la confianza pública. Si los adversarios pueden hacer que los estadounidenses duden de las voces de sus líderes, la autenticidad de sus noticias o la seguridad de sus instituciones, pueden lograr objetivos estratégicos sin disparar un tiro.

Cumplir con este desafío requerirá más que soluciones técnicas, aunque las defensas técnicas son necesarias. Exigirá un cambio cultural para reconocer que la confianza ahora es un activo estratégico, y uno que está bajo ataque. Al combinar la tecnología, la educación, la política y la cooperación internacional, Estados Unidos puede defender esa confianza. Y con la velocidad de los avances tecnológicos en la IA generativa, esperar a actuar es la peor de todas las opciones.

La period del engaño digital está aquí, y no esperará a que nos pongan al día. Las voces, las caras y los eventos se pueden forjar en segundos, y las consecuencias persisten mucho después de que surge la verdad. Preservar la confianza en nuestras instituciones, nuestros líderes y unos a otros ahora es una cuestión de seguridad nacional. Nuestra respuesta decidirá si la historia de este siglo se cuenta en nuestras propias palabras o en las ficciones de aquellos que nos verían divididos.

Las opiniones expresadas son las del autor y no representan las opiniones u opiniones del resumen de cifrado.

El informe de cifrado se compromete a publicar una variedad de perspectivas sobre temas de seguridad nacional presentados por profesionales de seguridad nacional profundamente experimentados.

¿Tiene una perspectiva para compartir en función de su experiencia en el campo de seguridad nacional? Envíelo a editor@thecipherbrief.com para su consideración de publicación.

Lea más información, perspectiva y análisis de seguridad nacional impulsada por expertos en El breve de cifrado