Abordando la Creciente Amenaza de Deepfakes y Desinformación con Inteligencia Artificial
En el contexto de las futuras elecciones en diversos países, se evidencia un creciente fenómeno de desinformación impulsado por la inteligencia artificial (IA). Videos, fotos y audios generados mediante tecnologías como deepfakes, desarrolladas por empresas de consultoría, están cobrando protagonismo en el escenario electoral.
Las redes sociales, convertidas en la principal fuente de información para el 56% de los usuarios de internet, se han vuelto un terreno propicio para la propagación de desinformación. La IA ha proporcionado una herramienta eficaz para la creación de noticias e imágenes falsas extremadamente realistas, según revela la encuesta Global Advisor de IPSOS. Esta encuesta, que abarcó 29 países, señala que el 74% de las personas a nivel mundial considera que la IA facilita la generación de contenido falso.
Con más de 50 países programados para celebrar elecciones en 2024, las "noticias falsas" en los procesos electorales se intensifica. Una encuesta realizada por IPSOS para la UNESCO, en 16 países, reveló que el 87% de los encuestados teme que la desinformación tenga un impacto significativo en la campaña y en el voto de una proporción considerable durante las elecciones.
Especialistas en análisis de desinformación han observado un aumento en la utilización de la inteligencia artificial en las elecciones. La desinformación suele generarse a través de empresas consultoras o de marketing, ofreciendo servicios que incluyen campañas negras, filtración de información y la propagación de desinformación para atacar a opositores políticos.
La creación y difusión de deepfakes se presenta como un mecanismo para dañar la democracia, influyendo en aquellos votantes indecisos que se ven afectados por la información falsa difundida en plataformas digitales como TikTok, Twitter, Facebook o Instagram. El análisis de IPSOS indica que el 68% de las personas considera que la desinformación es más prevalente en las redes sociales, destacando la importancia de abordar este fenómeno en estos espacios.
La combinación de deepfakes y el aumento de la desinformación en las redes sociales requiere una respuesta colectiva, que incluya medidas gubernamentales, acciones de las plataformas tecnológicas y la participación activa de la ciudadanía en la denuncia y verificación de contenido falso.
A medida que la inteligencia artificial facilita la creación de deepfakes, la tecnología avanzada permite a cualquier persona con conocimientos de codificación generar contenido falso con poco esfuerzo.
Un ejemplo fue el deepfake del presidente de EE. UU., Joe Biden, instando a los votantes de Nuevo Hampshire a no ejercer su voto en las primarias demócratas. Este incidente evidencia la capacidad de la IA para manipular la percepción pública y afectar la participación electoral.
Además, se ha señalado que la desinformación con IA no se limita al ámbito político, extendiéndose a estafas y fraudes. En el caso de la precandidata a la presidencia de México, Claudia Sheinbaum, se han difundido deepfakes con fines de estafa, promoviendo inversiones falsas en una empresa de petróleo. La diversidad de aplicaciones de la desinformación con IA subraya la necesidad de una respuesta integral.
En respuesta a este escenario, la encuesta de IPSOS muestra que el 89% de los usuarios de internet está de acuerdo en que los gobiernos y reguladores deben exigir medidas de confianza y seguridad a las plataformas durante las campañas electorales.
Existen websites como Maldita.es que permiten a las personas verificar la autenticidad de las publicaciones y detectar la presencia de desinformación. El aumento de la desinformación con inteligencia artificial en el contexto electoral plantea desafíos significativos para la democracia. La combinación de deepfakes y el aumento de la desinformación en las redes sociales requiere una respuesta colectiva, que incluya medidas gubernamentales, acciones de las plataformas tecnológicas y la participación activa de la ciudadanía en la denuncia y verificación de contenido falso. La conciencia pública y el uso de herramientas digitales se presentan como elementos clave para contrarrestar los efectos nefastos de la desinformación impulsada por la inteligencia artificial.
Abordando la Creciente Amenaza de Deepfakes y Desinformación con Inteligencia Artificial
En el contexto de las futuras elecciones en diversos países, se evidencia un creciente fenómeno de desinformación impulsado por la inteligencia artificial (IA). Videos, fotos y audios generados mediante tecnologías como deepfakes, desarrolladas por empresas de consultoría, están cobrando protagonismo en el escenario electoral.
Las redes sociales, convertidas en la principal fuente de información para el 56% de los usuarios de internet, se han vuelto un terreno propicio para la propagación de desinformación. La IA ha proporcionado una herramienta eficaz para la creación de noticias e imágenes falsas extremadamente realistas, según revela la encuesta Global Advisor de IPSOS. Esta encuesta, que abarcó 29 países, señala que el 74% de las personas a nivel mundial considera que la IA facilita la generación de contenido falso.
Con más de 50 países programados para celebrar elecciones en 2024, las "noticias falsas" en los procesos electorales se intensifica. Una encuesta realizada por IPSOS para la UNESCO, en 16 países, reveló que el 87% de los encuestados teme que la desinformación tenga un impacto significativo en la campaña y en el voto de una proporción considerable durante las elecciones.
Especialistas en análisis de desinformación han observado un aumento en la utilización de la inteligencia artificial en las elecciones. La desinformación suele generarse a través de empresas consultoras o de marketing, ofreciendo servicios que incluyen campañas negras, filtración de información y la propagación de desinformación para atacar a opositores políticos.
La creación y difusión de deepfakes se presenta como un mecanismo para dañar la democracia, influyendo en aquellos votantes indecisos que se ven afectados por la información falsa difundida en plataformas digitales como TikTok, Twitter, Facebook o Instagram. El análisis de IPSOS indica que el 68% de las personas considera que la desinformación es más prevalente en las redes sociales, destacando la importancia de abordar este fenómeno en estos espacios.
La combinación de deepfakes y el aumento de la desinformación en las redes sociales requiere una respuesta colectiva, que incluya medidas gubernamentales, acciones de las plataformas tecnológicas y la participación activa de la ciudadanía en la denuncia y verificación de contenido falso.
A medida que la inteligencia artificial facilita la creación de deepfakes, la tecnología avanzada permite a cualquier persona con conocimientos de codificación generar contenido falso con poco esfuerzo.
Un ejemplo fue el deepfake del presidente de EE. UU., Joe Biden, instando a los votantes de Nuevo Hampshire a no ejercer su voto en las primarias demócratas. Este incidente evidencia la capacidad de la IA para manipular la percepción pública y afectar la participación electoral.
Además, se ha señalado que la desinformación con IA no se limita al ámbito político, extendiéndose a estafas y fraudes. En el caso de la precandidata a la presidencia de México, Claudia Sheinbaum, se han difundido deepfakes con fines de estafa, promoviendo inversiones falsas en una empresa de petróleo. La diversidad de aplicaciones de la desinformación con IA subraya la necesidad de una respuesta integral.
En respuesta a este escenario, la encuesta de IPSOS muestra que el 89% de los usuarios de internet está de acuerdo en que los gobiernos y reguladores deben exigir medidas de confianza y seguridad a las plataformas durante las campañas electorales.
Existen websites como Maldita.es que permiten a las personas verificar la autenticidad de las publicaciones y detectar la presencia de desinformación. El aumento de la desinformación con inteligencia artificial en el contexto electoral plantea desafíos significativos para la democracia. La combinación de deepfakes y el aumento de la desinformación en las redes sociales requiere una respuesta colectiva, que incluya medidas gubernamentales, acciones de las plataformas tecnológicas y la participación activa de la ciudadanía en la denuncia y verificación de contenido falso. La conciencia pública y el uso de herramientas digitales se presentan como elementos clave para contrarrestar los efectos nefastos de la desinformación impulsada por la inteligencia artificial.