Deepfakes y desinformación en la era de la IA generativa. Discusiones sobre los alcances normativos y las consecuencias socio-políticas.

Resumen

La tecnología deepfake registra una utilización masiva a partir de los desarrollos de la Inteligencia Artificial Generativa, planteando nuevos desafíos en el campo de las políticas públicas y, específicamente, de las regulaciones implicadas en ámbitos como el de la propiedad intelectual. Ello se constata  especialmente en Argentina, donde todavía no se cuenta con actualizaciones adecuadas de marcos normativos o políticas integrales que aborden la temática en un sentido preventivo. En este contexto, el artículo explora cómo la manipulación de contenido audiovisual puede afectar derechos humanos y digitales en el capitalismo de plataformas. Para ello, se propone una revisión general de las conceptualizaciones de fake news, hate speach y deepfake, incluyendo su uso en diferentes contextos como el entretenimiento, la política y la publicidad. Los conceptos se encuadran en la denominada “era de la posverdad”,esto es, el fenómeno de la desinformación potenciado por el desarrollo de tecnologías como el big data, el machine learning y la inteligencia artificial. En torno a la pregunta: ¿qué ocurre con la autoría y la manipulación ocultas en algunos contenidos creados por IA?,  el diseño metodológico de este trabajo aborda un estudio del caso argentino, considerando un análisis de contenido de la comunicación gubernamental del presidente Milei y un análisis documental sobre ejemplos de utilización de IA  en publicidad, producción audiovisual y campañas electorales, problematizando los vacíos jurídicos en la legislación argentina y en comparación con otros países de América Latina, que dificultan la protección ciudadana frente a estas tecnologías, así como la necesidad de adaptar las normativas existentes a la realidad digital actual. Finalmente, se presentan tres propuestas de abordaje: la  alfabetización digital, el fact-checking y las políticas de regulaciones, que impulsen la creación de marcos legales más robustos y la colaboración entre gobiernos, instituciones y sociedad civil.