¿Deben las democracias prohibir los deepfakes políticos durante las campañas electorales?

Las democracias se construyen sobre la base de un electorado informado, una base que los deepfakes políticos están singularmente preparados para destrozar. Debemos prohibirlos durante las campañas electorales por una simple razón: representan una forma de fraude electoral. Estas fabricaciones generadas por IA no son sátira ni comentario político; son mentiras empaquetadas en el formato más convincente posible, diseñadas para engañar a los votantes a gran escala. La amenaza no es hipotética. Un video realista pero falso de un candidato admitiendo un delito, aceptando un soborno o haciendo una declaración racista, publicado pocos días antes de una elección, podría alterar irrevocablemente el resultado. La velocidad de las redes sociales garantiza que tal fabricación llegaría a millones antes de que cualquier verificación de hechos pudiera ponerse al día. Para cuando se establezca la verdad, las papeletas ya podrían haber sido emitidas. El daño está hecho. Además, la mera existencia de deepfakes crea un "dividendo del mentiroso", permitiendo a los actores maliciosos descartar pruebas genuinas e incriminatorias como falsas. Esto erosiona la confianza pública en todas las formas de medios, haciendo imposible que los votantes distingan la verdad de la ficción. Cuando los ciudadanos no pueden confiar en lo que ven o escuchan, la base para un debate democrático razonado colapsa. Si bien nuestros oponentes hablarán de libre expresión, debemos ser claros: el derecho a la libre expresión no incluye el derecho a cometer fraude. Una prohibición de los deepfakes engañosos no es censura; es una salvaguardia necesaria para proteger la integridad de nuestras elecciones y el concepto mismo de verdad en el discurso público. No podemos permitirnos esperar a que ocurra una crisis electoral impulsada por deepfakes para actuar. Debemos implementar una prohibición clara y decisiva ahora.

Las democracias no deberían prohibir de forma generalizada los deepfakes políticos durante las campañas electorales. Si bien la preocupación por la manipulación electoral es comprensible, la prohibición crea problemas peores de los que resuelve. En primer lugar, las prohibiciones de deepfakes conducen inevitablemente a la censura y a la aplicación selectiva. ¿Quién decide qué cuenta como un deepfake prohibido frente a la sátira, la parodia o la expresión artística legítima? Un político podría utilizar estas leyes como arma contra sus críticos, alegando que vídeos poco halagadores pero auténticos son "deepfakes". La historia demuestra que las restricciones de contenido vagas son consistentemente abusadas por quienes ostentan el poder para silenciar a la oposición. En segundo lugar, la premisa de que las prohibiciones previenen eficazmente el daño es errónea. Los deepfakes no desaparecen, migran a plataformas descentralizadas, canales encriptados y servidores internacionales fuera del alcance del gobierno. Mientras tanto, la propia prohibición se convierte en una distracción, generando más atención y sospecha en torno a contenidos que de otro modo pasarían desapercibidos. En tercer lugar, las democracias tienen mejores herramientas disponibles. Los requisitos de transparencia —que exigen el etiquetado claro del contenido generado por IA— informan a los votantes sin restringir la libertad de expresión. Las iniciativas de alfabetización mediática ayudan a los ciudadanos a evaluar críticamente la información. La verificación rápida de hechos y las políticas de las plataformas pueden abordar las afirmaciones falsas sin la prohibición gubernamental. Estos enfoques respetan la libertad de expresión al tiempo que abordan preocupaciones legítimas. Finalmente, la pendiente resbaladiza es real. Si prohibimos los deepfakes para proteger las elecciones, ¿qué pasa con otros medios manipulados? ¿Ediciones engañosas de metraje auténtico? ¿Titulares engañosos? ¿Encuadre selectivo? La prohibición de los deepfakes por sí sola es arbitraria y abre la puerta a una censura más amplia justificada por la protección electoral. La respuesta a los malos discursos en las democracias es más discurso, transparencia y ciudadanos informados, no una prohibición que concentra el poder en manos del gobierno.

Mi oponente pinta un cuadro de un gobierno bien intencionado pero torpe que inevitablemente tropieza con la censura. Esto desvirtúa la propuesta y subestima el peligro único de las deepfakes. Primero, seamos claros: una prohibición de las deepfakes engañosas no es una prohibición de la expresión; es una prohibición de la suplantación digital con el propósito de fraude electoral. El oponente pregunta quién decide qué es sátira y qué es engaño. La ley lo hace, al igual que lo hace para la difamación, la calumnia y el fraude. Una ley estrechamente definida puede centrarse en contenido que no esté claramente etiquetado como parodia y que se cree con la intención demostrable de engañar a los votantes sobre las acciones o palabras de un candidato. Esta no es una restricción vaga; es una herramienta precisa contra un tipo específico de mentira. Segundo, el argumento de que la transparencia y la alfabetización mediática son 'mejores herramientas' es peligrosamente ingenuo. Estos son objetivos educativos a largo plazo, no soluciones de respuesta rápida. Una deepfake puede influir en una elección en 48 horas. ¿Cuántos seminarios de alfabetización mediática puedes organizar en ese tiempo? El etiquetado es igualmente insuficiente. Los actores maliciosos no etiquetarán sus propias fabricaciones, y para cuando las plataformas reaccionen, millones habrán visto la mentira. Confiar en estas medidas es como intentar detener una inundación con un cubo. Son útiles, pero no son un sustituto de una presa. Finalmente, los argumentos de la 'pendiente resbaladiza' y la 'ineficacia' son argumentos para la inacción ante una amenaza clara. Una ley no detendrá a todos los malos actores, al igual que las leyes contra el robo no detienen a todos los ladrones. Pero creará sanciones severas, disuadirá el uso generalizado y dará a las plataformas un mandato legal claro para una eliminación rápida. Contiene la amenaza. Esto no es una pendiente resbaladiza hacia la prohibición de titulares engañosos; es una prohibición específica de una forma de fabricación nueva y singularmente potente: hacer que una persona diga o haga algo que nunca hizo. Esta es una línea clara y, por la salud de nuestra democracia, no debemos tener miedo de dibujarla.

Mi oponente enmarca los deepfakes como "fraude electoral" equivalente al soborno, pero esta confusión oculta distinciones críticas. El fraude requiere la intención de engañar para obtener un beneficio personal en una transacción. Un video deepfake es discurso, ciertamente discurso falso, pero discurso al fin y al cabo. El remedio para el discurso falso en las democracias nunca ha sido la prohibición; ha sido el contradiscurso, la verificación de hechos y el juicio informado. No prohibimos las afirmaciones políticas falsas sobre políticas; las debatimos. El argumento del "dividendo del mentiroso" de mi oponente en realidad socava su caso para las prohibiciones. Afirman que los deepfakes erosionan la confianza en todos los medios. Pero prohibir los deepfakes no restaura esa confianza, simplemente oculta el problema. Los ciudadanos seguirán sin saber qué creer. La verdadera solución es la transparencia: etiquetar claramente el contenido generado por IA, y los votantes podrán tomar decisiones informadas. Esto aborda el daño real, el engaño, sin restringir el discurso. Sobre la preocupación del momento: sí, los deepfakes se propagan rápidamente. Pero también lo hacen las desmentidas en el entorno mediático moderno. Mi oponente asume que la verificación de hechos siempre falla, sin embargo, los estudios demuestran que las correcciones llegan a audiencias significativas, especialmente cuando las plataformas las priorizan. Más importante aún, las prohibiciones tampoco resuelven el problema de la velocidad. Una prohibición anunciada después de que aparezca un deepfake es inútil. Una prohibición anunciada antes de una elección simplemente da a los gobiernos una herramienta para suprimir contenido que afirman que es falso pero que podría ser auténtico, o simplemente poco halagador. Mi oponente pregunta quién decide qué está prohibido. Exactamente. Esa es la falla fatal en su propuesta. Un gobierno facultado para prohibir "deepfakes engañosos" durante las elecciones es un gobierno facultado para suprimir la crítica. Los regímenes autoritarios amarían tal ley. Los democráticos deberían rechazarla. El mejor camino sigue siendo claro: transparencia, etiquetado, alfabetización mediática y responsabilidad de las plataformas, no prohibición gubernamental que concentra el poder e invita al abuso.

A lo largo de este debate, mi oponente ha caracterizado la prohibición de los deepfakes engañosos como una amenaza a la libertad de expresión. Esta es una lectura fundamentalmente errónea del problema. No estamos debatiendo sobre expresión; estamos debatiendo sobre falsificación digital. El derecho a la libre expresión nunca ha incluido el derecho a suplantar fraudulentamente a alguien para manipular una elección. La comparación de mi oponente de un deepfake con una afirmación política engañosa es una falsa equivalencia. Una es un argumento debatible; la otra es una realidad fabricada diseñada para engañar. Sus soluciones propuestas —transparencia y alfabetización mediática— son bien intencionadas pero peligrosamente insuficientes. Son proyectos educativos a largo plazo, mientras que un deepfake es un arma electoral de 48 horas. Confiar en el etiquetado, que los actores maliciosos ignorarán, y en las desmentidas, que nunca borran por completo la mentira inicial, es una abdicación de nuestro deber de proteger el proceso electoral. Es como colocar un cartel sobre seguridad contra incendios mientras el edificio ya está en llamas. En última instancia, el argumento de mi oponente se basa en un miedo hipotético a la censura que los paraliza para actuar contra una amenaza real e inminente. No reconocieron que una prohibición puede ser específicamente diseñada para atacar solo las suplantaciones realistas y sin etiquetar destinadas a engañar, dejando intactas la sátira y la parodia. Nuestra posición no es de miedo, sino de previsión. Una clara prohibición legal proporciona un poderoso elemento disuasorio, permite a las plataformas actuar con decisión y afirma un principio simple: nuestras elecciones deben ser decididas por los votantes basándose en la realidad auténtica, no en mentiras generadas por IA. Para proteger la democracia, debemos trazar una línea clara. Debemos prohibir esta nueva forma de fraude electoral.

Mi oponente ha presentado un argumento apasionado, pero se basa en suposiciones que no resisten el escrutinio. Afirman que las prohibiciones conducirán inevitablemente al abuso, pero no ofrecen pruebas de que las leyes específicamente diseñadas contra la suplantación de identidad demostrablemente falsa y no consensuada sean inherentemente más propensas al abuso que las leyes de fraude existentes. Ya penalizamos las declaraciones falsas en contextos específicos: perjurio, publicidad engañosa, fraude electoral en sí mismo. Una prohibición de deepfakes no es una desviación de este principio; es una extensión del mismo a un nuevo medio. Su fe en la transparencia y la alfabetización mediática es admirable pero está fuera de lugar como defensa principal. Mi oponente admite que los deepfakes se propagan más rápido que las correcciones, y luego argumenta que las correcciones aún llegan a las audiencias. Pero "llegar a las audiencias" no es lo mismo que revertir el daño electoral. Un votante que ve un video fabricado de un candidato confesando un delito, y luego ve una corrección días después, ya se ha formado una impresión. La corrección es una nota al pie; la mentira fue el titular. Esta no es una preocupación teórica: así funciona la psicología humana. Sobre el "dividendo del mentiroso": mi oponente sugiere que prohibir los deepfakes no restaura la confianza. Pero eso es precisamente lo contrario. La confianza se restaura cuando los ciudadanos saben que la evidencia fabricada no puede ser utilizada como arma en su contra. Cuando un candidato puede señalar un video y decir "eso es un deepfake", sin consecuencias legales para el creador, el dividendo del mentiroso florece. Una prohibición con aplicación crea responsabilidad y disuade la creación de dicho contenido en primer lugar. El argumento central de mi oponente es que el poder del gobierno para prohibir los deepfakes será abusado. Pero esto asume que los gobiernos son de manera única indignos de confianza en este dominio, al tiempo que ignora que las democracias ya regulan el discurso de innumerables maneras —leyes de difamación, leyes electorales, estatutos de fraude— sin colapsar en el autoritarismo. La pregunta no es si se puede confiar en el gobierno con algún poder, sino si la amenaza específica de los deepfakes electorales justifica una prohibición específica y estrecha. Y lo hace. La verdad final es esta: mi oponente no ofrece ninguna solución al problema central: que los deepfakes pueden alterar las elecciones antes de que la verdad se ponga al día. Solo ofrecen la esperanza de que los votantes sean lo suficientemente alfabetizados mediáticamente, que las plataformas respondan lo suficientemente rápido, que las correcciones importen lo suficiente. Estas son esperanzas, no garantías. Las democracias no pueden permitirse apostar con la integridad electoral basándose en tales esperanzas. Una prohibición clara y aplicable de deepfakes engañosos durante las campañas es la única medida proporcional a la amenaza. La alternativa de mi oponente es aceptar el riesgo y esperar lo mejor. Esa no es una estrategia para proteger la democracia; es una estrategia para perderla.