Más de 33.000 usuarios de X siguen a @victorEleDe. En algunos de sus doblajes parodia a los reyes de España y a otras personalidades (periodistas, políticos) han sido la alegría de la huerta tuitera muchas veces. Antes hacía doblajes con la voz robótica de Google, pero ahora ha cambiado: usa clonación de voz para que, en sus vídeos, los parodiados parezcan estar diciendo de verdad lo que él quiere que digan.
Quizá ha perdido algo de frescura, pero sus vídeos siguen siendo graciosos. Sin embargo, cuando cambió a la clonación de voz por IA algo me hizo sentir un poco como aquellos chistes de La Codorniz publicados bajo el título “Tiemble después de haber reído”. ¿Seríamos capaces de distinguir entre un audio real y uno falso de una personalidad, de un actor, una responsable política, una fiscal? ¿De uno de nuestros familiares cercanos? Honestamente, creo que no tenemos ninguno el oído tan fino, y hay estudios que así lo subrayan.
Se ha advertido mucho sobre las imágenes (foto, vídeo) llamadas deepfakes, y existen buenas herramientas para detectar la falsedad, pero creo que el audio tiene casi más peligro y potencial destructivo por su enorme capacidad para evocar imágenes en nuestro cerebro. Si escuchan habitualmente la radio o podcasts saben perfectamente a lo que me refiero.
La clonación de voz ya se está normalizando y no siempre para bien. Mejor dicho: todo lo que se inventa para el bien podrá ser usado para el mal, más pronto que tarde. Su potencial para interferir en los procesos electorales es, en mi opinión, mayor que el de los deepfakes o la desinformación corriente. Aún no tenemos medios eficaces para defendernos de ella ni se ha regulado su uso: puede ser útil para aprender idiomas o para agendar citas médicas, pero supone un riesgo muy elevado para las democracias.
La verdad está en crisis. Los hechos sólo los conocemos por los sentidos, y si se burla el oído y la vista, que son nuestras principales vías de conocimiento de lo existente, estamos más expuestos que nunca a la mentira y la estafa. En su ya célebre “Infocracia”, Byung-Chul Han advierte sobre la crisis de la verdad: vivimos, a su juicio, en un universo digital y por tanto “desfactificado”, del que han desaparecido ya, junto con las verdades fácticas, “el mundo común”.
Necesitamos la verdad. Vuelvo a Infocracia, donde se cita el concepto de verdad de Nietzsche, “una construcción social que sirve para hacer posible la convivencia humana”. Vista la relevancia de la verdad para la convivencia y la necesidad que tenemos de un cierto consenso en torno a los hechos para poder trabajar con opiniones sobre ellos, es difícil no ver la gravedad de lo que estamos viviendo.
Lee la reflexión al completo aquí: https://agenciacomma.com/creacion-de-contenidos/desinformacion/
