Mientras la Inteligencia Artificial crece un 54% en plataformas digitales, el senador salteño impulsa una ley para frenar “la revolución de los ultrafalsos”. El recuerdo del Papa, usado como telón de fondo.
Juan Carlos Romero volvió a la carga, esta vez contra un enemigo intangible: la Inteligencia Artificial. Alarmado por el aumento de contenidos falsos que circulan en redes, el senador nacional por Salta presentó un proyecto de ley para regular el uso de IA en la creación y distribución de información. Su argumento: proteger a los más vulnerables y llenar el vacío legal que hoy deja expuestos a millones. Detrás del gesto, también late la pregunta incómoda: ¿regular o controlar?
Solo en los primeros nueve meses de 2023 se subieron 113.000 videos manipulados con IA, un 54% más que en todo el año anterior. El dato, citado por el propio Romero, muestra que la marea digital no para de crecer. Frente a ese tsunami, su proyecto apunta a tipificar delitos específicos en el Código Penal, en nombre de la protección física, psíquica y moral de las personas, especialmente menores.
La chispa que encendió la alarma fue una imagen falsa del Papa Francisco, viralizada tras su fallecimiento, en la que se lo veía portando un manto blanco alterado por IA. A partir de ahí, dice Romero, “las imágenes realizadas con Inteligencia Artificial inundaron las redes”. El caso, por su carga emocional y simbólica, le dio el pretexto perfecto para empujar la discusión sobre los riesgos de las nuevas tecnologías.
Romero, que lleva décadas de oficio político, no dejó pasar la oportunidad de atar la preocupación tecnológica a un sentimiento colectivo. “La alegría de aquel inolvidable día de su designación, contrasta con la enorme tristeza de este día en el que se nos va al cielo un Papa humilde y sencillo”, escribió, mezclando la memoria personal con la advertencia legislativa.
Detrás del proyecto late una paradoja inevitable: en nombre de la verdad, se habilita el control. El senador acusa a la Deepfake —la ultrafalsificación— de “revolucionar la creación y distribución de contenidos falsos a una velocidad exponencial”, pero no aclara quién y cómo se distinguirá lo verdadero de lo falso en una cancha cada vez más resbaladiza. ¿Quién tendrá la última palabra: la Justicia, los gobiernos, los algoritmos?
El miedo a las noticias falsas es real, pero el remedio propuesto abre otras heridas: una ley que busca proteger puede terminar censurando. Mientras Romero invoca la memoria del Papa para justificar su cruzada, queda flotando una duda inquietante: ¿quién regulará a los reguladores cuando la verdad también se manipule?
