Inquietud y temor respecto de sus consecuencias han generado los denominados “deepfakes”, que son videos, imágenes o audios generados por medio de la Inteligencia Artificial (IA) que imitan la apariencia y la voz de una persona con tal precisión que pueden engañar tanto a humanos como a los propios algoritmos.

Ello es algo que hasta hace un tiempo parecía ciencia ficción, pero que ahora es real y puede ser efectuado con facilidad, dado que, por ejemplo, en la red social “X” está disponible una función que permite crear “deepfakes”.

Motivado por la posibilidad de que a partir de estas “imitaciones” se produzcan fraudes, engaños, timos, robos, noticias falsas y otros perjuicios, es que el senador independiente Karim Bianchi presentó una moción que busca sancionar a quienes en nuestro país generen y difundan imágenes privadas creadas con IA. Tal iniciativa fue derivada a la Comisión de Constitución de la Cámara Alta...

El parlamentario de la Región Magallanes señaló que “los “deepfakes” puede ser utilizados con fines maliciosos... Sólo se necesita un click y mala intención para perjudicar a muchos”.

Julio Rojas, guionista y escritor especializado en IA analizó esta nueva realidad: “Hasta ahora la realidad era lo verdadero... Por primera vez en la historia se rompe el tejido de la realidad.”

“En Chile han surgido casos significativos de uso indebido... También se han detectado fraudes por suplantación de identidad utilizándolos.”

Gonzalo Álvarez Seur, abogado director ejecutivo Tech-Law AI menciona: “Los delitos asociados pueden ser perseguidos... Los delitos asociados no abordan completamente el daño causado por el uso de “deepfakes”.”

YouTube quiere poner fin a las reproducciones no autorizadas mediante herramientas para identificar los "deepfakes". La plataforma colaborará con CAA para desarrollar esta herramienta.