• Dom. May 19th, 2024

Porvenir Digital

El mundo en tu mano

Diputada somete proyecto de ley para regular contenido generado por inteligencia artificial

PorPorvenir Prensa

Sep 28, 2023
Compartir esta noticia

La diputada por la provincia María Trinidad Sánchez, Priscila D´Oleo, sometió al Congreso un importante proyecto de ley destinado a regular la creación y manipulación de contenido digital generado por inteligencia artificial que busca salvaguardar la integridad y los derechos de las personas afectadas por la manipulación engañosa de videos, audios e imágenes generados por esta tecnología de vanguardia.

D´Oleo expresó que sin una regulación adecuada, cualquier audio, imagen o video podría ser manipulado para engañar o difamar, dejándonos cuestionando constantemente qué es real y qué no por lo que se hace necesario salvaguardar los derechos de las personas y establecer responsabilidades claras para los proveedores de servicios en este ámbito y. sanciones para aquellos que utilicen maliciosamente la inteligencia artificial

Asimismo, dijo que el proyecto de ley responde a promover activamente la investigación y educación sobre este tema, garantizando que la sociedad esté preparada para detectar y contrarrestar contenido digital manipulado.

Dentro del objeto de la ley se encuentra la definición del contenido digital generado por inteligencia artificial que responde a lo creado o manipulado de manera realista utilizando técnicas de IA, con el propósito de engañar, difamar, dañar la reputación, privacidad o seguridad de terceros.

Deepfakes. Fuente externa.
Deepfakes. Fuente externa.

Deepfakes, una creación de inteligencia artificial

Uno de los desarrollos más intrigantes y controvertidos en la era digital es el surgimiento de los «deepfakes». Estas creaciones de inteligencia artificial han ganado notoriedad en los últimos años debido a su capacidad para generar contenido multimedia falso y realista.

Los deepfakes utilizan algoritmos de aprendizaje profundo para crear contenido multimedia engañoso. Pueden generar videos, audios e imágenes falsos que son extremadamente difíciles de distinguir de los originales. Estos algoritmos analizan y sintetizan datos de origen para superponerlos en un contenido de destino. El resultado es a menudo sorprendentemente realista, lo que ha llevado a su uso en aplicaciones tanto benignas como preocupantes.

inteligencia artificial

Obligaciones para los proveedores de servicios y sanciones

Según el proyecto de ley, dentro de las obligaciones para los proveedores de servicios que faciliten la creación o manipulación de contenido digital generado por inteligencia artificial se encuentra la obligación a implementar medidas de seguridad y de identificación para prevenir su mal uso. También deberán promover la educación y concienciación sobre los riesgos asociados a esta tecnología y colaborar con las autoridades en la investigación y persecución de delitos relacionados con su uso.

De igual forma, el incumplimiento de la ley, según detalla el proyecto, será sancionado con multas y/o penas privativas de libertad, de acuerdo a la gravedad de la infracción y el perjuicio causado. Estas sanciones serán aplicables tanto a los creadores y manipuladores de contenido digital generado por inteligencia artificial malicioso como a los proveedores de servicios que no cumplan con sus obligaciones.

CREDITO A HOY