Yoshua Bengio, pionero de la inteligencia artificial, se une a otros referentes y ejecutivos de la industria en una carta abierta que llama a una mayor regulación en torno a la creación de deepfakes, citando riesgos potenciales para la sociedad.
Expertos en IA y líderes de la industria instan a una mayor regulación de los deepfakes
Un grupo de expertos en inteligencia artificial y ejecutivos de la industria, incluido uno de los pioneros de la tecnología, Yoshua Bengio, han firmado una carta abierta que solicita una mayor regulación en torno a la creación de deepfakes, citando posibles riesgos para la sociedad.
"Hoy en día, los deepfakes a menudo involucran imágenes sexuales, fraudes o desinformación política. Dado que la IA está progresando rápidamente y facilitando mucho la creación de deepfakes, se necesitan medidas de protección", dijo el grupo en la carta, que fue elaborada por Andrew Critch, un investigador de IA en UC Berkeley.
Los deepfakes son imágenes, audios y videos realistas pero fabricados creados por algoritmos de IA, y los avances recientes en la tecnología los han hecho cada vez más indistinguibles del contenido creado por humanos.
Deepfake de actor Bill Hader aplicándole los rostros de Al Pacino y Arnold Schwarzenegger.
La carta, titulada "Disrupting the Deepfake Supply Chain," ofrece recomendaciones sobre cómo regular los deepfakes, incluida la plena criminalización de la pornografía infantil, sanciones penales para cualquier individuo que cree o facilite conscientemente la propagación de falsficaciones dañinas y la obligación de las empresas de IA de evitar que sus productos creen deepfakes perjudiciales.
Más de 400 personas de diversas industrias, incluidas la academia, el entretenimiento y la política, habían firmado la carta. Entre los firmantes se encontraban Steven Pinker, profesor de psicología de Harvard, Joy Buolamwini, fundadora de la Liga de Justicia Algorítmica, dos expresidentes de Estonia, investigadores de Google, DeepMind y OpenAI.
Ha habido múltiples advertencias de personas prominentes sobre los riesgos de la IA, especialmente una carta firmada por Elon Musk el año pasado que pedía una pausa de seis meses en el desarrollo de sistemas más potentes que el modelo de IA GPT-4 de OpenAI.
Comments