El alcalde de Nueva York utiliza IA para dar comunicados en otras lenguas, generando controversia ética.
El alcalde de la ciudad de Nueva York, Eric Adams, ha generado controversia al revelar que está utilizando inteligencia artificial (IA) para realizar llamadas automatizadas que modifican su voz para que parezca que habla varios idiomas que en realidad no domina. Este uso plantea nuevas preguntas éticas sobre la implementación de tecnologías en constante evolución por parte del gobierno, según informó Fortune.
El alcalde informó a los periodistas sobre estas llamadas automatizadas el pasado lunes y afirmó que se han realizado en idiomas como el mandarín y el yiddish para promocionar eventos de contratación en la ciudad. Estas llamadas no incluyeron ninguna advertencia de que el alcalde solo habla inglés o que las llamadas se generaron mediante IA.
"La gente me detiene en la calle todo el tiempo y me dice: '¡No sabía que hablas mandarín!'", comentó Adams, quien pertenece al partido Demócrata. "Las llamadas automatizadas que estamos utilizando se realizan en diferentes idiomas para comunicarnos directamente con la diversidad de los neoyorquinos".
Estas llamadas llegan en un momento en el que los reguladores luchan por encontrar la mejor manera de navegar éticamente y legalmente por el uso de la inteligencia artificial, donde los videos o el audio generados por IA pueden hacer que parezca que cualquier persona en cualquier lugar está haciendo cualquier cosa que otra persona en la pantalla de una computadora quiera que hagan.
En Nueva York, el grupo de supervisión de tecnología, Surveillance Technology Oversight Project, criticó las llamadas automatizadas de Adams como un uso no ético de la inteligencia artificial que engaña a los residentes de la ciudad.
Vea también: El deepfake crece a un ritmo anual del 900%
"El alcalde está creando deepfakes de sí mismo", señaló Albert Fox Cahn, director ejecutivo de la organización. "Esto es profundamente inmoral, especialmente financiado por el contribuyente. Utilizar la IA para convencer a los neoyorquinos de que habla idiomas que no conoce es francamente orwelliano. Sí, necesitamos anuncios en todos los idiomas nativos de los neoyorquinos, pero los deepfakes son simplemente un proyecto de vanidad inquietante".
El creciente uso de la inteligencia artificial y deepfakes, especialmente en la política y la desinformación electoral, ha generado llamados y acciones para una mayor regulación por parte de gobiernos y grandes compañías de medios.
Google fue la primera gran empresa tecnológica en anunciar que impondría nuevas etiquetas en anuncios políticos engañosos generados por IA que podrían falsificar la voz o las acciones de un candidato con fines de desinformación electoral. Facebook y Meta, la empresa matriz de Instagram, no tienen una regla específica para anuncios políticos generados por IA, pero tienen una política que restringe el uso de audio e imágenes "falsificados, manipulados o transformados" con fines de desinformación.
En el Senado de los Estados Unidos, un proyecto de ley bipartidista buscaría prohibir deepfakes "materialmente engañosos" relacionados con candidatos federales, con excepciones para la parodia y la sátira. Este mes, dos miembros del Congreso enviaron una carta a los líderes de Meta y X, anteriormente conocida como Twitter, para expresar preocupaciones sobre anuncios políticos generados por IA en sus plataformas de redes sociales.
En las últimas semanas, varias empresas tecnológicas han presentado herramientas de IA que pueden doblar sintéticamente el discurso de una persona en otro idioma de manera que parezca que esa persona está hablando en ese idioma.
En septiembre, el servicio de transmisión de música Spotify introdujo una función de IA para traducir un podcast a varios idiomas en la voz del presentador. Más recientemente, la startup ElevenLabs presentó una herramienta de traducción de voz en octubre que, según ellos, "puede convertir el contenido hablado a otro idioma en minutos, conservando la voz del hablante original".
Adams se defendió de las preguntas éticas sobre su uso de la inteligencia artificial, afirmando que su oficina está tratando de llegar a los neoyorquinos en los idiomas que hablan.
Comments