IA: ¿Hasta dónde llegan los límites éticos?

El avance de la inteligencia artificial trae preocupaciones éticas fundamentales, como los sesgos en los modelos y la protección de datos sensibles. Expertos del sector analizan los desafíos más relevantes en este aspecto, abogando por una regulación adecuada, la necesidad de supervisión humana y la importancia de garantizar que esta tecnología beneficie a todos sin comprometer derechos.

La inteligencia artificial (IA) avanza a un ritmo vertiginoso, transformando industrias y la vida cotidiana. Sin embargo, su implementación no está exenta de preocupaciones éticas que requieren atención inmediata. La falta de regulación clara y los riesgos inherentes a los algoritmos han generado un debate global sobre cómo garantizar que la IA beneficie a la sociedad sin comprometer derechos fundamentales.

Uno de los principales desafíos éticos es la presencia de sesgos en los modelos de IA. Jimy Andrés Ortiz, DS Sales Consultant AI para GBM, destaca que “los modelos de IA pueden adoptar prejuicios de los datos con los que fueron capacitados, lo que puede conducir a decisiones discriminatorias en sectores como la contratación, el crédito y la seguridad pública”. La falta de diversidad en los datos de entrenamiento puede provocar resultados que afecten negativamente a determinados grupos poblacionales, reforzando desigualdades existentes.

Álvaro Andrade, director - vendor management de TD Synnex para Latinoamérica, también enfatiza este punto al señalar que “el sesgo en los algoritmos es una de las preocupaciones más destacadas, ya que afecta la confianza en los resultados producidos por los modelos de IA. [...] La equidad en el acceso a los beneficios de la IA sigue siendo limitada por factores económicos y de mercado”.

Por su parte, Gloria Cabero, directora de Marketing de SAS México, Caribe y Centroamérica, alerta sobre cómo “el sesgo en los algoritmos [...] puede perpetuar o amplificar desigualdades existentes”, mientras que Glenda Kok, Chief of Technology & Commerce de VML para Latinoamérica, resalta que “a menudo, el volumen de datos disponible no refleja la diversidad de la región, lo que puede generar sesgos en los algoritmos y afectar la equidad en el acceso a los beneficios de la IA”.

Por otra parte, la automatización impulsada por la IA plantea interrogantes sobre su impacto en el empleo. Ortiz advierte que “la automatización [...] puede sustituir labores convencionales, impactando a sectores que se apoyan en tareas repetitivas”. No obstante, también reconoce que esta transformación abre nuevas oportunidades laborales en el desarrollo y administración de modelos de IA, lo que exige una adaptación de la fuerza laboral.

En sectores críticos, como la salud y las finanzas, las decisiones tomadas por modelos de IA pueden tener consecuencias significativas. Ortiz enfatiza que “las compañías deben garantizar que exista supervisión humana en la toma de decisiones cruciales impulsadas por IA”, asegurando mecanismos de transparencia y facilidad de interpretación.

Lea la nota completa en la edición 165 de revista IT NOW