En un reciente seminario organizado por la Dirección General de Tecnologías de la Información y Comunicación de la UNAM, expertos en tecnología y ética discutieron los retos que plantea la Inteligencia Artificial (IA). El evento, denominado Seminario TIC, abordó cómo estos sistemas pueden afectar la autonomía humana, incrementar desigualdades y generar impactos éticos y políticos significativos.
Jorge Enrique Linares Salgado, académico de la Facultad de Filosofía y Letras de la UNAM, advirtió que los Sistemas de Inteligencia Artificial (SIA) ya superan la capacidad humana en el procesamiento de datos masivos. "Ninguna persona puede procesar tan rápido la información como las computadoras", señaló Linares, destacando que estos sistemas pueden clasificar y tomar decisiones de manera casi instantánea, lo que puede influir en la vida cotidiana y la estructura social.
El académico explicó que, aunque la IA tiene el potencial de optimizar una amplia variedad de servicios, desde la organización de datos hasta la planificación de políticas públicas, su desarrollo mayoritariamente en el sector privado y dentro de un contexto de mercado capitalista, puede llevar a una falta de evaluación crítica de los riesgos involucrados.
Te podría interesar
Colaboración entre humanos y máquinas: una necesidad imperante
Linares enfatizó que los SIA deben estar supervisados y subordinados a los humanos. "Humanos y máquinas deben colaborar, no competir", afirmó, subrayando que la IA no debe reemplazar la cognición humana. Resaltó que el uso intensivo de estos sistemas en tareas repetitivas o peligrosas podría sustituir a los trabajadores humanos, agravando las desigualdades económicas y sociales.
Además, advirtió sobre los impactos ambientales negativos que pueden derivarse del uso intensivo de recursos como energía y agua por parte de los SIA. También destacó que los algoritmos empleados en estos sistemas podrían influir en decisiones políticas mediante sesgos discriminatorios, afectando derechos fundamentales como la privacidad y la autonomía personal.
Te podría interesar
La preocupación principal es que los SIA no logren ser tan adaptables, sensibles y deliberativos como los humanos, lo que podría llevar a errores graves. "Los errores y daños que ocasionen los SIA podrían ser muy graves y tener consecuencias", señaló, insistiendo en la necesidad de transparencia, responsabilidad y rendición de cuentas de quienes diseñan y operan estos sistemas.
Principios éticos y la importancia de la supervisión humana
Linares concluyó que la IA nunca debe tomar decisiones cruciales que afectan de manera significativa la sociedad o el medio ambiente. Los sistemas de IA deben funcionar como herramientas auxiliares que complementen las capacidades humanas, sin llegar a sustituirlas en tareas cognitivas complejas. Entre los principios éticos que deben regir el desarrollo y uso de la IA, mencionó la protección de la privacidad, responsabilidad, solidaridad, justicia, equidad e inclusión de la diversidad.
Finalmente, Linares recalcó la importancia de que los sistemas de IA realicen funciones que los humanos no pueden, como el análisis de grandes volúmenes de datos, para potenciar las decisiones humanas con cálculos precisos. "No es conveniente que reemplacen a las personas en tareas cognitivas complejas que ellos pueden hacer", concluyó, insistiendo en que la dependencia y subordinación a los SIA deben evitarse para preservar la capacidad de deliberación y decisión humana.