¿La IA acabará con la humanidad? Expertos cuestionan las alertas “apocalípticas”
Las alertas sobre un supuesto futuro “apocalíptico” provocado por la inteligencia artificial podrían estar relacionadas también con intereses económicos de las grandes compañías del sector, consideraron especialistas durante una mesa de análisis organizada por la Universidad Iberoamericana. Advirtieron que regulaciones excesivamente costosas podrían terminar favoreciendo a las empresas con mayor capacidad financiera y dificultando la entrada de nuevos competidores.
Alexandro López González, coordinador de la Ingeniería en Inteligencia Artificial, señaló que actualmente no existen sistemas capaces de automejorarse por completo de manera independiente. Explicó que los llamados problemas de alineación están relacionados con el funcionamiento probabilístico de estas herramientas y no con una supuesta voluntad propia.
El especialista, sin embargo, consideró necesario establecer límites cuando estos sistemas sean utilizados en áreas sensibles. En particular, planteó evitar su conexión directa con infraestructura crítica, debido a que un error en sus cálculos podría generar consecuencias graves.
Desde el ámbito filosófico, Verónica Díaz de León, académica del Departamento de Filosofía, cuestionó que se utilicen conceptos propios de los seres humanos para describir el funcionamiento de las máquinas. Propuso hablar de “autonomía operativa” para referirse a las acciones que una inteligencia artificial puede ejecutar, en lugar de atribuirle una autonomía comparable con la humana.
La académica también planteó que parte del discurso sobre riesgos extremos podría estar vinculado con las expectativas económicas que rodean al sector y llamó a la academia a participar en el debate con análisis que permitan separar los escenarios reales de las narrativas de ciencia ficción.
Andrés Molano Jiménez, director del Departamento de Estudios en Ingeniería para la Innovación, coincidió en que no existe actualmente una inteligencia artificial con capacidad de autogobierno como la representada en la ciencia ficción. No obstante, reconoció que los sistemas desarrollan cada vez mayores niveles de “autonomía operativa”, una capacidad que distintas empresas tecnológicas ya estudian y evalúan.
Molano Jiménez destacó la importancia de establecer mecanismos de auditoría tanto internos como externos y desarrollar reglas que permitan mantener la innovación sin eliminar la responsabilidad humana. Entre los elementos que consideró indispensables mencionó la trazabilidad de las decisiones y la posibilidad de apelar cuando una herramienta automatizada intervenga en asuntos que afecten a las personas.
Ante la dificultad para conocer con precisión cómo llegan los grandes modelos de inteligencia artificial a determinadas respuestas, el especialista también llamó a fortalecer la colaboración entre empresas y universidades, con el objetivo de ampliar el conocimiento sobre estas tecnologías y evitar que su desarrollo quede concentrado en unas cuantas compañías.
