¿Por qué es importante hablar de la ética y la privacidad en la inteligencia artificial hoy en día?

Continuamos nuestro recorrido por las autopistas de la Inteligencia Artificial en “Mi talento es negocio 2024”.

Este evento organizado por el Diario Occidente y la Gobernación del Valle, tiene como objetivo ayudar a comprender cómo esta tecnología está transformando los procesos dentro de las compañías, optimizando tiempos y costos operativos.

Este año estamos abordando un tema clave ya que sabemos que hay muchos avances, pero también muchas dudas y temores al respecto.

Hoy nos acompaña Rafael Méndez, decano de la Escuela de ingeniería, ciencia y tecnología de la Universidad del Rosario para hablar de la ética y la privacidad.

¿Cómo está la Universidad del Rosario en cuanto a la implementación de la inteligencia artificial y qué tipo de programas están ofreciendo?

En cuanto a la inteligencia artificial, tenemos un enfoque claro en nuestra escuela de ingeniería, ciencia y tecnología.

Contamos con un pregrado y una maestría en matemáticas aplicadas y ciencias de la computación, en los que la inteligencia artificial ocupa un lugar fundamental.

Estamos formando talento humano que responda a las nuevas necesidades del sector productivo y que se alinee con las tecnologías emergentes.

Además, lo interesante es que la inteligencia artificial ya no solo está en programas específicos, sino que está permeando otras disciplinas.

Por ejemplo, estudiantes de sistemas energéticos están utilizando la inteligencia artificial para optimizar procesos en sistemas energéticos mediante el uso de aprendizaje automático.

Sin duda, la tecnología tiene el poder de hacer nuestras vidas mucho más fáciles. Pero, ¿cómo lograr que las personas no tengan miedo a la inteligencia artificial?

La idea de la tecnología es precisamente hacer la vida más fácil y eficiente y es cierto que muchas veces hay miedo porque se desconoce cómo funciona.

Yo uso un ejemplo simple: uno teme meter la mano en una caja de la que no sabe nada.

El miedo proviene de la desinformación, de no saber qué esperar, por eso, lo fundamental es tener espacios como este, donde podemos hablar de estos temas de forma clara y accesible.

La alfabetización digital y el diálogo cercano son fundamentales para disipar esos miedos.

¿Cuáles son los principios éticos fundamentales que deberían guiar el desarrollo y la implementación de la inteligencia artificial en las empresas?

La ética es fundamental en este campo, ya que nos permite garantizar el buen uso de la inteligencia artificial.

Para eso creo que hay cinco principios éticos clave que debemos considerar al desarrollar e implementar cualquier sistema de inteligencia artificial:

Justicia y equidad: la inteligencia artificial debe ser diseñada para tratar a todos los usuarios de manera justa, sin discriminación por género, raza, religión o cualquier otra característica.

Este principio es esencial para evitar sesgos y discriminación en el uso de estas tecnologías.

Transparencia: es vital que todos los usuarios comprendan cómo y por qué una inteligencia artificial toma decisiones.

La transparencia genera confianza y permite que las personas se sientan más seguras al interactuar con estos sistemas.

Privacidad: la protección de los datos personales es crítica. Los sistemas de inteligencia artificial deben manejar la información de manera segura y respetuosa, asegurando que la privacidad de los usuarios esté siempre protegida.

Responsabilidad: los desarrolladores y operadores de sistemas de inteligencia artificial deben hacerse responsables de las decisiones que toman los sistemas.

Es necesario que haya rendición de cuentas cuando un sistema de inteligencia artificial toma decisiones que afectan a las personas.

Beneficio para el ser humano: la inteligencia artificial debe estar diseñada para mejorar el bienestar humano y no causar daño.

Siempre debe usarse con el fin de beneficiar a la sociedad y no para perjudicar a las personas.

¿Consideras que ya existe una conciencia global sobre la ética en la inteligencia artificial o será algo que se desarrollará con el tiempo, conforme vaya siendo más utilizado?

Yo creo que la conciencia ética en el uso de la inteligencia artificial está surgiendo de manera natural con el uso de la tecnología.

Es decir, conforme más personas utilizan la inteligencia artificial, más evidente se vuelve la necesidad de establecer principios éticos claros.

Creo que el orden natural debería ser la regulación. Un buen ejemplo sería cuando compramos un juego de mesa; antes de jugar, leemos las instrucciones para asegurarnos de que se juega correctamente.

Lo mismo debería pasar con la inteligencia artificial, el uso masivo de la inteligencia artificial ha provocado que se cree una necesidad urgente de regularla de forma ética.

Algunos países y organizaciones están a la vanguardia en este aspecto, y aunque Colombia aún está desarrollando un marco regulatorio claro desde el gobierno, tanto las organizaciones como las universidades y las empresas están trabajando para garantizar un uso responsable de esta tecnología.

No tenemos que esperar una regulación nacional para empezar a aplicar buenas prácticas dentro de nuestras organizaciones.

Ahora, con la implementación de la inteligencia artificial en las empresas, uno de los mayores retos es cómo garantizar que los algoritmos respeten la privacidad de los datos personales de los usuarios.

¿Qué pueden hacer las empresas para asegurarse de que esto ocurra?

Ese es un reto enorme. Hay diversas metodologías y procedimientos que las empresas pueden implementar para garantizar que se respete la privacidad de los datos.

Es crucial aplicar principios como la minimización de datos, es decir, recolectar solo la información que realmente se necesita para la operación.

Además, las empresas deben asegurarse de que sus sistemas de inteligencia artificial sean auditables y transparentes, lo que significa que puedan ser revisados y evaluados para detectar posibles riesgos en cuanto a la privacidad.

Existen también técnicas como el encriptado de datos y el anonymization (anonimización), que protegen la identidad de los usuarios.

Las empresas deben implementar medidas tecnológicas y procedimientos legales que aseguren que el uso de la inteligencia artificial no ponga en peligro la privacidad de las personas.

La inteligencia artificial está transformando nuestra sociedad, pero su uso debe ser regulado y gestionado con responsabilidad.

La ética y la privacidad son fundamentales en este proceso, y tanto las universidades, como las empresas y los gobiernos, deben colaborar para garantizar un desarrollo justo y responsable de estas tecnologías.

Comments