Digital Talks by t2ó analiza los desafíos éticos de la IA

La ética y la moral, aunque relacionadas, difieren en su aplicación y significado. La ética en la Inteligencia Artificial (IA) se centra en establecer principios para evaluar decisiones y acciones, lo que es crucial para el impacto futuro de la IA en las empresas. La IA, por su naturaleza, es éticamente neutra, actuando según los patrones y pautas con los que se programa. Por tanto, es vital que los profesionales del sector educativo, donde la IA tiene un papel significativo, comprendan y apliquen estos principios éticos.

En un nuevo episodio del podcast Digital Talks by t2ó se discute la importancia de la ética en la IA y la responsabilidad de quienes la desarrollan y gestionan. Mónica Villas, con una destacada trayectoria en IBM y actualmente influencer en el campo de la IA y tecnologías disruptivas, ha acudido como invitada para aportar su visión experta. Su experiencia como emprendedora y educadora, junto con su co-dirección en Odiseia y la publicación de un manual sobre ética en IA, subraya la relevancia de una base ética sólida en la evolución tecnológica.

Mónica explica que la ética se enfoca en el análisis del bien y el mal en el comportamiento humano, diferenciándose de la moral, que es más normativa y dependiente de las costumbres y creencias. La ética busca establecer principios para evaluar acciones y decisiones, más allá de mandatos o prohibiciones. Su objetivo es enseñar a juzgar, no emitir juicios, y se centra en dos cuestiones fundamentales: qué acciones debemos realizar y qué valores son importantes en la vida, promoviendo así el razonamiento ético y un marco de valores. Esto es especialmente relevante en el contexto de la Inteligencia Artificial, donde las decisiones pueden tener un impacto significativo.

«Al final todo lo que se puede hacer en tecnología no se debe hacer. La IA es diferente a otras tecnologías porque toma decisiones por nosotros y lo vemos en nuestro día a día. Lo vemos en las recomendaciones de Netflix, en las recomendaciones de compras cuando entramos para utilizar una ruta. Son decisiones que no van mucho más allá. Cuando las decisiones son acerca de si tenemos que ir a la cárcel o de si en un momento determinado, en una serie de entrevistas, nos seleccionan frente a otros, ahí es donde empieza a ser importante el tema de la ética».

Los principales desafíos que enfrentamos

Mónica Villas identifica tres desafíos éticos principales en el uso y desarrollo de la Inteligencia Artificial (IA). El primero es la desinformación, incluyendo las fake news, que se refiere al uso de IA para crear imágenes o contenido falso.

El segundo desafío son los sesgos en la IA, que pueden surgir en cualquier etapa del proceso, desde la recopilación de datos hasta la definición y despliegue de algoritmos. Por ejemplo, al crear un algoritmo para seleccionar al mejor vendedor, es crucial definir correctamente las características deseables y asegurarse de que los datos no estén sesgados por factores como el código postal, género o edad.

El tercer desafío es la explicabilidad de los algoritmos, especialmente aquellos basados en redes neuronales como GPT, que a menudo son cajas negras con procesos internos opacos. En contraste, los algoritmos de caja blanca, aunque más simples y menos precisos, ofrecen una mayor transparencia en las decisiones que toman.

En cuanto a la aplicación de estos principios éticos por parte de las empresas que usan IA, la experta sugiere que las organizaciones deben primero reconocer la necesidad de un marco ético que incluya valores como la transparencia, explicabilidad, privacidad y equidad. Para implementar estos principios en la práctica diaria, recomienda conocer en detalle los casos de uso de IA en la empresa, realizar autoevaluaciones mediante formularios o listas de verificación, y entender la procedencia y entrenamiento de los datos utilizados.

¡Suscríbete a nuestra newsletter! Sigue a MarketingDirecto.com en WhatsApp