La inteligencia artificial (IA) está transformando nuestra vida cotidiana de maneras inimaginables. Sin embargo, también ha generado preocupaciones sobre la presencia de sesgos en sus algoritmos y resultados. En este artículo, analizaremos en profundidad la cuestión de los sesgos en la inteligencia artificial, sus implicaciones y posibles soluciones. Nos hemos inspirado en la historia de Jean Daniell, la bibliotecaria de Escuelas Públicas oriunda del Estado de Texas, quien asegura que mientras muchos ven las ventajas en el Chat GPT, ella ve que su funcionalidad de Pre operacionalización o capacidad de respuesta tiene sesgos racistas. Esta lección fue reseñada por #PBSNewshourClassroom – Búsqueda de Twitter / Twitter.

En otra experiencia una docente que fue entrevistada por nuestro equipo nos suministró el siguiente relato: «en mi universidad no existe interacción cara a cara con los estudiantes, la modalidad es totalmente virtual, bajo un enfoque industrial de la Educación a Distancia…los estudiantes pueden durar hasta dos años con un mismo recurso para analizar y entregar un ensayo, en los últimos meses he notado similitudes muy marcadas en los ensayos entregados por los estudiantes».

Así que me atreví, continúa narrando la docente… y «coloqué el nombre del recurso en el ChatGPT y ordené con un buen promtp la tarea con pensamiento crítico y reflexiones tal cual era la consigna de mi clase virtual y ¿qué sucedió? la realizó perfecta, pero cuando le pedí que hiciera una comparación con un recurso similar más reciente ( 2022), el chatGPT escribió. Lo siento la información precargada está actualizado solo hasta el 2021 (obviamos el nombre tanto de la Universidad como del docente para evitar conflictos éticos y revelar datos que puedan afectar su desempeño en la Institución), esto nos demuestra otro sesgo de la IA y sus incompetencias para desarrollar con criticidad algunas acciones.

Por tal motivo, hicimos una indagación y les presentamos elementos para el debate que pueden resultar de interés para ustedes.

Esta es la segunda entrega luego de nuestros post anteriores Revisión de literatura: fase fundamental en la investigación científica – empowerTIC y 11 ventajas de la inteligencia artificial en la revisión de literatura científica – empowerTIC, en los cuales exploramos las ventajas y algunas estrategias que debemos usar los investigadores para solventar algunos vacíos que puedan existir en la IA que solo podrán identificarlos los investigadores en procesos de formación vivenciales, producto del pensamiento crítico y no consumir sin criterio.

¿Qué son los sesgos en la inteligencia artificial?

Los sesgos en la inteligencia artificial son distorsiones sistemáticas en los resultados de los algoritmos de IA. Estos sesgos pueden surgir de diversas fuentes, como la falta de diversidad en los datos de entrenamiento o prejuicios inconscientes por parte de los desarrolladores que diseñan los algoritmos.

Sesgos en los datos de entrenamiento

Una fuente común de sesgos en la IA es la falta de diversidad en los datos de entrenamiento. Cuando los algoritmos de IA se entrenan en conjuntos de datos que no representan adecuadamente a toda la población, pueden producir resultados sesgados. Por ejemplo, si un algoritmo de reconocimiento facial se entrena principalmente con imágenes de personas de piel clara, es probable que tenga dificultades para reconocer rostros de personas con tonos de piel más oscuros, lo que podría conducir a resultados discriminatorios.

Prejuicios inconscientes de los desarrolladores

Otra fuente de sesgo en la inteligencia artificial proviene de los prejuicios inconscientes de los desarrolladores que diseñan los algoritmos. Estos prejuicios pueden introducirse involuntariamente en el diseño del algoritmo y perpetuar la discriminación y la desigualdad en los resultados de la IA.

Ejemplos de sesgos en la inteligencia artificial

A continuación, se presentan algunos ejemplos notables de sesgos en la inteligencia artificial que han generado preocupación pública y debate.

Reconocimiento facial

Los algoritmos de reconocimiento facial han sido objeto de críticas por su tendencia a cometer errores al identificar a personas de color. Estudios han demostrado que estos sistemas son menos precisos en la identificación de rostros femeninos y de personas con tonos de piel más oscuros. Esto ha llevado a preocupaciones sobre la discriminación racial y de género en el uso de la tecnología de reconocimiento facial, especialmente en el ámbito de la vigilancia y el cumplimiento de la ley.

Chatbots y asistentes de voz

Los chatbots y asistentes de voz, como Siri y Google Assistant, también han sido objeto de críticas por su sesgo de género y racial. Por ejemplo, se ha señalado que estos asistentes a menudo tienen voces femeninas por defecto, lo que refuerza estereotipos de género y sugiere que las mujeres son subordinadas a los hombres. Además, estos sistemas también han sido criticados por no comprender adecuadamente los acentos y dialectos de hablantes no nativos de inglés, lo que podría conducir a una experiencia de usuario desigual.

Selección de empleados y promociones

Algunas empresas utilizan algoritmos de IA para ayudar en el proceso de selección de empleados y promociones. Sin embargo, estos algoritmos pueden estar sesgados si se entrenan en datos históricos que reflejan desigualdades de género o raciales en la contratación y promoción. Esto podría perpetuar la discriminación en el lugar de trabajo y limitar las oportunidades para grupos subrepresentados.

Consecuencias de los sesgos en la inteligencia artificial

Los sesgos en la inteligencia artificial pueden tener graves consecuencias para la sociedad y los individuos afectados. Algunas de las implicaciones de los sesgos en la IA incluyen:

Discriminación y desigualdad

Los sesgos en la IA pueden perpetuar la discriminación y la desigualdad al excluir o tratar injustamente a ciertos grupos de personas en función de su género, raza, orientación sexual u otras características protegidas. Esto puede tener un impacto negativo en las oportunidades y la calidad de vida de las personas afectadas.

Pérdida de confianza en la tecnología

La presencia de sesgos en la inteligencia artificial puede socavar la confianza del público en la tecnología y llevar a un rechazo o resistencia a su adopción. Esto podría limitar el potencial de la IA para mejorar nuestras vidas y resolver problemas complejos.

Responsabilidad y transparencia

Los sesgos en la IA plantean preguntas difíciles sobre la responsabilidad y la transparencia en el desarrollo y uso de algoritmos. ¿Quién es responsable de los resultados sesgados de un algoritmo: el desarrollador, la empresa que lo utiliza o el propio algoritmo? Estas preguntas son cruciales para abordar el problema de los sesgos en la inteligencia artificial.

Soluciones para abordar los sesgos en la inteligencia artificial

Para abordar el problema de los sesgos en la inteligencia artificial, es necesario implementar una serie de estrategias y enfoques. Algunas posibles soluciones incluyen:

Diversidad en los datos de entrenamiento

Asegurar que los datos de entrenamiento sean diversos y representativos de toda la población puede ayudar a reducir los sesgos en los algoritmos de IA. Esto incluye recolectar datos de diferentes grupos demográficos y garantizar que los datos no perpetúen estereotipos o prejuicios existentes.

Diversidad en el desarrollo de IA

Fomentar la diversidad en el campo del desarrollo de IA puede ayudar a garantizar que los algoritmos sean diseñados con una comprensión más amplia y equitativa de las necesidades y preocupaciones de diferentes grupos de personas. Esto incluye alentar a personas de diferentes géneros, razas y antecedentes culturales a ingresar al campo de la IA y garantizar que sus perspectivas sean tenidas en cuenta en el diseño de algoritmos.

Auditorías y pruebas de sesgo

Realizar auditorías y pruebas de sesgo en los algoritmos de IA puede ayudar a identificar y corregir problemas de sesgo antes de que se implementen en aplicaciones del mundo real. Esto incluye evaluar la precisión y equidad de los algoritmos en diferentes grupos demográficos y ajustar los algoritmos según sea necesario para garantizar resultados equitativos.

Marco regulatorio y ético

Establecer un marco regulatorio y ético para la IA puede ayudar a garantizar que los algoritmos sean desarrollados y utilizados de manera responsable y justa. Esto incluye establecer pautas y estándares para la transparencia, la equidad y la responsabilidad en el desarrollo y uso de la IA, así como implementar mecanismos para hacer cumplir estos estándares.

Definitivamente, los sesgos en la inteligencia artificial son un problema complejo y multifacético que requiere una atención cuidadosa y soluciones innovadoras. Al abordar las fuentes de sesgo en los datos de entrenamiento, el desarrollo de algoritmos y la implementación de la IA, así como establecer marcos regulatorios y éticos sólidos, podemos trabajar para garantizar que la inteligencia artificial se utilice de manera justa y equitativa para el beneficio de todos.

y tú? ¿Qué otro sesgo has encontrado en las herramientas de inteligencia artificial? ¿Qué te pareció nuestro artículo? ¡Comparte tu opinión y difunde con otros interesados en este apasionante tema sean estudiantes, docentes, investigadores!