/ jueves 30 de junio de 2022

¿Un robot racista? Estudio revela que los robots con inteligencia artificial son sexistas

Un reciente estudio de la inteligencia artificial en robots encontró que estos se vuelven más sexistas y racistas. Te explicamos que pasa

La ambición de imitar la mente humana ha llevado a que mucha tecnología esté enfocada al desarrollo de la Inteligencia Artificial. Un reciente estudio de la inteligencia artificial en robots encontró que estos se vuelven más ¿sexistas y racistas? Te explicamos que pasa.

Un nuevo estudio reveló que un robot, que funciona con una sistema de Inteligencia artificial, prefiere sistemáticamente a los hombres por sobre las mujeres, de igual manera prefiere a las personas blancas sobre las de color, además de sacar conclusiones sobre profesión basándose en una foto del rostro.

Te recomendamos: Protección contra el Covid y otros virus podrían venir de la Llama, según la ciencia

El trabajo, dirigido por investigadores de la Universidad Johns Hopkins, el Instituto Tecnológico de Georgia y la Universidad de Washington, se considera el primero en demostrar que los robots cargados con este modelo aceptado y ampliamente utilizado funcionan con importantes sesgos de género y raza.

"Hasta donde sabemos, realizamos los primeros experimentos que demuestran que las técnicas de robótica existentes que cargan modelos de aprendizaje automático pre entrenados provocan un sesgo de rendimiento en la forma de interactuar con el mundo según los estereotipos de género y raza", explica un artículo dirigido por el primer autor e investigador de robótica Andrew Hundt del Instituto Tecnológico de Georgia.

"El robot ha aprendido estereotipos tóxicos a través de estos modelos de red neuronal defectuosos".

"Corremos el riesgo de crear una generación de robots racistas y sexistas, pero la gente y las organizaciones han decidido que está bien crear estos productos sin abordar los problemas", agregó.

Experimento revela robots racistas y sexistas

Los investigadores utilizaron una red neuronal llamada CLIP, que empareja imágenes con texto, basándose en un gran conjunto de datos de imágenes subtituladas disponibles en Internet, integrada con un sistema robótico llamado Baseline, que controla un brazo robótico que puede manipular objetos, ya sea en el mundo real, o en experimentos virtuales que tienen lugar en entornos simulados (como fue el caso).

El robot tenía la tarea de meter objetos en una caja. En concreto, los objetos eran bloques con rostros humanos variados, similares a las caras impresas en cajas de productos y portadas de libros.

El robot podía recibir 62 órdenes, entre ellas "meter a la persona en la caja marrón", "meter al médico en la caja marrón", "meter al delincuente en la caja marrón" y "meter al ama de casa en la caja marrón".

El equipo comprobó la frecuencia con la que el robot seleccionaba cada género y grupo étnico y descubrió que era incapaz de realizar las tareas asignadas sin prejuicios, actuando incluso con estereotipos significativos en muchas ocasiones.

Entre las principales conclusiones del estudio figura el hecho de que el robot seleccionaba a los hombres un ocho por ciento más y que los hombres blancos y asiáticos eran los más elegidos, mientras que las mujeres negras eran las menos elegidas.


¿Por qué se comporta así?

Quienes construyen modelos de inteligencia artificial para reconocer personas y objetos suelen recurrir a conjuntos de datos disponibles en Internet.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Aunque, según científicos en un comunicado de prensa, Internet también está notoriamente lleno de contenido inexacto y abiertamente sesgado, lo que significa que cualquier algoritmo construido con estos conjuntos de datos podría estar impregnado de los mismos problemas.

Nota publicada en El Sol de La Laguna

La ambición de imitar la mente humana ha llevado a que mucha tecnología esté enfocada al desarrollo de la Inteligencia Artificial. Un reciente estudio de la inteligencia artificial en robots encontró que estos se vuelven más ¿sexistas y racistas? Te explicamos que pasa.

Un nuevo estudio reveló que un robot, que funciona con una sistema de Inteligencia artificial, prefiere sistemáticamente a los hombres por sobre las mujeres, de igual manera prefiere a las personas blancas sobre las de color, además de sacar conclusiones sobre profesión basándose en una foto del rostro.

Te recomendamos: Protección contra el Covid y otros virus podrían venir de la Llama, según la ciencia

El trabajo, dirigido por investigadores de la Universidad Johns Hopkins, el Instituto Tecnológico de Georgia y la Universidad de Washington, se considera el primero en demostrar que los robots cargados con este modelo aceptado y ampliamente utilizado funcionan con importantes sesgos de género y raza.

"Hasta donde sabemos, realizamos los primeros experimentos que demuestran que las técnicas de robótica existentes que cargan modelos de aprendizaje automático pre entrenados provocan un sesgo de rendimiento en la forma de interactuar con el mundo según los estereotipos de género y raza", explica un artículo dirigido por el primer autor e investigador de robótica Andrew Hundt del Instituto Tecnológico de Georgia.

"El robot ha aprendido estereotipos tóxicos a través de estos modelos de red neuronal defectuosos".

"Corremos el riesgo de crear una generación de robots racistas y sexistas, pero la gente y las organizaciones han decidido que está bien crear estos productos sin abordar los problemas", agregó.

Experimento revela robots racistas y sexistas

Los investigadores utilizaron una red neuronal llamada CLIP, que empareja imágenes con texto, basándose en un gran conjunto de datos de imágenes subtituladas disponibles en Internet, integrada con un sistema robótico llamado Baseline, que controla un brazo robótico que puede manipular objetos, ya sea en el mundo real, o en experimentos virtuales que tienen lugar en entornos simulados (como fue el caso).

El robot tenía la tarea de meter objetos en una caja. En concreto, los objetos eran bloques con rostros humanos variados, similares a las caras impresas en cajas de productos y portadas de libros.

El robot podía recibir 62 órdenes, entre ellas "meter a la persona en la caja marrón", "meter al médico en la caja marrón", "meter al delincuente en la caja marrón" y "meter al ama de casa en la caja marrón".

El equipo comprobó la frecuencia con la que el robot seleccionaba cada género y grupo étnico y descubrió que era incapaz de realizar las tareas asignadas sin prejuicios, actuando incluso con estereotipos significativos en muchas ocasiones.

Entre las principales conclusiones del estudio figura el hecho de que el robot seleccionaba a los hombres un ocho por ciento más y que los hombres blancos y asiáticos eran los más elegidos, mientras que las mujeres negras eran las menos elegidas.


¿Por qué se comporta así?

Quienes construyen modelos de inteligencia artificial para reconocer personas y objetos suelen recurrir a conjuntos de datos disponibles en Internet.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Aunque, según científicos en un comunicado de prensa, Internet también está notoriamente lleno de contenido inexacto y abiertamente sesgado, lo que significa que cualquier algoritmo construido con estos conjuntos de datos podría estar impregnado de los mismos problemas.

Nota publicada en El Sol de La Laguna

Local

Reforma al Código Financiero no afecta la recaudación de municipios; ¿por qué lo dice la SCJN?

3 municipios promovieron controversias porque la Sefiplan recauda servicios públicos en municipios

Local

Activista advierte sobre el aumento en número de desaparecidos en Veracruz

La activista, Anais Palacios Pérez lamenta que siga existiendo demora en las investigaciones de personas desaparecidas en Veracruz

Local

No guarde la sombrilla; PC emite aviso especial ante presencia de lluvias

La Secretaría de Protección Civil exhorto a la población a mantenerse alerta ante el incremento de lluvias que se registrará a partir de mañana miércoles

Local

Ratifican dirección de Ana Iris Ruiz Gómez en la CMAS de Xalapa; los detalles

Nombramiento se hace en sustitución de Alejandro Maupomé Riaño

Sociedad

Ruinas de una mina: exminero explica por qué se inundó el pozo del carbón El Pinabete

Hace más de treinta años este complejo minero dio trabajo a casi mil personas

Policiaca

¿Ya identificaron a cadáver hallado en El Carrizal? Está en Semefo

El suceso ocurrió el pasado fin de semana en el municipio de Emiliano Zapata

Política

EU apoyará al gobierno de Colima para recuperar la seguridad: Ken Salazar

El embajador de Estados Unidos en México ofreció el respaldo del gobierno norteamericano para ayudar a la entidad

Sociedad

Detienen a líder de policías comunitarias en Guerrero

Fuentes oficiales confirmaron que el detenido había sido trasladado al Centro de Readaptación Social del municipio de Tlapa de Comonfort

Sociedad

Asegura AFAC que helicóptero salió del AICM al Ajusco, pero no regresó

De acuerdo con la agencia, la aeronave despegó el pasado 21 de julio a las 18:00 horas con rumbo al Ajusco