COMUNIDAD MEDIATELECOM

PRESS

Inteligencia Artificial puede ampliar la discriminación de género y raza

Itzel Carreño

Publicado

en

Las herramientas de Inteligencia Artificial (IA) están cada vez más integradas en dominios sociales como el empleo, el bienestar infantil y los sistemas de salud. Sin embargo, el AI Now Institute ha examinado en los últimos años las prácticas discriminatorias que pueden reflejarse y amplificarse en los sistemas de IA, centrado en el género, la raza y el poder en IA.

Los sistemas de Inteligencia Artificial, que Google y otros están desarrollando y desplegando rápidamente en dominios sociales y políticos sensibles, pueden reflejar, ampliar y ocultar los problemas de desigualdad y discriminación contra los que han protestado fuertemente los trabajadores de Google.

Durante 2017, los investigadores y periodistas destacaron numerosos ejemplos en los cuales los sistemas de IA exhibieron sesgos, incluso por motivos de raza, clase, género y sexualidad.

IA discriminatoria

La herramienta de contratación automatizada de Amazon es un claro ejemplo de ello.

Con el fin de “aprender” a diferenciar entre candidatos “buenos” y “malos”, se capacitó en un corpus masivo de datos que documentan las decisiones de contratación anteriores de la empresa.

El resultado fue una herramienta de contratación que discriminaba a las mujeres, incluso descartando currículos que contenían la palabra “mujer” o “mujeres”.

Los ingenieros de Amazon intentaron solucionar el problema, ajustando el algoritmo para mitigar sus preferencias sesgadas, pero finalmente desecharon el proyecto y concluyeron que era insalvable.

El Instituto AI Now dijo que la herramienta ilustra la naturaleza interrelacionada de estos problemas: el sistema de clasificación reflejó los patrones de contratación discriminatorios de larga data en Amazon, patrones que luego serían amplificados por los sistemas automatizados.

Recomendado: La tecnología puede aumentar discriminación contra las mujeres y reforzar cultura machista

El instituto destaca que este ejemplo también demuestra de manera particularmente visible cómo una cultura de exclusión, una que asigna poder a algunos y mantiene a otros, se refleja en las tecnologías que se desarrollan dentro de esa cultura.

Investigación

En términos del campo de la IA en particular, se carece de datos y de investigación sólida. La única investigación reciente sobre cifras de diversidad de género en IA proviene de una encuesta limitada realizada por Wired y Element AI, que encontró que sólo 12 por ciento de los autores de los artículos en las tres principales conferencias de aprendizaje automático eran mujeres, lo que implica que el campo es menos diverso en cuanto al género, que la informática en general, o la industria de la tecnología en su conjunto.

El número limitado de estudios existentes sobre el sesgo en la IA a menudo descuidan examinar la relación de género con otras formas de identidad, como raza, clase, sexualidad y capacidad, o la forma en que las formas de discriminación se intersectan y sirven para apuntalar las estructuras de poder existentes.

El Instituto AI Now afirma que es momento de que la investigación sobre el género y la raza en la IA avancen más allá de considerar si los sistemas de la IA cumplen con definiciones técnicas estrictas de “imparcialidad”.

CLIC PARA SEGUIR LEYENDO
Advertisement
CLICK PARA COMENTAR

DEJA UN COMENTARIO

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

PRESS

La policía de Nueva York exige a Waze dejar de revelar los puntos de control

Mediatelecom

Publicado

en

El Departamento de Policía de la Ciudad de Nueva York envió recientemente una carta a Google, exigiendo que su aplicación de navegación Waze deje de mostrar a los conductores dónde se encuentran los puntos de control DWI de la ciudad.

“Exigimos que Google LLC, al recibir esta carta, elimine inmediatamente esta función de la aplicación Waze”, dijo la comisionada Adjunta Interina de Asuntos Legales de la policía de Nueva York, Ann Prunty, en su carta a Google.

Prunty dijo que compartir la información de los puntos de control de DWI es “irresponsable” y “sirve para ayudar a los conductores discapacitados e intoxicados a evadir los puntos de control y alentar la conducción imprudente”.

CLIC PARA SEGUIR LEYENDO

PRESS

Inteligencia Artificial podría utilizarse para combatir comercio ilegal de la vida silvestre y reducir desperdicio de alimentos

Dinorah Navarro

Publicado

en

Las tecnologías digitales, como la Inteligencia Artificial, podría utilizarse para acabar con los desafíos globales como el comercio ilegal de la vida silvestre y reducir el desperdicio de alimentos.

Lo anterior forma parte de un programa de “confianza de datos”, el primero en el mundo, que se pondrá a prueba en el Reino Unido.

El gobierno invertirá más de 700 mil libras esterlinas para elaborar iniciativas que ayuden a combatir los problemas ambientales.

El financiamiento ayudará a organizaciones como Wildlabs Tech Hub, que se dedica a atender problemas de conservación a través de la tecnología, y WRAP, que es una organización benéfica que aplica una economía circular para reducir el desperdicio.

El objetivo de la inversión es intercambiar datos entre organizaciones de manera segura, justa y ética. El financiamiento es administrado por el Open Data Institute (ODI) y la Oficina de Inteligencia Artificial del Gobierno de Reino Unido (AI).

El gobierno también planea invertir 30 millones de libras esterlinas en el programa, a través de una asociación con Social Tech Trust, para establecer a Reino Unido como un líder mundial en tecnología para el bien social.

El Secretario Digital, Cultura, Medios y Deportes (DCMS), Jeremy Wright, dijo que “la tecnología ya había hecho nuestras vidas más fáciles de muchas maneras, pero aún existe un potencial sin explotar que podemos ofrecer para el bien social”.

Además, invertirá un millón de libras adicionales para incentivar a las organizaciones a utilizar la tecnología para ayudar a enfrentar la soledad y unir a las comunidades.  

Los planes para reducir el comercio ilegal de vida silvestre consisten en compartir datos de imágenes para ayudar a los oficiales de control de fronteras a identificar productos animales ilegales desde sus teléfonos inteligentes.

También considera el uso de datos de audio usando algoritmos para detectar sonidos como disparos o barcos de pesca ilegal que ingresan en áreas protegidas, por medio de alertas en tiempo real que se enviarán a los guardabosques.

La Inteligencia Artificial (IA) tiene “el potencial de revolucionar la conservación de la vida silvestre y fortalecer las herramientas tecnológicas necesarias para acabar con los delitos contra la vida silvestre”, afirmó Sophie Maxwell, de Wildlabs Tech Hub.  

El gobierno británico implementará otro programa que será supervisado por Open Data Institute (ODI), el Royal Borough of Greenwich y Greater London Authority,  que recopilaran datos a través de sensores y dispositivos en edificios que están registrados en el Programa de Ciudades Compartidas; este tercer piloto está financiado por Innovate UK a través del programa de Investigación y Desarrollo (I + D).

CLIC PARA SEGUIR LEYENDO

NEGOCIOS

Japón creará organismo para regular a los gigantes de Internet

Carolina Valdovinos

Publicado

en

El gobierno japonés planea establecer un nuevo organismo de control para examinar a las grandes empresas de tecnología como Facebook y Google en medio de crecientes preocupaciones sobre las prácticas de monopolio y el manejo de datos personales, informó Reuters.

El nuevo regulador examinará las prácticas competitivas, la protección de datos personales y hará recomendaciones antimonopolio, además, elaborará nuevas directrices para evaluar si las fusiones y adquisiciones conducirán a un monopolio sobre los datos de mensajería o datos personales.

En la presentación se mostró a los ministros cómo Facebook, Google, Amazon, Alibaba y Baidu han aumentado su influencia al expandirse a los sistemas de pago de tienda minorista, drones, vehículos autónomos, entre otros.

Asimismo, los funcionarios japoneses también discutieron los casos de los últimos años en los cuales la Unión Europea ha multado a Facebook y Google por prácticas que los reguladores dictaminaron que violaban las reglas antimonopolio.

CLIC PARA SEGUIR LEYENDO

VIDEO #1MTECH

Apple sucumbe a presión china y elimina ¡más de 25 mil apps de App Store!

#1MTech La información más relevante del día en menos de un minuto:Facebook es presionado por el gobierno de EUA para romper cifrado de Messenger.Apple sucumbe a presión china y elimina ¡más de 25 mil apps de App Store!#Apple #Messenger #Netflix #Youtube #extremista

Posted by Mediatelecom Tecnología on Tuesday, August 21, 2018
Advertisement

DÍA A DÍA

enero 2019
L M X J V S D
« Dic   Feb »
 123456
78910111213
14151617181920
21222324252627
28293031  

Trending