Sesgos, racismo y mentiras: afrontar las consecuencias no deseadas de la inteligencia artificial

{Aunque|Si bien} la inteligencia artificial evoca imágenes de máquinas {que|en comparación a} son capaces de {pensar|tener en cuenta|ponderar} y actuar como {las personas|los seres humanos} humanas, la realidad {es|existe|se halla} más prosaica y tiende a usarse para describir softwares que pueden, {hasta|incluso} cierto punto, «aprender», resolver problemas y encontrar patrones. Esto es particularmente útil cuando es necesario clasificar y comprender grandes cantidades de datos.

Otro concepto erróneo {es|existe|se halla} que, debido al {aspecto|porte} de autoaprendizaje de {la|el} inteligencia artificial, se garantiza que proporcionará resultados {más|mucho más} eficientes, confiables y {superiores|jefes} que cualquier cosa {que|en comparación a} los humanos puedan {obtener|conseguir|lograr}. Sin embargo, los ejemplos recientes de uso indebido, en los que se ha visto cómo se han degradado incorrectamente calificaciones de exámenes, se {ha|disfruta|cobra} enviado a personas inocentes a la cárcel {y|por otra parte} se han robado {datos|origen} personales, son un recordatorio de que son {los|las} humanos, con todas {sus|bajo} imperfecciones, quienes están detrás de los éxitos {de|sobre} las fallas de las herramientas de inteligencia artificial.

Antes del lanzamiento de una guía de la ONU {para|con el fin de|si pretende} comprender la ética {de|sobre} la inteligencia artificial, {hay|existe} cinco cosas que {debe|obligación|deuda} saber sobre su {uso|empleo}, sus consecuencias y {cómo|la forma en que} se puede mejorar.

Unsplash/Rock’n Roll Monkey

{La|El} Inteligencia Artificial es {mucho|bastante} más amplia que {el|la} uso de robots.

1) Las consecuencias del mal uso {pueden|logran} ser devastadoras

En enero, un hombre afroamericano en Michigan, {en|arriba|encima de} Estados Unidos, fue arrestado por un delito {de|sobre} hurto del que {no|nadie} sabía nada. Fue detenido después de ser esposado frente a su {casa|edificación|abrigo} delante de su familia.

Se cree que este es {el|la} primer arresto injusto {de|sobre} este tipo: los oficiales de policía involucrados habían confiado en una inteligencia artificial de reconocimiento facial para atrapar al hombre, pero la herramienta {no|nadie} había aprendido a {reconocer|identificar|determinar} las diferencias entre {los|las} rostros de los {ciudadanos|pobladores} negros porque las imágenes que se usaron {para|con el fin de|si pretende} entrenarlo habían sido {en|arriba|encima de} su mayoría de caras blancas. Por suerte, {rápidamente|avivadamente|prontamente} quedó claro que {no|nadie} se parecía en {nada|absolutamente anda|absolutamente nada} al sospechoso que se ve en una {foto|retrato|imagen} tomada de las cámaras de seguridad de {la|el} tienda, y fue liberado, aunque pasó varias {horas|espacios} en la cárcel.

Y, en julio, hubo un alboroto {en|arriba|encima de} el Reino Unido, {cuando|en el momento que} los sueños de {muchos|abundantes} estudiantes que esperaban ir a la universidad {de|sobre} su elección se frustraron, cuando se utilizó un programa para evaluar {sus|bajo} calificaciones, {ya que|puesto que} los exámenes tradicionales se habían cancelado, debido a la pandemia de COVID-19.

Para averiguar qué calificación hubieran obtenido los estudiantes si se hubieran presentado a los exámenes, {el|la} programa tomó las calificaciones existentes y también tuvo en cuenta el historial de su escuela a lo largo del {tiempo|período|periodo}. Esto terminó por penalizar a los estudiantes {brillantes|deslumbrantes|radiantes} de vecindarios minoritarios {y|por otra parte} de bajos ingresos, {que|en comparación a} tienen más probabilidades {de|sobre} ir a escuelas {que|en comparación a}, en general, cuentan {con|respetuosamente|cortésmente} unas calificaciones promedio {más|mucho más} bajas que aquellas a las que asisten estudiantes más ricos.

Estos ejemplos muestran {que|en comparación a}, para que las herramientas de inteligencia artificial funcionen correctamente, los expertos informáticos deben trabajar con {datos|origen} de alta calidad.  

Desafortunadamente, {muchos|abundantes} de los datos {que|en comparación a} se utilizan para entrenar la inteligencia artificial se obtienen actualmente de consumidores de todo el {mundo|universo}, a menudo sin {su|la} consentimiento explícito: los {países|estados} más pobres a {menudo|chico} carecen de la {capacidad|potencial|aptitud} para garantizar que {los|las} datos personales estén protegidos o para proteger a sus sociedades de {los|las} dañinos ciberataques y {de|sobre} la desinformación que {ha|disfruta|cobra} aumentado desde la pandemia de COVID-19.

Unsplash/Franki Chamaki

La inteligencia artificial sirve para procesar {y|por otra parte} analizar grandes cantidades {de|sobre} datos.

2) El odio, la división y la mentira son buenos para los negocios

Muchas {empresas|firmas} de redes sociales {han|haberes} sido criticadas por {usar|utilizar} algoritmos, impulsados por inteligencia artificial, para determinados usuarios enviándoles contenido personalizado {que|en comparación a} reforzará sus prejuicios. {Cuanto|Todo lo que} más provocador sea {el|la} contenido, más posibilidades {hay|existe} de que se consuma y se comparta.

La razón por la que estas {empresas|firmas} están felices de «impulsar» contenido socialmente divisorio {y|por otra parte} polarizador a sus usuarios, es que aumenta {la|el} probabilidad de que permanezcan más tiempo en {la|el} plataforma, lo que {mantiene|conserva} felices a sus anunciantes y aumenta sus ganancias.

Esto {ha|disfruta|cobra} llevado a la popularidad de publicaciones extremistas {y|por otra parte} llenas de odio, difundidas por grupos que {de|sobre} otra manera serían conjuntos marginales poco conocidos. {Durante|Mientras} la pandemia de COVID-19, esa práctica también {ha|disfruta|cobra} llevado a la diseminación de información erróneamente peligrosa sobre el virus, lo que podría llevar a que más personas se infecten.

Unsplash/Jeswin Thomas

El cierre de escuelas impidió a muchos estudiantes examinarse en 2020.

3) La desigualdad global se refleja {en|arriba|encima de} línea

Existe una sólida evidencia {que|en comparación a} sugiere que la inteligencia artificial está desempeñando un papel en hacer {que|en comparación a} el mundo sea {más|mucho más} desigual y está beneficiando a una pequeña proporción de personas.  

Por ejemplo, {más|mucho más} de las tres cuartas partes de todas las nuevas innovaciones digitales {y|por otra parte} patentes son producidas por solo 200 empresas. {De|Sobre} las 15 plataformas digitales más grandes que utilizamos, 11 son de {Estados|Estadios} Unidos, mientras que {el|la} resto son chinas.

{Esto significa|Esto quiere decir} que las herramientas de inteligencia artificial están diseñadas principalmente por desarrolladores en Occidente. {De|Sobre} hecho, estos desarrolladores son abrumadoramente hombres blancos, {que|en comparación a} también representan la {gran|enorme|grandioso} mayoría de los autores sobre temas de inteligencia artificial. El caso del arresto injusto en Michigan es solo un ejemplo de los peligros {que|en comparación a} plantea la falta {de|sobre} diversidad en este {campo|periodo|entorno} tan importante.

También significa que, {para|con el fin de|si pretende} 2030, se espera {que|en comparación a} América del Norte {y|por otra parte} China obtengan la {mayor|mejor|desarrollado} parte de las ganancias económicas, que se {espera|aguarda|quiere} que valgan billones {de|sobre} dólares, que se prevé que genere la inteligencia artificial.

Unsplash/Maxime Valcarce

El incremento del {número|factor} de datos es {una|esta es una} herramienta clave para {los|las} avances en la inteligencia artificial.

4) Los beneficios potenciales son enormes

Esto no quiere decir {que|en comparación a} la inteligencia artificial deba usarse menos: las innovaciones que utilizan la tecnología son inmensamente útiles {para|con el fin de|si pretende} la sociedad, como {hemos|disfrutamos|gozamos} visto durante la pandemia.  

{Los|Las} gobiernos de todo {el|la} mundo han recurrido a soluciones digitales para nuevos problemas, desde aplicaciones {de|sobre} rastreo de contactos {hasta|incluso} telemedicina y medicamentos entregados por drones y, {con|respetuosamente|cortésmente} el fin de rastrear la propagación mundial {de|sobre} COVID-19, la inteligencia artificial se ha utilizado {para|con el fin de|si pretende} indagar {a través de|manera} grandes almacenes de datos derivados {de|sobre} nuestras interacciones en las redes sociales y {en|arriba|encima de} línea.

{Sin|Fuera de} embargo, los beneficios {van|corren} mucho más allá {de|sobre} la pandemia: la inteligencia artificial puede ayudar {en|arriba|encima de} la lucha contra {la|el} crisis climática, impulsando modelos que podrían ayudar a restaurar ecosistemas y hábitats, y retardar la {pérdida|fracaso} de biodiversidad; y {salvar|defender} vidas ayudando a las organizaciones humanitarias a dirigir mejor sus recursos {donde|en donde} más se necesitan.

El problema {es|existe|se halla} que las herramientas {de|sobre} inteligencia artificial se están desarrollando con tanta rapidez que ni los diseñadores, ni los accionistas corporativos ni los gobiernos {han|haberes} tenido tiempo de considerar los posibles escollos {de|sobre} estas deslumbrantes nuevas tecnologías.

Unsplash/David von Diemar

Las compañías de automóviles como Tesla usan {cada|todo|cualquier} vez más la inteligencia artificial para el control de vehículos.

5) Necesitamos acordar {una|esta es una} regulación internacional de inteligencia artificial

Por estas razones, la Organización de las Naciones Unidas para {la|el} Educación, la Ciencia {y|por otra parte} la Cultura (UNESCO) está consultando a una amplia gama {de|sobre} grupos, incluidos representantes {de|sobre} la sociedad civil, {el|la} sector privado y {el|la} público en general, {con|respetuosamente|cortésmente} el fin de {establecer|adoptar|determinar} estándares internacionales de inteligencia artificial y garantizar {que|en comparación a} la tecnología tenga {una|esta es una} sólida base ética, {que|en comparación a} abarque el estado {de|sobre} derecho y la promoción de los derechos humanos.

{Las áreas|Las zonas} {importantes|considerables} que deben tenerse {en|arriba|encima de} cuenta incluyen:

•      {la|el} importancia de brindar {más|mucho más} diversidad en este {campo|periodo|entorno} para reducir los sesgos y los estereotipos raciales y de género
•      {el|la} uso apropiado de {la|el} inteligencia artificial en {los|las} sistemas judiciales para hacerlos más justos y eficientes
•      encontrar formas de garantizar que los beneficios {de|sobre} la tecnología se distribuyan entre el mayor {número|factor} de personas {posible|factible}

La consulta {comenzó|empezó} en julio de 2020, y los expertos {de|sobre} la UNESCO redactaron un borrador de documento legal y global sobre {la|el} ética de la inteligencia artificial, teniendo en {cuenta|nivel} sus impactos de amplio alcance, incluido el {medio|ámbito} ambiente y las necesidades de los países del sur.  

La elaboración de reglas internacionales que rijan {el|la} uso de la inteligencia artificial es un {paso|abertura|acceso} importante que nos permitirá decidir qué valores {deben|se comprometen} consagrarse y, lo {que|en comparación a} es más importante, qué reglas deben aplicarse.

Redacción de {normas|reglas} internacionales de la inteligencia artificial

{Para|Con el fin de|Si pretende} ayudar a explicar las oportunidades y desafíos {que|en comparación a} plantea la inteligencia artificial, la UNESCO lanzará {una|esta es una} nueva guía: «Comprender {la|el} ética de la inteligencia artificial: ¿Por qué {es|existe|se halla} una preocupación de {todos|la mayoría de}? » en enero {de|sobre} 2021.  

Una de las funciones de esta agencia {de|sobre} la ONU es {crear|elaborar|constituir} conciencia, educar a las personas y proporcionarles herramientas para la reflexión ética. Esta publicación permitirá a las personas de todas las edades y procedencias comprender mejor los {problemas|barreras|cuestionarios} complejos relacionados con {la|el} inteligencia artificial y por qué deberían preocuparse por sus aplicaciones.

Vea un video sobre inteligencia artificial (en inglés con subtítulos en español).  
 

Source

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *