[adsenseyu1]

Por: Guillermo Treister, Latin America Watson AI Apps Executive

Los daños que causa el sesgo están a la vista. Vemos sesgo en las grandes brechas salariales y las brechas en términos de patrimonio, que cruzan todas las líneas raciales y de género. Lo vemos también en la falta crónica de representación para ciertos grupos, sea en Hollywood, en los deportes, en los medios o en oficinas corporativas, en casi todos los sectores. En todo el mundo, miles de millones de personas conviven a diario con las consecuencias del sesgo racial, de género, de edad y de muchos otros tipos, desde las micro-agresiones y la pérdida de oportunidades, hasta las interacciones con un sistema de justicia penal punitivo y con prejuicio racial.

Debido al daño que causa, es importante que los integrantes de todos los sectores sean deliberados en la forma en que trabajan para contrarrestar el sesgo. Esto es particularmente válido para quienes nos dedicamos a la publicidad. No solo la industria de la publicidad tiene una enorme cantidad de trabajo que hacer para mejorar la representación entre nuestras filas, sino que además estamos en una posición única debido a nuestra capacidad de amplificar el sesgo cuando aparece en nuestro trabajo. Los consumidores ven aprox. 5000 publicidades por día. Cuando los niños demuestran sesgo en su comportamiento, debemos aceptar que podría ser en respuesta al contenido que hemos ayudado a crear.

Reducir o mitigar el sesgo también es un imperativo de negocio. Más de un tercio de los consumidores dicen que han puesto fin a una relación con una marca debido a que no se ven reflejados en la publicidad, según las conclusiones de un estudio. Las dos terceras partes de las mujeres cambian de medio por completo cuando se encuentran con estereotipos negativos sobre sus personas. Y a pesar de las fuertes reacciones que suscitan, las publicidades sesgadas son bastante omnipresentes, en particular cuando se las analiza por industria: las mujeres, por ejemplo, aparecen rara vez en publicidades de los sectores industrial, automotriz y de negocios, y cuando lo hacen, en general hablan menos de una cuarta parte del tiempo.

Como está profundamente arraigado en nuestro subconsciente, tal vez no sea posible eliminar el sesgo por completo. Pero hay algo que podemos hacer: adoptar los pasos necesarios para mitigarlo. Asegurar una fuerza laboral equilibrada y diversa, con muchas perspectivas diferentes, es un punto importante por donde empezar. Pero potencialmente podemos también apuntar a la IA. Hay motivos para el optimismo. La IA ya ha sido usada para contribuir a identificar el sesgo allí donde existe. En un estudio reciente, los investigadores emplearon técnicas de procesamiento de lenguaje natural para analizar el diálogo de películas taquilleras de Hollywood y Bollywood lanzadas a lo largo de 70 años, y demostrar que tenían un sesgo que asociaba el modelo de belleza con una piel más clara.

Por supuesto, identificar la presencia del sesgo no es lo mismo que erradicarlo. Pero afortunadamente, la IA también demostró su utilidad para mitigar las consecuencias del sesgo en otros sectores, particularmente en los servicios financieros. Las entidades que otorgan préstamos ahora usan la IA para monitorear modelos de riesgo que pueden estar sesgados, y crear resultados más justos y explicables para los clientes. Los emisores de seguros también están usando el aprendizaje automático para evaluar en forma más coherente y exacta el riesgo de reclamos, asegurar resultados justos para los clientes y explicar recomendaciones de IA. Cuanto más entendamos –y expliquemos – cómo la IA llegó a cierto resultado, más fácil será determinar qué tipos de sesgo pueden haber intervenido.

Con miras a futuro, podría ser posible aplicar este tipo de herramientas a la IA. Los modelos de inspección visual están mejorando mucho en mirar una imagen y categorizarla por lo que es. Estos tipos de IA pueden ser de utilidad para ayudarnos a distinguir el sesgo cuando aparece de modo subconsciente en nuestro trabajo. Por supuesto, estas técnicas también deben ser estudiadas e implementadas en forma criteriosa. Sin una profunda comprensión de la forma en que interactúan el sesgo y la IA, las potenciales soluciones de hecho podrían incluso empeorar el problema que intentan resolver. Y es que la IA internaliza el sesgo, del mismo modo que los humanos.

Aunque eliminar el sesgo, mediante el uso de tecnología o de otro modo, es algo imposible, sigue siendo imperativo que lo intentemos. Como profesionales publicitarios, desempeñamos un papel crucial en determinar las imágenes y representaciones que los consumidores ven a diario. Sin un enfoque propositivo para reducir el sesgo en nuestro trabajo, no solo seremos meros testigos, sino también culpables. A través de la investigación, la inversión y un enfoque crítico hacia la nueva tecnología, en cambio, podemos ser parte de la solución