IBM aplicará tecnología IA en la detección y mitigación del sesgo en publicidad

IBM Watson Advertising (NYSE: IBM) anunció hoy una iniciativa de investigación que aplicará la tecnología de inteligencia artificial de código abierto de IBM para comprender mejor la prevalencia del sesgo no deseado en la publicidad, y simultáneamente sentará las bases para una posible mitigación. Este trabajo se alinea con la misión general de IBM Watson Advertising de hacer de la IA el catalizador para mejorar las soluciones, los servicios y la confianza en el ecosistema publicitario, y se basa en el liderazgo de IBM en la transformación de negocios en todas las industrias con IA.

La industria de la publicidad está experimentando una gran transformación, con cambios en las políticas de privacidad y una mayor demanda de confianza y transparencia, todo lo cual impulsa el surgimiento de la IA como la nueva columna vertebral tecnológica del sector. En tanto las marcas se reconstruyen en medio de esta transformación, es el momento ideal para abordar el problema persistente del sesgo no deseado en la publicidad, como lo demuestra un estudio realizado por el Instituto Geena Davis sobre Género en los Medios, que reveló que en los anuncios los personajes masculinos aparecen un 12% más que las mujeres. Mientras tanto, los videos dirigidos por mujeres y con equilibrio de género produjeron un 30% más de vistas que otros videos, lo que revela una demanda de contenido más inclusivo.

El sesgo no deseado en la publicidad tiene el potencial de impactar negativamente a los consumidores que pueden perder una oportunidad económica potencial o sentirse en la mira debido a estereotipos, mientras que también perjudica a las marcas, ya que pueden experimentar un desempeño deficiente de sus campañas. El objetivo de la investigación de IBM Watson Advertising es impulsar una comprensión más profunda de los factores que contribuyen al sesgo en la publicidad y cómo la IA puede ayudar, abarcando segmentación de la audiencia, mensajes creativos, optimización del rendimiento e impacto de campañas. Equipados con esta información, los especialistas en marketing y los proveedores de TI pueden desarrollar una hoja de ruta para el uso responsable de la IA para reducir el sesgo y crear y ejecutar campañas de manera más efectiva.

“Nos encontramos en un momento de la historia en el que un discurso sobre las desigualdades socioeconómicas, que tendría que haberse dado hace mucho tiempo domina la agenda nacional y convoca a la acción”, comentó Bob Lord, Vicepresidente Senior de Ecosistemas Mundiales y Blockchain de IBM. “Nuestra esperanza es que la inteligencia artificial pueda ser un catalizador para eliminar el sesgo no deseado en la publicidad, al igual que está ayudando a transformar la industria para prosperar en una era sin cookies. A través de esta investigación, estamos dando un primer paso importante hacia ese objetivo, aplicando rigor científico para determinar la dimensión del impacto que puede tener la IA”.

IBM Watson Advertising trabajará con investigadores de IBM Research para llevar a cabo este estudio en asociación con Ad Council y otros líderes del sector y el mundo académico. Las áreas de exploración incluirán:

• Incidencia del sesgo en la publicidad: Prevalencia y frecuencia de sesgos en las campañas mediante el análisis de datos de desempeño. Por ejemplo, utilizando el kit de herramientas AI Fairness 360, un conjunto de herramientas de IA de código abierto desarrolladas por IBM y donadas a la Fundación Linux, el estudio analizará cómo ciertas audiencias de campañas pasadas y activas están siendo dirigidas con contenido creativo para evaluar si el sesgo estaba presente.

• El papel de las señales en la determinación de sesgos: La intensidad con la que las señales, que se refieren al contexto en el que se entrega una publicidad, impactan en el sesgo. Por ejemplo, si se considera que un mensaje creativo es en sí imparcial pero se entrega en una propiedad de medios digitales asociada con un sesgo inherente, el anuncio puede percibirse como sesgado.

• Capacidades de la inteligencia artificial para mitigar potencialmente el sesgo: qué tan útil puede ser la inteligencia artificial para identificar instancias de sesgo y qué se puede hacer para captar todo el poder de la inteligencia artificial para prevenir potencialmente la ocurrencia de sesgos en publicidades.

Los datos de la campaña educativa sobre la vacuna COVID-19 It’s Up to You (“Depende de ti”) de Ad Council se utilizarán para esta fase de investigación inicial. El conjunto de herramientas extensible de código abierto de IBM, AI Fairness 360, también se utilizará para examinar los datos y determinar si hay formas en que la inteligencia artificial puede ser útil para ayudar a mitigar la discriminación y el sesgo.

“El sesgo colectivo ha sido persistente en nuestro sector durante bastante tiempo, y la necesidad de estudiar sus orígenes e impacto es fundamental para que podamos trabajar juntos de manera efectiva para crear progreso”, señaló Lisa Sherman, Presidenta y CEO de Ad Council. “Es por eso que Ad Council se enorgullece de ser el primer socio del sector en trabajar junto con IBM para ayudar a impulsar esta fundamental misión de investigación”.

IBM Watson Advertising planea publicar los resultados iniciales de la investigación y las actualizaciones cuando estén disponibles y a medida que avance la iniciativa.