La gigante de redes sociales y tecnología, Meta, está introduciendo una nueva característica en su popular aplicación de mensajería instantánea para ayudar a combatir el deepfake.
WhatsApp pronto contará con una línea de ayuda para la verificación de datos con el propósito de abordar los deepfakes generados con inteligencia artificial. Meta, propietaria de WhatsApp, anunció este lunes una asociación con Misinformation Combat Alliance (MCA) para lanzar la iniciativa, según reportaron varios medios de noticias.
La línea de ayuda, que se habilitará para los usuarios de la aplicación en India, permitirá a las personas denunciar los contenidos manipulados con ayuda de IA directamente a través de WhatsApp, utilizando un chatbot multilingüe. Una vez identificado, el contenido será procesado por una ‘unidad de análisis de deepfake’ central, establecida por la MCA, en colaboración con verificadores de datos independientes, organizaciones de investigación y socios de la industria.
“El objetivo del programa es implementar un enfoque de cuatro pilares: detección, prevención, denuncia y concienciación sobre la creciente propagación de deepfakes, además de crear un instrumento fundamental que permita a los ciudadanos acceder a información fiable para luchar contra la difusión de dicha información errónea“, dijo Meta en un comunicado citado.
Está previsto que la nueva herramienta se lance en marzo de 2024, disponible en inglés y tres idiomas regionales, (hindi, tamil y telugu), según los informes.
WhatsApp integra asistente contra los deepfakes
A medida que las capacidades de la IA aumentan a un ritmo acelerado, con herramientas como ChatGPT volviéndose muy populares, han crecido los temores de un mal uso de la tecnología. Un efecto secundario desafortunado de la proliferación de herramientas de IA ha sido el incremento de los deepfakes generados por inteligencia artificial.
El término en cuestión hace referencia a la generación de contenido falso, que ha sido manipulado digitalmente con softwares de IA. En particular, la divulgación de imágenes, videos y audios alterados que aparentan ser auténticos y legítimos, y que pueden motivar los discursos de odio, el engaño con fines políticos, y en última instancia la desinformación.
Figuras de alto perfil, incluidos el Papa Francisco, Tom Hanks, Taylor Swift, Donald Trump y el actual presidente de los Estados Unidos, Joe Biden, han sido algunas víctimas de deepfakes de los últimos tiempos.
Shivnath Thukral, directora de Políticas Públicas de India en Meta, subrayó la importancia de los esfuerzos de colaboración con MCA, que une organizaciones para combatir la desinformación, reafirmando el compromiso de Meta para implementar medidas concretas para abordar el problema y mejorar la transparencia.
Agregó que la iniciativa se enmarca en el “Acuerdo tecnológico para combatir el uso engañoso de la IA en las elecciones de 2024”, destinado a salvaguardar los procesos electorales en todo el mundo. Al menos dos decenas de empresas de tecnología líderes en todo el mundo, incluidas Microsoft, Meta, Google, Amazon e IBM, ya forman parte de ese acuerdo.
Nuestra colaboración con MCA para lanzar una línea de ayuda de WhatsApp dedicada a desacreditar los deepfakes que pueden engañar materialmente a las personas es coherente con nuestro compromiso en virtud del Acuerdo tecnológico para combatir el uso engañoso de la IA en las elecciones de 2024.
Meta en la carrera de la IA
A finales del año pasado, Instagram, otra aplicación de Meta, lanzó una herramienta de edición basada en IA que permite cambiar los fondos de las imágenes. Más recientemente, Meta anunció que implementará una nueva “política de etiquetado de IA“ en colaboración con otros socios de la industria para desarrollar estándares de etiqueta para el contenido generado por IA.
No está claro si la empresa tiene planes de introducir su nuevo asistente de ayuda de identificación de deepfakes más allá de la India; aunque no parecería ilógico dado el enfoque y las ambiciones más amplias de la compañía con respecto a este tema.
Meta parece estar tratando de conciliar sus esfuerzos para competir con sus pares de tecnología dentro del sector de IA de rápida evolución a medida que busca contener algunos de sus riesgos para los consumidores. Hace poco adelantó sus intenciones de profundizar en su negocio con el lanzamiento este año de una nueva versión de su chip personalizado de IA, mejor conocido como Artemis.
