Google ha dado un paso más en su lucha contra el contenido sexualmente explícito generado por inteligencia artificial (IA), extendiendo su prohibición para incluir servicios que faciliten la creación de desnudos generados artificialmente. Esta decisión, que entra en vigor el 30 de mayo, refleja el compromiso de la empresa con un entorno digital seguro y respetuoso.

La medida responde a la preocupación creciente por la pornografía deepfake no consensual, que ha experimentado un aumento alarmante en los últimos años. Google, en su informe anual de seguridad de anuncios, reveló que eliminó más de 1,8 mil millones de anuncios por violar sus políticas sobre contenido sexual en 2023. Este dato subraya la magnitud del desafío que enfrenta la empresa en la lucha contra el contenido inapropiado.

La nueva política de Google Ads empleará revisiones humanas y sistemas automatizados para hacer cumplir estas restricciones. La empresa se compromete a prohibir explícitamente los anuncios de servicios que ofrecen crear pornografía deepfake o contenido de desnudos sintéticos, y considerará las violaciones como una falta grave, adoptando una postura de tolerancia cero hacia los infractores.

Esta actualización de política también aborda cómo algunas aplicaciones han evadido previamente las restricciones de Google al promover la creación de deepfakes en sitios web pornográficos. El problema de la pornografía deepfake no consensual no solo afecta a adultos, sino también a menores, como lo evidencian casos recientes de estudiantes y adultos enfrentando consecuencias legales por este tipo de contenido.

En paralelo, el Congreso de los Estados Unidos está considerando acciones legislativas, como el Acta DEFIANCE, para abordar las falsificaciones digitales y proteger a las víctimas de deepfakes no consensuados.

Estos esfuerzos reflejan un creciente reconocimiento y acción contra los peligros éticos y sociales asociados con la tecnología de inteligencia artificial, especialmente en lo que respecta a la dignidad y privacidad de las personas frente al uso indebido de deepfakes.