La imagen apareció en mi feed: una imagen hiperrealista pero claramente falsa de una figura pública en una pose comprometedora. Se sintió como un puñetazo en el estómago, un crudo recordatorio de lo fácil que es manipular la tecnología. X, antes Twitter, ahora está luchando por abordar este mismo problema, específicamente el aumento de deepfakes sexuales generados por su IA Grok.
Tras semanas de indignación pública y escrutinio gubernamental de varios países, la plataforma de redes sociales de Elon Musk está intentando frenar su problema de deepfakes sexuales. Pero en lugar de una solución radical, X está implementando restricciones incrementales.
En una publicación algo confusa, la cuenta @Safety de X describió varias actualizaciones para sus funciones de edición y generación de imágenes con IA. Las reglas varían dependiendo de si los usuarios generan o editan imágenes etiquetando a @Grok o yendo directamente a la pestaña Grok en X.
Inicialmente, X declaró que ha implementado medidas técnicas para evitar que los usuarios usen la cuenta @Grok para alterar «imágenes de personas reales con ropa reveladora como bikinis». X dice que esta restricción se aplica a todos los usuarios, incluidos los suscriptores premium.
X también reiteró que la generación y edición de imágenes a través de la cuenta @Grok ahora están limitadas a los suscriptores de pago.
«Esto añade una capa extra de protección al ayudar a responsabilizar a las personas que intentan abusar de la cuenta Grok», declaró la empresa.
Anteriormente, X anunció planes para restringir el uso de @Grok para editar imágenes a los usuarios de pago. Un portavoz de Downing Street dijo que el cambio «simplemente convierte una función de IA que permite la creación de imágenes ilegales en un servicio premium».
Sin embargo, como señaló The Verge, las herramientas de generación de imágenes de Grok siguen estando disponibles de forma gratuita cuando los usuarios acceden al chatbot a través del sitio web y la aplicación independientes de Grok, así como a través de las pestañas de Grok en la aplicación y el sitio web de X.
La actualización más significativa: X afirma que ahora bloqueará «la capacidad de todos los usuarios de generar imágenes de personas reales en bikinis, ropa interior y atuendos similares a través de la cuenta Grok y en Grok en X en aquellas jurisdicciones donde sea ilegal». Esta actualización se aplica tanto a la cuenta @Grok como a las pestañas de Grok en X.
Esto llega cuando los legisladores en el Reino Unido están trabajando para ilegalizar tales imágenes.
«Seguimos comprometidos con hacer de X una plataforma segura para todos», dijo la empresa.
Estos cambios llegan después de semanas de reacción violenta por el reciente aumento de deepfakes sexuales en la plataforma.
Un investigador de deepfakes descubrió que Grok generó aproximadamente 6.700 imágenes sexualmente sugerentes por hora durante 24 horas a principios de enero, informó Bloomberg.
Los gobiernos de todo el mundo han respondido. Malasia e Indonesia bloquearon el acceso a Grok, mientras que los reguladores en el Reino Unido y la Unión Europea abrieron investigaciones sobre posibles violaciones de las leyes de seguridad en línea.
El regulador en línea del Reino Unido, Ofcom, dijo que continuaría su investigación a pesar de los cambios.
En los Estados Unidos, el fiscal general de California, Rob Bonta, anunció que su oficina había lanzado su propia investigación sobre el tema.
A medida que se ha intensificado el escrutinio de Grok, X actualizó silenciosamente sus términos de servicio para exigir que todos los casos legales pendientes y futuros que involucren a la empresa se presenten en la división de Fort Worth del Distrito Norte de Texas.
El grupo de vigilancia de izquierda Media Matters dijo que dejaría la plataforma en respuesta a los términos actualizados.
Las acciones de X contra los deepfakes: ¿parche o solución real?
Escuché una conversación en una cafetería sobre la imagen de alguien que se usaba sin su consentimiento. Me di cuenta: esto no es solo un problema tecnológico; es una violación con consecuencias en el mundo real. El enfoque multicapa de X se siente menos como una fortaleza y más como una serie de reductores de velocidad.
Las restricciones, aunque aparentemente son un paso en la dirección correcta, están fragmentadas. Al limitar ciertas acciones a los suscriptores de pago, X parece estar erigiendo un muro de pago en torno al uso ético de la IA, una medida que plantea preguntas sobre la accesibilidad y la equidad. Es como ponerle un precio premium a la dignidad humana básica.
¿Cuáles son los peligros de los deepfakes?
El peligro no es solo el valor de choque inmediato. Los deepfakes erosionan la confianza. Cuando no podemos creer lo que vemos o escuchamos, la base misma de la realidad comienza a desmoronarse. Tienen el potencial de desestabilizar el discurso político, arruinar reputaciones e infligir un profundo sufrimiento emocional.
¿Y qué pasa con el campo minado legal? A medida que la tecnología deepfake se vuelve más sofisticada, se vuelve más difícil distinguir entre lo que es real y lo que es fabricado, lo que crea desafíos para la aplicación de la ley y el sistema de justicia. La proliferación de deepfakes podría potencialmente abrumar nuestra capacidad para discernir la realidad de la ficción, especialmente con modelos de IA que se vuelven más fácilmente accesibles.
¿Son suficientes las restricciones geográficas de X para detener los deepfakes?
Recientemente viajaba al extranjero y noté cómo los diferentes países tienen normas culturales muy diferentes con respecto al contenido. Esto es importante. La decisión de X de implementar restricciones geográficas, bloqueando la generación de ciertas imágenes en áreas donde son ilegales, agrega otra capa de complejidad.
Es un enfoque de «golpear al topo»; tan rápido como aparecen las restricciones, surgen nuevas lagunas y soluciones alternativas. ¿Simplemente evitarán los usuarios estas restricciones utilizando VPN u otros métodos? ¿O la inconsistencia de las restricciones en las diferentes regiones conducirá a la confusión y alimentará aún más la propagación de contenido dañino?
¿Qué está haciendo X para combatir la explotación sexual infantil?
Más allá de los deepfakes, X ha declarado un compromiso de tolerancia cero para cualquier forma de explotación sexual infantil, desnudez no consentida y contenido sexual no deseado. Pero las palabras son baratas. La verdadera prueba estará en la eficacia de sus mecanismos de aplicación y la velocidad con la que responden a los informes de abuso.
La plataforma deberá invertir en tecnologías avanzadas de detección y moderación humana para identificar y eliminar el contenido ilegal rápidamente. La colaboración con las agencias de aplicación de la ley y las organizaciones de protección infantil también será necesaria para combatir eficazmente este problema.
El futuro de la IA y las redes sociales: ¿una pendiente resbaladiza?
Una amiga me dijo que desactivó todas sus cuentas de redes sociales porque sentía que ya no podía confiar en nada de lo que veía en línea. Sus preocupaciones son válidas. A medida que la IA se integra más en las redes sociales, la línea entre la realidad y la fabricación se difumina.
Los intentos de X para abordar el problema de los deepfakes sexuales son un comienzo, pero la eficacia de estas medidas está por verse. Es probable que continúe el juego del gato y el ratón entre quienes crean contenido dañino y quienes intentan detenerlo, lo que exige una vigilancia e innovación constantes.
¿Cuáles son las alternativas a X?
Mientras X lidia con estos desafíos, los usuarios pueden explorar plataformas de redes sociales alternativas que prioricen la seguridad y el uso ético de la IA. Plataformas como Mastodon y Cohost ofrecen enfoques descentralizados y dirigidos por la comunidad para la moderación de contenido, que pueden atraer a aquellos que buscan un entorno en línea más seguro.
En última instancia, el futuro de las redes sociales depende de nuestra capacidad para lograr un equilibrio entre innovación y responsabilidad. Requiere un esfuerzo de colaboración de las empresas de tecnología, los reguladores y los usuarios para crear un mundo digital que sea a la vez empoderador y seguro. ¿Puede X estar a la altura del desafío o se convertirá en una historia con moraleja sobre el avance tecnológico desenfrenado?
Apoya nuestro trabajo ❤️
Si te ha gustado este artículo, considera dejar una propina para ayudarnos a seguir publicando contenido de calidad.
