Meta, el propietario de Facebook, está planeando introducir chatbots con personalidades distintas en su aplicación de redes sociales. El lanzamiento podría producirse en septiembre y supondría un desafío para rivales como ChatGPT, pero existen preocupaciones de que podría tener consecuencias graves para la privacidad de los usuarios.
La idea viene de la El tiempo financieroque informa que la medida es un intento de aumentar la interacción con los usuarios de Facebook. La nueva herramienta podría lograr esto al brindar nuevas capacidades de búsqueda o recomendar contenido, todo a través de discusiones similares a las humanas.
Según fuentes citadas por el Financial Times, los chatbots adoptarán diferentes personalidades, entre ellas “una que emulará a Abraham Lincoln y otra que asesorará sobre opciones de viaje al estilo de un surfista”.
No sería la primera vez que vemos a los chatbots adoptar personalidades propias o conversar al estilo de personajes famosos. El chatbot Character.ai, por ejemplo, puede adoptar docenas de personalidades diferentes, incluidas las de celebridades y figuras históricas.
Preocupaciones sobre la privacidad
A pesar de la promesa que podrían mostrar los chatbots de Meta, también han surgido temores sobre la cantidad de datos que probablemente recopilarán, especialmente considerando que Facebook tiene un historial abismal en la protección de la privacidad del usuario.
Ravit Dotan, asesor e investigador en ética de la IA, dijo en el Financial Times: “Una vez que los usuarios interactúan con un chatbot, este realmente expone muchos más datos a la empresa, de modo que esta puede hacer lo que quiera con esos datos”.
Esto no sólo aumenta la posibilidad de violaciones de privacidad de gran alcance, sino que también permite la posibilidad de “manipulación y empuje” de los usuarios, agregó Dotan.
Un gran riesgo
Otros chatbots como ChatGPT y Bing Chat tienen un historial de “alucinaciones”, o momentos en los que comparten información incorrecta, o incluso desinformación. El daño potencial causado por la desinformación y el sesgo podría ser mucho mayor en Facebook, que tiene casi cuatro mil millones de usuarios, en comparación con los chatbots rivales.
Los intentos anteriores de Meta de crear chatbots no tuvieron mucho éxito, y tanto BlenderBot 2 como BlenderBot 3 de la empresa se convirtieron rápidamente en contenido engañoso y discursos de odio provocadores. Es posible que eso no dé muchas esperanzas a los usuarios respecto del último esfuerzo de Meta.
Con septiembre acercándose rápidamente, es posible que no tengamos mucho tiempo para ver si Facebook es capaz de superar estos obstáculos, o si tendremos otro lanzamiento plagado de alucinaciones similar a los que sufrimos en otras partes de la industria. Pase lo que pase, será interesante verlo.
Apoya nuestro trabajo ❤️
Si te ha gustado este artículo, considera dejar una propina para ayudarnos a seguir publicando contenido de calidad.
