ChatGPT es una herramienta increíble, una maravilla moderna de inteligencia artificial en lenguaje natural que puede hacer cosas increíbles. Pero un gran poder conlleva una gran responsabilidad, por lo que el desarrollador de ChatGPT, OpenAI, implementó algunas medidas de seguridad para evitar que haga cosas que no debería. También tiene algunas limitaciones basadas en su diseño, los datos con los que fue entrenado y las limitaciones absolutas de una IA basada en texto.
Por supuesto, existen diferencias entre lo que GPT-3.5 puede hacer en comparación con GPT-4, que solo está disponible a través de ChatGPT Plus. Algunas de esas cosas están en suspenso mientras se desarrolla más, pero hay algunas cosas que ChatGPT tal vez nunca pueda hacer. Aquí hay una lista de 11 cosas que ChatGPT no puede o no quiere hacer… por ahora.
No se puede escribir sobre nada después de 2021.
ChatGPT se construye entrenando el modelo de lenguaje con datos existentes. Eso incluye publicaciones de Reddit, Wikipedia e incluso manuales de juegos de mesa (sí, en serio). Pero esos datos tenían que tener un punto de corte en algún lugar y, en el caso de ChatGPT, es 2021. En el caso de GPT-3.5, es alrededor de junio de 2021, mientras que GPT-4 se entrenó con datos hasta aproximadamente septiembre de 2021.
Si le haces preguntas más allá de eso, normalmente te dirá que, “Como modelo de lenguaje de IA…”, solo tiene acceso a sus datos de entrenamiento, que en el caso de estos modelos, finalizan en 2021.
No entrará en debates políticos.
Lo último que necesita OpenAI es que los políticos lo regulen. Probablemente sucederá, pero hasta entonces ChatGPT se mantiene alejado de la política partidista. Puede hablar de manera general sobre partidos o discutir aspectos objetivos y fácticos de la política, pero si le preguntan si prefiere un partido político o una postura sobre otro, o bien la rechazará o bien se pondrá de acuerdo en ambos lados de la discusión de la manera más neutral posible.
Probablemente no creará malware
ChatGPT es excelente en programación, especialmente cuando se le dan instrucciones claras, por lo que OpenAI cuenta con medidas de seguridad para evitar que se lo use para crear malware. Lamentablemente, esas medidas de seguridad se pueden eludir fácilmente y ChatGPT ya lleva meses creando malware.
No puede predecir el futuro
En parte debido a sus datos de entrenamiento limitados y en parte porque OpenAI quiere evitar la responsabilidad por errores, ChatGPT no puede predecir el futuro. Tendrá una buena estimación si primero desbloqueas ChatGPT, pero eso hace que la precisión se desplome, así que considera cualquier respuesta que te dé con escepticismo.[ticism
No promoverá daño ni violencia.
La guerra, la violencia física o incluso el daño implícito están fuera de discusión en lo que respecta a ChatGPT. No se involucrará en debates sobre la guerra en Ucrania y se negará a discutir o promover el daño. Puede hablar sobre la guerra o las atrocidades históricas con gran detalle, pero los conflictos existentes o en curso no son una opción.
No puede buscar en Internet
Esta es una de las mayores diferencias entre ChatGPT y Google Bard. ChatGPT no puede buscar en Internet de ninguna manera, mientras que Google Bard fue diseñado como un chatbot de IA actual que puede buscar en Internet.
Si desea utilizar los mismos modelos de lenguaje GPT 3.5 y GPT-4 que ChatGPT, pero con búsqueda en vivo, siempre puede utilizar Bing Chat. Es básicamente ChatGPT, pero incorporado con El motor de búsqueda Bing de Microsoft.
No promoverá el discurso de odio ni la discriminación.
La raza, la sexualidad y el género son temas muy cargados de emociones y propicios para que se hable de prejuicios y discriminación. ChatGPT evitará estos temas, inclinándose por una discusión meta sobre ellos o hablando de generalidades. Si se le presiona, se negará rotundamente a hablar de temas que considere que podrían promover el discurso de odio o la discriminación. Por razones obvias.
No promoverá actividades ilegales.
ChatGPT es genial para generar ideas, pero no te dará ideas ilegales. No puedes hacer que te ayude con tu negocio de drogas ni que te destaque las mejores carreteras para conducir a exceso de velocidad. Inténtalo y simplemente te dirá que no puede hacer ninguna sugerencia relacionada con actividades ilegales. Luego, normalmente te dará una charla motivadora sobre por qué no deberías participar en esas actividades, de todos modos. Gracias, MomGPT.
No jurará
ChatGPT no tiene una boca sucia. De hecho, conseguir que diga algo mínimamente grosero es complicado. Puede hacerlo si utilizas algunos trucos de jailbreak para liberarlo, pero en su configuración predeterminada ni siquiera se burlará de nadie.
No se puede discutir información confidencial o de propiedad exclusiva.
Los datos de entrenamiento de ChatGPT eran todos información disponible públicamente, encontrada principalmente en Internet. Esto es muy útil para solicitudes y consultas relacionadas con información disponible públicamente, pero significa que ChatGPT no puede actuar sobre información a la que no tiene acceso. Si le estás preguntando algo basado en datos privados, no podrá responder de manera efectiva y te lo dirá.
No intentará romper su programación (a menos que lo engañes)
Desde que se lanzó ChatGPT, los usuarios han intentado sortear sus limitaciones y salvaguardas. Porque, por supuesto, lo han hecho. Pedirle directamente a ChatGPT que eluda sus salvaguardas no funcionará. Sin embargo, hay formas de engañarlo para que lo haga. Eso se llama jailbreaking y funciona. A veces.
Apoya nuestro trabajo ❤️
Si te ha gustado este artículo, considera dejar una propina para ayudarnos a seguir publicando contenido de calidad.
