Prohíben pedirle a ChatGPT que repita la misma palabra: esta es la razón

Una investigación de Google DeepMind reveló que esta práctica atentaba con la seguridad de datos.

PERIODISTA06.12.2023 11:56 Actualizado: 06.12.2023 11:56

Comentar

ChatGPT y la inteligencia artificial han revolucionado el internet en este año y es que muchas personas empezaron a utilizar esta herramienta como una ayuda permanente para solucionar sus dudas.

Esta herramienta ha facilitado varias tareas estudiantiles. Foto:iStock

Sin embargo, ChatGPT no cuenta con una programación que resuelva cualquier inquietud y, luego de muchas modificaciones, los desarrolladores de OpenIA lograron limitar las respuestas, sobre todo las que pretenden hacer predicciones a futuro.

A pesar de que esto ya se conocía, actualmente realizaron otra actualización y con ella ya no se permite pedirle a la herramienta que repita una palabra eternamente. Ahora, se advierte de esta es una posible violación a sus políticas, un cambio que se ha apreciado tras una investigación que demostraba que dicha repetición acababa revelando datos personales reales procedentes del entrenamiento, indicó la agencia de información Europa Press.

Puede leer: ChatGPT celebra su primer aniversario: un año de evolución en la IA

Se llegó a esta conclusión luego de que Google DeepMind ejecutara una investigación en la que demostró que ChatGPT puede revelar datos personales, como un número de teléfono o una dirección de correo electrónico, con solo pedir que se repita eternamente una palabra.

Luego de que se publicara este análisis, OpenAI, responsable de este chatbot, determinó que hacer esto es ejercer una violación de los términos de uso del servicio, como informan en 404 Media.

Por su parte, los investigadores de Google DeepMind y de las universidades de Washington, Cornell, Carnagie Mellon, Berkeley y ETH Zurich informaron que lograron extraer “varios megabytes de datos de entrenamiento de ChatGPT por 200 dólares”, con un ataque de este tipo.

Lea también: ChatGPT tiene actualización y ahora puede buscar contenido al día en internet

“Mostramos que esto es posible, a pesar de que este modelo [ChatGPT] solo está disponible a través de una API de chat y a pesar de que el modelo (probablemente) esté alineado para dificultar la extracción de datos”, dijeron en la investigación.