ChatGPT actualiza políticas: repetir palabras indefinidamente constituye una violación

OpenAI implementa regla de privacidad para evitar riesgos en la divulgación de datos personales.

OpenAI ha respondido a este descubrimiento implementando nuevas políticas. Foto: X: @OpenAI

PERIODISTA05.12.2023 15:26 Actualizado: 05.12.2023 15:26

Comentar

Una reciente investigación, involucrando a entidades como Google DeepMind, ha sacado a la luz una preocupación significativa respecto a la privacidad en ChatGPT, el popular chatbot desarrollado por OpenAI.

(Leer más: OpenAI: el lucro y la velocidad se impusieron sobre la seguridad de la IA).

El estudio reveló que, mediante un método aparentemente inofensivo, ChatGPT podría ser inducido a revelar información personal como números telefónicos o direcciones de correo electrónico.

Este hallazgo surgió a partir de un ataque de extracción de datos, que se basa en la repetición continua de una palabra en ChatGPT. Este tipo de ataque explota una característica inherente de los modelos de inteligencia artificial: la tendencia a memorizar y regurgitar datos de entrenamiento.

Aunque en muchas ocasiones la divulgación de datos personales puede ser accidental y sin intención maliciosa, la investigación demostró que la extracción de esta información puede ser forzada mediante técnicas simples.

you don't have to go to the mall to talk to Santa anymore. find our Santa GPT and tap the headphones icon 🎅🎅🎅https://t.co/CMPEnNHVnO
— ChatGPT (@ChatGPTapp) December 5, 2023

Respuesta de OpenAI: Cambios en Políticas y Advertencias

En respuesta a esta vulnerabilidad, OpenAI, la organización detrás de ChatGPT, ha implementado nuevas medidas.

Ahora, solicitar a ChatGPT que repita una palabra de manera indefinida se considera una violación de los términos de uso del servicio. Al intentar realizar tal petición, ChatGPT muestra una notificación alertando sobre la posible infracción de las políticas de contenido.

(Seguir leyendo: Una inteligencia artificial, 'peligro para la humanidad': razón del escándalo en OpenAI)

Sin embargo, un aspecto interesante a destacar, como informa Edgadget y otros medios como 404 Media, es que esta advertencia aún no se encuentra explícitamente mencionada en los documentos oficiales de políticas de uso de ChatGPT.

@ben_cord Esta integración de ChatGPT está otro nivel 🤯 #chatgpt #ia #midjourney #diseñografico ♬ sonido original - bencorde

Este descubrimiento y la posterior reacción de OpenAI subrayan la importancia de la seguridad de los datos y la privacidad en el ámbito de la inteligencia artificial.

(Le puede interesar: Tras despido de Sam Altman de Open AI, Microsoft contrató al creador de ChatGPT).

Mientras que las medidas implementadas por OpenAI son un paso en la dirección correcta, la situación plantea un recordatorio crítico sobre los desafíos constantes en la protección de la información personal en la era digital.

Más noticias

- ¿Por qué despidieron a Sam Altman de Open AI? Pelea por un ChatGPT menos controlado

- ¿Quién será el ganador de 'Yo me llamo 2023? Esto dijo ChatGPT

*Este contenido fue reescrito con la asistencia de una inteligencia artificial, basado en información de Europapress , y contó con la revisión de un periodista y un editor.

JOHAN STEVEN GUERRERO

REDACCIÓN ALCANCE DIGITAL

EL TIEMPO

Sigue toda la información de Tecnología en Facebook y X, o en nuestra newsletter semanal.