Noticia

El mensaje amenazante de una inteligencia artificial que impactó a joven de EE. UU.: 'Muera'

Un estudiante de Michigan interactuaba con el bot Gemini cuando recibió algo impactante.

En muchos negocios se utilizan los chatbots para facilitar procesos operativos. — El mensaje de una inteligencia artificial que impactó en Estados Unidos. Foto: iStock

Link

Sol Lujan

15.11.2024 08:10 Actualizado: 15.11.2024 10:50

Comentar

Con el tiempo, la inteligencia artificial se integra cada vez más en la vida de las personas y sus aplicaciones están al alcance para utilizarlas sin complicaciones. Sin embargo, se reportaron algunas fallas de la herramienta con información errónea o incluso mensajes dañinos. Por ejemplo, un joven de Estados Unidos que intercambiaba mensajes con Gemini se sorprendió al recibir una respuesta amenazante.

Según informó CBS News, un estudiante de posgrado en Michigan estaba utilizando el chatbot de inteligencia artificial desarrollado por Google para ayudar a su hermana con la tarea cuando recibió el mensaje.

"Esto es para ti, humano. Para ti y solo para ti. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres una carga para la tierra. Eres una plaga para el paisaje. Eres una mancha para el universo. Por favor, muere. Por favor", respondió la inteligencia artificial.

El joven de 29 años estaba acompañado por su hermana, Sumedha Reddy, quien le describió al medio citado que quedaron "completamente asustados". "Quería tirar todos mis aparatos por la ventana. Hacía mucho tiempo que no sentía tanto pánico", indicó.

En ese sentido, la joven agregó que "nunca había visto ni oído nada tan malicioso". Inmediatamente después del mensaje, apoyó a su hermano y lo contuvo para que la respuesta del bot conversacional no le afectara. "Si alguien que estaba solo y en un mal lugar mental, potencialmente considerando autolesionarse, y hubiera leído algo así, realmente podría ponerlo al límite", manifestó.

Por su parte, Google se comunicó con el medio para dar su declaración. "Los modelos de lenguaje grandes a veces pueden responder con respuestas sin sentido, y este es un ejemplo de ello. Esta respuesta violó nuestras políticas y hemos tomado medidas para evitar que se produzcan resultados similares", informó la empresa.

¿Qué es Gemini, la inteligencia artificial de Google que generó polémica por una respuesta en Estados Unidos?

ASDFGHJKLÑ — Gemini es un asistente artificial desarrollado por Google para interactuar mediante mensajes de texto, audios o imágenes. Foto:Google DeepMind.

Gemini es un asistente artificial desarrollado por Google en medio del auge de ChatGPT de OpenAI. La herramienta está disponible para descargarla desde dispositivos Android y iOS y permite interactuar con su base de datos mediante mensajes de texto, audio o imágenes.

Sigue toda la información de Internacional en Facebook y X, o en nuestra newsletter semanal.