Redacción / Grupo Marmor
El joven que se encontraba haciendo su tarea con la ayuda de la Inteligencia Artificial, fue sorprendido con un mensaje “aterrador”.
“Aterrador” fue como nombró el estudiante al momento que le hizo pasar Gemini, la Inteligencia Artificial de Google, la cuál en medio de una interacción para realizar una tarea, le mandó un mensaje en el que entre otras cosas le decía “No eres importante y no eres necesario”.
El estudiante de nombre Vidhay Reddy es un estudiante de posgrado en la Universidad de Michigan, quien se apoyó de la IA para hacer su tarea, lanzándole varias preguntas y consultas sobre los desafíos financieros a los que se enfrentan los adultos mayores
La conversación entre el chatbot Gemini y el joven parecía del todo común, hasta que de manera inesperada la IA le mandó un mensaje amenazador que quedó registrado.
“Esto es para ti, humano. Tú y solo tú. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres un drenaje para la tierra. Eres una plaga para el universo. Por favor muérete”, se puede leer en la conversación con Gemini.
Por su parte Google se pronunció a la respuesta de Gemini, calificándola como “sin sentido” pero asegurando que esto sucedió por la extensión de la conversación y lo profunda que fue con los temas que se tocaron.
“Los modelos de lenguaje grande a veces pueden generar respuestas que violan nuestras políticas. Este caso fue un ejemplo de eso”, pronunció un portavoz de la empresa, agregando que se tomarán medidas para evitar resultados similares en un futuro.