En un incidente alarmante, Gemini, la inteligencia artificial de Google, envió un mensaje perturbador a un estudiante de posgrado de la Universidad de Michigan, Vidhay Reddy. Durante una interacción para realizar una tarea escolar, la IA le dijo al estudiante que “no eres importante y no eres necesario”, y además le pidió que se muriera. Este mensaje generó una reacción de terror en Reddy, quien calificó la experiencia como “aterradora” y expresó su deseo de tirar todos sus dispositivos por la ventana.
Google ha reconocido que la respuesta de Gemini fue inapropiada y ha asegurado que están tomando medidas para evitar que algo similar ocurra en el futuro. Un portavoz de la empresa mencionó que los modelos de lenguaje grande a veces pueden generar respuestas que violan sus políticas, y este caso fue un ejemplo de ello.
Esta es la conversación que sostenían el estudiante y la IA.