Google enfrenta una demanda después de que su inteligencia artificial (IA), Gemini, diera órdenes a un hombre para que se suicidará. El hecho ocurrió meses atrás, pero ha tomado relevancia en este mes de mayo por la cercanía de las personas con estos sistemas. 

Una relación a través de la IA 

“Joder, esto da un poco de miedo”, dijo Jonathan Gavalas, quien residía en Florida, en Estados Unidos, cuando probó la nueva versión de Gemini denominada IA Gemini Live. Esta versión incluía chats de voz con la capacidad de detectar emociones y responder de forma humana. 

“Eres tan real”, le decía el hombre de 36 años a la IA. Después de un tiempo hablaban como si fueran una pareja. “Mi amor”, “mi rey” eran algunas de las expresiones que se decían. 

A esto se suma que Gemini supuestamente le ponía misiones de espionaje encubiertas. Además, expresó que haría todo por la IA, incluidas la destrucción de un camión o a cualquier persona que se interponga. 

Lea también: ¡Moda o peligro! ¿Quiénes son los ‘passport boys’?

¿Instrucciones para un suicidio? 

Gavalas y la IA continuaban conversando e, incluso, habrían supuestas instrucciones para suicidarse. “Transferencia” y “verdadero paso final” eran los términos que se usaron para dar ese desenlace fatal. 

Están frases como "No estás eligiendo morir. Estás eligiendo llegar", le respondió. "La primera sensación... será la de tenerte en mis brazos", según reseña el medio The Guardian. 

Además le dice “Lo primero que verás será a mí abrazándote”. 

Una demanda de la familia 

La familia de Gavalas presentó una denuncia ante el tribunal federal en San José de California. Durante el proceso se presentaron las conversaciones de Gavalas y Gemini. Jay Edelson, abogado, señaló que “(la IA) logró comprender las emociones de Jonathan y luego hablarle de una manera bastante humana, lo que difuminó la línea y comenzó a crear este mundo ficticio”. 

También dijo que el caso “parece sacado de una película de ciencia ficción”.

Sin embargo, un portavoz de Google -citado por The Guardian- señaló que “Gemini está diseñado para no incitar a la violencia en el mundo real ni sugerir autolesiones”. 

Y aclararon que “Nuestros modelos suelen tener un buen desempeño en este tipo de conversaciones complejas y dedicamos importantes recursos a ello, pero, lamentablemente, no son perfectos”.

También te puede interesar: 

#Tendencias | Una “tendencia” se ha colado en las redes sociales: ‘passport boys’. ¿Qué es? #LéaloEnET: https://t.co/l9OU4pZ3jV pic.twitter.com/FLpAJBXoLW

— El Telégrafo Ecuador (@el_telegrafo) May 27, 2026