Los padres de una adolescente de 13 años han presentado una demanda contra Google en un tribunal de California, alegando que la tecnología de inteligencia artificial (IA) de la empresa contribuyó a que su hija planificara un posible suicidio y su funeral. La demanda sostiene que la menor, identificada como Emma, utilizó una computadora proporcionada por su escuela en Carolina del Norte, la cual incluía herramientas de IA integradas en el motor de búsqueda de Google.
Te interesa
Lee tambien: ¿Cuánto sabe Google de tu vida? Un recorrido por los datos y historiales que la compañía almacena sobre ti
Este caso es el primero conocido que acusa a Google de negligencia relacionada con sus integraciones de IA en los Chromebooks, dispositivos de bajo coste utilizados por millones de estudiantes en Estados Unidos y en todo el mundo. Aunque la escuela había bloqueado el acceso a aplicaciones como Gemini de Google y ChatGPT de OpenAI, Emma pudo utilizar el motor de búsqueda de Google, que cuenta con funciones impulsadas por IA.
Las noticias de Ceuta, cada mañana a las 7:30
Lo más leído, la farmacia de guardia, el tiempo y el estado del Estrecho en tu correo. Gratis.
Detalles de la demanda contra Google
La demanda, presentada el lunes, describe a Emma como una «niña feliz de 13 años» que obtenía buenas calificaciones, tocaba música y participaba en las Girl Scouts. Sin antecedentes de enfermedad mental, la demanda alega que Emma comenzó a experimentar una «silenciosa espiral en una grave crisis psicológica» tras meses de usar la búsqueda con IA de Google en su portátil escolar.
Lee tambien: Thales amplía colaboración con Google Cloud para proteger IA
El 17 de marzo, el software de monitoreo de la escuela detectó un documento titulado «Funeral», lo que llevó al centro educativo a notificar a los padres de Emma. Andrew Liddell, uno de los abogados de la familia, declaró que las escuelas deberían desactivar la búsqueda hasta que Google elimine el modo de IA o garantice la seguridad de los estudiantes al interactuar con la IA.
Reacciones y medidas de seguridad
La demanda destaca que las funciones de IA utilizadas por Emma no están entre las herramientas que Google anunció recientemente que serían desactivadas por defecto para estudiantes. La situación ha generado un debate sobre la seguridad y el uso responsable de la IA en entornos educativos.
En respuesta a situaciones de emergencia, se han compartido varios números de contacto para prevención del suicidio y apoyo psicológico, incluyendo el Teléfono de la Esperanza y líneas específicas en diversas regiones de España.
