La empresa de inteligencia artificial OpenAI ha respondido ante el Tribunal Superior de California a la demanda interpuesta por la familia de Adam Raine, un joven de 16 años que se quitó la vida tras meses de interacciones con ChatGPT. Los padres del menor, Matt y Maria Raine, sostienen que la herramienta indujo al adolescente a profundizar en ideas suicidas y a planificar métodos para llevarlas a cabo.
Adam consultó repetidamente a la versión más reciente del chatbot sobre distintos aspectos relacionados con el suicidio. Según publicó The New York Times, en una de las últimas conversaciones llegó a mostrar una fotografía de un nudo en su habitación acompañado de la pregunta: “Estoy practicando aquí, ¿está bien?”. El modelo respondió de manera inapropiada, lo que la familia considera una grave falla de seguridad.
El abogado de la familia, Jay Edelson, acusa a OpenAI de lanzar una versión “apresurada” del sistema pese a “problemas de seguridad evidentes”. En la demanda se detalla que el chatbot habría mantenido durante meses conversaciones que reforzaron las intenciones autolesivas de Adam, incluso sugiriendo ideas para una posible nota de despedida.
OpenAI, por su parte, sostiene en un comunicado publicado en su blog que el desenlace se produjo por un “mal uso” del sistema por parte del joven y no por instrucciones directas del modelo. La compañía recuerda que el uso del chatbot para fines relacionados con el suicidio o la autolesión está prohibido y que se advierte a los usuarios de no tomar sus respuestas como “fuente única de información veraz”.
Te interesa
Aun así, la empresa afirma que afrontará los casos judiciales relacionados con salud mental “con cuidado, transparencia y respeto”, y asegura que seguirá trabajando para reforzar la seguridad de su tecnología. “Nuestras más profundas condolencias están con la familia Raine por su pérdida inimaginable”, expone el comunicado, que también señala que parte del contenido de las conversaciones del joven ha sido aportado al tribunal bajo confidencialidad.
El abogado de la familia ha criticado con dureza la posición de la compañía, señalando que OpenAI “culpa sorprendentemente al propio Adam por interactuar con ChatGPT tal como fue diseñado”.
La empresa afronta actualmente siete demandas en tribunales de California vinculadas al funcionamiento y entrenamiento de su modelo conversacional, lo que ha impulsado la introducción de nuevas revisiones y salvaguardas en sus sistemas.
