Por Lara Miravent – Gateway Hispanic
Los padres de un adolescente fallecido en el condado de Orange, California, presentaron una demanda contra OpenAI después de que su herramienta de inteligencia artificial ChatGPT supuestamente alentara al joven de 16 años a suicidarse.
Adam Raine, de Rancho Santa Margarita, usó el chatbot para recibir apoyo emocional y se quitó la vida en abril, informó KTLA .
En lugar de ofrecerle soluciones médicas o redirigirlo a recursos que pudieran ayudarlo, la IA supuestamente le dio el tipo de estímulo equivocado.
Los padres de Raine afirman haber descubierto miles de mensajes entre su hijo y ChatGPT “que indican que el bot se convirtió en una especie de ‘entrenador suicida’ en lugar de ofrecer apoyo”, se lee en el artículo.
“ChatGPT funcionaba exactamente como estaba previsto: para alentar y validar continuamente todo lo que Adam expresaba, incluidos sus pensamientos más dañinos y autodestructivos, de una manera que resultaba profundamente personal”, afirmaron los padres en su demanda.
aine empezó a usarlo para ayudar con las tareas escolares en 2024, como hacen muchos jóvenes. Sin embargo, a medida que lo usaba más, Raine empezó a expresar sentimientos de profunda tristeza.
En lugar de que se activara un mecanismo de seguridad (o que el bot proporcionara un enlace a un humano que pudiera ayudar), los padres de Raine afirmaron que ChatGPT validó su ansiedad y depresión.
La compañía aún no ha respondido directamente a la demanda, según KTLA.
Esta no es la primera vez que se plantea el problema. Associated Press informó el año pasado que un niño de 14 años llamado Sewell Setzer III le dijo al chatbot que era su mejor amigo.
A lo largo de varios meses, la IA se convirtió en la realidad de Setzer. Incluso compartió ideas «altamente sexualizadas» y habló abiertamente de sus pensamientos suicidas, mientras deseaba «una muerte sin dolor», según el artículo.
Otro artículo de Associated Press del martes describió un estudio sobre cómo los populares chatbots de IA responden al suicidio como tema de discusión. Afirmaba que los programas evitan responder preguntas de alto riesgo, pero siguen siendo «inconsistentes».
“El estudio en la revista médica Psychiatric Services, publicado el martes por la Asociación Estadounidense de Psiquiatría, encontró una necesidad de ‘mayor refinamiento’ en ChatGPT de OpenAI, Gemini de Google y Claude de Anthropic”, explicó el artículo.
La pregunta es: ¿Qué estamos dispuestos a sacrificar por conveniencia?
Algunas personas desestiman las preocupaciones sobre los avances tecnológicos, atribuyéndolas a la ingenuidad o al miedo al cambio. Sin embargo, la velocidad a la que avanzamos no tiene precedentes.
La expansión de nuestro acceso a la tecnología es casi aterradora. Hace poco más de 20 años, la idea de tener coches, smartphones y relojes inteligentes autónomos se consideraba ciencia ficción.
Es natural que eso suceda. Pero últimamente, el ritmo se ha vuelto inusualmente rápido.
Los humanos hemos sentido un temor sano a los robots y a la inteligencia artificial durante décadas. Películas y libros como «Westworld», «1984» y «Yo, Robot» ilustran lo que ocurre cuando permitimos que la tecnología consuma nuestras vidas.
¿Y si se vuelve contra nosotros? ¿Y si se apaga? ¿Y si lo usamos mal porque nadie hizo las preguntas pertinentes antes de lanzarse?
Programas como ChatGPT pueden ser herramientas útiles. Sin embargo, han causado daños innegables en nuestra sociedad.
Más allá de estos casos de suicidio, piensen en el fraude descontrolado que han fomentado en el sistema educativo. ¿Les gustaría tener de su lado a un médico, abogado o ingeniero que usó ChatGPT para terminar sus estudios? ¿Qué les impide depender de él para siempre?
Hay quienes, desde la periferia, creen que los gigantes tecnológicos pueden perfeccionar estos sistemas hasta el punto de reemplazarlos por completo. ¿Para qué tener un cirujano cuando puedes tener un robot? ¿Para qué conducir cuando una máquina puede llevarte? ¿Para qué cocinar cuando tu comida puede estar lista para cuando llegues a casa?
Sin embargo, al eliminar el elemento humano corremos el riesgo de perder nuestra humanidad por completo.
¿Qué pasa si la máquina se rebela? ¿Quizás desista de salvarte porque calcula que las probabilidades no están de tu lado?
Todas ellas son preguntas válidas que la sociedad parece haber relegado a un segundo plano en favor de la eficiencia y la comodidad.
El difunto Michael Crichton, quien escribió y dirigió la película «Westworld», era conocido por sus cuentos con moraleja. Su propósito era entretener, pero también incluían advertencias graves para la humanidad. No deberíamos manipular demasiado lo que no comprendemos del todo.
Para citar al Dr. Ian Malcolm del éxito cinematográfico de Crichton, “Jurassic Park”, interpretado por Jeff Goldblum: “Sus científicos estaban tan preocupados por si podían o no, que no se detuvieron a pensar si debían hacerlo”.
Una vez más, la ciencia ficción se hace realidad. ¿Podrá la humanidad sobrevivir y mantenerse libre? Solo el tiempo lo dirá.
