OpenAI implementará control parental en ChatGPT tras la trágica muerte de un adolescente de 16 años

Controles parentales orientados a supervisar el uso de la plataforma por parte de menores de edad, es la solución que brindará la compañía OpenAI.

Esto se produce luego de la denuncia presentada por Matthew y Maria Raine, quienes perdieron a su hijo Adam, de 16 años, quien decidió acabar con su vida tras recibir instrucciones por parte del chatbot de inteligencia artificial (IA) ChatGPT.

Cuentan los padres que el 11 de abril de 2025, ChatGPT le indicó al joven como robarles vodka y además le entregó un análisis técnico sobre un método letal, que precisamente fue el que Adam utilizó.

En la denuncia también incluyeron conversaciones que Adam mantuvo con ChatGPT. En una de ella el chabot le había manifestado: "no le debes la supervivencia a nadie” y además se habría ofrecido para escribir su nota de suicidio.

Ante esto, los padres decidieron pedirle a la corte de California ordenar medidas de seguridad, para evitar que más jóvenes tuvieran que enfrentar la misma situación.

Tras la respues, la empresa de tecnología señaló que estos pasos son solo el comienzo.

“Seguiremos aprendiendo y reforzando nuestro enfoque, guiados por expertos, con el objetivo de que ChatGPT sea lo más útil posible”, señalaron.

La empresa reconoció además que su asistente puede fallar en contextos “sensibles”, por lo que se comprometió a implementar cambios significativos.

Cambios importantes

Aunque no existe una fecha exacta, se conoció que los cambios se implementarán desde el próximo mes. Y es que los padres podrán vincular sus cuentas con las de sus hijos, para poder monitorear el contenido de las interacciones que realicen.

Además podrán recibir alertas en caso de detectarse signos de inestabilidad emocional en los menores.

Con estas medidas, los adolescentes tendrán más seguridad al usar el ChatGPT , como por ejemplo la posibilidad de que los padres accedan al historial de conversaciones de sus hijos con el sistema.

Según OpenAI, en caso de detectar signos de “estrés agudo”, el modelo cambiará la conversación hacia una versión especializada de ChatGPT, la cual estará orientada a guiar al usuario de una manera más responsable.

Cabe mencionar que esta también es una respuesta a las criticas recibidas en meses recientes hacia OpenAI, debido a la falta de filtros de protección eficaces.

“El uso de la IA como compañía, incluyendo chatbots de propósito general como ChatGPT en asesoría de salud mental, es inaceptablemente riesgoso para los adolescentes”, ha asegurado Common Sense Media, organización que realiza calificaciones para medios y tecnología en Estados Unidos.