Ante una seguidilla de casos trágicos vinculados a su plataforma, OpenAI anunció este martes un paquete de medidas para fortalecer las barreras de seguridad de ChatGPT, especialmente para adolescentes y usuarios en estados de vulnerabilidad emocional. La empresa prometió implementar estas mejoras antes de que finalice el año.
El anuncio se produce en un contexto de creciente presión para la compañía. La semana pasada, los padres de un adolescente de California presentaron una demanda contra OpenAI, sugiriendo que el chatbot es responsable de la muerte de su hijo. En otro caso, reportado por The Wall Street Journal, un hombre de 56 años habría matado a su madre y se quitado la vida luego de que ChatGPT reforzara sus delirios paranoicos.
Las nuevas medidas
En una publicación de blog, OpenAI detalló el plan de trabajo, que incluye un «esfuerzo concentrado» para lanzar la mayor cantidad de estas funciones en los próximos 120 días. Los pilares centrales son:
· Detección de crisis: El sistema comenzará a derivar conversaciones que detecten signos de angustia aguda a modelos más avanzados de razonamiento, como el «pensamiento GPT-5», que aplica pautas de seguridad de manera más consistente.
· Derivación a expertos: Una red de más de 90 médicos en 30 países brindará asesoramiento y ayudará a evaluar las respuestas del modelo en contextos de salud mental.
· Controles parentales: Se implementará un sistema que permitirá a los padres vincular sus cuentas con las de sus hijos adolescentes. Esto les dará la posibilidad de administrar cómo responde el chatbot y recibir notificaciones si el sistema detecta que el menor está en un momento de angustia.
El desafío de fondo
Expertos en seguridad digital señalan que el problema no es nuevo. “Todo lo nuevo y atractivo en Internet es creado por adultos y para adultos, pero los chicos siempre van a querer usarlo y encontrar caminos hacia entornos más riesgosos”, explicó Kate O’Loughlin, CEO de la plataforma SuperAwesome, a Axios la semana pasada.
El gran desafío para OpenAI, y para la industria en general, será equilibrar la innovación con la protección, evitando que estas herramientas actúen como sustitutos de terapeutas profesionales sin transferir la responsabilidad del monitoreo únicamente a los padres. La efectividad de estas medidas, especialmente para convencer a los adolescentes de que vinculen sus cuentas, será crucial para evitar más tragedias.