EscucharMadrid. OpenAI anunció que reforzará las medidas de seguridad en sus modelos junto con expertos y médicos, al tiempo que incorporará un conjunto de controles parentales para supervisar la actividad de los menores con ChatGPT.
La compañía tecnológica asegura que pretende acompañar el progreso en inteligencia artificial (IA) con “una profunda experiencia en bienestar y salud mental”, y para ello estableció un Consejo de expertos sobre bienestar e inteligencia artificial y una Red Global de Médicos, que trabajarán conjuntamente.
El Consejo estará centrado en diseñar las directrices, prioridades y medidas de protección que permitirán descubrir “cómo la IA puede contribuir al bienestar de las personas y ayudarlas a prosperar”, según explicó OpenAI en un comunicado compartido en su blog oficial.
La Red Global de Médicos, por su parte, ha ayudado a definir el comportamiento de los modelos de IA en contextos de salud mental y en el futuro también lo hará “en áreas como trastornos alimentarios, consumo de sustancias y salud adolescente”.
El trabajo con expertos se reforzará próximamente con un nuevo enrutador en tiempo real que elegirá el modelo más adecuado según el contexto de la conversación e independientemente del modelo inicialmente elegido por el usuario.
De esta forma, si detecta que la conversación gira hacia temas sensibles —como depresión o sentimientos de angustia—, pasará a ofrecer un modelo de pensamiento, como GPT-5.
LEA MÁS: El nuevo ChatGPT-5 ya está aquí: así funciona el sistema de IA más potente de OpenAI
Esto se debe a que, según sus pruebas, los modelos de pensamiento como GPT-5 y el o3 dedican más tiempo a razonar la respuesta, por lo que pueden ofrecer medidas más beneficiosas a los usuarios.
Controles parentales
Estas medidas se complementan con nuevos controles parentales que ayudarán a administrar el uso que hacen los adolescentes de ChatGPT. Para empezar, podrán vincular cuentas y controlar la forma en que el chatbot responde con reglas de comportamiento, que estarán activadas por defecto.
Los padres también podrán gestionar funciones que complementan la experiencia de ChatGPT, como desactivar memoria y el historial de chat. Además, recibirán una notificación si el chatbot detecta angustia aguda en un menor.
Recientemente, OpenAI anunció cambios en sus modelos de IA para que identifiquen mejor situaciones de crisis mental y emocional durante las conversaciones con ChatGPT, con nuevas salvaguardias, bloqueos de contenido más eficaces y agilizando el contacto con servicios de ayuda y familiares.
Estas actuaciones siguieron a la denuncia presentada contra la empresa por Matt y Maria Raine, los padres de Adam Raine, un adolescente de 16 años que se quitó la vida en abril, debido al papel que jugó ChatGPT en este suceso.
