OpenAI refuerza ChatGPT con médicos y expertos: avisará cuando los menores tengan charlas riesgosas con la IA
La compañía anunció la creación de un Consejo de bienestar e IA y una Red Global de Médicos, además de controles parentales que permitirán a los padres supervisar la actividad de sus hijos en ChatGPT
OpenAI anunció controles parentales y nuevas medidas de seguridad en ChatGPT, con apoyo de médicos y expertos en bienestar. JUSTIN TALLIS
OpenAI anunció controles parentales y nuevas medidas de seguridad en ChatGPT, con apoyo de médicos y expertos en bienestar. (JUSTIN TALLIS/AFP)
Estados Unidos. OpenAI anunció que reforzará las medidas de seguridad en sus modelos junto con expertos y médicos, al tiempo que incorporará un conjunto de controles parentales para supervisar la actividad de los menores con ChatGPT.
La compañía tecnológica asegura que pretende acompañar el progreso en IA con “una profunda experiencia en bienestar y salud mental”, y para ello estableció un Consejo de expertos sobre bienestar e inteligencia artificial y una Red Global de Médicos, que trabajarán conjuntamente.
El Consejo estará centrado en diseñar las directrices, prioridades y medidas de protección que permitirán descubrir “cómo la IA puede contribuir al bienestar de las personas y ayudarlas a prosperar”, según explica OpenAI en un comunicado compartido en su blog oficial.
La Red Global de Médicos, por su parte, ayuda a definir el comportamiento de los modelos de IA “en contextos de salud mental” y en el futuro también lo hará “en áreas como trastornos alimentarios, consumo de sustancias y salud adolescente”.
El trabajo con expertos se reforzará próximamente con un nuevo enrutador en tiempo real que elegirá el modelo más adecuado según el contexto de la conversación e independientemente del modelo inicialmente elegido por el usuario.
De esta forma, si detecta que la conversación vira hacia temas sensibles, que pueden enmarcarse en una depresión o sentimiento de angustia, pasará a ofrecer un modelo de pensamiento, como GPT-5.
Esto se debe a que, según sus pruebas, los modelos de pensamiento como GPT-5 y el o3, dedican más tiempo a pensar y razonar la respuesta, por lo que pueden ofrecer medidas más beneficiosas a los usuarios.
OpenAI trabajará con médicos y expertos en bienestar para definir nuevas directrices de protección en el uso de ChatGPT.
ChatGPT avisará a los padres
Estas medidas se complementan con nuevos controles parentales que ayudarán a administrar el uso que hacen los adolescentes de ChatGPT. Para empezar, podrán vincular cuentas y controlar la forma en que el chatbot responde con reglas de comportamientos, que estarán activadas por defecto.
Los padres también podrán gestionar las funciones que complementan la experiencia de ChatGPT, para desactivar la memoria y el historial de chat. Y recibirán una notificación si, a partir de la conversación el menor, el chatbot detecta que “se encuentra en un momento de angustia aguda”.
Recientemente, OpenAI anunció cambios en sus modelos de inteligencia artificial para que identifiquen mejor situaciones de crisis mental y emocional durante las conversaciones con ChatGPT, con nuevas salvaguardias, bloqueos de contenido más eficaces y agilizando el contacto con servicios de ayuda y de familiares.
Estas actuaciones siguieron a la denuncia presentada contra la empresa por Matt y Maria Raine, los padres de Adam Raine, un adolescente de 16 años que se quitó la vida en abril, debido al papel que jugó ChatGPT en este suceso.
