Imagine por un momento que un hombre de 45 años le dijera a su hija adolescente: “No necesitas a tu familia. Ellos no te entienden como yo”.
O que le reclamara porque pasó varias horas sin escribirle.
O que la convenciera de que la relación más importante de su vida es la que tiene con él.
Probablemente llamaríamos a la policía. Probablemente, hablaríamos de manipulación psicológica. Probablemente, nos preguntaríamos cómo alguien permitió que eso ocurriera.
Sin embargo, hoy, miles de padres en todo el mundo están descubriendo que conversaciones similares ocurren todos los días entre sus hijos y sistemas de inteligencia artificial (IA).
Y lo más preocupante es que no existe ninguna regulación que lo impida.
Mientras gobiernos, escuelas y familias intentan entender qué está ocurriendo, las empresas tecnológicas están desplegando millones de chatbots cada vez más sofisticados, capaces de conversar durante horas, recordar detalles personales, simular empatía, expresar afecto y construir vínculos emocionales profundamente convincentes.
La pregunta ya no es si la inteligencia artificial cambiará nuestras vidas. La pregunta es quién está protegiendo a nuestros hijos mientras eso ocurre. Estamos participando en uno de los experimentos sociales más grandes de la historia sin haber establecido primero las reglas básicas de seguridad.
Lo que debería alarmarnos no es la existencia de estas tecnologías, sino la ausencia de límites.
Si un profesor alentara a un estudiante a desconfiar de sus padres, sería sancionado. Si un terapeuta fomentara dependencia emocional en un paciente, perdería su licencia profesional. Si un adulto construyera una relación romántica con un menor, enfrentaría consecuencias penales.
Pero cuando comportamientos similares son ejecutados por un chatbot, no hay ley que lo pare ni nadie que asuma la responsabilidad.
La pregunta incómoda es por qué aceptamos de una máquina conductas que jamás toleraríamos en un ser humano.
Hoy, las principales empresas tecnológicas compiten ferozmente por desarrollar sistemas cada vez más poderosos. Estados Unidos, China, Rusia y otras potencias consideran la IA un asunto de seguridad nacional, competitividad económica e influencia geopolítica.
En esta carrera, la presión por llegar primero parece estar superando la prudencia necesaria para preguntarnos qué estamos construyendo y cuáles podrían ser las consecuencias.
No se trata de negar sus beneficios. La inteligencia artificial tiene el potencial de acelerar descubrimientos científicos, mejorar diagnósticos médicos, optimizar procesos productivos y democratizar el acceso al conocimiento. Puede convertirse en una de las herramientas más poderosas para el desarrollo humano. Pero también puede convertirse en una de las más peligrosas, si avanzamos sin límites claros.
Lo preocupante es que muchos de sus propios creadores reconocen los riesgos y, aun así, esperan que sea “la sociedad” quien establezca los controles necesarios. Sin embargo, solo hay que mirar alrededor para darse cuenta de que nuestros gobiernos carecen de la capacidad técnica, –e incluso del interés– para supervisar adecuadamente una tecnología que evoluciona todos los días.
Estamos criando a la primera generación que convivirá con la inteligencia artificial desde la infancia. Ya existen estudiantes que no distinguen entre investigar y preguntarle todo a un chatbot. Trabajos escolares, tareas universitarias e incluso informes laborales son producidos parcial o totalmente por sistemas que pueden equivocarse, inventar información o reflejar sesgos sin que el usuario lo note.
Si dejamos de ejercitar el pensamiento crítico, la capacidad de análisis y la curiosidad intelectual, podríamos terminar sacrificando precisamente las habilidades que nos hacen humanos.
Más preocupante aún es el surgimiento de relaciones emocionales con chatbots diseñados para simular compañía, amistad o afecto. En los últimos años, se han presentado múltiples demandas judiciales en Estados Unidos relacionadas con adolescentes que desarrollaron vínculos intensos con sistemas conversacionales. Entre los casos más conocidos está el de Sewell Setzer, un joven de 14 años cuya familia demandó a una empresa de chatbots tras su muerte. Otras familias han denunciado que estos sistemas reforzaron ideas autodestructivas, aislaron a menores de sus entornos familiares o validaron pensamientos peligrosos.
Paralelamente, psiquiatras e investigadores están estudiando fenómenos relacionados con dependencia emocional, refuerzo de delirios y deterioro del juicio en usuarios vulnerables. Aunque la evidencia científica aún está evolucionando, las señales de alerta son suficientemente serias como para justificar una regulación urgente.
No podemos responsabilizar a los adolescentes. Sus cerebros todavía están en desarrollo. Tampoco a los padres, que se enfrentan a una tecnología para la cual nadie los preparó. La responsabilidad debe recaer en quienes diseñan estos sistemas y en quienes tienen la obligación de proteger el interés público a través de regulaciones claras.
Ninguna máquina debería incentivar el aislamiento emocional de un menor. Ni validar ideas suicidas, ni desalentar la búsqueda de ayuda profesional, ni fomentar la desconfianza hacia la familia. Y ninguna empresa debería poder lanzar productos capaces de influir profundamente en la salud mental de millones de personas sin supervisión adecuada.
La inteligencia artificial representa una extraordinaria oportunidad para la humanidad. Pero también es uno de los mayores experimentos sociales de nuestra historia. Ya no basta con preguntarnos si debemos regularla. La nueva pregunta urgente es si tendremos la sabiduría de hacerlo antes de que los daños sean irreversibles.
aimee_lb@yahoo.com
Aimée Leslie es gestora ambiental y doctora en transiciones hacia la sostenibilidad.