Estados Unidos investiga a ChatGPT por posible contenido dañino

OpenAI, respaldada por Microsoft, recibió un cuestionario de 20 páginas en el que se le solicita describir incidentes en los que los usuarios hayan sido falsamente difamados, así como compartir los esfuerzos de la compañía para evitar que estos incidentes vuelvan a ocurrir.

El diario “The Washington Post” fue el primero en informar sobre la investigación del regulador estadounidense.

El lanzamiento de ChatGPT por parte de OpenAI en noviembre pasado causó sensación al demostrar el poder de los grandes modelos de lenguaje (también conocidos como LLM, por sus siglas en inglés), una forma de inteligencia artificial (IA) conocida como “IA generativa” que puede generar contenido similar al creado por los seres humanos en cuestión de segundos.

LEA MÁS: ChatGPT: ¿Qué pueden hacer los docentes para descubrir si los alumnos hicieron trampa?

En medio de la atención generada por las capacidades de esta tecnología, las autoridades recibieron informes de que estos modelos también podrían generar contenido ofensivo, falso o simplemente extraño, a veces denominado “alucinaciones”.

Lina Khan, presidenta de la Comisión de Comercio, no mencionó específicamente la investigación en una audiencia del comité del Congreso, pero expresó las preocupaciones de su agencia sobre la producción potencialmente difamatoria de ChatGPT.

Khan señaló que han recibido informes de que la información sensible de las personas puede aparecer en respuesta a preguntas de otras personas, así como de casos de calumnias y declaraciones falsas que surgen a través de la aplicación.

La investigación de la Comisión se centra en cómo este aspecto podría perjudicar a los usuarios, según el cuestionario, y también profundiza en el uso de datos privados por parte de OpenAI para desarrollar su modelo, que es líder en el mundo.

LEA MÁS: ChatGPT pierde un 10% de tráfico a nivel mundial por primera vez desde su lanzamiento

Sam Altman, director ejecutivo de OpenAI, lamentó que la noticia sobre la investigación se haya filtrado a los medios, lo cual socava la confianza. Sin embargo, aseguró que OpenAI cooperará plenamente con la Comisión Federal de Comercio y afirmó que es de vital importancia para ellos que su tecnología sea segura y beneficiosa para los consumidores, y que cumplen con la ley.

Una investigación de la Comisión de Comercio no implica necesariamente acciones adicionales y la entidad puede cerrar el caso si está satisfecha con la respuesta de la empresa investigada.

En caso de que se detecten prácticas ilegales o inseguras, el regulador puede exigir medidas correctivas e incluso iniciar acciones legales.

Hasta el momento, OpenAI y la Comisión de Comercio no han respondido a las solicitudes de comentarios al respecto.