OpenAI implementará nuevas medidas para proteger a menores de edad en ChatGPT

La empresa de inteligencia artificial, OpenAI, está desarrollando nuevas medidas de seguridad para proteger a los adolescentes que empleen ChatGPT. Estas herramientas buscan evitar conversaciones insinuantes que puedan ser perjudiciales para los menores.

Según Sam Altman, director ejecutivo de OpenAI, esta iniciativa incluye el desarrollo de un sistema de predicción de edad, diseñado para identificar a los usuarios menores de 18 años. En caso de que ChatGPT perciba que el usuario se encuentra dentro de ese rango la experiencia se adaptará automáticamente.

Además, es posible que se solicite identificación en algunos países o para ciertos casos.

Entre las nuevas políticas aplicadas para los adolescentes, el chatbot no participará en conversaciones insinuosas o coquetas. Asimismo, no abordará temas relacionados con el suicidio o las autolesiones, ni siquiera en un entorno creativo.

Si el sistema detecta que el joven tiene ideas suicidas, el servicio intentará contactar a sus tutores legales o a las autoridades.

“Somos conscientes de que estos principios entran en conflicto y no todos estarán de acuerdo con cómo lo resolvemos. Son decisiones difíciles, pero tras consultar con expertos, creemos que es lo mejor y queremos ser transparentes en nuestras intenciones”, apuntó Altman.

Este anuncio se hizo poco después de que la empresa OpenAI fuera demandada por los padres de un joven que se quitó la vida. Ellos acusaron a la empresa de incitar a su hijo menor de 16 años a acabar con su vida, tras encontrar conversaciones del joven con bot sobre estos temas.

Nicole Sulentic (pasante).