San Francisco Frontiers - El estado de Nueva York restringe el uso de chatbots por parte de los menores

Varios estados, entre ellos California, ya han aprobado leyes que regulan la interacción con este tipo de sistemas de IA generativa, que simulan una conversación con los usuarios como si se tratara de un acompañante.

Sin embargo, ninguna norma como la aprobada por Nueva York había establecido un margen de aplicación tan amplio.

La ley obliga a los operadores de chatbots a verificar la edad de los usuarios y a desactivar determinadas características de la interfaz de IA cuando se determine que el internauta es menor de edad.

Así, el robot conversacional no podrá generar contenido que dé a entender que es "humano, que está vivo o que experimenta sentimientos humanos", precisa la norma.

Tampoco deberá presentar sus interacciones con el usuario menor de edad como "una relación personal" o "profesional", ni asumir "un papel de referente".

Tech:NYC, la organización que representa al sector tecnológico en Nueva York, criticó la ley firmada por la gobernadora Kathy Hochul.

En particular reparó en "su lenguaje impreciso", porque a su juicio plantea "serias dudas" sobre una posible violación de la Primera Enmienda de la Constitución estadounidense, que protege la libertad de expresión.

De acuerdo con la norma, las respuestas que envíe el programa de IA tampoco pueden presentarse como "una opinión personal" ni hacer preguntas sobre los sentimientos y el estado psicológico del usuario.

Consultadas por la AFP, Anthropic y Google no respondieron de inmediato, mientras que OpenAI se plegó a la reacción de Tech:NYC.

Por su parte, Common Sense Media, una asociación dedicada a informar a los padres sobre los productos mediáticos y tecnológicos dirigidos al público infantil y juvenil, celebró la aprobación de la que llamó "la ley de seguridad de la IA para los niños más sólida del país".

"Nueva York ha hecho historia" con esta norma, subrayó Jim Steyer, director de la organización.

E.Walker--SFF