Los legisladores en el Congreso están avanzando rápidamente con la Ley GUARD, un proyecto de ley sobre restricciones por edad que limita el acceso de los menores a una amplia gama de herramientas en línea, con una votación clave prevista para esta semana. La propuesta se presenta como una respuesta a casos alarmantes que involucran a "compañeros de IA" y usuarios jóvenes vulnerables. Pero el texto del proyecto de ley va mucho más allá, y podría exigir controles de edad incluso para motores de búsqueda que utilicen IA.
Dile al Congreso: oponte a la ley guard
Si se aprueba, la Ley GUARD no solo se dirigirá a una categoría estrecha de chatbots de riesgo. Exigiría que las empresas verifiquen la edad de cada usuario — para luego bloquear a cualquier menor de 18 años la interacción con una enorme gama de sistemas en línea. Bloquearía a los menores de herramientas cotidianas en línea, socavaría la guía parental y obligaría a los adultos a sacrificar su privacidad. En el proceso, requeriría que los servicios implementen sistemas de verificación de edad que restringen el discurso e invaden la privacidad para todos, no solo para los niños.
Bajo las amplias definiciones de la Ley GUARD, se le podría prohibir a un estudiante de secundaria hacer preguntas sobre problemas de álgebra a herramientas de ayuda con las tareas. Un adolescente que intente devolver un producto podría ser expulsado de un chat estándar de servicio al cliente.
Las preocupaciones detrás de este proyecto de ley son serias. Ha habido informes preocupantes de sistemas de IA que participan en interacciones dañinas con usuarios jóvenes, incluidos casos que involucran autolesiones. Esos riesgos merecen atención. Pero exigen soluciones específicas, como mejores salvaguardias y la aplicación de la ley contra los malos actores, no restricciones generalizadas. Los patrocinadores del proyecto de ley dicen que se dirigen a los peores escenarios, pero el proyecto de ley regula el uso cotidiano.
Las amplias definiciones de la Ley GUARD alcanzan a las herramientas cotidianas
El problema comienza con la forma en que el proyecto de ley define un "chatbot de IA". Cubre cualquier sistema que genere respuestas que no estén completamente escritas de antemano por el desarrollador u operador. Una definición tan amplia abarca la funcionalidad básica de todas las herramientas impulsadas por IA.
Luego está la definición de "compañero de IA", cuyo uso está totalmente prohibido para los menores. Un compañero de IA es cualquier chatbot que produce respuestas de apariencia humana y está diseñado para "fomentar o facilitar" la interacción interpersonal o emocional. Eso puede sonar orientado a "amigos" simulados o chatbots de terapia. Pero en la práctica, es mucho más difuso.
Los chatbots modernos están diseñados para ser conversacionales y útiles. Un ayudante de tareas podría decir "buena pregunta" antes de guiar a un estudiante a través de un problema. Un chatbot de servicio al cliente puede responder con empatía a una queja ("Lamento que esté teniendo este problema"). Un asistente de propósito general podría hacer preguntas de seguimiento. Todo esto podría verse como una facilitación de la interacción "interpersonal" y activar la Ley GUARD.
Ante sanciones severas y límites poco claros, es poco probable que las empresas se arriesguen a permitir que los jóvenes usen sus herramientas en línea. Bloquearán a los menores por completo o despojarán a sus herramientas de lo que las hace útiles para todos. El resultado no es una salvaguardia estrecha; es una restricción amplia de las interacciones cotidianas en línea.
¿Pregunta de tarea? Muestra tu identificación y llama a tus padres
Empecemos con un estudiante que recibe ayuda con la tarea. Bajo la Ley GUARD, el servicio debe verificar la edad del usuario mediante algo más que una simple casilla de verificación: debe basarse en una medida de "verificación de edad razonable", que podría requerir una identificación gubernamental o un sistema de verificación de edad de terceros. Si el sistema decide que un usuario es menor de 18 años, la empresa debe decidir si su herramienta califica como un "Compañero de IA". Si existe algún riesgo de que así sea, la medida más segura es bloquear el acceso por completo.
La misma lógica se aplica al servicio al cliente cotidiano. Un adolescente que intenta solucionar un problema con un pedido es dirigido a un chatbot, y la empresa se enfrenta a una elección: construir un sistema completo de verificación de edad para una interacción rutinaria, o restringir el acceso para evitar responsabilidades. Muchos elegirán lo último.
Esta no es una restricción estrecha dirigida a unos pocos productos de riesgo. Es un régimen de cumplimiento que empuja a las empresas a bloquear o limitar cualquier producto que genere texto para menores, en todos los ámbitos.
Controles de identidad para todos
La Ley GUARD no solo afecta a los menores. El proyecto de ley da un gran paso hacia una internet que solo funciona cuando los usuarios están dispuestos a subir una identificación válida o cumplir con otros esquemas invasivos de verificación de edad. Las empresas deben verificar la edad de cada usuario, no a través de una simple autodeclaración, sino a través de un sistema de "verificación de edad razonable" vinculado al individuo.
En la práctica, eso significa recopilar información personal sensible: identificaciones gubernamentales, datos financieros o identificadores biométricos. Las empresas pueden externalizar la verificación, pero siguen siendo legalmente responsables. Y la ley exige una verificación continua, por lo que este no es un control único. Peor aún, los estudios muestran consistentemente que millones de personas tienen información desactualizada en sus identificaciones, como una dirección antigua, o no tienen identificación gubernamental. Si los servicios requieren identificación, muchas personas sin una identificación vigente o sin ninguna identificación quedarán excluidas.
Y para aquellos que sí tienen una identificación conforme, entregar esta información repetidamente crea riesgos obvios. Las bases de datos de información de identidad sensible se convierten en objetivos de brechas de seguridad. El uso anónimo o seudónimo de las herramientas en línea se vuelve más difícil o imposible.
Para mantener a los menores alejados de ciertos chatbots, la Ley GUARD requeriría que todos demuestren quiénes son solo para usar herramientas básicas en línea. Es un intercambio costoso. Y en realidad no aborda los daños específicos que se supone que el proyecto de ley debe resolver.
Definiciones vagas, sanciones enormes
El amplio alcance de la Ley GUARD se impone con sanciones severas. Las empresas pueden enfrentarse a multas de hasta 100.000 dólares por infracción, aplicadas por funcionarios federales y estatales. Al mismo tiempo, términos clave como "compañero de IA" se basan en conceptos vagos como "interacción emocional". Esa combinación conducirá a un bloqueo excesivo. Ante la incertidumbre legal y la responsabilidad seria, las empresas no analizarán pequeñas distinciones. Restringirán el acceso, limitarán las funciones o bloquearán a los menores por completo.
Ese es el desafortunado resultado de la Ley GUARD, a pesar de que las preocupaciones que la animan merecen ser solucionadas. Pero los amplios términos de la Ley GUARD se aplicarán mucho más allá de los escenarios preocupantes.
Al final, eso significa una internet más restringida y más vigilada. Los adolescentes perderían el acceso a herramientas en las que confían para la escuela y las tareas cotidianas. Todos los demás se enfrentan a nuevas barreras, incluidos los controles de identidad. Los desarrolladores más pequeños, que no pueden absorber los costes de cumplimiento y el riesgo legal, se verían desplazados, dejando a las empresas más grandes aún más dominantes.
Los jóvenes —y todas las personas — merecen protección frente a productos genuinamente dañinos. Pero este proyecto de ley no hace eso. Cambia la privacidad, el acceso y la tecnología útil por un sistema contundente que no da en el blanco.
El Congreso podría actuar pronto. Diles que rechacen la Ley GUARD.
Dile al Congreso: di no a los controles de identidad obligatorios en línea
