Canadá se une a la creciente lista de países que buscan limitar el acceso a redes sociales para menores de edad. Marc Miller, ministro de Identidad y Cultura, presentó la Ley de Redes Sociales Seguras (C-34), una propuesta que establece nuevas obligaciones para las plataformas digitales y ciertos chatbots de inteligencia artificial (IA) con el fin de prevenir posibles daños a niños y adolescentes.
Datos oficiales indican que, en 2019, uno de cada cuatro canadienses de entre 12 y 17 años reportó haber sido víctima de algún tipo de ciberacoso (cyberbullying). Además, las fuerzas policiales del país registraron 16,905 incidentes de explotación sexual infantil en línea durante 2024, lo que representa un aumento del 347% en comparación con hace diez años.
“La evidencia es clara: los peligros en línea están aumentando. Los niños son especialmente vulnerables a los riesgos digitales, que van desde la explotación sexual infantil y el ciberacoso hasta las autolesiones y problemas de salud mental”, afirmó el gobierno canadiense en un comunicado.
Detalles de la Ley C-34
El documento detalla que la ley C-34 impone una serie de obligaciones legales que requerirán a las plataformas y servicios digitales implementar mecanismos para identificar y prevenir estos riesgos. La propuesta se fundamenta en “amplias consultas sobre seguridad en línea” que involucraron a víctimas, sobrevivientes, organizaciones de la sociedad civil, comunidades indígenas, expertos, empresas tecnológicas y ciudadanos. También incluye recomendaciones del Grupo Asesor de Expertos en Seguridad en Línea.
La normativa incluye una restricción que prohibiría a los menores de 16 años abrir cuentas en redes sociales. No obstante, las plataformas podrían solicitar una exención si demuestran que cuentan con medidas efectivas para garantizar la seguridad de los usuarios más jóvenes.
En este contexto, las empresas deberán considerar la protección infantil como un pilar central en el diseño de sus productos y funciones. Esto implica incorporar mecanismos que reduzcan la exposición de niños y adolescentes a contenidos o interacciones de alto riesgo.
Creación de una nueva Ley de Seguridad Digital
La iniciativa también propone establecer una nueva Ley de Seguridad Digital que abarcará servicios de streaming, redes sociales, plataformas de contenido para adultos y ciertos chatbots de IA. Este marco regulatorio estipulará que todos los servicios incluidos en la legislación tienen la responsabilidad de proteger a la infancia.
Además, la propuesta establece obligaciones específicas para redes sociales, servicios de streaming y sitios que distribuyen contenido sensible. Estas plataformas deberán evaluar, identificar y mitigar los riesgos asociados con siete categorías de contenido dañino. Entre ellas se encuentran el material que victimiza sexualmente a menores, la difusión de contenido íntimo sin consentimiento, publicaciones que inducen a autolesionarse, mensajes que fomentan relaciones sexuales con menores, discurso de odio, material que promueve la violencia y contenido relacionado con terrorismo o extremismo violento.
Asimismo, los servicios regulados deberán etiquetar los contenidos generados sintéticamente mediante inteligencia artificial y proporcionar herramientas claras y accesibles para denunciar publicaciones problemáticas y bloquear usuarios.
Regulación de chatbots y organismos de supervisión
En lo que respecta a los chatbots, la propuesta indica que los desarrolladores deberán mitigar el riesgo de generar o difundir contenido dañino, implementar salvaguardas para evitar conductas perjudiciales y comunicar de forma transparente los protocolos diseñados para abordar situaciones de crisis. Esto incluye casos en los que un usuario exprese intenciones de autolesionarse o solicite información para causar daño a otros.
La iniciativa legislativa también contempla la creación de la Comisión de Seguridad Digital, un organismo independiente encargado de supervisar el cumplimiento de la normativa. Esta entidad tendrá la capacidad de solicitar informes de seguimiento a las plataformas, realizar auditorías, emitir órdenes de cumplimiento e imponer sanciones a quienes incumplan las obligaciones establecidas.