Estas herramientas serían parte de un conjunto de propuestas más amplio centrado en la seguridad en línea infantil que Ofcom está desarrollando. Las consultas sobre estas propuestas comenzarán pronto, y la consulta sobre IA se realizará a finales de este año.
Mark Bunting, director del Grupo de Seguridad en Línea de Ofcom, ha expresado interés en la IA como herramienta de detección y busca asegurar su eficacia y precisión, así como garantizar la protección de la libertad de expresión y la privacidad.
Es probable que Ofcom recomiende a las plataformas cómo y qué evaluar, lo que podría resultar en multas si no mejoran la detección de contenido o en la implementación de medidas de protección para los usuarios jóvenes.
La propuesta ha generado opiniones divididas entre críticos y partidarios, ya que la IA puede ser utilizada para detectar deepfakes y verificar usuarios en línea, pero aún existe escepticismo sobre su infalibilidad.
Ofcom también ha publicado investigaciones sobre el uso en línea de los niños en el Reino Unido, encontrando un aumento en la presencia y actividad de niños pequeños en línea, lo que plantea desafíos en torno a la protección y seguridad de estos usuarios cada vez más jóvenes.
Las cifras muestran un aumento en el uso de dispositivos móviles por niños de 5 a 7 años, así como en su participación en redes sociales y juegos en línea, lo que destaca la importancia de abordar la seguridad en línea infantil de manera efectiva.
Si bien los padres han manifestado haber hablado con sus hijos sobre seguridad en línea, siguen existiendo retos en la comunicación y protección de los niños frente a contenidos inapropiados o peligrosos en línea.
Ofcom señala la importancia de abordar estos desafíos y promover una mayor conciencia y protección en línea para garantizar la seguridad y el bienestar de los niños en el entorno digital.
