El abuso y la explotación infantil es algo que no se puede tomar a la ligera! Por lo mismo, Apple está trabajando en todo un set de herramientas para proteger a los niños en línea, los cuales van desde:
Un sistema de alertas para informar a los padres sobre fuentes peligrosas, en las cuales, un niño puede estar consumiendo contenido en línea.
Contenido seguro para las búsquedas y para las respuestas de Siri.
iMessage va a usar el aprendizaje de máquina del dispositivo para informar sobre contenidos sensibles sin que apple tenga acceso o lea los mensajes. Así las cosas, las imágenes con contenido sensible presentarán una alerta y las fotos serán borrosas con el fin de promulgar la seguridad, si el niño procede a visualizar la foto en cuestión, los padres podrán ser informados.
De manera similar, el niño que intente enviar el contenido sensible recibirá una alerta informando que sus padres podrán ser notificados de dicho envío.
Un sistema criptográfico para validar que el contenido de pornografía infantil, (en inglés denominado CSAM por sus siglas de Child Sexual Abuse Material, el cual, está en etapa de pruebas y, posiblemente, será público más adelante después de la llegada de iOS 15). Para este fin, Apple usa la Inteligencia Artificial del dispositivo para preservar la privacidad del usuario y un proceso denominado “Hashing” que, lo que hace es, de manera encriptada transformar las imágenes mediante un proceso complicado en una serie de números y compararlos con las pautas generadas para la detección de contenido de abuso sexual infantil de la base de datos del organismo denominado como NCMEC. En caso que la cuenta sea marcada como positivo para este tipo de contenido (CSAM), el sistema va a generar una alerta (la cual podrá ser apelada por el usuario) para que sea revisada manualmente antes de enviar el reporte a NCMEC o las autoridades competentes.
Vale la pena recordar que las políticas de uso de iCloud prohiben expresamente la carga de imágenes de explotación infantil y, por lo mismo, si alguien infringe esta norma, puede terminar con una cancelación de su cuenta.
¿Cuándo y cómo llegarán estas herramientas?
Estas nuevas funcionalidades que pretenden prevenir el abuso infantil llegarán más adelante este año por medio de actualizaciones a iOS 15, iPadOS 15, watchOS 8 y macOS Monterey.Para más información, lo mejor es visitar el comunicado oficial.
