Cómo funciona el nuevo sistema de Apple para la verificación de la pornografía infantil









Apple dio a conocer ayer una serie de tres medidas dise√Īadas para proteger a los ni√Īos de diversas formas. Un triple sistema de m√°s informaci√≥n a trav√©s de Siri, un seguimiento del contenido de iCloud Photographs para detectar pornograf√≠a infantil y un sistema de prevenci√≥n contra im√°genes expl√≠citas en la app de Mensajer√≠a (iMessage) para usuarios menores de 13 a√Īos.

Estas medidas vendr√°n con iOS 15, iPadOS 15 y macOS 12 Monterey y ampliar√°n las protecciones para los ni√Īos, siempre con pleno respeto por la privacidad de todos los datos. Entonces, ¬Ņc√≥mo funcionar√° la verificaci√≥n en las aplicaciones anteriores?

Imagen del sistema de Apple contra el abuso infantil y la pornografía infantil

Apple aplica medidas para combatir la pornografía infantil

LA Apple dejó 3 medidas y te lo explicaremos con más detalle como van a funcionar. Sobre todo, entendamos cómo funciona la detección de imágenes de menores en las fotos de iCloud y las medidas de seguridad de la aplicación de Mensajería (iMessage) frente a fotos explícitas.

Las tecnologías apuntan a la privacidad de los usuarios, pero, sobre todo, a la protección de los menores.





1 - Seguridad en la comunicación de mensajes

Seg√ļn lo declarado por Apple en su sitio web, el nuevo sistema de seguridad de comunicaciones iMessage detectar√° y bloquear√° las im√°genes expl√≠citas recibidas en conversaciones de ni√Īos menores de 13 a√Īos.

Esta es una configuración opcional que los padres pueden ajustar si lo desean y se encargará de ocultar imágenes inapropiadas de las conversaciones.

Ejemplo de herramienta de protección infantil contra la pornografía infantil

Sin embargo, el ni√Īo tendr√° la opci√≥n de ver la imagen. El sistema funciona ocultando la imagen y si se hace clic en ella, el ni√Īo recibe un mensaje advirtiendo que esta imagen puede ser sensible y explica la situaci√≥n en tres puntos:

  1. que las fotos sensibles muestren partes del cuerpo cubiertas por un traje de ba√Īo o ropa interior;
  2. que estas im√°genes se pueden utilizar para reducir la sensibilidad;
  3. que la persona que aparece en ellos no quiera ser vista.

Despu√©s de esta explicaci√≥n, el sistema permite que el ni√Īo haga clic en las opciones "Ahora no" o "Estoy seguro".

Al hacer clic en la segunda opción, el sistema advierte a los padres "quieren asegurarse de que estás bien", por lo que recibirán una notificación.

Tambi√©n advierte al ni√Īo que no comparta nada que realmente no quiera compartir y que hable con alguien de su confianza si se siente presionado, y finalmente ofrece ayuda, indicando que no est√°s solo en determinadas situaciones. Luego ofrece "No ver la foto" o "Ver la foto".

Como se mencion√≥, este sistema est√° dise√Īado solo para ni√Īos menores de 13 a√Īos, siempre que tus padres lo consideren oportuno activarlo.

La forma en que se comunica la informaci√≥n, aunque en el lenguaje de los ni√Īos, es muy clara y revela una operaci√≥n muy sencilla: si se detecta una imagen expl√≠cita, se bloquea, se da la opci√≥n de elegir y se notifica a los padres si se ve..

Este sistema funciona gracias al aprendizaje automático en el propio dispositivo, que analiza las imágenes recibidas y también enviadas a través de iMessage para presentar los avisos oportunos. Dado que todo el procesamiento se realiza localmente en el dispositivo, nadie, ni siquiera Apple, tiene acceso a los mensajes, lo que mantiene la seguridad de la aplicación de mensajería en la que confiamos.

2 - Detección de imágenes de menores en iCloud

La otra medida que implementará Apple es la detectar imágenes de menores de edad en las bibliotecas de fotos de iCloud. Un sistema que, manteniendo la privacidad de todos los usuarios, permitirá informar a los órganos competentes si se detectan imágenes que vulneren la ley. Como, por ejemplo, la pornografía infantil, entre otros abusos infantiles.

En lugar de monitorear im√°genes en la nube, con el consecuente deterioro de la privacidad, Apple propone un sistema que compara las im√°genes del dispositivo con una base de datos local. Esta base de datos se almacena de forma segura en el dispositivo y contiene versiones en picadillo de las im√°genes reportadas por los organismos responsables, por lo que su contenido es completamente ilegible.

Estas hashes est√°n dise√Īados de tal manera que no solo representan la imagen original, sino que tambi√©n permiten variaciones en la imagen original, como convertir la imagen en blanco y negro o recortar partes de ella. De esta forma se pueden detectar versiones de una misma imagen.

El sistema funciona de tal manera que antes de que se cargue una imagen en Fotos de iCloud, el dispositivo genera una picadillo de la imagen y la compara localmente con hashes de la imagen reportada. El resultado de esta verificación es ilegible desde el dispositivo, en lugar de ser analizado allí, el sistema envía un comprobante encriptado que se carga en iCloud Photos junto con la imagen.

Entonces, aquí es donde entra en juego otra tecnología, llamada umbral secreto compartido. En pocas palabras, la clave para descifrar el contenido de los vales cifrados se divide en X fragmentos. Cuando hay suficientes cupones en una cuenta, Apple recibe todas las piezas de la clave completa y puede descifrar el contenido de estos cupones, con las imágenes que fueron subidas, revisándolas manualmente.

Imagen con ejemplo de validación de contenido de imagen encriptada

El umbral del cup√≥n se establece para garantizar que s√≥lo hay una posibilidad entre mil millones al a√Īo de marcar incorrectamente cierto contenido..

Una vez que se cruza el umbral del cupón, Apple recibe un informe que puede descifrar y verificar manualmente. Si se confirma que las imágenes cargadas coinciden con las de la base de datos, Apple suspende la cuenta e informa a las autoridades. Sin embargo, ofrece un sistema de apelación para restaurar la cuenta si el usuario cree que se ha cometido un error.

Este mecanismo, que funcionar√° siempre que el dispositivo tenga habilitado Fotos de iCloud, est√° dise√Īado para proteger completamente nuestra privacidad al tiempo que nos permite detectar im√°genes ilegales en el sistema.

3 - Ampliar Siri y la guía de investigación

Por √ļltimo, pero no menos importante, Apple tambi√©n est√° ampliando la orientaci√≥n sobre Siri y Search, proporcionando recursos adicionales para ayudar a los ni√Īos y padres a mantenerse seguros en l√≠nea y obtener ayuda en situaciones inseguras.

Por ejemplo, los usuarios que pregunten a Siri cómo pueden denunciar Material de abuso sexual infantil (MASI) o explotación infantil serán dirigidos a recursos sobre dónde y cómo presentar una denuncia.

Imagen de Siri de Apple advirtiendo sobre contenido abusivo

Siri y Search tambi√©n se est√°n actualizando para intervenir cuando los usuarios realizan b√ļsquedas de consultas relacionadas con CSAM. Estas intervenciones explicar√°n a los usuarios que el inter√©s en este tema es da√Īino y problem√°tico, proporcionando recursos de socios para ayudar en este tema.

Estas actualizaciones para Siri e Research se lanzar√°n a finales de este a√Īo en una actualizaci√≥n para iOS 15, iPadOS 15, watchOS 8 y macOS Monterey.

En resumen, estas nuevas herramientas en los √ļltimos sistemas operativos de Apple tienen como objetivo combatir la pornograf√≠a infantil y otros actos abusivos perpetrados contra los ni√Īos.

Ana Gomez

Ana G√≥mez. Naci√≥ en Asturias pero vive en Madrid desde hace ya varios a√Īos. Me gusta de todo lo relacionado con los negocios, la empresa y los especialmente los deportes, estando especializada en deporte femenino y polideportivo. Tambi√©n me considero una Geek, amante de la tecnolog√≠a los gadgets. Ana es la reportera encargada de cubrir competiciones deportivas de distinta naturaleza puesto que se trata de una editora con gran experiencia tanto en medios deportivos como en diarios generalistas online. Mi Perfil en Facebook:¬†https://www.facebook.com/ana.gomez.029   Email de contacto: ana.gomez@noticiasrtv.com

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *