{"id":1443,"date":"2021-09-09T09:00:43","date_gmt":"2021-09-09T07:00:43","guid":{"rendered":"https:\/\/www.jaera.it\/?p=1443"},"modified":"2023-03-03T15:07:31","modified_gmt":"2023-03-03T14:07:31","slug":"child-sexual-abuse-material-csam","status":"publish","type":"post","link":"https:\/\/www.jaera.it\/blog\/child-sexual-abuse-material-csam\/","title":{"rendered":"Child Sexual Abuse Material (CSAM)"},"content":{"rendered":"

Child Sexual Abuse Material<\/em> (CSAM<\/b>) \u00e8 il nuovo acronimo che da circa un mese sta impazzando nel web, avevamo annunciato questo articolo<\/a> pochi giorni fa. Si rif\u00e0 a una nuova metodologia di analisi del contenuto di iCloud Foto<\/b> proposta da Apple<\/b> per evitare che i pedofili possano usare il servizio in cloud come archivio fotografico per immagini pedopornografiche.<\/p>\n

Di per s\u00e9 l’acronimo non coincide con alcuna tecnologia, ma viene usato per individuare il materiale pedopornografico. Si rif\u00e0 a un approccio definito Client Side Scanning<\/i> che sta a indicare la possibilit\u00e0 di eseguire un’analisi del tipo di foto che un client sta per passare o ha appena passato\u00a0 – qui si pongono dei problemi tecnici – a un altro client.<\/p>\n

Sfatiamo immediatamente un mito<\/h3>\n

L’approccio CSS per la ricerca di materiale CSAM va a vedere le foto presenti sul nostro client? No<\/b>. Qui dobbiamo essere chiari e netti, la foto in s\u00e9 non viene vista<\/b> da nessuno, tuttavia ne viene creato un hash code<\/i>. Che roba \u00e8? Un hash \u00e8 un valore alfanumerico (di lunghezza variabile) che costituisce una sorta di impronta digitale del file<\/b> e come tale \u00e8 unico<\/b>. Esistono differenti funzioni e modalit\u00e0 per calcolare l’hash di un file tanto per citare le due funzioni di hash pi\u00f9 note MD5 e SHA. Ad esempio, l’hash MD5 della foto posta in alto in questo articolo \u00e8<\/p>\n

326d148e52ef4d97bcfa297b69d2fd49<\/p>\n

mentre la SHA256<\/p>\n

36748fa517c98ec07201f5b3b3a92e66ccab19b1edcaeba4eafffd1171d68c28<\/p>\n

Da questi codici non si pu\u00f2 risalire alla foto a meno che non abbiamo un database che in qualche modo possa unire i due aspetti.<\/p>\n

Ma quindi Apple come fa a capire cosa metto online?<\/h3>\n

Domanda legittima. La risposta che offriremo in questa sede non sar\u00e0 farcita di tecnicismi. Il concetto \u00e8 molto semplice: esistono dei database pubblici di hash di materiale CSAM in possesso dei corpi di polizia. Apple andr\u00e0 a eseguire uno scanning comparativo degli hash code.<\/p>\n

Supponiamo che la mia foto quella qui sopra con hash 36748fa517c98ec07201f5b3b3a92e66ccab19b1edcaeba4eafffd1171d68c28 stia per essere caricata su Foto di iCloud (notate bene parliamo solo del servizio in cloud NON dei cellulari). Apple prender\u00e0 l’hash e andr\u00e0 a compararlo con gli hash noti nei database di materiale CSAM. Ma vediamo cosa afferma Apple stessa nelle FAQ su Expanded Protection for Children<\/a>:<\/p>\n

\n
Invece di immagini reali, Apple utilizza hash illeggibili che vengono memorizzati sul dispositivo. Questi hash sono stringhe di numeri che rappresentano le immagini CSAM conosciute, ma non \u00e8 possibile leggere o convertire tali hash nelle immagini CSAM su cui si basano<\/b>. Questo insieme di hash di immagini \u00e8 basato su immagini acquisite e convalidate per essere CSAM da almeno due organizzazioni per la sicurezza dei bambini. Utilizzando nuove applicazioni di crittografia, Apple \u00e8 in grado di utilizzare questi hash per conoscere solo gli account iCloud Photos che memorizzano raccolte di foto che corrispondono a queste immagini CSAM noti, ed \u00e8 quindi solo in grado di conoscere le foto che sono noti CSAM, senza conoscere o vedere altre foto.<\/div>\n<\/blockquote>\n

Le foto di mio figlio al mare!!!<\/h3>\n
Molti si stanno gi\u00e0 stracciando le vesti dicendo che vedremo frotte di genitori arrestati per aver fotografato i loro piccini mentre facevano il bagnetto. Niente di pi\u00f9 sbagliato<\/b>. Solo il materiale CSAM viene intercettato. Quindi, a meno che la foto di vostro figlio non sia diventata materiale CSAM, nessun genitore dovr\u00e0 rendere conto di alcunch\u00e9. Anche perch\u00e9 le foto CSAM sono appunto immagini di abusi sessuali e pertanto una foto nuda di un bambino mentre fa il bagno non potr\u00e0 mai essere materiale CSAM.<\/div>\n

Ma solo Apple?<\/h3>\n

Assolutamente no! Ma come sempre Apple fa pi\u00f9 notizia e quindi si vede solo quel che fa apple. Facciamo presente che altri colossi del web come Google<\/a> sono attivi nell’identificazione del materiale pedopornografico. Come? Ecco diamo uno sguardo fuori dall’orticello della Mela.<\/p>\n

I team Google lavorano giorno e notte per identificare, rimuovere e segnalare questi contenuti ricorrendo a una combinazione di strumenti di rilevamento automatico leader del settore e revisori qualificati specializzati. Riceviamo segnalazioni anche da terze parti e dai nostri utenti, che completano il nostro costante lavoro.<\/p><\/blockquote>\n

Le foto vengono segnalate, come per Apple, al National Center for Missing and Exploited Children<\/i> (NCMEC<\/b>) e le segnalazioni effettuate sono pi\u00f9 di quattrocentomila<\/b>! Ma qui nessuno s’\u00e8 mai alzato a dire mezza parola. Eppure i numeri di Google qui sono notevoli, stanno creando un loro database CSAM, hanno segnalato al NCMEC pi\u00f9 di TRE MILIONI<\/b> di immagini sospette, hanno chiuso centoventimila<\/b> account. Questi sono numeri. E utilizzano lo stesso approccio di Apple. Dove sono qui le associazioni che oggi hanno scoperto la parola privacy?<\/p>\n

Anche Amazon<\/strong> si sta muovendo<\/a> (seppure con ritardo e dopo essere stata accusata di non aver fatto molto in merito, qualcuno che protesta lo troviamo sempre!) con un accordo con Thorn<\/a> un’associazione specializzata nella salvaguardia dell’infanzia e che usa, toh guarda il caso, un meccanismo d’identificazione delle immagini CSAM.<\/p>\n

Ma allora ci sono rischi o no?<\/h3>\n

Come in ogni cosa esiste sempre un rovescio della medaglia. Esiste la possibilit\u00e0 di falsi positivi. Apple al momento li valuta nella misura di 1 su un milione di miliardi nel suo documento CSAM Detection – Technical Summary<\/a>. Direi bassina come probabilit\u00e0. Ma i problemi che possono insorgere sono di altro genere.<\/p>\n

Problemi di implementazione<\/h4>\n

Dove lo implementiamo questo sistema? Al momento le big si stanno proteggendo<\/b> applicando questo sistema solo ai loro servizi in Cloud per non essere accusate di favorire indirettamente la pedofilia e il commercio di materiale CSAM. Ma ad esempio tutte le applicazioni di messaggistica non implementano questi sistemi, e quasi tutte sono dotate di crittografia E2E che impedisce a chiunque di vedere il contenuto dei messaggi che potrebbe essere anche zeppo di materiale CSAM. Al momento questi controlli non sono obbligatori, se lo diventassero avrebbero un forte impatto e ricaduta su aspetti legati al GDPR? \u00c8 un tema ampio.<\/p>\n

Problemi di controllo<\/h4>\n

\u00c8 il solito dilemma di chi controlla il controllore, di chi stabilisce i parametri per cui un immagine o un video diventano materiale CSAM? Anche su questo fronte molto \u00e8 il lavoro da impostare e portare avanti. Qui, proprio su questo punto specie in contesti non democratici sorgono non pochi dubbi su una serie di domande:<\/p>\n

    \n
  • le big sapranno dire di no a controlli pi\u00f9 pervasivi da parte di nazioni come la Cina?<\/li>\n
  • creeranno per questi paesi dittatoriali la possibilit\u00e0 di un maggiore controllo? Magari non a materiale CSAM?<\/li>\n<\/ul>\n

    Problemi di falsi negativi<\/h4>\n

    Come posso fregare un database CSAM? Esiste un modo per generare dei falsi negativi? S\u00ec. Guardate senza giri di parole vi faccio un esempio pratico:<\/p>\n

    \"ChildQui abbiamo gi\u00e0 detto che il codice hash SHA256 \u00e8 36748fa517c98ec07201f5b3b3a92e66ccab19b1edcaeba4eafffd1171d68c28<\/b>, ma cosa accadrebbe se per esempio mettessi la foto in bianco e nero?<\/p>\n

     <\/p>\n

     <\/p>\n

     <\/p>\n

    \"\"Succederebbe una cosa molto semplice che il suo hash sarebbe differente, per la precisione diventerebbe 725efe8d43138d4ff8d294e300723695d648ba96e307db4c6f292ecae46a8d53<\/b><\/p>\n

    <\/h4>\n

     <\/p>\n

     <\/p>\n

    Ed ecco che alle autorit\u00e0 si pone un enorme problema di controllo della stessa foto che pu\u00f2 essere modificata una quantit\u00e0 di volte infinita generando hash sempre differenti.<\/p>\n

    Problemi di tipo tecnico<\/h4>\n

    Va tenuto in considerazione che le operazioni effettuate direttamente sui client occupano tempo di calcolo e costituiscono potenzialmente un tallone d’Achille per l’implementazione efficace di questi sistemi specie laddove i cellulari o pi\u00f9 in generale i dispositivi usati non fossero quell’ultima moda.<\/p>\n

    Problemi di integrit\u00e0 della base dati<\/h4>\n

    Per fare in modo che i controlli siano effettivi i database degli hashcode dovranno essere assai diffusi il che implicher\u00e0 il rischio di una loro potenziale corruzione per inserire o togliere hash code. Questo potrebbe essere critico primariamente in situazione di scarsa libert\u00e0. Esistono delle soluzioni? S\u00ec, in questo senso una blockchain potrebbe costituire un metodo per controllare e verificare l’integrit\u00e0 del dato.<\/p>\n

    In conclusione<\/h3>\n

    Lungi dallo stracciarsi le vesti accusando Apple di voler guardare le nostro foto, credo si debba essere molto contenti<\/b> (seppur nella vigilanza<\/i>). Questo genere di meccanismi non possiamo snobbarli in favore di una mal interpretata e inventata violazione della privacy che andrebbe solo a favore dei criminali che sfruttano i bambini. Serve coraggio e anche decisioni ad esso improntate per fermare il Child Sexual Abuse Material.<\/p>\n","protected":false},"excerpt":{"rendered":"

    Child Sexual Abuse Material (CSAM) \u00e8 il nuovo acronimo che da circa un mese sta impazzando nel web, avevamo annunciato questo articolo pochi giorni fa. Si rif\u00e0 a una nuova metodologia di analisi del contenuto di iCloud Foto proposta da Apple per evitare che i pedofili possano usare il servizio in cloud come archivio fotografico […]<\/p>\n","protected":false},"author":3,"featured_media":1458,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[46,75],"tags":[155,34,135,153,156,33,157,161,162,159,160,158],"yoast_head":"\nChild Sexual Abuse Material (CSAM) - Jaera<\/title>\n<meta name=\"description\" content=\"Child Sexual Abuse Material (CSAM) e le modalit\u00e0 attualmente utilizzate per rilevarlo e segnalarlo alle autorit\u00e0 competenti in materia.\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.jaera.it\/blog\/child-sexual-abuse-material-csam\/\" \/>\n<meta property=\"og:locale\" content=\"it_IT\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Child Sexual Abuse Material (CSAM) - Jaera\" \/>\n<meta property=\"og:description\" content=\"Child Sexual Abuse Material (CSAM) e le modalit\u00e0 attualmente utilizzate per rilevarlo e segnalarlo alle autorit\u00e0 competenti in materia.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.jaera.it\/blog\/child-sexual-abuse-material-csam\/\" \/>\n<meta property=\"og:site_name\" content=\"Jaera\" \/>\n<meta property=\"article:published_time\" content=\"2021-09-09T07:00:43+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2023-03-03T14:07:31+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.jaera.it\/blog\/wp-content\/uploads\/2021\/09\/CSAM.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"2000\" \/>\n\t<meta property=\"og:image:height\" content=\"1000\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Jaera team\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Scritto da\" \/>\n\t<meta name=\"twitter:data1\" content=\"Jaera team\" \/>\n\t<meta name=\"twitter:label2\" content=\"Tempo di lettura stimato\" \/>\n\t<meta name=\"twitter:data2\" content=\"8 minuti\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/www.jaera.it\/blog\/child-sexual-abuse-material-csam\/\",\"url\":\"https:\/\/www.jaera.it\/blog\/child-sexual-abuse-material-csam\/\",\"name\":\"Child Sexual Abuse Material (CSAM) - Jaera\",\"isPartOf\":{\"@id\":\"https:\/\/www.jaera.it\/blog\/#website\"},\"datePublished\":\"2021-09-09T07:00:43+00:00\",\"dateModified\":\"2023-03-03T14:07:31+00:00\",\"author\":{\"@id\":\"https:\/\/www.jaera.it\/blog\/#\/schema\/person\/0c6b83954b76fc35067e8dafae0265a6\"},\"description\":\"Child Sexual Abuse Material (CSAM) e le modalit\u00e0 attualmente utilizzate per rilevarlo e segnalarlo alle autorit\u00e0 competenti in materia.\",\"breadcrumb\":{\"@id\":\"https:\/\/www.jaera.it\/blog\/child-sexual-abuse-material-csam\/#breadcrumb\"},\"inLanguage\":\"it-IT\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/www.jaera.it\/blog\/child-sexual-abuse-material-csam\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/www.jaera.it\/blog\/child-sexual-abuse-material-csam\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\/\/www.jaera.it\/blog\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Child Sexual Abuse Material (CSAM)\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/www.jaera.it\/blog\/#website\",\"url\":\"https:\/\/www.jaera.it\/blog\/\",\"name\":\"Jaera\",\"description\":\"Consulenza professionale e servizi per aziende\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/www.jaera.it\/blog\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"it-IT\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/www.jaera.it\/blog\/#\/schema\/person\/0c6b83954b76fc35067e8dafae0265a6\",\"name\":\"Jaera team\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"it-IT\",\"@id\":\"https:\/\/www.jaera.it\/blog\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/www.jaera.it\/blog\/wp-content\/uploads\/2021\/03\/logo-Jaera-colori-RGB-03.png\",\"contentUrl\":\"https:\/\/www.jaera.it\/blog\/wp-content\/uploads\/2021\/03\/logo-Jaera-colori-RGB-03.png\",\"caption\":\"Jaera team\"},\"description\":\"Jaera S.r.l. si occupa di consulenza aziendale in ottica compliance e di nomina di specifiche funzioni aziendali, di consulenza in informatica e formazione.\",\"url\":\"https:\/\/www.jaera.it\/blog\/author\/jaera-team\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Child Sexual Abuse Material (CSAM) - Jaera","description":"Child Sexual Abuse Material (CSAM) e le modalit\u00e0 attualmente utilizzate per rilevarlo e segnalarlo alle autorit\u00e0 competenti in materia.","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.jaera.it\/blog\/child-sexual-abuse-material-csam\/","og_locale":"it_IT","og_type":"article","og_title":"Child Sexual Abuse Material (CSAM) - Jaera","og_description":"Child Sexual Abuse Material (CSAM) e le modalit\u00e0 attualmente utilizzate per rilevarlo e segnalarlo alle autorit\u00e0 competenti in materia.","og_url":"https:\/\/www.jaera.it\/blog\/child-sexual-abuse-material-csam\/","og_site_name":"Jaera","article_published_time":"2021-09-09T07:00:43+00:00","article_modified_time":"2023-03-03T14:07:31+00:00","og_image":[{"width":2000,"height":1000,"url":"https:\/\/www.jaera.it\/blog\/wp-content\/uploads\/2021\/09\/CSAM.jpg","type":"image\/jpeg"}],"author":"Jaera team","twitter_card":"summary_large_image","twitter_misc":{"Scritto da":"Jaera team","Tempo di lettura stimato":"8 minuti"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/www.jaera.it\/blog\/child-sexual-abuse-material-csam\/","url":"https:\/\/www.jaera.it\/blog\/child-sexual-abuse-material-csam\/","name":"Child Sexual Abuse Material (CSAM) - Jaera","isPartOf":{"@id":"https:\/\/www.jaera.it\/blog\/#website"},"datePublished":"2021-09-09T07:00:43+00:00","dateModified":"2023-03-03T14:07:31+00:00","author":{"@id":"https:\/\/www.jaera.it\/blog\/#\/schema\/person\/0c6b83954b76fc35067e8dafae0265a6"},"description":"Child Sexual Abuse Material (CSAM) e le modalit\u00e0 attualmente utilizzate per rilevarlo e segnalarlo alle autorit\u00e0 competenti in materia.","breadcrumb":{"@id":"https:\/\/www.jaera.it\/blog\/child-sexual-abuse-material-csam\/#breadcrumb"},"inLanguage":"it-IT","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.jaera.it\/blog\/child-sexual-abuse-material-csam\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/www.jaera.it\/blog\/child-sexual-abuse-material-csam\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/www.jaera.it\/blog\/"},{"@type":"ListItem","position":2,"name":"Child Sexual Abuse Material (CSAM)"}]},{"@type":"WebSite","@id":"https:\/\/www.jaera.it\/blog\/#website","url":"https:\/\/www.jaera.it\/blog\/","name":"Jaera","description":"Consulenza professionale e servizi per aziende","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.jaera.it\/blog\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"it-IT"},{"@type":"Person","@id":"https:\/\/www.jaera.it\/blog\/#\/schema\/person\/0c6b83954b76fc35067e8dafae0265a6","name":"Jaera team","image":{"@type":"ImageObject","inLanguage":"it-IT","@id":"https:\/\/www.jaera.it\/blog\/#\/schema\/person\/image\/","url":"https:\/\/www.jaera.it\/blog\/wp-content\/uploads\/2021\/03\/logo-Jaera-colori-RGB-03.png","contentUrl":"https:\/\/www.jaera.it\/blog\/wp-content\/uploads\/2021\/03\/logo-Jaera-colori-RGB-03.png","caption":"Jaera team"},"description":"Jaera S.r.l. si occupa di consulenza aziendale in ottica compliance e di nomina di specifiche funzioni aziendali, di consulenza in informatica e formazione.","url":"https:\/\/www.jaera.it\/blog\/author\/jaera-team\/"}]}},"_links":{"self":[{"href":"https:\/\/www.jaera.it\/blog\/wp-json\/wp\/v2\/posts\/1443"}],"collection":[{"href":"https:\/\/www.jaera.it\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.jaera.it\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.jaera.it\/blog\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.jaera.it\/blog\/wp-json\/wp\/v2\/comments?post=1443"}],"version-history":[{"count":7,"href":"https:\/\/www.jaera.it\/blog\/wp-json\/wp\/v2\/posts\/1443\/revisions"}],"predecessor-version":[{"id":1639,"href":"https:\/\/www.jaera.it\/blog\/wp-json\/wp\/v2\/posts\/1443\/revisions\/1639"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.jaera.it\/blog\/wp-json\/wp\/v2\/media\/1458"}],"wp:attachment":[{"href":"https:\/\/www.jaera.it\/blog\/wp-json\/wp\/v2\/media?parent=1443"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.jaera.it\/blog\/wp-json\/wp\/v2\/categories?post=1443"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.jaera.it\/blog\/wp-json\/wp\/v2\/tags?post=1443"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}