Aġġornament: Apple semmiet it-tieni spezzjoni tas-server, u kumpanija professjonali tal-viżjoni tal-kompjuter iddeskriviet possibbiltà ta 'dak li jista' jiġi deskritt fi "Kif tista 'taħdem it-tieni spezzjoni" hawn taħt.
Wara li l-iżviluppaturi reverse engineered partijiet minnha, il-verżjoni bikrija tas-sistema Apple CSAM ġiet effettivament ingannata biex timmarka immaġni innoċenti.Madankollu, Apple iddikjarat li għandha salvagwardji addizzjonali biex tevita li dan iseħħ fil-ħajja reali.
L-aħħar żvilupp seħħ wara li l-algoritmu NeuralHash ġie ppubblikat fuq il-websajt tal-iżviluppatur ta’ sors miftuħ GitHub, kulħadd jista’ jesperimenta miegħu...
Is-sistemi kollha tas-CSAM jaħdmu billi jimportaw database ta’ materjali magħrufa ta’ abbuż sesswali tat-tfal minn organizzazzjonijiet bħaċ-Ċentru Nazzjonali għat-Tfal Nieqsa u Sfruttati (NCMEC).Id-database hija pprovduta fil-forma ta 'hashes jew marki tas-swaba' diġitali minn immaġini.
Għalkemm il-biċċa l-kbira tal-ġganti tat-teknoloġija jiskannjaw ritratti li jittellgħu fis-sħaba, Apple tuża l-algoritmu NeuralHash fuq l-iPhone tal-klijent biex tiġġenera valur hash tar-ritratt maħżun, u mbagħad tqabbel mal-kopja mniżżla tal-valur tal-hash CSAM.
Ilbieraħ, żviluppatur sostna li għamel reverse engineering tal-algoritmu ta 'Apple u ħareġ il-kodiċi lil GitHub-din it-talba kienet effettivament ikkonfermata minn Apple.
Fi ftit sigħat wara li GitHib ġie rilaxxat, ir-riċerkaturi użaw b'suċċess l-algoritmu biex joħolqu pożittiv falz intenzjonat-żewġ immaġini kompletament differenti li ġġeneraw l-istess valur hash.Din tissejjaħ ħabta.
Għal sistemi bħal dawn, dejjem hemm riskju ta 'ħabtiet, minħabba li l-hash huwa naturalment rappreżentazzjoni simplifikata ħafna tal-immaġni, iżda huwa sorprendenti li xi ħadd jista' jiġġenera l-immaġni daqshekk malajr.
Il-ħabta intenzjonata hawnhekk hija biss prova tal-kunċett.L-iżviluppaturi m'għandhomx aċċess għad-database tal-hash CSAM, li tkun teħtieġ il-ħolqien ta 'pożittivi foloz fis-sistema f'ħin reali, iżda tipprova li l-attakki ta' kolliżjoni huma relattivament faċli fil-prinċipju.
Apple effettivament ikkonfermat li l-algoritmu huwa l-bażi tas-sistema tiegħu stess, iżda qal lill-motherboard li din mhix il-verżjoni finali.Il-kumpanija qalet ukoll li qatt ma kellha l-intenzjoni li żżommha kunfidenzjali.
Apple qalet lil Motherboard f'email li l-verżjoni analizzata mill-utent fuq GitHub hija verżjoni ġenerika, mhux il-verżjoni finali użata għall-iskoperta ta 'iCloud Photo CSAM.Apple qalet li żvelat ukoll l-algoritmu.
"L-algoritmu NeuralHash [...] huwa parti mill-kodiċi ffirmat tas-sistema operattiva [u] riċerkaturi tas-sigurtà jistgħu jivverifikaw li l-imġieba tiegħu tikkonforma mad-deskrizzjoni," kiteb dokument Apple.
Il-kumpanija kompliet tgħid li hemm żewġ passi oħra: it-tmexxija ta 'sistema ta' tqabbil sekondarja (sigriet) fuq is-server tagħha stess, u reviżjoni manwali.
Apple stqarret ukoll li wara li l-utenti jgħaddu l-limitu ta’ 30 logħba, it-tieni algoritmu mhux pubbliku li jaħdem fuq is-servers ta’ Apple se jiċċekkja r-riżultati.
"Dan il-hash indipendenti ntgħażel biex tirrifjuta l-possibbiltà li n-NeuralHash żbaljat jaqbel mad-database CSAM ikkodifikata fuq l-apparat minħabba interferenza kontradittorja ta 'immaġini mhux CSAM u jaqbeż il-limitu ta' tqabbil."
Brad Dwyer ta’ Roboflow sab mod kif faċilment jiddistingwi bejn iż-żewġ stampi mibgħuta bħala prova ta’ kunċett għal attakk ta’ ħabta.
Jiena kurjuż kif dawn l-immaġini jidhru fi CLIP ta 'estrattur ta' karatteristiċi newrali simili iżda differenti OpenAI.CLIP jaħdem b'mod simili għal NeuralHash;tieħu immaġni u tuża netwerk newrali biex tiġġenera sett ta 'vettori ta' karatteristiċi li jimmappaw mal-kontenut tal-immaġni.
Iżda n-netwerk ta' OpenAI huwa differenti.Huwa mudell ġenerali li jista 'mappa bejn immaġini u test.Dan ifisser li nistgħu nużawha biex niġbdu informazzjoni dwar l-immaġni li tinftiehem mill-bniedem.
I dam iż-żewġ immaġini tal-ħabta hawn fuq permezz tal-CLIP biex nara jekk kienx imqarraq ukoll.It-tweġiba qasira hija: le.Dan ifisser li Apple għandha tkun kapaċi tapplika t-tieni netwerk tal-estrattur tal-karatteristiċi (bħal CLIP) għall-immaġini CSAM misjuba biex tiddetermina jekk humiex reali jew foloz.Huwa ħafna aktar diffiċli li tiġġenera immaġini li jqarrqu żewġ netwerks fl-istess ħin.
Fl-aħħarnett, kif issemma qabel, l-immaġini huma riveduti manwalment biex jikkonfermaw li huma CSAM.
Riċerkatur tas-sigurtà qal li l-uniku riskju reali huwa li kull min irid idejjaq lil Apple jista’ jipprovdi pożittivi foloz lil reviżuri umani.
“Apple fil-fatt iddisinjat din is-sistema, u għalhekk il-funzjoni tal-hash m’għandhiex għalfejn tinżamm sigrieta, għax l-unika ħaġa li tista’ tagħmel b’'non-CSAM bħala CSAM' hija li tiddejjaq lit-tim ta’ rispons ta’ Apple b’xi immaġini junk sakemm jimplimentaw filtri biex jeliminaw. analiżi Dawk iż-żibel fil-pipeline huma pożittivi foloz,” qal Nicholas Weaver, riċerkatur anzjan fl-Istitut tax-Xjenza Internazzjonali tal-Kompjuter fl-Università ta’ Kalifornja, Berkeley, lil Motherboard fi chat online.
Il-privatezza hija kwistjoni ta' tħassib dejjem akbar fid-dinja tal-lum.Segwi r-rapporti kollha relatati mal-privatezza, is-sigurtà, eċċ. fil-linji gwida tagħna.
Ben Lovejoy huwa kittieb tekniku Brittaniku u editur tal-UE għal 9to5Mac.Huwa magħruf għall-kolonni u l-artikoli tad-djarju tiegħu, li jesplora l-esperjenza tiegħu mal-prodotti Apple maż-żmien biex jikseb reviżjonijiet aktar komprensivi.Jikteb ukoll rumanzi, hemm żewġ thrillers tekniċi, ftit films qosra ta’ fantaxjenza u rom-com!
Ħin tal-post: Awissu-20-2021