Für das Reverse-Engineering verwendete NeuralHash-Version laut Apple nicht die finale Version
Gestern gab es Berichte über das erste erfolgreiche "Reverse Engineering" von Apples NeuralHash-Algorithmus, mit dem man ab dem Herbst kinderpornografischen Inhalten auf den Geräten seiner Nutzer auf die Spur kommen will. Dieses basierte auf einer Version des Algorithmus, der in den Tiefen von iOS 14.3 gefunden wurde und es wurde bereits gestern darüber spekuliert, dass dies möglicherweise nicht die finale Version sein könnte, die Apple dann auch letztlich zum Einsatz bringt. Nun hat sich auch Apple gegenüber den Kollegen von Motherboard geäußert und erklärt, dass die Version von NeuralHash, die für das Reverse-Engineering genutzt wurde, nicht diejenige ist, die für die finale Implementierung des sogenannten CSAM-Systems genutzt werden wird. Zudem habe man den Algorithmus zwar frei zugänglich für die Sicherheitsüberprüfung zur Verfügung gestellt, allerdings gebe es noch einen weiteren, serverseitigen Algorithmus, der Übereinstimmungen (zusätzlich zur manuellen Überprüfung) noch einmal checkt, ob es sich dabei wirklich um die gesuchten Inhalte handelt.
Wirklich zur Beruhigung tragen aber auch diese Aussagen nicht bei. So meldete sich auch bereits Matthew Green gegenüber Motherboard zu Wort. Der Sicherheitsforscher von der Johns Hopkins University hatte Apples Pläne als erster publik gemacht und gehört zu den größten Kritikern des Systems. Seiner Meinung nach darf erwartet werden, dass die in der NeuralHash-Version aus iOS iOS 14.3 entdeckten Probleme sehr wahrscheinlich auch in der finalen Version auftauchen werden. Mit Nicholas Weaver gibt ein weiterer Sicherheitsforscher zu bedenken, dass man aufgrund des großen öffentlichen Interesses sicherlich eine Menge Experten Apples Prüf-Team mit manipulierten Inhalten überschwemmen wird, bis dort ein Filter implementiert wird, der die False-Positives herausfiltert. Hier könnten dann weitere Probleme entstehen.
Trackbacks
Keine Trackbacks
Kommentare
Ansicht der Kommentare: Linear | Verschachtelt
Ich am :
Verstehe den Satz leider nicht \ud83e\udd37\ud83c\udffb\u200d\u2642\ufe0f
Wildberry am :
SOE am :
Andere Unternehmen, die Erfahrung mit KI und neuronalen Netzwerken haben, können auch nach Jahren nicht erklären, wie die Systeme auf bestimmte Ergebnisse kommen und Apple stellt sich hin und sagt: "Keine Sorge, ist nur die BETA."
Ich sage ja, jede weitere Aussage von Apple macht es nur noch schlimmer.
Gruml am :
Apple schafft es ja noch nicht mal das normale System (alt, erprobt, bekannt) abzusichern. Siehe Pegasus-Hack, Jailbreaks usw. Wie soll man dann auch nur ansatzweise Vertrauen haben, dass Apple das mit einer nagelneuen und unerprobten Technik besser hinbekommt.
Dazu kommt, dass Apple mit China und der iCloud ja bewiesen hat, dass es sich den lokalen Gesetzen unterwirft, wenn es dort Geräte verkaufen will. D.h. wenn andere Länder nun darauf pochen, dass Apple nun weitere Bilder melden muss, um den dortigen Gesetzen zu folgen, wird Apple das tun, wenn der Markt in dem Land groß genug ist. Apple kann nicht mehr wie früher dem FBI weismachen, dass das nicht geht, weil es das iOS nicht kann. Jeder weiß ja nun, dass das iOS das kann und es kein Aufwand ist, beliebige Hashes zusätzlich zu prüfen.
Apple hat die Büchse der Pandora geöffnet. Jedes Privatsphäre-Versprechen (bisher eigentlich die große Stärke von Apple, und war bisher durchaus sehr glaubhaft) ist jetzt leider nur noch unglaubhaft.