Automatisierte Text-Scans im Anmarsch
EU will Chatkontrollen: Messenger sollen auf CSAM und Grooming prüfen müssen [Update]
Update: Der Vorschlag der EU Kommission ist inzwischen offiziell. Der Download des 135-seitigen Entwurfes steht euch hier zur Verfügung.
Schon vorab im Netz: Der Entwurf der EU-Kommission
Original-Eintrag: Ein Entwurf der Europäischen Kommission zur „Festlegung von Vorschriften zur Verhütung und Bekämpfung des sexuellen Missbrauchs von Kindern“ ist noch vor seiner offiziellen Vorstellung im Netz gelandet und formuliert schwarz auf weiß erstmals, was Datenschützer und Privacy-Aktivisten schon länger befürchten.
Prüfung von Bildern und Texten in Planung
Die Europäische Kommission plant die Implementierung umfangreicher Chat-Kontrollen, die die Anbieter von Messenger-Diensten und sozialen Netzen dazu bewegen sollen Kurznachrichten-Konversationen und Unterhaltungen auf Inhalte hin zu prüfen, die die sexualisierte Gewalt an Kindern darstellen.
So ist die Europäische Kommission zu dem Schluss gekommen, dass sich die bislang von den großen Plattformen unternommenen Anstrengungen diesbezüglich „als unzureichend erwiesen“ und bereits dazu geführt hätten, dass einzelne Mitgliedstaaten in der lokalen Gesetzgebung nachschärfen mussten. Vor diesem Hintergrund sehe man sich nun gezwungen einheitliche Vorschriften zu erarbeiten, die der Aufdeckung, Meldung und Beseitigung von sexualisierter Gewalt an Kindern im Netz dienen sollen.
Automatisierte Erkennung von Grooming
Und die vorgeschlagenen Regelwerke haben es in sich: So denkt die Europäische Kommission beispielsweise laut über die automatisierte Erkennung von „Grooming“ nach, ein Verhalten, das nach Angaben der deutschen Wikipedia die gezielte Kontaktaufnahme Erwachsener mit Minderjährigen in Missbrauchsabsicht bezeichnet.
Um entsprechende Anbahnungsversuche erkennen zu können, wäre die komplette Erfassung von Textnachrichten in Messenger-Diensten und auf Online-Plattformen notwendig.
Unsurprisingly the conclusion amongst the politicians is that „We need to spy on all content & activity in order to establish whether it is (C) CSAM, or (D) potential CSAM, and also we have to (E) monitor contact metadata to identify grooming“
Or spies. Whistleblowers. Whatever. pic.twitter.com/rUDba28RGN
— Alec Muffett (@AlecMuffett) May 10, 2022
Der Volltext des Entwurfes, der sich als PDF-Dokument hier aus dem Netz laden lässt, soll noch in diesem Monat offiziell präsentiert werden und dürfte eine ähnlich große öffentliche Debatte provozieren, wie die inzwischen auf Eis gelegten Vorstöße Apples, die Foto-Archive von iCloud-Nutzern auf bekannte Bilder hin zu prüfen, die sexualisierte Gewalt an Kindern darstellen.
- Rückzieher: Apple verschiebt Missbrauchs-Erkennung
Kommt dann zur wem und Weihnachten, wenn mal wieder alle abgelenkt sind ……
*WM
WM abschaffen. Weihnachten auch!
Giggity
Alright.
Fußballspiele in Stadien einfach abschaffen,
spart Kosten und Ärger.
Wenn die Inhalte nach bestimmten Themen Filtern können und wollen, dann werden sie es auch nutzen, sicher nicht nur gegen Kindesmissbrauch
Ja denke ich auch. Das ist mal wieder nur zum Vorwand um die Bürger zu überwachen.
Jehova auf den Brian Filter
Krieg und Ukraine auf den Putin Filter
Wissen wir doch alle und nun ?
+1
Würde es nur dabei bleiben, wäre es gut. Vermutlich ist es auch der Türöffner für Zensur, Meinungsunterdrückung und totale Kontrolle.
Genau das soll es ja werden!
Klar wir sind ja auch in Russland und China und nicht in einer Demokratie
Du darfst demokratische deinen Volksvertreter wählen!
Der Entscheidet dann mit anderen Volksvertretern was das beste für dich,deine Gesundheit ,dein Geld und natürlich auch über die Sicherheit deines Kindes !da hast du aber nichts mehr zu entscheiden !
Gut das man hier in Deutschland der Politik und den Medien blind vertrauen kann weil wir leben ja in ner Demokratie!
Lass dich wählen, dann kannst mitentscheiden….Selbst im alten Griechenland habe nicht alle Bürger mit entschieden….
Wehret den Anfängen!
Um 5.000 Perverse (mögen es auch ein paar mehr sein) zu finden wird die ganze Menschheit überwacht?
Naja, ich weiß nicht, ob das der richtige Weg ist.
Indeed!
Und wenn man auch nur einen einzigen findet, dann war es der richtige Weg!
Nein. Genau das verbirgt sich hinter dem Begriff „Verhältnismäßigkeit“.
Die Privatsphäre, und damit die Rechte, von allen zu verletzen um nur einen einzigen zu finden, ist genau deswegen nicht der richtige Weg.
Sag das dem „einen“ Kind!
Nicht zu vergessen, dass wir es dann wieder mal mit Filtern in Form von Butz zu tun haben. Wir sehen ja schon, wie gut das bei großen Plattformen funktioniert, Beispiel YouTube. Wie soll das denn erst bei Textnachrichten werden? Freut euch schon mal auf ungefähr 1000 Fehldiagnose am Tag. Und dass die Kontaktdaten überprüft werden müssen, erhöht auch nur wieder die Datenschutzproblematik, weil dann jede Person sich nachweisen müsste. Nein, das ist nun wirklich nicht mehr verhältnismäßig. Aber war das überhaupt irgendwas in den letzten Jahren, was die EU im Technikbereich gemacht hat?
Die EU-Roaming-Verordnung ist recht gut gelungen…
Das war es dann aber auch überwiegend.
iDau, danke! Oder was würdest du deinem eigenen Kind dann sagen (in der Hoffnung dass dir sowas nie widerfährt): sorry kleine/r, aber die Alternative wäre gewesen, dass meine Nachrichten nach Schlagwörtern gescanned werden?
DEMOKRATIE ?!?!?
Dann recherchiere doch mal wie z.B. Frau von der Leyen an die Spitze der EU gekommen ist! Nachdem 28 Mitgliedsstaaten Kandidaten ernannten und daraus wählten, hat Macron & Merkel im Hinterzimmer nach Unstimmigkeiten fernab jeglicher Demokratie eine Dame ernannt, die nicht mal auf der Liste stand!!!
Ließt die manchmal deine eigenen Texte? Von der Leyen wurde ernannt (richtig) weil sich das Parlament auf keinen anderen Kandidaten einigen konnte. Durch die Ernennungen stand sie als Kandidatin für die Kommissionspräsidentschaft zur Verfügung und wurde DEMOKRATISCH gewählt!
Mensch iDau hat jetzt kommst du mit Fakten aber Ronny hat doch rescherschiert!!1elf
Demokratie? Wo warst Du zur Schule. Parlamentarische Demokratie ist ein meilenweiter Unterschied zur Demokratie. Die gibts in Europa nur in der Schweiz.
Katastrophe…
Ich habe soll eine kleine Tochter, die ich schützen will, halte dieses Vorgehen aber dennoch für den falschen Weg.
Sagst du auch nur solange bis sie vergewaltigt wird.
Wer daran irgendetwas gut findet, hat entweder nicht alle Latten im Zaun, eben jene Latte vorm Kopp ooder ein so zugenageltes Grundstück dass der Horizont 5 m weit reicht. Und ich meine die Person, die sich hinter einem Satzzeichen im Internet versteckt.
Also das dieser Kommentar freigeschaltet wurde wundert mich doch sehr.
Leicht unangebracht..
Wusste gar nicht dass so ein Chat-Filter solche Taten verhindert.
Ziemlich unangebracht.
Sagt wohlgemerkt eine Person, die sich im Internet nach einem Satzzeichen benennt. Damit ist egtl. alles gesagt…
@ifun.de
Ein „.“ als Username?
Im Prinzip ist es natürlich egal ob da trodel Dödel steht oder nur ein Punkt..
allerdings können wir dann auf „Namen“ ganz verzichten.
Ach zum Kommentar, nee komplett idiotischste Kommentare muss man nicht kommentieren, denn ist eh nicht zu helfen.
Man Rufe nur laut:
Terrorist, Pädophilie und alle drehen frei.
Auf das einfachste kommt die Dödel in der Regel natürlich nicht.. Kinder erst dann iPad/iPhone & Co. unbeaufsichtigt zu überlassen wenn sie eben dazu auch in der Lage sind.
Na ja doch ein Kommentar.
Das ist so eine dumme Aussage, die zusätzlich nicht mal einen Sinn ergibt.
Liest doch mal den Artikel durch. So steht es ja auch hier. Siehe Grooming.
Entweder seid ihr zu blöd zum lesen oder alle haben ein Eigentor gemacht. Euch müsste man sofort durchleuchten. Getroffene Hunde bellen.
Blockiert wird halt nur was nicht wahr ist. Das ernsthaft irgendwie versucht wird es zu verteidigen ist nicht zu glauben.
UFF!
So iel zum Thema DATENSCHUTZ…
Die EU zeigt immer mehr ihre wahre Fratze! Sinnbildlich dafür steht eine „Präsidentin“ die auf nationaler Ebene fleißig Korruptionsvorwürfe produziert hat, um dann fernab jeglicher Demokratieansätze ihre Allmachtphantasien über fast ganz Europa auszuleben! Für die große Masse wird der Schleier der Pädo-Kriminalität drüber gehangen, um jegliche Kritiker scheinheilig abzuurteilen!
P.S. Selbstverständlich ist jede Art von Kindesmissbrauch ein besonders abscheuliches Verbrechen! Die Aufklärung & Verurteilung sollte an Hand bestehender Gesetze durch z.B. mehr Ermittlungspersonal etc. unbedingt forciert werden!
Und ganz persönlich möchte ich hervor heben, dass ich dem Argument „wenn es nur 1 Kinderseele davor bewahrt, lohnt sich das Gesetz schon“ NICHTS entgegenzusetzen habe!
You can’t have 100-percent security and also have 100-percent privacy and zero inconvenience. We’re going to have to make some choices as a
society.” – Barack Obama
Es gibt Entscheidungen, diese sind hinterher nicht mehr Rückgängig zu machen – und wiegen sehr schwer! Grundsätzliche Überwachung Messengern? Der Anfang vom Ende..
Die Büchse der Pandora…..da wird mit der Argumentation Kindermissbrauch argumentiert und wer ein soziales Gewissen hat, wird dem natürlich zustimmen. Wenn aber erst einmal mal Begehrlichkeiten der uneingeschränkten Überwachung geweckt sind…..wehe, wehe wenn ich auf das Ende sehe!
Indeed!
Genau so ist es!
Es ist das perfekte moralische Deckmäntelchen für die Vollüberwachung.
Das Argument „… wenn nur eine Kinderseele gerettet wird, ist das Gesetz gerechtfertigt …“, halte ich für unzutreffend:
Die Anzahl der Pädophilen, besser noch, kriminelle Pädophile, dürfte im untersten Promille-Bereich sein, verglichen mit der gesamten EU-Bevölkerung.
Deshalb die Totalüberwachung von 100% der Bevölkerung durchzuführen, halte ich für unverhältnismäßig.
Das geht auch anders, durch massive Aufstockung personeller Ressourcen zur Bekämpfung von Internet-Kriminalität, usw.
Schön, dass man hier wieder den Schutz von Kindern als Argument für grenzenlose Überwachung nimmt. So kann man jeden, der das Vorgehen ablehnt, unterstellen Kinder nicht schützen zu wollen. Total unsolidarisch.
Und spätestens seit der Luca App, wissen wir ja alle, dass Daten die erhoben wurden, niemals missbraucht werden. Also können wir der Regierung ja auch ruhig vertrauen, sie wollen nur unsere Bestes.
Aber hey, was mit der DSGVO begann und mit den Uploadfiltern fortgesetzt wurde, muss mit dieser Verordnung schließlich konsequent weitergeführt werden.
Aber hey, wer vor der sich abzeichnenden Entwicklung warnt, muss zwingend ein Verschwörungstheoretiker sein. Schließlich gibt es in der Vergangenheit kein einziges Beispiel, wo Macht und Daten missbraucht wurden. Also können wir alles beruhigt sein und weiterschlafen.
Lg
+ 1
Sobald ein Messenger sowas implementiert, verabschiede ich mich davon. Das ist echt die absolute härte….
Das steht echt in absolut keinem Verhältnis. Da werden einfach die Chats von Millionen von Menschen gescannt um eventuell die ein oder andere Straftat verhindern zu können. Und jetzt kommt mir hier bitte keiner mit „es geht doch nur um strafrechtlich relevantes“. Wenn die Apps selber die entschlüsselten Nachrichten durchforsten, kann das jederzeit beliebig ausgeweitet werden.
Der einzig vernünftige Messenger wäre dann wahrscheinlich Matrix. Open Source, dezentral und jeder kann dort seinen eigenen Server hosten wenn er mag.
Oder einen eigenen XMPP Server aufsetzen.
Die Leute haben kein Bock 2€ für Threema zu investieren. Und du redest von Servern etc pp.
mit solchen Begriffen kommen nicht mal 1% der User klar :D
Die breite Masse wird man damit nie erreichen. Aber für sich im privaten Umfeld ist es umsetzbar.
Ihr/Wir alle können unsere gewählten Vertreter schreiben und ihnen Kundtun, was wir davon halten. Konsequent wäre es, dann Parteien zu wählen, die solches Gebaren grundsätzlich ablehnen.
Hi, SMS ist davon nicht berührt, oder ?
SMS ist nicht verschlüsselt und steht quasi als Klartext dem Providern zur Verfügung. Also ist das keine Alternative zu verschlüsselter Kommunikation.
SMS sind genaus so elektronische Postkarten, wie unverschlüsselte E-Mails.
Also nein, die sind insofern nicht betroffen, als dass sie bereits überwacht werden.
Da werden also 447 Millionen Menschen unter Generalverdacht gestellt.
Die EU sollte sich eher mal damit beschäftigen, das Renteneintrittsalter zu vereinheitlichen (wir arbeiten 5 Jahre länger!) oder die Steuern zu vereinheitlichen (DE hat die weltweit höchste Abgabenlast)…. das sind Probleme, die
Meine Güte die Kommentare hier. Bei vielen sitzt der Aluhut ganz schön eng um den Stirnlappen.
Du musst dir dein Lemminge Fell mal striegeln lassen.
:))
Sorry, trage aus Prinzip kein Echtfell.
Wie will die EU das durchsetzen, wenn ein Anbieter im Nicht-europäischen Ausland sitzt und auf die Implementierung solcher Dinge einen großen Haufen setzt? Das geht ja dann nur über Apple oder Google, die gezwungen werden müssten solche Apps aus dem Store zu entfernen.
Naja, wenn die EU auch irgendwann das Sideloading auf auf iPhones durchsetzt, können wir trotzdem wieder solche Apps installieren. Da wird die Regulierung dann schon schwieriger bis unmöglich.
Ich finde es schade, dass solche Aktionen nicht zu mehr Zulauf bei den dezengtralen förerierten Diensten führen werden…
Das passiert nur, wenn ein Elon Must Twitter kauft, dann gehen auf einmal die Zalen bei Mastodon hoch
Dies dient NUR dem Schutz unserer Kinder!
Gerade wurde wieder ein 36-facher Täter zu 2 Jahren Haft verurteilt….
https://www.spiegel.de/panorama/justiz/moenchengladbach-tanzlehrer-wegen-kindesmissbrauchs-in-36-faellen-verurteilt-a-c97368ba-7ce0-4a5e-80a7-4b9b65f8cd9e-amp
Meiner persönlichen Meinung ist das so abschreckend, da zittern die alle nur noch.
Ja, und wo im Artikel steht, dass er wegen Messenger und Chat-Nachrichten überführt wurde?
Dass der ein S-H-und ist steht ausser Frage. Kein Erbarmen für seine Taten. Aber der hat nicht über Chats seine Tat begangen.
Bitte differenzieren, bevor man mit Kanonen auf Mücken sch…
Wie sagte eins der Held der Steine: „Die saufen Lack!“
Das ist auf der selben Stufe wie die kommunistische Diktatur in West Taiwan.
Denkt doch an die Kinder! Kopf->Tisch
Krass! Und der Witz:
von der Leyens eigene Sachen (emails, sms etc. ) in ihrer Position als Präsidentin der EU werden GAR nicht archiviert!
Einfach mal googeln…nach 6 Monaten (?) kann nichts mehr überprüft werden da alles automatisch gelöscht wird.
und bei Prozessen in den USA kommen z.T. 5…10 Jahre alte Emails etc. als Beweise.
kann doch echt nicht sein:
Firmen, Bürger auf der einen Seite .
Und EU Bürokraten auf der Edelseite.
Ist echt mal ein Argument…
Ist es nicht – die europäische Datenvorratsspeicherung gilt für 6 Monate!
Die EU kommt Ihren Ziel immer näher, der gläserne Bürger muss her. Und die Mehrheit wird noch Beifall dazu klatschen.
Die Leute stellen sich Millionen von Alexas in’s Regal, aber fühlen sich durch automatische Textanalyse ausspioniert – ich raff’s nicht!
Das heißt man verifiziert sein Alter und dan wird auch nicht mitgelesen in allen Chats die Erwachsene machen? Sicherlich nicht.
Eine Künstliche Intelligenz durchsucht Chats und Server um Pädophile zu jagen.
Ich habe absolut kein Problem damit wenn ich an das denke was diese Bestien den Kindern antun. Was will irgendjemand mit meinen Chatverläufen? Sich mit kaputtlachen? Ihr habt alle zu viele Hollywoodfilme gesehen über die totale Überwachung.
Du hast wahrscheinlich zu wenige geschaut in deinem Luftschutzbunker
An deinem Kommentar sieht man, wie gut die Strategie aufgeht, den Schutz von Kindern als Hauptargument für solch einschneidende Maßnahmen zu verwenden. Und wie leicht es mittlerweile geworden ist, die Massen zu manipulieren.
Also alles abschaffen was soziale Medien betrifft. Nur noch Telefon und persönliche Besuche. Kotzt mich die EU und Ihre Vasallen an. Nur noch Kontrolle, Abmahnungen, Sanktionen, Ausschlüsse und ganz ganz schlimm der Wunsch in den Krieg zu ziehen obwohl die Geschichte zu den Lügen der Medien und Regierungen stets was anderes sagt.
Am besten also dem Westen den Rücken zeigen und bloß weg hier.
Die Welle
Vor allem ist nicht geplant, bekanntes Missbrauchsmaterials aus dem Netz zu löschen! Das zeigte eindeutig worum es tatsächlich geht.
Die leichtere Überwachung unserer Kommunikation.
Und das fällt uns spätestens dann auf die Füße, wenn eine Demokratie zur Autokratie wird.
Demon-kratie wer noch in das Zeug glaubt ist nicht von hier!
…und wieder eine Zensur im Namen der guten Sache.
Typische Allmachtsfantasie im Namen des „guten“ eine Zensur einzuführen. Wer dagegen ist, ist dann ja FÜR Kindesmissbrauch und gehört somit in die Pfui Ecke.
Wie wäre denn die folgende Lösung :
Messenger erst ab 18 und die Sache ist erledigt.
Solche Hintertüren in Software sin absolut gefährlich: Sie öffnen Missbrauch Tür und Tor und keiner weiß, ob sie das Problem wirklich beseitigen können. Menschen sind erfinderisch und werden immer einen anderen Weg finden.
Wie kann man sich dagegen gesellschaftlich wehren?