The Belgian presidency has drafted yet another tweaked #chatcontrol proposal. In summary, the proposal remains completely unacceptable.
TLDR: All the problems pointed our in our earlier open letters are still there
nce.mpi-sp.org/index.php/s/eqj…
docs.google.com/document/d/13A…
a) the risk of abuse of the solution for other applications (including political purposes)
b) the huge number of false positives (no waiting for 2 alerts does not work)
c) the fact that the real targets will use other technologies (e.g. sharing links to encrypted files).
d) chilling effect on teenagers.
Summary of latest proposal:
1) Detection of known CSAM and of new CSAM using AI (2 hits before you are reported) remain fully unacceptable because it just does not work for technical reasons pointed out earlier.
2) Grooming detection in text and audio is abandoned; information is pseudonymized before it is reported (presumably identity of the user is known)
3) User has to give consent before the client side scanning; details are not known but it is unclear what happens if consent is not given – is the message not sent? Why do policy makes believe that popups solve problems (cookies anyone)?
Source (in German):
netzpolitik.org/2024/internes-…
Nextcloud - a safe home for all your data
Nextcloud
DreiradOllie
in reply to netzpolitik.org • • •Hendi
in reply to netzpolitik.org • • •yrlaNor
in reply to netzpolitik.org • • •ob man ein replikator-gericht genauso genusvoll isst, wie eines, von dem man weiß, daß jemand stundenlang in der küche gearbeitet hat?
@vincefoerst
katsimir
in reply to netzpolitik.org • • •Meinetwegen soll es KI-Kunst sowohl in der geschilderten "Qualitätsversion" geben, wo die KI nur kleine Anteile hat, als auch in der "Schrottversion" 100% KI erzeugt (die immerhin total unbegabten vielleicht auch hilft, sich irgendwie auszudrücken oder schnell ein Aufmacherbild für irgendwas zu erzeugen).
Das Problem entsteht aber meiner Ansicht nach dann, wenn diese "Kunst" ohne Kennzeichnung und ohne Trennung von 100% menschlicher Kunst existiert.
Eine no-AI Künstlerin, die sich jahrzehntelang fortgebildet und einen eigenen Stil entwickelt hat sollte beim Kampf um die für die Vermarktung notwendige Aufmerksamkeit nicht gegen eine Flut von KI-generierten Werken ankämpfen müssen. 1/2