Защо новото предложение на Унгария не решава проблема.

NB: Изпратихме през edelivery.egov.bg и други канали тази позиция до МВР (№ 812100-17760/30.09.2024г), МВнР (№ 23-00-54/30.09.2024), МС (ПР-1005/30.09.2024) и Министерство на правосъдието (94-Б-112/30.09.2024) – всички институции, които имат отношение по въпроса.

През септември 2024 г. държавите – членки на ЕС, разгледаха актуализирано предложение за регламент за сканиране от страна на клиента, при което доставчиците на приложения с шифрирани от край до край комуникации ще бъдат принудени да сканират съдържанието на всички изображения за известни случаи на сексуално насилие над деца материали (CSAM).

Сексуалното малтретиране и сексуалната експлоатация на деца са тежки престъпления, които могат да причинят вреди за цял живот на пострадалите.

Правителствата, доставчиците на услуги и обществото като цяло предприемат важни мерски в борбата с тези престъпления.

Но това не може да се прави на всяка цена. 

Последното предложение принуждава доставчиците на услуги за шифровани съобщения от край до край (iMessage,Matrix, Messenger, Signal, Threema, WhatsApp, Wire, но също и шифрована електронна поща) да проверяват дали потребителите изпращат известни материали от CSAM. 

Регламентът оставя открит въпроса как да се прави това. 

Единственият известен подход за извършване на тази проверка на криптирани съобщения с приемлив ефективност е сканирането от страна на клиента: преди да бъдат изпратени, изображенията на телефона се сравняват с хеширана база данни с познато съдържание на CSAM. Ако се открие съвпадение, потребителят се докладва на закона на правоприлагащите органи.

Съществуват няколко причини, поради които това предложение остава неприемливо:

1: Неефективна технология

• На първо място, сегашната технология за откриване е неефективна: много лесно е да се модифицира изображение така, че да избегне откриване (фалшиви отрицателни резултати), което означава, че само малка част от от нарушителите ще бъдат докладвани. 
• Освен това е тривиално да се модифицира злонамерено невинно изображение, като така че да бъде открито като CSAM (фалшиви положителни резултати). Като се има предвид обемът на изображенията, които трябва да бъдат анализирани (всички изображения, изпратени чрез всички услуги за съобщения), някои от настоящите проекти биха генерирали много голям брой фалшиви положителни резултати, които биха се увеличили още повече, ако вземем предвид злонамерените модификации.Всяка от тези грешки води до това, че невинни потребители биват докладвани за чудовищни престъпления. 
• За да се намали броя както на фалшивите отрицателни, така и на фалшивите положителни резултати, алгоритмите за хеширане трябва да бъдат конфигурирани по такъв начин, че хешираната база данни задължително да пропуска информация за оригиналните снимки, което е изключително проблематично, тъй като би могло да доведе до възстановяване на самия материал от CSAM, чието разпространение сканирането има за цел да предотврати. 
• Според над 400 учени от над 30 страни и след двадесет години изследвания по тази тема няма надежден метод за справяне с тези проблеми и е съмнително дали този проблем изобщо може да бъде решен.

2: Намаляване на обхвата

• Намаляване на обхвата, за да се премахне използването на изкуствен интелект за откриване на нови CSAM изображения, не решава един от основните проблеми на сканирането от страна на клиента: сканирането на изображения преди шифрирането напълно отхвърля ползата му 
• Въпреки че регламентът твърди, че такова сканиране спазва принципа на криптиране от край до край, е очевидно, че това не е така. 
• Аналогия би била, ако правителството твърди, че спазва поверителността на кореспонденцията, като никога не отваря писма, докато в същото време ще разпореди инсталирането на камери да гледа през рамото на всички граждани, преди да поставят всяко писмо в плика.

3:  Сканиране на всички потребители

• Въпреки намаляването на обхвата, предложеното задължително сканиране е насочено към всеки гражданин, а не към разследване на потребители, за които правоприлагащите органи имат основателни подозрения, че участват в обмена на CSAM материали. 
• Нашите телефони и снимките на телефоните документират целия ни живот; предоставянето на правителството пълен достъп до това съдържание е изключително опасно.
• От правна гледна точка това означава че сканирането от страна на клиента е непропорционално и нарушава основното право на неприкосновеност на личния живот.

4: Промяна на обхвата на сканирането

• Предложението се фокусира върху CSAM, но след като сканирането от страна на клиента ще бъде разгърнато на устройствата на гражданите на ЕС, е тривиално да се разшири сканирането да обхване всички изображения, съхранявани на устройството, и да се разшири базата данни с ново съдържание.(тероризъм и организирана престъпност) без открит демократичен надзор.
• Тъй като базата данни е хеширана, няма прозрачност за естеството на съдържанието, което се открива. Освен това тя е изключително че по-малко демократичните режими ще използват сканиране от страна на клиента, за да откриват в широк мащаб съдържание, което е критично за към правителството. 
• Тази технология ще им предостави незабавно списък с журналисти, хора активисти за човешки права и членове на опозицията, които разпространяват такова съдържание. 
• Иронично е, че ЕС иска да бъде възприеман като фар на демокрацията, но е готов да предостави на диктаторите готов готов инструмент за масово наблюдение.

5: Чрез сложна технология се добавят повече възможност за пробиви във сигурността 

• Сканирането от страна на клиента усложнява системата, която осигурява сигурност от край до край. Трябва да се добавят допълнителни интерфейси и код за изтегляне и актуализиране на базата данни, за извършване на проверки и изпращане на отчети. 
• Тези механизми са изключително чувствителни и изискват много надеждни мерки за сигурност. Всяка грешка може да даде възможност на хакери, престъпници или неприятелски настроени правителства да да сканират съдържанието на устройствата по целенасочен начин или в голям мащаб. 
• Съществува и значителен риск базата данни с хеширани изображения да изтече, което в крайна сметка ще отслаби защитата, на която разчитат доставчиците на услуги за откриване на злоупотреби в некриптирани среди (като електронна поща или публични снимки).
• Като цяло, повишената сложност вероятно ще доведе до нови уязвимости. всички ще бъдат по-малко сигурни.

Сигурни пътища за защита на децата

Техноцентричните решения, основани на наблюдение са много лош вариант за борба с разпространението на CSAM.

Важно е да се помни, че съдържанието на CSAM е резултат от сексуална злоупотреба с деца. Изкореняване на CSAM зависи от изкореняването на злоупотребата, а не само на материалите, съдържащи злоупотреба, и тяхното разпространение. 

Доказани подходи, препоръчани от организации като ООН за изкореняване на злоупотребата, включват обучение по въпросите на съгласието (consent), нормите и ценностите, цифровата грамотност и онлайн безопасността, и всеобхватно сексуално образование, горещи линии за докладване и други полезни препоръки.

С помощта на сканирането от страна на клиента жертвите, които използват същите тези защитени месинджъри услуги, за да общуват с доверени приятели или линии за помощ, ще бъдат изложени на риск от криминализиране чрез маркиране на техния сигнал за помощ, и поради това вероятността да се свържат с тях е по-малка.

Усилията в областта на образованието могат да се осъществяват в партньорство с платформите, които могат да дадат приоритет на лесно съобщаване на CSAM опити и да създадат обучение, което да бъде вградено в самата платформа.

Защита на децата от (онлайн) злоупотреба при запазване на правото им на сигурни комуникации е от решаващо значение. 

Вместо разходи за нови и нарушаващи правата ни технологии би било добре да има значително увеличаване на инвестициите и усилията в подкрепа на съществуващите доказани подходи за изкореняване на злоупотребата, а заедно с нея и на материалите с неправомерно съдържание. 

Това съдържание е преведено от писмото подписано от над 400 учени от 31 страни, даващи аргументи против приемането на законовата рамка. Екипът ни добави още малко информация, за конкретното предложение на Унгарското председателство.