Meta wspiera nową platformę pomagającą nieletnim w usuwaniu nagich, seksualnych zdjęć z Internetu

TNarodowe Centrum Dzieci Zaginionych i Wykorzystywanych uruchomiło platformę finansowaną przez Meta, aby pomóc dzieciom i nastolatkom w usuwaniu nagich lub seksualnych zdjęć i filmów z mediów społecznościowych.

Nowa usługa dla nieletnich, tzw Zdejmij to, został odsłonięty rok po wydaniu podobnego narzędzia dla dorosłych, znanego jako ZatrzymajNCII (skrót od intymnych obrazów bez zgody). Dzisiaj Take It Down będzie działać tylko na pięciu platformach, które zgodziły się wziąć udział: należących do Meta Facebook i Instagram, a także Yubo, OnlyFans i Pornhub.

„Stworzyliśmy ten system, ponieważ wiele dzieci znajduje się w tak rozpaczliwej sytuacji” — powiedziała prezes i dyrektor generalny NCMEC, Michelle DeLaune. „Mamy nadzieję, że dzieci dowiedzą się o tej usłudze i odczują ulgę, że istnieją narzędzia pomagające usuwać obrazy”.

To, w jaki sposób firmy zajmujące się mediami społecznościowymi chronią dzieci i nastolatki – i gdzie im to nie wychodzi – stało się głównym tematem ponadpartyjnej polityki technologicznej w nowym Kongresie i takim, w którym ustawodawcy mają największe szanse na uchwalenie przepisów. Jednak przed wszelkimi propozycjami stworzenia lub wzmocnienia zabezpieczeń jest jeszcze długa droga, a ponieważ nie ma żadnych przepisów prawnych, NCMEC nadal działa jako pomost między firmami internetowymi a organami ścigania w kwestiach bezpieczeństwa dzieci. W 2021 roku organizacja non-profit otrzymała prawie 30 milionów wskazówek z całej branży na temat widocznych materiałów związanych z sekstorsją i wykorzystywaniem seksualnym dzieci na swoich platformach. Większość zgłosiły platformy należące do Meta.

Mogą z niego korzystać osoby niepełnoletnie i rodzice Bezpłatne, anonimowe narzędzie NCMEC do oznaczania materiałów dla nieletnich, które zostały lub, jak przypuszczają, będą rozpowszechniane w Internecie. Po wybraniu poufnych zdjęć lub filmów na swoim urządzeniu platforma generuje odpowiednik cyfrowego odcisku palca tego zdjęcia (zwanego „haszem”), który NCMEC następnie udostępnia uczestniczącym serwisom społecznościowym, aby mogli spróbować znaleźć, ograniczać lub usuwać i monitorować tę zawartość.

Zdjęcia lub filmy, o których mowa, w szczególności nie opuszczają urządzenia i nie są przez nikogo oglądane, zgodnie z NCMEC. (Hasz sprawia również, że ofiary są niemożliwe do zidentyfikowania zarówno dla NCMEC, jak i dla aplikacji mediów społecznościowych, sygnalizując jedynie, że obraz jest szkodliwy i powinien zostać usunięty). .

Jednak jedną z największych przeszkód w tym wysiłku jest rozwój szyfrowania typu end-to-end. „Kiedy firmy technologiczne wdrażają kompleksowe szyfrowanie, bez wbudowanych środków zapobiegawczych w celu wykrycia znanych materiałów związanych z seksualnym wykorzystywaniem dzieci, wpływ na bezpieczeństwo dzieci jest druzgocący” – powiedział DeLaune, prezes NCMEC, podczas przesłuchania w Senackiej Komisji Sądownictwa na posiedzeniu w tym miesiącu . Słoń w pokoju to sponsor finansowy i najbardziej znana firma zaangażowana w Take It Down, Meta krok w kierunku szyfrowania typu end-to-end zarówno na Instagramie, jak i Messengerze.

Jak obie organizacje mogą to pogodzić, to „kwestia miliona dolarów”, powiedział wiceprezes NCMEC, Gavin Portnoy Forbes, zauważając, że NCMEC nadal nie wie dokładnie, jakie są plany Meta dotyczące szyfrowania i jakie zabezpieczenia mogą obowiązywać. (Meta powiedział, że trwają prace i że różne funkcje szyfrowania są testowane na Instagramie i Messengerze).

„Budujemy Take It Down z myślą o dzisiejszej lokalizacji internetu i [dostawcy usług elektronicznych]” — powiedział Portnoy. „To naprawdę jest most, który będziemy musieli przekroczyć, gdy lepiej zrozumiemy, jak wygląda kompleksowe środowisko szyfrowania [Meta] – i czy istnieje świat, w którym może działać Take It Down”.

Globalny szef bezpieczeństwa Meta, Antigone Davis, powiedział Forbes że „szyfrowanie spowoduje, że niektóre obrazy nie zostaną przez nas zidentyfikowane”, ale staje się standardem branżowym w przesyłaniu wiadomości, który ma kluczowe znaczenie dla prywatności i bezpieczeństwa użytkowników. Używanie technologii mieszania i wspieranie NCMEC w projektach takich jak ten to jeden z kilku sposobów, w jaki Meta próbuje „naprawdę stawić czoło problemowi” – ​​powiedziała. (Obie strony odmówiły podania, ile pieniędzy Meta przekazała NCMEC na budowę Take It Down.)

„Nie ma panaceum na rozwiązanie tych problemów” — powiedział Davis w wywiadzie, opisując podejście Meta jako „wieloaspektowe”. Oprócz współpracy nad tym nowym systemem mającym na celu udaremnienie seksu i rozpowszechniania intymnych zdjęć bez zgody, Meta nie pozwala dorosłym nieznajomym łączyć się z nieletnimi za pośrednictwem swoich funkcji przesyłania wiadomości, powiedziała. Dodała, że ​​używa również klasyfikatorów, aby zapobiegać przesyłaniu kont i treści nieletnich do dorosłych użytkowników Meta, którzy wykazywali podejrzane zachowanie w Internecie.

„Mam nadzieję, że ludzie, których zdjęcia zostały udostępnione w ten sposób, gdy byli młodzi przez kogokolwiek – przez rodzica, który je wykorzystywał, przez innego dorosłego, który je wykorzystywał, przez byłego chłopaka lub dziewczynę – będą zainteresowani użyj tego narzędzia” – powiedział Davis.

NCMEC powiedział, że trochę się rozbił 200 innych dostawców usług elektronicznych które przesłały informacje do swojego „CyberTipline” w sprawie przystąpienia do programu Take It Down. Dopiero się okaże, kto jeszcze – poza garstką graczy mediów społecznościowych, którzy dziś go bronią – wejdzie na pokład. Ze swojej strony Yubo powiedział, że ma nadzieję, że ci pierwsi użytkownicy zachęcą innych do przyłączenia się.

„Potrzeba czegoś więcej niż tylko interwencji rządu, aby ograniczyć ryzyko i rozwiązać problemy online” – powiedział dyrektor generalny Yubo, Sacha Lazimi, w e-mailu. „Wszyscy aktorzy muszą odegrać swoją rolę. … Współpraca jest kluczem do znalezienia rozwiązań dla dużych wyzwań, dlatego mamy nadzieję, że więcej platform przyłączy się do inicjatywy Take It Down”.

WIĘCEJ OD FORBESJak TikTok Live stał się „klubem ze striptizem wypełnionym 15-latkami”By Aleksandra S. LevineWIĘCEJ OD FORBESTe konta TikTok ukrywają materiały przedstawiające wykorzystywanie seksualne dzieci na widokuBy Aleksandra S. LevineWIĘCEJ OD FORBESModeratorzy TikTok są szkoleni przy użyciu graficznych obrazów przedstawiających wykorzystywanie seksualne dzieciBy Aleksandra S. Levine