„Nie dotknięto źródła problemu”
Meta, właściciel Facebooka i Instagrama, zawarła ugodę w ogromnym sporze sądowym w Stanach Zjednoczonych dotyczącym wpływu mediów społecznościowych na dzieci i młodzież. Dzięki porozumieniu przedstawiciele firmy uniknęli konieczności odpowiadania przed sądem na jedne z najtrudniejszych pytań: czy Facebook i Instagram były świadomie projektowane w taki sposób, aby użytkownicy — w tym dzieci — nie mogli się od nich oderwać?
Sprawę komentuje Skúli Bragi Geirdal z Netvís – islandzkiego Centrum Cyberbezpieczeństwa. Jego zdaniem ugoda nie rozwiązuje podstawowego problemu, ponieważ zamiast zmienić sposób działania platform, odpowiedzialność ponownie przenosi się przede wszystkim na rodziców i użytkowników.
29 amerykańskich stanów przeciwko Meta
Według opisanej sprawy 29 stanów USA wspólnie wystąpiło przeciwko Meta.
Firmie zarzucano między innymi świadome projektowanie Facebooka i Instagrama w sposób zwiększający uzależniający charakter platform dla dzieci i młodzieży, regularne gromadzenie danych dzieci poniżej 13. roku życia bez zgody rodziców oraz dalsze wykorzystywanie funkcji, których potencjalnie szkodliwy wpływ miał być firmie znany.
Ostatecznie jednak nie doszło do pełnego rozstrzygnięcia tych zarzutów przed sądem.
Meta zawarła ugodę i zgodziła się zapłacić kwotę odpowiadającą około 2 bilionom ISK. Jednocześnie firma nie przyznała się do żadnych nieprawidłowości i odrzuca stawiane jej zarzuty.
Pieniądze zamiast odpowiedzi?
I właśnie to krytykuje Skúli Bragi.
Jego zdaniem jednym z najważniejszych elementów procesu miała być możliwość zadania przedstawicielom Meta konkretnych pytań dotyczących sposobu projektowania platform.
Czy mechanizmy Facebooka i Instagrama rzeczywiście powstawały z myślą o maksymalnym wydłużeniu czasu korzystania z aplikacji? Jaką wiedzę posiadała firma na temat wpływu swoich rozwiązań na dzieci? Które mechanizmy uznawano wewnętrznie za potencjalnie szkodliwe?
Ugoda sprawiła, że na część takich pytań nie trzeba było odpowiadać podczas procesu.
Zdaniem Skúliego Meta może więc zapłacić ogromną sumę, jednocześnie formalnie nie przyjmując odpowiedzialności za zarzucane działania.
Problemem nie jest tylko czas przed ekranem
Meta zgodziła się na wprowadzenie dodatkowych ograniczeń dotyczących dzieci. Wśród nich mają znaleźć się między innymi ograniczenie czasu korzystania z platform do dwóch godzin dziennie oraz wyłączenie powiadomień w czasie zajęć szkolnych.
Według Skúliego to jednak „plaster na ranę”, a nie rozwiązanie problemu.
Spór nie powinien bowiem dotyczyć wyłącznie pytania: „Ile godzin dziecko może korzystać z Instagrama?”.
Znacznie ważniejsze jest pytanie: „Co dokładnie znajduje się w tym produkcie i dlaczego tak trudno przestać z niego korzystać?”.
„Jak pozwolić palić tylko dwie papierosy dziennie”
Skúli używa bardzo mocnego porównania.
Według niego obecne rozwiązanie można porównać do sytuacji, w której w przypadku szkodliwego produktu zamiast zastanowić się nad jego konstrukcją, ustala się jedynie limit jego używania.
W przypadku papierosów oznaczałoby to mniej więcej: zamiast analizować, co w produkcie szkodzi i uzależnia, pozwalamy palić dwie sztuki dziennie i zabraniamy palenia o określonych godzinach.
W jego ocenie podobny problem występuje tutaj.
Ograniczenie dziecku czasu na Instagramie może zmniejszyć ekspozycję, ale nie zmienia samego algorytmu ani mechanizmów zaprojektowanych tak, aby utrzymywać uwagę użytkownika.
Algorytm decyduje, co zobaczy dziecko
Według Skúliego właśnie sposób działania algorytmów powinien znaleźć się w centrum dyskusji.
Platforma nie jest neutralną tablicą, na której użytkownik sam wybiera wszystko, co chce zobaczyć. Algorytm analizuje jego zachowanie i następnie podsuwa kolejne materiały.
W przypadku młodych użytkowników może chodzić również o treści dotyczące wyglądu, obrazu własnego ciała, zaburzeń odżywiania czy szkodliwych stereotypów dotyczących płci.
Do tego dochodzą spersonalizowane reklamy i treści dotyczące między innymi alkoholu, nikotyny czy hazardu.
Im lepiej system poznaje użytkownika, tym skuteczniej może dobierać treści przyciągające jego uwagę.
Odpowiedzialność ponownie trafia do rodziców
Zdaniem Skúliego w ugodzie nastąpiło istotne przesunięcie odpowiedzialności.
Pierwotne pytanie dotyczyło produktu: jak działa algorytm, w jaki sposób dobiera treści i czy konstrukcja platform wykorzystuje mechanizmy zwiększające zaangażowanie użytkowników.
Ostateczne rozwiązania koncentrują się natomiast przede wszystkim na tym, kiedy i jak długo dzieci powinny korzystać z aplikacji.
W praktyce oznacza to większą odpowiedzialność rodziców za pilnowanie czasu przed ekranem, podczas gdy podstawowy model działania platformy pozostaje w dużej mierze nienaruszony.
Meta nie jest jedyna
Problem nie ogranicza się do Facebooka i Instagrama.
Skúli wskazuje również na YouTube, TikToka i Snapchata. Wszystkie te platformy konkurują o ten sam niezwykle cenny zasób — uwagę użytkownika.
Jeżeli człowiek przestaje przewijać ekran i przenosi swoją uwagę gdzie indziej, platforma traci możliwość wyświetlania kolejnych treści i reklam.
Dlatego podstawowy interes biznesowy jest prosty: użytkownik powinien pozostać w aplikacji jak najdłużej i jak najczęściej do niej wracać.
AI może być kolejnym problemem
Skúli zwraca uwagę, że dyskusja o szkodliwym projektowaniu technologii nie może już ograniczać się wyłącznie do klasycznych mediów społecznościowych.
Dzieci coraz częściej korzystają również z aplikacji opartych na sztucznej inteligencji. Jeżeli takie produkty również zostaną zaprojektowane przede wszystkim w celu maksymalizacji czasu korzystania i zaangażowania, może pojawić się ten sam problem w nowej formie.
Prawo natomiast zazwyczaj reaguje dopiero wtedy, gdy technologia jest już powszechnie używana.
„Ciągle gonimy własny ogon” — ocenia Skúli, wskazując, że regulacje pojawiają się z opóźnieniem, ponieważ społeczeństwo początkowo patrzy na nowe produkty przede wszystkim przez pryzmat wygody i atrakcyjności.
Użytkownicy oceniają media społecznościowe gorzej niż kiedyś
Szczególnie interesujące są wyniki badania przeprowadzonego przez Netvís.
Według Skúliego zdecydowana większość badanych użytkowników mediów społecznościowych deklaruje, że ich doświadczenia z tymi platformami są dziś bardziej negatywne niż wtedy, gdy zaczynali z nich korzystać.
Jednocześnie produkty są nieustannie rozwijane i aktualizowane.
Pojawia się więc paradoks: skoro platformy są technologicznie coraz bardziej zaawansowane, dlaczego użytkownicy niekoniecznie czują się dzięki nim lepiej?
Zdaniem Skúliego odpowiedź może tkwić w celu tych zmian. Produkt nie musi być rozwijany przede wszystkim po to, aby był lepszy dla człowieka. Może być rozwijany tak, aby człowiek nie chciał albo nie potrafił przestać z niego korzystać.
Nasza uwaga jest produktem
To być może najważniejszy element całej dyskusji.
Facebook, Instagram, TikTok czy YouTube mogą być dla użytkownika bezpłatne, ale jego uwaga ma ogromną wartość ekonomiczną.
Im więcej czasu spędzamy na platformie, tym więcej danych pozostawiamy, tym więcej reklam można nam pokazać i tym dokładniej system może przewidywać nasze zainteresowania oraz zachowania.
Dlatego problem uzależniającego projektowania nie dotyczy wyłącznie dzieci.
Dotyczy praktycznie każdego użytkownika posiadającego telefon w kieszeni.
Ogromna ugoda nie kończy problemu
Meta może zapłacić ogromną kwotę i wprowadzić ograniczenia dotyczące dzieci. Nie odpowiada to jednak na podstawowe pytanie, które stało za całym sporem.
Czy największe platformy społecznościowe są projektowane przede wszystkim tak, aby były dobre dla użytkowników, czy tak, aby użytkownicy spędzali na nich jak najwięcej czasu?
Jeżeli problem rzeczywiście znajduje się w konstrukcji algorytmów i modelu biznesowym opartym na naszej uwadze, ograniczenie dziecku korzystania z Instagrama do dwóch godzin dziennie nie usuwa przyczyny.
Ogranicza jedynie czas kontaktu z produktem.
I właśnie dlatego Skúli Bragi uważa, że potrzebne są znacznie większe kroki i dalsze wymaganie odpowiedzialności od samych firm technologicznych.
Kluczowe informacje
- Meta, właściciel Facebooka i Instagrama, zawarła ugodę w sprawie dotyczącej wpływu mediów społecznościowych na dzieci i młodzież.
- Pozew przeciwko Meta wspólnie wniosło 29 stanów USA.
- Firmie zarzucano m.in. świadome projektowanie platform w sposób zwiększający ich uzależniający charakter dla dzieci i młodzieży.
- Zarzuty dotyczyły również gromadzenia danych dzieci poniżej 13. roku życia bez zgody rodziców oraz dalszego stosowania funkcji uznawanych przez pozywających za szkodliwe.
- Meta zgodziła się na ugodę finansową odpowiadającą według opisywanego materiału około 2 bilionom ISK, ale nie przyznała się do żadnych nieprawidłowości i odrzuca zarzuty.
- Zdaniem Skúliego Bragiego Geirdala z Netvís ugoda pozwoliła przedstawicielom Meta uniknąć odpowiedzi przed sądem na pytania dotyczące tego, czy Facebook i Instagram były celowo projektowane tak, aby zwiększać zaangażowanie i utrudniać użytkownikom oderwanie się od platform.
- Meta ma wprowadzić dodatkowe zabezpieczenia dla dzieci, m.in. ograniczenie czasu korzystania z platform oraz blokowanie powiadomień w czasie zajęć szkolnych.
- Według Skúliego takie rozwiązania nie usuwają źródła problemu, którym może być sam sposób działania algorytmów i projektowania platform.
- Ekspert zwraca uwagę, że algorytmy mogą kierować do użytkowników treści dotyczące m.in. wyglądu, zaburzeń odżywiania, szkodliwych stereotypów oraz reklamy związane z alkoholem, nikotyną czy hazardem.
- Problem nie dotyczy wyłącznie Meta. Podobna dyskusja obejmuje również TikToka, YouTube, Snapchata oraz coraz częściej aplikacje wykorzystujące sztuczną inteligencję.
- Według badania Netvís większość badanych użytkowników mediów społecznościowych ocenia swoje doświadczenia z nimi bardziej negatywnie niż w momencie, gdy zaczynali z nich korzystać.
- Jednym z podstawowych problemów jest model biznesowy oparty na uwadze użytkownika: im więcej czasu spędza on na platformie, tym większą wartość ekonomiczną może mieć dla firmy.
FAQ – Meta, Facebook, Instagram i uzależniające mechanizmy
Dlaczego Meta została pozwana w USA?
29 stanów USA zarzuciło Meta m.in. świadome projektowanie Facebooka i Instagrama w sposób zwiększający ich uzależniający charakter dla dzieci i młodzieży oraz nieprawidłowości związane z danymi najmłodszych użytkowników.
Czy Meta przyznała się do uzależniającego projektowania Facebooka i Instagrama?
Nie. Meta nie przyznała się do nieprawidłowości i odrzuca stawiane jej zarzuty. Sprawa zakończyła się ugodą, a nie wyrokiem rozstrzygającym te zarzuty.
Dlaczego ugoda Meta jest krytykowana?
Według Skúliego Bragiego Geirdala ugoda sprawiła, że przedstawiciele firmy nie musieli odpowiadać przed sądem na trudne pytania dotyczące sposobu projektowania platform i działania ich algorytmów.
Czy Facebook i Instagram są projektowane tak, żeby uzależniać użytkowników?
Był to jeden z kluczowych zarzutów podnoszonych w sprawie. Nie należy jednak przedstawiać go jako prawomocnie udowodnionego faktu w tej konkretnej sprawie, ponieważ Meta zawarła ugodę i nie przyznała się do winy.
Jakie mechanizmy mediów społecznościowych mogą zwiększać zaangażowanie użytkowników?
Chodzi przede wszystkim o personalizowane algorytmy dobierające kolejne treści na podstawie wcześniejszego zachowania użytkownika, powiadomienia oraz rozwiązania zachęcające do częstego i długiego korzystania z aplikacji.
Jak Meta chce ograniczyć korzystanie z platform przez dzieci?
W opisywanej sprawie wskazano m.in. ograniczenia czasu korzystania oraz wyłączanie powiadomień podczas zajęć szkolnych.
Dlaczego ograniczenie czasu przed ekranem może nie wystarczyć?
Zdaniem islandzkiego eksperta ogranicza ono czas korzystania z produktu, ale niekoniecznie zmienia sam produkt. Jeśli problem znajduje się w sposobie działania algorytmu i mechanizmach utrzymujących uwagę użytkownika, limit czasu nie usuwa źródła problemu.
Czy algorytmy mogą pokazywać dzieciom szkodliwe treści?
Według krytyków obecnego modelu platform algorytmy mogą wzmacniać ekspozycję na treści dotyczące m.in. wyglądu, obrazu własnego ciała, zaburzeń odżywiania czy innych tematów mogących być problematycznymi dla młodych użytkowników.
Czy problem dotyczy tylko Facebooka i Instagrama?
Nie. W dyskusji o projektowaniu platform w sposób maksymalizujący zaangażowanie wymieniane są również TikTok, YouTube i Snapchat. Coraz większą uwagę zwraca się także na aplikacje wykorzystujące AI.
Dlaczego platformom zależy, żeby użytkownik spędzał na nich dużo czasu?
Uwaga użytkownika ma wartość ekonomiczną. Dłuższy czas korzystania oznacza więcej możliwości prezentowania treści i reklam oraz zbierania informacji pozwalających lepiej personalizować doświadczenie użytkownika.
Czy problem dotyczy tylko dzieci?
Nie. Dzieci i młodzież są szczególnie istotną grupą ze względu na ich wiek i podatność na określone mechanizmy, ale rozwiązania projektowane w celu utrzymywania uwagi oddziałują również na dorosłych.
Co pokazało badanie Netvís na Islandii?
Według Skúliego Bragiego zdecydowana większość badanych użytkowników mediów społecznościowych stwierdziła, że ich doświadczenia z platformami są obecnie bardziej negatywne niż wtedy, gdy zaczynali z nich korzystać.
Jaki jest najważniejszy problem wskazywany przez islandzkiego eksperta?
Jego zdaniem regulacje zbyt często koncentrują się na tym, ile czasu użytkownik może korzystać z platformy, zamiast pytać, czy sam produkt i jego algorytmy zostały zaprojektowane w sposób zdrowy i bezpieczny dla użytkownika.
