Instagram čini još jedan korak u svom alati za roditeljski nadzor i sprječavanje digitalne štete među maloljetnicima. Platforma, u vlasništvu tvrtke Meta, najavila je da će početi obavještavati roditelje kada otkrije da njihova tinejdžerska djeca u kratkom vremenskom razdoblju opetovano pretražuju pojmove povezane sa samoubojstvom ili samoozljeđivanjem.
Promjena ne znači otvaranje neselektivnog prozora na sve što mladi rade na aplikaciji, već aktiviranje vrlo specifičan znak upozorenja Kada postoji stalna aktivnost na ovakvim osjetljivim pretragama, ideja je da obitelji mogu intervenirati na vrijeme, s informacijama i stručnom podrškom, umjesto da ovi faktori rizika ostanu skriveni na zaslonu djetetovog mobitela.
Kako će funkcionirati novo upozorenje o potrazi za samoubojstvom?
Društvena mreža inzistira da to neće biti obavijest za pojedinačni upit, već za ponavljanje u kratkom vremenskom razdobljuTek kada sustav otkrije nekoliko uzastopnih pokušaja pretraživanja izraza koji potiču samoubojstvo, samoozljeđivanje ili sugeriraju namjeru samoozljeđivanja, aktivirat će se upozorenje upućeno roditeljima ili skrbnicima.
Kako bi definirao tu točku aktivacije, Meta tvrdi da je analizirao obrasci pretraživanja kod tinejdžera i surađivali su sa stručnjacima iz svoje Savjetodavne skupine za samoubojstva i samoozljeđivanje. Uz njihovu pomoć postavili su prag koji zahtijeva nekoliko pretraga u kratkom razdoblju, s namjerom izbjegavanja trivijalnih upozorenja koja smanjuju korisnost alata.
U nadolazećim tjednima i roditelji i mladi koji već koriste nadzor primit će prethodnu obavijest u aplikaciji s objašnjenjem da će se ovo nova značajka upozorenja Bit će implementirano. Nakon toga, ako sustav otkrije rizično ponašanje, poslat će se obavijest.
Pretraživanja koja mogu pokrenuti upozorenje uključuju jednostavne pojmove poput „suicid"Ili"samoozljeđivanjeFraze koje potiču samoozljeđivanje ili izjave koje sugeriraju da tinejdžer možda razmišlja o samoozljeđivanju. Ne radi se samo o izoliranim riječima, već o izrazima koji, uzeti zajedno, upućuju na moguća situacija emocionalne ranjivosti.
Nakon izdavanja, upozorenje će stići roditeljima koji su pod roditeljskim nadzorom putem različitih kanala: e-pošta, SMS, WhatsApp poruke Osim toga, pojavit će se kao obavijest u aplikaciji. Dodirom na nju otvorit će se poruka preko cijelog zaslona s jasnim objašnjenjem što se dogodilo i poveznicama na specijalizirane resurse.
Što će roditelji vidjeti i koji će im resursi biti dostupni?
Poruka koju će odrasli primiti ukazivat će na to da je tinejdžer o kojem se brinu pokušao opetovano pretraživanje sadržaja vezanog uz samoubojstvo ili samoozljeđivanje unutar kratkog intervala. Neće prikazati potpunu povijest aktivnosti, ali će jasno pokazati da je postojao obrazac ovakvih upita.
Uz te informacije, Instagram će ponuditi izravan pristup Materijal razvijen u suradnji sa stručnjacima za mentalno zdravlje i sigurnost djeceOsmišljen kako bi pomogao u pokretanju osjetljivih razgovora bez pretjeranog dramatiziranja, ali bez minimiziranja potencijalnih rizika, cilj je pružiti roditeljima praktične vodiče o tome što pitati, kako slušati i kojim uslugama pristupiti ako smatraju da je potrebno poduzeti daljnje mjere.
Meta priznaje da primanje takvog upozorenja može biti pravi šok i priznaje da može biti tužno za svaku obiteljUnatoč tome, tvrtka tvrdi da je korisnije imati te informacije rano nego otkriti potencijalnu krizu nakon što se ona već pogoršala. Njihovim riječima, radi se o tome da se odraslima pruže "potrebni alati za intervenciju" ako online pretraživanja njihovog djeteta sugeriraju da mu je potrebna podrška.
Tvrtka također naglašava da će obavijesti biti poslane samo onima koji su ih aktivirali. funkcije roditeljskog nadzoraDrugim riječima, održava se određena ravnoteža između privatnosti i zaštite: neće bilo koja odrasla osoba moći vidjeti te signale, već samo oni koji su već ovlašteni nadzirati račun maloljetnika.
Osim toga, Meta navodi da će nastaviti preispitivati kako sustav funkcionira u praksi, slušajući povratne informacije obitelji i stručnih organizacija kako bi prilagodila prag aktivacije ako je potrebno, tako da upozorenja ne postanu stalna buka koja se na kraju ignorira.
Postojeće zaštite: blokiranje rezultata i linije za pomoć
Nova roditeljska upozorenja dodatak su nizu mjera koje je Instagram već imao na snazi. smanjiti izloženost adolescenata štetnom sadržaju. Trenutačno, ako račun maloljetnika pokuša pretraživati pojmove koji su jasno povezani sa samoubojstvom ili samoozljeđivanjem, platforma blokira rezultate i umjesto toga prikazuje poveznice na telefonske linije za pomoć i specijalizirane organizacije.
To znači da tinejdžeri ne vide popise objava ili profila koji bi mogli veličati ili promovirati samodestruktivno ponašanje. Umjesto toga, nudi im se mogućnost kontaktiranja usluge psihološke podrške ili pristupiti pouzdanim informacijama o mentalnom zdravlju. Čak i kada su pretraživanja općenito povezana s emocionalnim temama, ali bez izravnog spominjanja samoubojstva, aplikacija može preusmjeriti na određene resurse.
Što se tiče objavljenog sadržaja, Meta tvrdi stroge politike protiv promicanja samoubojstva i samoozljeđivanjaTvrtka omogućuje korisnicima razgovarajte o vlastitim iskustvima i teškoćamaMeđutim, ove vrste objava skrivene su od tinejdžera, čak i ako prate osobu koja ih dijeli, ako se smatraju potencijalno uznemirujućima ili nesigurnima za maloljetnike.
Instagram također navodi da, u situacijama kada otkriju neposrednu prijetnju fizičkoj sigurnosti korisnika, mogu... kontaktirajte hitne službe lokalno stanovništvo. Ove vrste intervencija, koje se provode oprezno i od slučaja do slučaja, dio su njihovog protokola suočeni s ozbiljnim prijetnjama tjelesnom ozljedom.
Uvođenjem obiteljskih upozorenja, tvrtka želi osigurati da upozorenja ne ostanu ograničena na digitalno područje. Ideja je kombinirati tehnologiju otkrivanja rizika s mogućnošću roditelja da... pratiti i nadzirati što se događa izvan ekrana.
Gdje će prvo biti lansirani i kada bi mogli stići u Španjolsku i Europu?
Prema Meti, početno uvođenje ove značajke održat će se u Sjedinjene Američke Države, Ujedinjeno Kraljevstvo, Australija i KanadaNa tim tržištima, obavijesti će se početi slati tijekom sljedećeg tjedna obiteljima koje već koriste alate za roditeljski nadzor na Instagramu.
Tvrtka kaže da joj je namjera proširiti alat na ostale regije tijekom cijele godineTo uključuje europske zemlje poput Španjolske, iako još nije određen određeni vremenski okvir. Postupno širenje dijelom je posljedica potrebe za prilagodbom funkcije različitim regulatornim okvirima i pravnim kontekstima u vezi sa zaštitom podataka i maloljetnicima.
U Europi će lansiranje biti podložno propisima kao što su Opća uredba o zaštiti podataka (RGPD) i zahtjeve novog Zakona o digitalnim uslugama (DSA), koji od velikih platformi zahtijevaju da opravdaju i detaljno dokumentiraju svoje sustave preporučivanja, moderiranja i zaštite za ranjive korisnike.
Španjolska, koja je posljednjih godina intenzivirala raspravu o korištenju mobilnih telefona i društvenih mreža od strane maloljetnika, predvidljivo će se usredotočiti na to kako se njima upravlja. osjetljiva upozorenja: tko pristupa informacijama, kako se pohranjuju, koliko dugo i koja jamstva imaju tinejdžeri u vezi s njihovom privatnošću.
U svakom slučaju, Metina objava u skladu je s rastućim pritiskom europskih vlada i dječjih organizacija da velike mreže preuzmu odgovornost. veća odgovornost za mentalno zdravlje mladihbez jednostavnog čekanja da vlasti uvedu stroža ograničenja.
Delikatna ravnoteža: zaštita, privatnost i "poštene" obavijesti
Jedna od točaka koju tvrtka najviše naglašava je potraga za „prava ravnoteža“ između upozorenja i neizazivanja nepotrebne uzbuneAko bi sustav pokretao obavijesti za bilo koji dvosmislen pojam ili za sporadična pretraživanja, roditelji bi mogli postati preopterećeni i izgubiti povjerenje u korisnost alata.
Kako bi to izbjegla, Meta objašnjava da se odlučila za prag koji zahtijeva nekoliko pretraga u kratkom vremenuČak i uz rizik da se u nekim slučajevima pošalje upozorenje koje zapravo ne odražava ozbiljnu situaciju. Nekoliko stručnjaka s kojima se tvrtka konzultirala smatra da je bolje biti oprezan i pružiti informacije, sve dok su dostupni odgovarajući resursi i upozorenje se ne predstavlja kao dijagnoza.
Organizacije poput Parent Zone ili Cyberbullying Research Centera istaknule su da kada tinejdžer aktivno traži informacije o samoubojstvu ili samoozljeđivanju, dati roditeljima jasnu informaciju To može napraviti veliku razliku. Ne radi se o zamjeni stručnjaka, već o tome da se obiteljima pruži prostor da postavljaju pitanja, nude podršku i, ako je potrebno, traže specijaliziranu pomoć.
Istovremeno, zabrinutost zbog digitalna privatnost maloljetnikaIako se funkcija aktivira samo ako postoji roditeljski nadzor, neke skupine ističu da je bitno mladima jasno objasniti koje se vrste informacija mogu dijeliti s roditeljima i u koju svrhu, kako ne bi imali osjećaj da ih se bez razloga špijunira.
Meta tvrdi da se ovaj pristup uklapa u njihovu predanost „modelu zajedničke odgovornosti“: platforma primjenjuje filtere i blokove, algoritmi detektiraju signale rizika, a obitelji dobivaju alate za intervenciju, uvijek unutar ograničenja postavljenih propisima svake zemlje.
Sljedeći korak: upozorenja za razgovore s Metinom umjetnom inteligencijom
Osim pretraživanja, tvrtka je također najavila da radi na slična upozorenja povezana s umjetnom inteligencijomSve više tinejdžera okreće se chatbotovima kako bi razgovarali o osjetljivim temama, a Meta želi osigurati da ako njihova umjetna inteligencija otkrije određene razgovore o samoubojstvu ili samoozljeđivanju, roditelji također mogu primiti upozorenje.
Prema tvrtki, njihovi AI modeli su već obučeni za sigurno reagirati na maloljetnikenudeći poruke podrške, preporuke za kontaktiranje odraslih osoba od povjerenja i, u nekim slučajevima, poveznice na stručne resurse. Dodatni sloj koji se priprema sastojat će se od obavještavanja obitelji kada se s chatbotom stalno razgovara o samoozljeđivanju.
Plan je pokrenuti ove nove obavijesti za „određena iskustva umjetne inteligencije“ na kraju ove godinePrvo na tržištima gdje je nadzor već uspostavljen, a zatim i na ostalima. Kao i kod pretraga, očekuje se da će se funkcija postupno prilagođavati lokalnim propisima, posebno unutar Europske unije.
Ova evolucija odražava promjenu u krajoliku: zaštita maloljetnika više nije ograničena na ono što se objavljuje i vidi u tradicionalnom feedu, već se proširuje na interakcije s automatiziranim sustavima sposobni voditi složene razgovore, nešto što zabrinjava regulatore i dječje organizacije u Europi i drugim regijama.
Za Metu će izazov biti pokazati da ta nova upozorenja ne postoje samo na papiru, već se primjenjuju rigorozno, transparentno i uz dovoljan vanjski nadzor kako bi se stvorilo povjerenje među roditeljima, edukatorima i vlastima.
Instagramov potez dio je konteksta globalni pritisak na društvene mreže ojačati sigurnost djece i adolescenata, posebno u pogledu mentalnog zdravlja. Povezivanjem tehnologije otkrivanja rizika s izravnom podrškom obitelji, platforma ima za cilj prijeći s reaktivne moderacije na model rane prevencije. Ostaje za vidjeti kako će se to implementirati u Španjolskoj i ostatku Europe, ali smjer ukazuje na scenarij u kojem roditelji, škole, stručnjaci i platforme sve više dijele odgovornost za stvaranje manje neprijateljskog digitalnog okruženja za mlade.
