Instagram va începe să alerteze părinții dacă adolescentul lor încearcă în mod repetat să caute termeni legați de suicid sau auto-vătămare într-o perioadă scurtă de timp, a anunțat compania joi. Alertele vor fi lansate în următoarele săptămâni pentru părinții care sunt înscriși în supravegherea parentală pe Instagram.
Platforma socială deținută de Meta spune că, deși blochează deja utilizatorii să caute conținut despre suicid și auto-vătămare, aceste noi alerte sunt concepute pentru a se asigura că părinții sunt conștienți dacă adolescentul lor încearcă în mod repetat să caute acest conținut, astfel încât să îl poată sprijini. Căutările care pot declanșa o alertă includ fraze care încurajează suicidul sau auto-vătămarea, fraze care indică faptul că un adolescent ar putea fi în pericol să se rănească și termeni precum „suicid” sau „auto-vătămare”.
Instagram spune că părinții vor primi alerta prin e-mail, text sau WhatsApp, în funcție de informațiile de contact pe care le-au furnizat, împreună cu o notificare în aplicație. Notificarea va include resurse concepute pentru a ajuta părinții să abordeze conversațiile cu adolescentul lor.
Măsura vine în contextul în care Meta și alte companii mari de tehnologie se confruntă în prezent cu mai multe procese care urmăresc să tragă la răspundere giganții rețelelor sociale pentru vătămarea adolescenților. În timpul mărturiei pentru un proces care are loc în Districtul de Nord al Californiei din SUA, șeful Instagram, Adam Mosseri, a fost interogat de procurori într-un caz continuu de dependență de rețelele sociale cu privire la lansarea întârziată a aplicației de funcții de siguranță de bază, inclusiv un filtru de nuditate pentru mesajele private către adolescenți.
În plus, în timpul mărturiei într-un proces separat în fața Curții Superioare a Comitatului Los Angeles, s-a dezvăluit că un studiu intern de cercetare de la Meta a constatat că supravegherea și controalele parentale au avut un impact redus asupra utilizării compulsive a rețelelor sociale de către copii. Studiul a constatat, de asemenea, că copiii care s-au confruntat cu evenimente de viață stresante erau mai predispuși să se lupte cu reglarea adecvată a utilizării rețelelor sociale.
Având în vedere procesele în curs de desfășurare care acuză compania că nu reușește să protejeze adolescenții pe platformele sale, momentul acestor noi alerte nu este deloc surprinzător. Compania notează că va urmări să evite trimiterea inutilă a acestor notificări, deoarece utilizarea excesivă ar putea reduce eficacitatea lor generală.
„În efortul de a găsi acest echilibru important, am analizat comportamentul de căutare pe Instagram și ne-am consultat cu experți din Grupul nostru consultativ privind suicidul și auto-vătămarea”, a explicat Instagram într-o postare pe blog. „Am ales un prag care necesită câteva căutări într-o perioadă scurtă de timp, menținând totuși o marjă de siguranță. Deși asta înseamnă că uneori putem notifica părinții atunci când este posibil să nu existe un motiv real de îngrijorare, credem – și experții sunt de acord – că acesta este punctul de plecare corect și vom continua să monitorizăm și să ascultăm feedback pentru a ne asigura că ne aflăm în locul potrivit.”
Alertele sunt lansate săptămâna viitoare în SUA, Marea Britanie, Australia și Canada și vor deveni disponibile în alte regiuni mai târziu în acest an. În viitor, Instagram intenționează să lanseze aceste notificări atunci când un adolescent încearcă să implice inteligența artificială a aplicației în conversații despre suicid sau auto-vătămare.