जर तुमच्या इन्स्टाग्राम अकाउंटवर डिस्टर्ब करणारे, संवेदनशील किंवा हिंसक रील्स दिसत असतील, तर तुम्ही असे एकटेच नाही आहात. जगभरातल्या इन्स्टा युजर्सना सध्या अचानक हिंसक आणि NSFW (नॉट सेफ फॉर वर्क) असा कंटेंट फिडमध्ये दिसत आहे. अनेक युजर्सना अचानक ग्राफिक्स आणि व्हिडीओ यांच्या माध्यमातून अशा प्रकारच्या कंटेंटचा सामना करावा लागत आहे.
गेल्या काही तासांमध्ये माझ्या इन्स्टा अकाउंटमध्ये खूपच डिस्टर्ब करणारा आणि संवेदनशील कंटेंट दिसत आहे, अशी पोस्ट एका युजरने एक्सवर केली आहे. जगभरातून अनेक युजर्सनी अशा प्रकारचे ग्राफिक्स आणि व्हिडीओ दिसत असल्याच्या पोस्ट सोशल मीडियावर केल्या आहेत.
नक्की इन्स्टाग्रामवर काय घडतंय? मेटाने याबाबत काय माहिती दिलीये? आणि युजर्स कशा पद्धतीने रिअॅक्ट करीत आहेत ते जाणून घेऊ…
युजर्सनी शेअर केलेल्या माहितीनुसार, इन्स्टाग्रामवर अचानक अपघातांचे व्हिडीओ, मृतदेहांचे फोटो, मारहाण अशा प्रकारचा कंटेंट दिसू लागला आहे. काही युजर्सनी हा कंटेंट संवेदनशील कंटेंट म्हणून मार्क करीत इन्स्टाग्रामच्या मॉडरेशन पॉलिसीबाबत प्रश्न विचारले आहेत.
अशा फिडमुळे त्रस्त झालेल्या युजर्सनी इन्स्टाग्रामकडून याबाबत स्पष्टीकरण मागितले आहे. असा कंटेंट दिसू लागल्यामुळे याबाबत अनेक तर्क-वितर्क केले जात आहेत. हे चुकून झालं आहे की मुद्दाम अल्गोरिदममध्ये बदल करण्यात आला आहे, असा प्रश्न अनेक युजर्सना पडला आहे.
हा संवेदनशील कंटेंट का दिसतोय? मेटाचे याबाबत काय म्हणणे?
गुरुवारी मेटाने याबाबत दिलगिरी व्यक्त करीत ही समस्या सोडवण्यात आल्याचे सांगितले. अचानक आलेल्या या एररमुळेच हिंसक आणि संवेदनशील ग्राफिक्स, व्हिडीओ दिसत असल्याचे त्यांनी सांगितले. या एररमुळेच असा कंटेंट दिसत असल्याचे सांगत मेटाकडून याबाबत दिलगिरी व्यक्त करण्यात आल्याचे मेटामधील एका वक्त्याने सांगितले.
मेटाच्या पॉलिसीनुसार, कंपनी कायम यावर लक्ष ठेवते की कोणता कंटेंट युजर्सना दिसावा. तसेच हिंसक फोटो, व्हिडीओ डिलीटही केले जातात. त्यामध्ये या प्रकारच्या कंटेंटला आलेल्या कमेंट्सही कंपनी डिलीट करते. त्याशिवाय मेटा केवळ अशा कंटेंटला परवानगी देते, जो मानवी हक्कांचे उल्लंघन, दहशतवाद यांना विरोध दर्शवतो आणि सामाजिक जागरूकता वाढवते. अशा वादग्रस्त वा त्रासदायक पोस्टही काही लेबल्सअंतर्गत प्रतिबंधित केल्या जातात.
युजर्सच्या प्रतिक्रिया काय होत्या?
“मी सकाळी इन्स्टाग्राम सुरू केले आणि रील्सच्या फिडमध्ये जणू हॉरर शोच सुरू झाला. रील्समध्ये खुनाच्या व्हिडीओ क्लिप, मारहाण, बलात्काराच्या केसेस, भयानक अपघात असं फिड होत होतं आणि हे फक्त माझ्या फिडवर नव्हतं, तर जगभरातल्या सर्व युजर्सच्या फिडवर असाच कंटेंट दिसत होता. हे अल्गोरिदम त्रुटीमुळे झालं की मुद्दाम करण्यात आलं? जे काही होतं, ते खूप डिस्टर्ब करणार होतं”, अशी पोस्ट एका युजरने एक्सवर केली. “मी २० गोळ्या झाडल्याचे, पाच गँगने केलेली हिंसा, १३ भयंकर अपघात, हत्तीनं चिरडलेला मुलगा, असे फारच भयानक व्हिडीओ पाहिले”, अशीही प्रतिक्रिया एका युजरने शेअर केली.
अनेक युजर्सने एक्स आणि रेडिटवर अशा प्रकारच्या कमेंट्स केल्या. काही युजर्सनी त्यांना दिसत असलेले व्हिडीओ, फोटो सोशल मीडियावर शेअर केले.
हे याआधीही घडलं आहे का?
अल्पवयीन मुलांना पाहण्यासाठी आक्षेपार्ह ठरेल असा कंटेंट रील्सच्या माध्यमातून १३ वर्षीय मुलांच्या न्यूज फीडमध्ये पोहोचत असल्याचे वॉल स्ट्रीट जर्नलने केलेल्या अभ्यासातून समोर आले होते. ही मुलं अशा स्वरूपाचा कंटेंट स्वत:हून शोधत नसतानाही त्यांच्यासमोर आक्षेपार्ह कंटेंट येत असल्याचे उघड झाले होते. जानेवारी-एप्रिल २०२४ च्या दरम्यान या संदर्भात एक संशोधन करण्यात आले होते. त्यामध्ये १३ वर्षांच्या मुलांचे इन्स्टा प्रोफाईल तयार करण्यात आले. या मुलांचे प्रोफाईल तयार केल्या केल्याच इन्स्टाग्रामवर अशा अनेक व्हिडीओजची रिक्वेस्ट आली, ज्यामध्ये डान्स किंवा महिलांचे क्लोज-अप शॉर्ट्स या कंटेंटचा समावेश होता. या संशोधनादरम्यान संशोधकांना असेही दिसून आले की, नग्नतेचे व्हिडीओ या मुलांना पाहण्याची रिक्वेस्ट येत आहे, तसेच काहींच्या प्रोफाईलला तर अगदी एका मिनिटात अश्लील व्हिडीओजची लिस्ट पाहायला मिळाली.
दुसरीकडे स्नॅपचॅट आणि टिकटॉकबाबतही असा रिसर्च करण्यात आला होता. मात्र अशा प्रकारचा कंटेट शोधूनही त्याबाबतच्या रिक्वेस्ट युजर्सना येत नव्हत्या. २०२२ च्या एका वेगळ्या अभ्यासात असे दिसून आले होते की, इन्स्टाग्रामला याबाबत आधीच माहीत होते की, बऱ्याच प्रकारचा हिंसक किंवा अडल्ट कंटेंट हा तरुण युजर्सना दिसत आहे. त्यात असेही आढळले की, तरुण युजर्सना विनयभंगाचे, हिंसा दाखविणारे, अश्लील व्हिडीओज आणि फोटो प्रौढांपेक्षाही जास्त प्रमाणात दाखवले जातात. त्यामुळे तरुण पिढी अनभिज्ञपणे अशा कंटेंटच्या आहारी जाताना दिसते.
अभ्यासातून समोर आलेल्या माहितीनुसार, अल्पवयीन युजर्स प्रौढ युजर्सपेक्षा तीन पटींनी अधिक प्रमाणात अश्लील कंटेंट पाहतात. ३० वयोगटातील युजर्सपेक्षा १.७ पटीने जास्त हिंसक व्हिडीओज, ४.१ पटींनी जास्त विनयभंगाचा कंटेंट अल्पवयीन युजर्स पाहतात. एकंदर आतापर्यंत केलेल्या संशोधनानुसार मेटा त्यांचे ऑटोमेटेड मॉडरेशन टूल्स तरुणांपर्यंत चुकीचा कंटेंट रोखण्यात पुरेसे सक्षम नाहीत, असेच दिसून आले आहे.
