एक व्हिसलब्लोअर की जुबानी: फेसबुक का एल्गोरिद्म कैसे नफ़रती और ज़हरीली सामग्री को बढ़ावा देता है
फेसबुक फिर सुर्खियों में है, लेकिन गलत कारणों से भी और सही कारणों से भी। गलत कारण तो यह कि जिसे उसके कन्फिगरेशन में एक छोटा सा बदलाव माना जा रहा था, उसके चलते पिछले ही पखवाड़े फेसबुक, इंस्टाग्राम, व्हाट्सएप, कई घंटे तक बंद रहे थे। इसकी मार अरबों की संख्या में फेसबुक उपयोक्ताओं पर पड़ी, जो यह दिखा रहा था कि फेसबुक और अन्य भीमकाय प्रौद्योगिकी कंपनियां हमारी जिंदगियों के लिए और दूसरे-दूसरे कारोबारों तक के लिए, कितनी महत्वपूर्ण हो गयी हैं। बहरहाल, इससे कहीं महत्वपूर्ण है फेसबुक में काम करती रही, फ्रांसेस हॉउजेन का प्रकरण, जिन्होंने व्हिसलब्लोअर बनकर दसियों हजार पेजों के फेसबुक के आंतरिक दस्तावेजों को सार्वजनिक कर दिया है।
ये दस्तावेज दिखाते हैं कि किस तरह फेसबुक का नेतृत्व बार-बार, सामाजिक हित के मुकाबले में, अपने मुनाफों को ही प्राथमिकता देता रहा है। फेसबुक के एल्गोरिद्म समाज में ध्रुवीकरण करते हैं, नफरती सामग्री तथा फेक न्यूज को बढ़ावा देते हैं क्योंकि ऐसा करने से उसके मंच से लोगों की बावस्तगी या ‘‘एंगेजमेंट’’ में बढ़ोतरी होती है। फेसबुक को इसकी रत्तीभर परवाह नहीं है कि इस सब से समाजों में फटाव पैदा हो रहे हैं। और तो और कम उम्र किशोरों की जिंदगियां ‘‘फरफैक्ट’’ काया दिखाने की चाह में तबाह हो रही हैं।
वाल स्ट्रीट जर्नल ने फेसबुक के आंतरिक दस्तावेजों को और व्हिसलब्लोअर, फ्रांसेस हॉउजेन को उद्धृत करते हुए, एक विस्तृत भंडाफोड़ किया है। हॉउजेन ने, सीबीएस के चर्चित कार्यक्रम 60 मिनिट्स में और अमरीकी कांग्रेस की कमेटी के सामने अपनी गवाही में भी अपनी बात कही है।
सीबीएस के कार्यक्रम 60 मिनिट्स में उन्होंने बताया, ‘फेसबुक में (काम करते हुए) मैंने जो चीज बार-बार देखी वह थी, क्या सार्वजनिक हित में है और क्या फेसबुक के हित में है, उनके बीच टकराव। और फेसबुक ने बार-बार अपने ही हितों को अधिकतम करने को चुना, जैसे कि और ज्यादा पैसा बनाने को।’
इस 37 वर्षीया डॉटा वैज्ञानिक ने, एक गैर-लाभार्थी संगठन, व्हिसलब्लोअर एड की मदद से, सिक्यूरिटी एंड एक्सचेंज कमीशन (एसईसी) में, एक व्हिसलब्लोअर के रूप में, फेसबुक के खिलाफ पूरी 8 शिकायतें दर्ज करायी हैं। इन शिकायतों के पीछे ठोस साक्ष्य हैं। ये साक्ष्य फेसबुक के ऐसे दसियों हजार आंतरिक दस्तावेजों के रूप में हैं, जिनकी कॉपी उन्होंने फेसबुक को छोडऩे से पहले ही बना ली थी।
बेशक, यह सवाल पूछा जा सकता है कि जब फेसबुक के सिलसिले में ये सभी सवाल पहले भी उठाए जाते रहे हैं और कैम्ब्रिज एनॉलिटिका भंडाफोड़ के बाद से तो खासतौर पर इस तरह के सवाल उठाए जाते रहे हैं, फिर इस सब में ऐसी बड़ी बात क्या है? क्या हमें पहले से ही इसका पता नहीं था कि किस तरह फेसबुक, व्हाट्सएप तथा अन्य प्लेटफार्म आज नफरत फैलाने तथा विभाजनकारी राजनीति को आगे बढ़ाने के प्रभावशाली औजार बन गए हैं? क्या संयुक्त राष्ट्र संघ के जांचकर्ताओं ने, रोहिंगियाओं के खिलाफ नरसंहारकारी हिंसा के लिए फेसबुक को जिम्मेदार नहीं ठहराया था? क्या अपने देश में भी हमें मुजफ्फरनगर के सांप्रदायिक दंगों के दौरान ऐसा ही पैटर्न देखने को नहीं मिला था?
बहरहाल, इस सब में बड़ी खबर यह है कि अब हमारे पास इसके सबूत हैं कि फेसबुक को इसकी पूरी खबर थी कि उसका प्लेटफार्म वास्तव में क्या कर रहा था? अब हमारे सामने उसका अपना कबूलनामा है, फेसबुक के उन आंतरिक दस्तावेजों के रूप में, जो हॉउजेन ने अब सार्वजनिक कर दिए हैं।
फेसबुक, व्हाट्सएप, इन्स्टाग्राम पर ऐसी पोस्टों को तरजीह देने के जरिए, जो इन मंचों पर लोगों का एंगेजमेंट यानी उनका इस मंच की पोस्टों को पढऩा, लाइक करना या उनका रिप्लाई करना बढ़ाता है, फेसबुक वास्तव में यही सुनिश्चित कर रहा होता है कि लोग उसके मंच पर ज्यादा देर तक बने रहें। उसके उपयोक्ता, जितनी ज्यादा देर तक फेसबुक पर बने रहेंगे, फेसबुक द्वारा इन उपयोक्ताओं को अपने विज्ञापनदाताओं को उतने ही ज्यादा प्रभावी तरीके से बेचा जा सकेगा; इन उपयोक्ताओं को उतने ही ज्यादा विज्ञापन दिखाए जा सकेंगे। याद रहे कि फेसबुक का व्यापारिक मॉडल कोई इसका मॉडल नहीं है कि खबरों को ज्यादा से ज्यादा फैलाया जाए या उपयोक्ताओं के बीच दोस्ताना गप-शप के लिए मंच मुहैया कराया जाए या लोगों का मनोरंजन किया जाए। उसका व्यापारिक मॉडल तो हमें यानी अपने उपयोक्ताओं को, उन उद्यमियों के हाथों बेचने का मॉडल है, जो हमें अपने माल बेचना चाहते हैं। और गूगल की तरह, फेसबुक के पास इसकी कहीं बेहतर समझ या जानकारी है कि हम कौन हैं और हम क्या खरीद सकते हैं। फेसबुक का 95 फीसद राजस्व इसी से आता है और यही धंधा है जिसने मॉर्केट कैपीटलाइजेशन के पैमाने से उसे ट्रिलियन डॉलर की कंपनियों में से एक बना दिया है।
अमरीकी कांग्रेस के सामने अपनी गवाही में हॉउजेन ने बताया कि कैसे फेसबुक, आर्टिफीशिएल इंटैलीजेंस का इस्तेमाल कर के खतरनाक सामग्री का पता लगाता है। समस्या यह है कि खुद फेसबुक का अपना शोध बताता है कि उसके एल्गोरिद्म खतरनाक सामग्री की पहचान नहीं कर पाते हैं। ‘फेसबुक का अपना शोध बताता है कि वे खतरनाक सामग्री की पर्याप्त रूप से पहचान नहीं कर सकते हैं। और इसका नतीजा हैं वे खतरनाक एल्गोरिद्म जिनके बारे में वे खुद कबूल करते हैं कि ये अतिवादी भावनाओं, विभाजनों को चुन लेते हैं।’
जैसा कि हमने शुरू में ही कहा, यह काफी लोगों की जानकारी में था कि यह सब हो रहा था और इस स्तंभ में भी हमने इस पर चर्चा की थी। इन सवालों पर फेसबुक का जवाब यही था कि वह निगरानी के लिए एक स्वतंत्र सुपरवाइजरी बोर्ड गठित कर रहा है और फैक्ट चैकरों की बड़ी संख्या से काम ले रहा है। इन तथा ऐसी ही अन्य प्रक्रियाओं से नफरती पोस्टों तथा फेक न्यूज को छानकर निकालने में मदद मिलेगी। बहरहाल, वे इस सचाई को छुपाने की ही कोशिश कर रहे थे कि ये सारी कोशिशें सिर्फ ऊपर-ऊपर से रंग-रोगन करने जैसी थीं। सचाई यह है कि फेसबुक का उपयोग करने वाला कोई भी व्यक्ति क्या देखेगा, फेसबुक की शब्दावली में किस सामग्री से एंगेज करेगा, इसका संचालन एल्गोरिद्म से ही होता है। ये एल्गोरिद्म इस तरह गढ़े ही गए हैं कि वे सबसे जहरीली तथा विभाजनकारी पोस्टों को ही तरजीह देते हैं क्योंकि ऐसी पोस्टें ही एंगेजमेंट में इजाफा करती हैं। इस तरह, एंगेजमेंट में इजाफा करना ही फेसबुक के एल्गोरिद्मों का मुख्य संचालक है और उसका मुख्य संचालक होना, फेसबुक पर आने वाली सामग्री को विषमुक्त करने की हरेक कोशिश को विफल कर देता है।
हॉउजेन की अमरीकी कांग्रेस के सामने गवाही हमें यह भी बताती है कि फेसबुक के साथ असली समस्याएं क्या हैं और अपने नागरिकों की हिफाजत करने के लिए सरकारों को उसके मामले में क्या करना चाहिए। ‘मुद्दा, लोग जो सामग्री पोस्ट करते हैं, उसके अलग-अलग आइटमों पर ध्यान केंद्रित करने का नहीं बल्कि फेसबुक के एल्गोरिद्ïमों का है। यह हमें इस पर भी वापस ले आता है कि फेसबुक को अनुशासित करने के लिए, देशों के पास क्या औजार हैं?’ (बल हमारा) ‘‘सेफ हार्बर’’ कानून ही हैं जो फेसबुक जैसे इंटरमीडियरियों की हिफाजत करते हैं, जो खुद तो सामग्री पैदा नहीं करते हैं, लेकिन उपयोक्ताओं द्वारा पैदा की कहलाने वाली सामग्री के लिए, अपने प्लेटफार्म मुहैया कराते हैं। अमरीका में कम्युनिकेशन्स एंड डीसेंसी एक्ट की धारा-230 से इसका संबंध है और भारत में सूचना प्रौद्योगिकी कानून की धारा-79 से।
अमरीका में धारा-230 का चुस्त-दुरुस्त बनाया जाना, विराट सोशल मीडिया संगठनों पर उनके एल्गोरिद्मों की जिम्मेदारी डाल सकता है। हॉउजेन के शब्दों में, ‘अगर उपयुक्त निगरानी की जा रही होती या हमने धारा-230 में संशोधन कर, फेसबुक को उनके रेंकिंग के सोचे-समझे निर्णयों के लिए जिम्मेदार बना दिया होता, तो मुझे लगता है कि वे एंगेजमेंट-आधारित रेंकिंग से ही छुट्टी पा लेंगे...क्योंकि यह किशोरों को और ज्यादा दुबला होने के लिए प्रेरित करने वाली सामग्री दिखा रही है, यह परिवारों को तोड़ रही है और इथियोपिया जैसी जगहों में तो शब्दश: इथनिक हिंसा को भडक़ा रही है।’ असली समस्या वह नफरती सामग्री नहीं है, जो उपयोक्ता फेसबुक के मंच पर डालते हैं। समस्या की जड़ हैं फेसबुक के एल्गोरिद्म जो लगातार हमारे फेसबुक फीड पर इस जहरीली सामग्री को रखते हैं ताकि फेसबुक का विज्ञापन राजस्व अधिकतम हो सके।
बेशक, फेसबुक के प्लेटफार्म पर जहरीली सामग्री के बहुत बड़े पैमाने पर छाए होने में इसकी भी भूमिका है कि उसके द्वारा जान-बूझकर इस समस्या की अनदेखी की जा रही है और अंग्रेजी-इतर भाषाओं के तथा अन्य योरपीय भाषाओं के फैक्ट चैकर रखे ही नहीं गए हैं। हालांकि, हॉउजेन के अनुसार, फेसबुक पर हिंदी का प्रयोग करने वालों की संख्या ऊपर से चौथी है और बंगला भाषा का प्रयोग करने वालों की पांचवी, फिर भी फेसबुक में इन भाषाओं के लिए पर्याप्त भाषाई फैक्ट चैकर ही नहीं हैं।
इस स्तंभ में हमने इस पर भी चर्चा की थी कि क्यों विभाजनकारी सामग्री और फेक न्यूज की वायरल होने की सामर्थ्य, दूसरी चीजों से ज्यादा होती है। हॉउजेन, फेसबुक के आंतरिक शोध के हजारों पेज के साक्ष्यों के आधार पर उसी बात की पुष्टि करती हैं, जो अन्य गंभीर शोधकर्ता और हम भी शुरू से ही कहते आ रहे थे। फेसबुक तथा अन्य डिजिटल प्रौद्योगिकी कंपनियां आज जिन एल्गोरिद्मों का उपयोग करती हैं, वे सीधे उन नियमों को संहिताबद्ध नहीं करते हैं, जो इन प्लेटफार्मों पर एंगेजमेंट को संचालित करते हैं। इसके बजाए वे मशीन की बुद्धि या जिसे मोटे तौर पर आर्टिफीशियल इंटैलीजेंस कहा जा सकता है, उसका ही इस्तेमाल कर के ये नियम बनाते हैं। इस पूरी कसरत के पीछे जो एंगेजमेंट बढ़ाने का लक्ष्य है, वह लक्ष्य ही ऐसे नियम बनाता है जिनके चलते हमारी फीड में ऐसी जहरीली सामग्री का बोलबाला रहता है, जो समाज को तोड़ती है और जनतंत्र को नुकसान पहुंचाती है। बहरहाल, अब हमारे पास फेसबुक की अपनी आंतरिक शोध रिपोर्टों के रूप में हजारों पन्ने के साक्ष्य हैं, जो दिखाते हैं कि वाकई यही सब हो रहा है। और भी बुरी बात यह कि फेसबुक के नेतृत्व और मार्क जुकरबर्ग को, इस समस्या का बखूबी पता है।
फिर भी ऐसा भी नहीं है कि फेसबुक के प्लेटफार्म के जरिए हुआ सारा का सारा नुकसान, सिर्फ उसके एल्गोरिद्म ही कर रहे हों। हॉउजेन के दस्तावेज हमें बताते हैं कि फेसबुक में उसके उपयोक्ताओं की एक ‘‘व्हाइट लिस्ट’’ है और जो लोग इस लिस्ट में शामिल हैं, उनकी सामग्री को हर सूरत में बढ़ावा दिया जाता है, फिर भले ही वह सामग्री फेसबुक के दिशानिर्देशों का ही उल्लंघन क्यों नहीं करती हो। ऐसे दसियों लाख ‘खास’ उपयोक्ताओं को, बेरोक-टोक फेसबुक के नियमों का उल्लंघन करने की छूट होती है। इसी स्तंभ में हम पहले, वॉल स्ट्रीट जर्नल के ही साक्ष्यों के आधार पर इस संबंध में बता चुके थे कि किस तरह फेसबुक भारत में भाजपा से जुड़ी अनेक हस्तियों को, उनकी पोस्टों को लेकर खुद फेसबुक में बार-बार सवाल उठाए जाने के बावजूद, बचाता आया था।
बहरहाल, फेसबुक के अंतरराष्ट्रीय दस्तावेजों का हॉउजेन का खोजा हुआ खजाना, सिर्फ इतना ही नहीं बताता है। जिस तरह सिगरेट कंपनियों ने कम उम्र से बच्चों को सिगरेट की लत लगाने के लिए शोध किए थे, उसी तरह से फेसबुक ने भी 9 से 12 वर्ष तक आयु वर्ग के, ‘‘प्री टीन्स’’ कहलाने वाले बच्चों को अपनी लत लगाने के लिए, शोध किए थे। उनके शोध का मकसद यही था कि कैसे ‘‘प्री टीन’’ बच्चों को फेसबुक प्लेटफार्म की लत डाली जाए ताकि उसके लिए नये उपभोक्ताओं की अंतहीन आपूर्ति उपलब्ध हो। यह इसके बावजूद किया गया कि उनका अपना अंतरिक शोध यह दिखा रहा था कि फेसबुक के प्लेटफार्म, युवाओं के बीच अत्यधिक दुबले होने की ललक तथा खाने-पीने से जुड़ी अन्य गड़बडिय़ों, डिप्रेशन और आत्मघात की प्रवृत्तियों को बढ़ावा देने का काम कर रहे थे।
बेशक, इस सब से फेसबुक को नुकसान पहुंचना चाहिए। लेकिन, यह एक ट्रिलियन डालर की कंपनी है और दुनिया की सबसे बड़ी कंपनियों में से है। एक तो इसकी बहुत मोटी कमाई और इसके ऊपर से उसे हासिल भारी राजनीतिक प्रभाव तथा चुनावों का रुख मोड़ सकने की उसकी सामर्थ्य, इस सबके चलते उसे वे सारे संरक्षण हासिल हैं, जो पूंजीवाद के अंतर्गत बड़ी पूंजी को हासिल होते हैं। फिर भी, दूसरे पूंजीपतियों से झूठ बोलने का उसका घोर पाप, शायद पूंजी को भी हजम नहीं होगा। हॉउजेन ने सिक्यूरिटी एंड एक्सचेंजेज़ कमीशन (एसईसी) के सामने फेसबुक के जो आंतरिक दस्तावेज रखे हैं, हो सकता है कि उनके चलते अंतत: इन भीमकाय सोशल मीडिया कंपनियों के खिलाफ दबाव बने और उन पर नियमन हो। अगर यह नियमन ज्यादा सख्त नहीं भी हुआ तब भी, इस कंपनियों के नफरत फैलाने वाले एल्गोरिद्मों पर कुछ नियंत्रण लगाने वाला, कुछ हल्का सा नियमन तो हो ही सकता है।
इस टिप्पणी के उपसंहार के तौर पर मैं एक युवा टैक विजार्ड के एक दस साल पुराने साक्षात्कार को उद्यृत करना चाहता हूं। 28 वर्ष आयु के, सिलिकॉन वैली के टैक विजार्ड, जैफ हैमरबाखर ने एक प्रमुख अमरीकी टैक पत्रिका, वायर्ड के साथ एक साक्षात्कार में कहा था: ‘मेरी पीढ़ी के बेहतरीन दिमाग यही सोच रहे हैं कि कैसे लोगों से विज्ञापनों पर क्लिक कराएं।’ यही चीज है जो भीमकाय सोशल मीडिया कंपनियों को ट्रिलियन डालर कंपनियों की हैसियत दिला रही है।
अंग्रेज़ी में प्रकाशित मूल आलेख पढ़ने के लिए नीचे दिए गए लिंक पर क्लिक करें
अपने टेलीग्राम ऐप पर जनवादी नज़रिये से ताज़ा ख़बरें, समसामयिक मामलों की चर्चा और विश्लेषण, प्रतिरोध, आंदोलन और अन्य विश्लेषणात्मक वीडियो प्राप्त करें। न्यूज़क्लिक के टेलीग्राम चैनल की सदस्यता लें और हमारी वेबसाइट पर प्रकाशित हर न्यूज़ स्टोरी का रीयल-टाइम अपडेट प्राप्त करें।
