नवीन वर्षाची पुर्वसंध्या डिजीटल दुनियेत एक नवीन संकट घेऊन आली. ब्राझीलमधील एका युवतीने ‘एक्स’ या सोशल प्लॅटफाॅर्मवर तिचा सुंदर फोटो पोस्ट शेअर केला. दुसऱ्या दिवशी तिला असंख्य लाईक्स मिळाल्या सोबतच एका युजरचा प्राॅम्प्टही दिसला, की ज्यामध्ये Grok च्या साहाय्याने तिच्या फोटोमधील कपडे हटवून बिकनी घातलेला तिचा फोटो शेअर केला गेला होता, हे पाहून तिला धक्काच बसला.
हे एक उदाहरण झाले असलेतरी अलिकडील काही दिवसांमध्ये एक्स साईटवर बिकनी, स्पोर्टस् वेअर तसेच अर्धनग्न फोटोंचा अक्षरशः खच दिसून येत आहे. हे फोटो युजर्सच्या परवानगीशिवाय शेअर करण्यात येत असल्यामुळे गंभीर धोका निर्माण झाला आहे. अलिकडे हे प्रकार वाढण्याचे महत्वाचे कारण म्हणजे एआय टुल्स असून त्यामुळे डिफेक तसेच अश्लिल फोटो तयार करण्याच्या प्रमाणात मोठ्या वाढ झाल्याचे दिसत आहे. या टुल्समुळे सहजपणे कोणत्याही फोटो अगर व्हिडिओमध्ये छेडछाड करणे शक्य झाले आहे. काही दिवसापुर्वी जिबिली फिचरचा ट्रेंड येऊन गेला, त्यामध्ये वेगळ्या इमेजीस तयार करण्याची जणू स्पर्धाच दिसून आली. युजर्स कोणतीही माहिती न घेता जिबिलीमध्ये फोटो तयार करून प्रोफाईल तसेच स्टेट्स ठेवत होते, की हा डाटा एआयच्या माध्यमातून लिक होत असल्याची बाब समोर आली.
एआयचा गैरवापर करून मूळ फोटो अगर व्हिडिओंमध्ये छेडछाड करून अश्लिल फोटो, व्हिडिओ करून ते शेअर करण्याची करामत करण्याचे प्रमाण खूपच वाढले आहे, याचा केवळ सेलिब्रिटीच नाहीतर सामान्य युजर्सनाही फटका बसू लागला आहे. तंत्रज्ञानाचा मोठ्याप्रमाणात गैरवापर होताना दिसत आहे. दोन वर्षापुर्वी अभिनेत्री रश्मिका मंधानाचा डिफेक व्हिरडिओ व्हायरल झाल्यानंतर मोठा गदोरोळ झाला होता.
एलाॅन मस्क यांच्या मालकीच्या एक्स प्लॅटफाॅर्मने २०२५ च्या अखेरीस युजर्ससाठी एआय टूल Grok वर उपलब्ध करून याच्या साहाय्याने फोटो एडिट करण्याची सुविधा उपलब्ध केली. मात्र, हा टूल अॅक्टिव्ह झाल्यानंतर काही तासांतच त्यावर स्विमसूट तसेच बिकनी फोटोंचा ट्रेंड सुरू झाला आणि अल्पावधीतच सेमीन्यूड फोटोंची लाट आली.
Grok वरील हा टूल नेमका काय आहे
Grok वरील एआय टूल हा फोटो एडिट करण्याची सुविधा पुरवतो. हा टूल मुळ फोटोमध्ये एडिट करताना डिजीटल पद्धतीने मुळ फोटोतील कपडे हटवून त्याठिकाणी दुसरी कपडे सेट करतो. असे बदललेले कपडे आणि तो फोटो खरा भासतो. अलिकडच्या काळात असे अनेक अॅप तसेच साॅफ्टवेअर उपलब्ध आहेत की ज्यांच्या साहाय्याने असे फोटो आणि व्हिडिओ तयार केले जात आहेत. पुर्वी त्यांचे प्रमाण कमी होते. टेलिग्रामवर अशा प्रकारचा कंटेन्ट पाहायला मिळतो, आता त्यात Grok ची भर पडली आहे. भारतासह जगभरात बहुतांश सेलिब्रिटी, खेळाडू तसेच नामांकित महिलांच्या फोटो आणि व्हिडिओमध्ये असे बदल करण्याचे प्रमाण अधिक आहे. तर सामान्य महिलांच्याही फोटोंशी छेडछाड केली जात आहे.
नियंत्रण ठेवणे होतेय अवघड…
एआयवर तयार केलेले अश्लिल फोटो हे सोशल मिडियावर मोठ्या प्रमाणात आणि वेगाने शेअर किंवा रिपोस्ट केले जात असल्यामुळे त्यावर नियंत्रण ठेवणे केवळ अशक्य बनले आहे. एकदा या गोष्टी सोशल मिडियावर पसरल्या की त्या हटवणे खूपच जिकरीचे होऊन बसते.
आता पाहूया, उपाय काय करावेत
- पर्सनल फोटो सोशल मिडियावर टाकणे टाळावे, त्यांचा दुरूपयोग केला जाऊ शकतो.
- सोशल मिडियावरील पर्सनल माहिती हाईड अथवा प्रायव्हेट करावी
- प्रोफाईलवरील लोकेशन डिसेबल करावे
- पर्सनल फोटो एआयवर टाकून त्यामध्ये बदल करताना अथवा फिल्टर करताना काळजी घ्यावी, हा डाटा लिक होण्याचा धोका आहे
- सर्वप्रथम युजर्सनी सोशल मिडिया अकाउंटचा पासवर्ड हा मजबूत आणि युनिक असा ठेवायला हवा
- लाॅगिनसाठी व्हेरिफिकेशन सेट करावे जसे की ओटीपी
