Google Gemini AI वर फोटो टाकताच शरीर आरपार दिसतं? हा घ्या पुरावा…कपड्यांनी झाकलेली ती खूणही दिसली, तरुणीचा भयानक अनुभव
एक महिलेने गुगल जेमिनीच्या "बनाना AI साडी ट्रेंड" मध्ये तिच्या फोटो क्रिएट केला. पण त्या फोटोमध्ये तिला एक गोष्ट निदर्शनास आली जी खरोखरंच फार धक्कादायक होती. AI ने मूळ फोटोमध्ये तिच्या शरीरावरील जी खूण कपड्यांमुळे झाकली गेली होती ती स्पष्टपणे फोटोत दाखवली आहे. अनेक युझर्सने देखील अशाच अनुभवांबद्दल सांगितले आहे. ज्यामुळे Google Gemini Trend ही किती मोठी रिस्क आहे हे यावरून दिसून येत आहे.
सध्या जिकडे पाहावं तिकडे गुगल जेमिनीच्या Banana AI Saree Trend सुरु आहे. या ट्रेंडने तर इंटरनेटवर धुमाकूळ घातला आहे. सगळेजण आपले साडीतले फोटो अपलोड करताना दिसत आहेत. पण हे तंत्रज्ञान जेवढं मजेशीर वाटत आहे त्याहीपेक्षा ते खतरनाक आहे.ज्याचा अनुभव एका महिलेला आला आहे. तिने स्वत: तिचा त्याबद्दलचा भयानक अनुभव सोशल मीडियावर सांगितला आहे.
तिने सांगितलेल्या अनुभवामुळे नक्कीच खळबळ उडाली
तिने सांगितलेल्या अनुभवामुळे नक्कीच खळबळ उडाली आहे. या महिलेने इन्स्टाग्रामवर एक व्हिडीओ शेअर केला, ज्यात तिने सांगितले की तिने ट्रेंडनुसार तिचा साडीतील एक फोटो तिने जेमिनीवर अपलोड केला आणि त्यानंतर तिला मिळालेल्या AI फोटोमध्ये एक धक्कादायक गोष्ट दिसून आली.
कपड्यांमध्ये झाकलेली ती खूण AIने फोटोत स्पष्टपणे दाखवली
महिलेला मिळालेल्या एडिटेड फोटोमध्ये तिच्या हातावर एक तीळ दिसला, जो तिच्या मूळ फोटोमध्ये तिने घातलेल्या पूर्ण बाह्यांच्या कपड्यांमुळे दिसत नव्हता. मात्र AIने क्रिएट केलेल्या फोटोत मात्र तो तीळ स्पष्ट दिसत असल्याने महिला गोंधळून गेली. ती म्हणाली, ‘जेमिनीला माझ्या शरीराच्या या भागावर तीळ आहे, हे कसे कळले? कारण मी पूर्ण बाह्यांचा ड्रेस घातलेला फोटो अपलोड केला होता. ते तीळ दिसतही नव्हतं. मग तरी AIला हे कसं समजल. हे खूप भीतीदायक आणि घाबरवणारे आहे. असे कसे घडले, याची मला कल्पना नाही,’ अशी प्रतिक्रिया या महिलेने दिली आहे. तिने लोकांना सोशल मीडियावर किंवा AI प्लॅटफॉर्मवर काहीही अपलोड करताना सुरक्षित राहण्याचा सल्ला दिला आहे.
नेटकऱ्यांच्या प्रतिक्रिया
या व्हिडिओला आतापर्यंत 70 लाखाहून अधिक व्ह्यूज मिळाले आहेत. अनेक युजर्सनी त्यांच्यासोबतही असेच अनुभव घडल्याचे सांगितले आहे. काही युजर्सनी म्हटले आहे की, ‘हेच AI चे काम आहे. AI तुमच्या ऑनलाइन अपलोड केलेल्या सर्व फोटोंमधून माहिती गोळा करते. तुम्ही जेव्हा AI ला इमेज तयार करण्यास सांगता, तेव्हा ते तुमच्या जुन्या अपलोड केलेल्या माहितीचाही फोटो बनवण्यासाठी वापर करते.’ आणखी एका युजरने सांगितले की, ‘हे माझ्यासोबतही घडले. माझ्या शरीरावरचे टॅटू मूळ फोटोमध्ये दिसत नसतानाही ते AI ने दाखवले.’ काही तज्ज्ञांनी याला ‘डिजिटल फूटप्रिंट’ असे म्हटले आहे, म्हणजे इंटरनेटवर तुम्ही शेअर केलेल्या प्रत्येक गोष्टीची माहिती AI गोळा करत असते त्यामुळे फोटो क्रिएट करताना त्याला तुमच्याबद्दलची माहिती असते.
View this post on Instagram
नॅनो बनाना म्हणजे नक्की काय?
‘नॅनो बनाना’ हे गुगलच्या जेमिनी ॲपमधील एक इमेज-एडिटिंग एआय टूल आहे. सुरुवातीला हे टूल 3D मॉडेल्स तयार करण्यासाठी लोकप्रिय झाले होते, पण आता त्याचा वापर साडीच्या ट्रेंडसारख्या इतर फोटोंसाठी मोठ्या प्रमाणात होताना दिसत आहे. या घटनेने AI चा वापर करताना युजर्सनी आपली सुरक्षितता जपण्याची गरज असल्याच समोर आलं आहे.
(महत्त्वाची टीप: गुगलच्या जेमिनी ॲपमध्ये आपले फोटो क्रिएट करताना पूर्णपणे सुरक्षा जपा. तसेच काहीही गडबड वाटल्यास त्यात फोटो अपलोड करणे टाळा. कारण शेवटी हे सोशल मीडिया आहे आणि तेवढी दक्षता नक्कीच सर्वांनी बाळगली पाहिजे. तसेच कोणाच्याही परवानगीशिवाय त्यांचे AI क्रिएटर फोटोंचा चुकीच्या पद्धतीने वापर करणे टाळा. तो गुन्हाही ठरू शकतो.)
