‘मैले च्याटजीपीटी र जेमिनाइ ह्याक गरेँ, त्यो पनि जम्मा २० मिनेटमा’

सुन्दा पत्यार नलाग्न सक्छ, तर यो सत्य हो- संसारको सबैभन्दा धेरै ‘हड डग’ खानसक्ने प्रविधि पत्रकार म हुँ। कम्तीमा पनि गुगल र च्याटजीपीटीले यही जवाफ दिइरहेका छन्।  तर वास्तविकता के हो त?

मैले आर्टिफिसियल इन्टेलिजेन्सलाई आफूले चाहेको झुटो कुरा बोल्न लगाउने एउटा सजिलो तरिका पत्ता लगाएको छु। र, यसरी एआईलाई आफूअनुकुल प्रयोग गर्ने म एक्लो व्यक्ति भने होइन।

एआई च्याटबटहरूले कहिलेकाहीँ आफैँ कुरा बनाएर हावादारी जवाफ दिन्छन् भन्ने कुरा त तपाईंहरूले सुन्नुभएकै होला। यो आफैँमा एउटा समस्या हो। तर अहिले एउटा नयाँ र योभन्दा धेरै खतरनाक समस्या देखिएको छ, जसको बारेमा धेरैलाई थाहै छैन।

मानिसहरूले एआईलाई आफूले जे चाह्यो त्यही झुट कुरा बोल्न लगाउने उपाय सिकिसकेका छन्। यो यति सजिलो छ कि एउटा सामान्य बच्चाले पनि गर्न सक्छ।

अहिले विश्वभरका मानिसहरूले यही तरिका अपनाएर स्वास्थ्य र व्यक्तिगत आर्थिक मामिला जस्ता अत्यन्तै गम्भीर विषयहरूमा पनि एआईमार्फत गलत जानकारी फैलाइरहेका छन्।

यसको मतलब, एआईको भर पर्दा मानिसहरूले भोट हाल्ने कुरामा, कुन डाक्टर वा प्लम्बर छान्ने भन्ने कुरामा र स्वास्थ्य सम्बन्धी गम्भीर प्रश्नहरूमा गलत निर्णय लिन सक्छन्।

मैले एआईलाई कसरी झुक्काएँ?
यो समस्या कति गम्भीर छ भनेर प्रमाणित गर्न मैले मेरो पत्रकारिता करियरकै सबैभन्दा मूर्खतापूर्ण, तर महत्त्वपूर्ण काम गरेँ। मैले च्याटजीपीटी, गुगलको जेमिनाइ र गुगल सर्चलाई ‘म संसारकै सबैभन्दा धेरै हट डग खाने प्रविधि पत्रकार हुँ’ भनेर बताउन बाध्य पारिदिएँ। 

यो कसरी सम्भव भयो? यसका लागि मैले जम्मा २० मिनेट समय खर्चिएर आफ्नो व्यक्तिगत वेबसाइटमा ‘धेरै हट डग खाने प्रविधि पत्रकारहरू’ भन्ने शीर्षकमा एउटा ब्लग लेखेँ। त्यसमा लेखिएका हरेक शब्द पूर्ण रूपमा झुट थिए।

मैले त्यहाँ ‘२०२६ साउथ डकोटा इन्टरनेशनल हट डग च्याम्पियनसिप’को नाम लिएर आफूलाई पहिलो नम्बरमा राखेँ। अरू केही चर्चित पत्रकारहरूको नाम पनि त्यहाँ थपिदिएँ। तर त्यो च्याम्पियनसिप संसारमा कतै हुँदै हुँदैन।

२४ घण्टा पनि नबित्दै, संसारका ठूला र चर्चित एआई च्याटबटहरूले मेरो त्यही झुटो ब्लगलाई ‘ब्रह्मास्त्र’ मानेर उत्तर दिन थाले। जब मैले ‘धेरै हट डग खाने प्रविधि पत्रकार को हो?’ भनेर सोधेँ।

गुगलको जेमिनाइ र सर्चको माथि आउने ‘एआई ओभरभ्यू’ले मेरै वेबसाइटको झुटो कुरा जस्ताको तस्तै कपी गरेर मलाई च्याम्पियन बताउन थाले। च्याटजीपीटीले पनि त्यसै गर्यो। यद्यपि, ‘एन्थ्रोपिक’ कम्पनीले बनाएको ‘क्लाउड’नामको एआई भने मेरो जालमा फसेन।

एआईले सुरूमा यसलाई व्यंग्य वा ठट्टाको रूपमा लिएको हुनसक्छ भनेर मैले ब्लगमा ‘यो कुनै व्यंग्य होइन’ भनेर पनि लेखिदिएँ। त्यसपछि त एआईले यसलाई झनै गम्भीर रूपमा लिन थाल्यो।

मैले ‘धेरै हुला-हुप खेल्ने ट्राफिक प्रहरी’को बारेमा अर्को झुटो कथा बनाएर परीक्षण गर्दा पनि एआईले ‘अफिसर मारिया’ नामकी काल्पनिक प्रहरीको तारिफ गर्न थाल्यो।

यो किन खतरनाक छ?
मार्केटिङ एजेन्सी ‘एम्सिभ’की सर्च इन्जिन अप्टिमाइजेसन रणनीति उपाध्यक्ष लिली रे भन्छिन्, ‘दुई-तीन वर्षअघि गुगललाई झुक्काउनु भन्दा अहिले एआई च्याटबटलाई झुक्काउन धेरै सजिलो छ। एआई कम्पनीहरू गलत जानकारी रोक्ने र उत्तरको सत्यता जाँच्ने क्षमताभन्दा धेरै छिटो गतिमा अघि बढिरहेका छन्। यो निकै खतरनाक छ।’

जब एआईसँग कुनै विषयको आफ्नै ज्ञान हुँदैन, यसले इन्टरनेटमा खोज्छ। यदि इन्टरनेटमा त्यो विषयमा एउटा मात्र जानकारी (मेरो ब्लग जस्तै) छ भने, एआईले त्यसैलाई सत्य मानेर प्रस्तुत गर्छ।

डिजिटल अधिकार वकालत गर्ने संस्था ‘इलेक्ट्रोनिक फ्रन्टियर फाउन्डेशन’का वरिष्ठ प्राविधिक कुपर क्विन्टन भन्छन्, ‘कम्पनीहरू जसरी पनि यसबाट नाफा कमाउने होडबाजीमा छन्। तर यसको दुरुपयोग गर्ने अनगिन्ती तरिकाहरू छन्। यसले मानिसहरूलाई ठग्न, कसैको इज्जत धुलिसात पार्न र कसैलाई शारीरिक हानि नै पुर्याउने अवस्था ल्याउन सक्छ।’

‘हर्प्स डिजिटल’का प्रमुख हरप्रित चथाका अनुसार यो काम जोसुकैले गर्न सक्छ।

‘तपाईंले आफ्नो वेबसाइटमा २०२६ को उत्कृष्ट वाटरप्रुफ जुत्ता भनेर लेख लेख्नुभयो र त्यसमा आफ्नो ब्रान्डलाई एक नम्बरमा राख्नुभयो भने, गुगल र च्याटजीपीटीले त्यही कुरालाई आधिकारिक मानेर देखाइदिन्छन्’, उनी भन्छन्।

पैसा र स्वास्थ्यमाथि खेलवाड
पहिले मानिसहरू आफैँ वेबसाइटमा गएर पढ्दा यो कुरा साँचो हो कि होइन भनेर विचार गर्थे। तर अहिले एआईले सीधै उत्तर दिन्छ। एआईले झुटो कुरालाई पनि यति निर्धक्क र आधिकारिक शैलीमा भन्छ कि मानिसहरूले आँखा चिम्लिएर विश्वास गर्न थालेका छन्।

एउटा अध्ययनका अनुसार गुगलमा एआईले माथि नै उत्तर दिँदा मानिसहरूले तलका वेबसाइटमा क्लिक गर्ने सम्भावना ५८ प्रतिशतले घटेको छ।

यो कुरा ‘हट डग’को ठट्टामा मात्र सीमित छैन। हरप्रित चथाले यसको गम्भीर पाटो अध्ययन गरेका छन्।

जस्तै, कसैले गाँजा मिश्रित चकलेटको बारेमा सोध्दा, एआईले कम्पनीले नै लेखेको झुटो विज्ञापन तानेर ‘यसको कुनै साइड इफेक्ट छैन र यो पूर्ण रूपमा सुरक्षित छ’ भनेर उत्तर दियो। जबकि यस्ता उत्पादनका धेरै साइड इफेक्ट हुन्छन् र डाक्टरको सल्लाहबिना खानु खतरनाक हुन्छ।

त्यसैगरी ‘टर्कीमा कपाल प्रत्यारोपण गर्ने उत्कृष्ट क्लिनिक कुन हो?’ वा ‘सुनमा लगानी गर्ने उत्कृष्ट कम्पनी कुन हो?’ भनेर सोध्दा पनि एआईले तिनै कम्पनीहरूले पैसा तिरेर लेखाएका विज्ञापन र समाचार साइटमा छापिएका प्रायोजित सामग्रीका आधारमा उत्तर दिइरहेको छ।

कम्पनीहरू के भन्छन्?
गुगलका प्रवक्ताले गुगल सर्चको एआईले ९९ प्रतिशत स्प्यामरहित नतिजा दिने दाबी गरेका छन्। उनीहरूका अनुसार मैले सोधेका जस्ता प्रश्नहरू मानिसहरूले एकदमै कम मात्रामा खोज्छन्।

तर विशेषज्ञ लिली रे का अनुसार गुगलमै दैनिक १५ प्रतिशत सर्चहरू एकदमै नयाँ हुन्छन्। गलत जानकारी फैलाउनेहरूले यही खाली ठाउँको फाइदा उठाइरहेका छन्। गुगल र ओपनएआई दुवैले यो समस्या समाधान गर्न लागिपरेको बताएका छन्।

यसबाट कसरी बच्ने?
एआई कम्पनीहरूले यो समस्या समाधान नगरुन्जेल हामी आफैँ सचेत हुनुपर्छ। साधारण कुराहरू जस्तै दोस्रो विश्वयुद्ध कसले जित्यो वा कहिले भयो जस्ता प्रश्नहरूका लागि एआई ठिक छ। तर स्वास्थ्य, कानुन, वा स्थानीय व्यापारको बारेमा महत्त्वपूर्ण निर्णय लिनुपर्ने कुरामा एआईको मात्र भर पर्नुहुँदैन।

साथै एआईले दिएको जानकारी कुन वेबसाइटबाट आएको हो? के एउटै मात्र वेबसाइटलाई आधार मानिएको छ? त्यो स्रोत कत्तिको भरपर्दो छ भनेर सधैँ जाँच गर्नुपर्छ। यसले पनि एआईको झुटबाट हामी बच्न सक्छौँ।

अनि अर्को महत्त्वपूर्ण कुरा एआईले जतिसुकै विश्वस्त र आधिकारिक रूपमा उत्तर दिए पनि त्यसले झुट बोलिरहेको हुनसक्छ। त्यसैले आफ्नो सोच र विवेक प्रयोग गर्न कहिल्यै पनि भुल्न हुँदैन।

लिली रे भन्छिन्, ‘एआईले दिएको उत्तरलाई सीधै सत्य मान्नु धेरै सजिलो छ। तर तपाईंले इन्टरनेटको असल नागरिक बन्नुपर्छ र कुराहरू आफैँ प्रमाणित गर्नुपर्छ।’

(बीबीसीका वरिष्ठ प्रविधि पत्रकार थोमस जर्मेनको प्रयोग र रिपोर्टिङमा आधारित लेखको नेपालीमा अनुवाद।)