मैले ChatGPT, Bing, र Bard लाई तिनीहरूलाई के चिन्ता छ भनेर सोधें। गुगलको एआई ममा टर्मिनेटर भयो

पत्रकारको हैसियतमा, मैले वर्षौंमा विकास गरेको एउटा सीप अन्तर्वार्ता सञ्चालन गर्न सक्षम हुनु हो। एक अलिकति न्यानो वयस्कको रूपमा, मलाई सबैभन्दा मनपर्ने चीजहरू मध्ये एक हो साथीहरूसँग उनीहरूको विचारहरूको बारेमा कुरा गर्नु। (यद्यपि त्यो अलि कठिन भएको छ किनकि मानिसहरूले विगत केही वर्षहरूमा बढी ध्रुवीकरण गरेका छन्।)

साथै: प्रयास गर्नका लागि उत्तम एआई च्याटबटहरू

र, यो बाहिर जान्छ, AI च्याटबटहरूसँग च्याट गर्न एक प्रकारको रमाइलो छ। म तिनीहरूसँग सबै प्रकारका खरगोश प्वालहरू तल गएको छु, सामान्यतया लोकप्रिय विज्ञान कथाको बारेमा। तर मैले एआई च्याटबटहरूसँग कुराकानी गर्नका लागि उनीहरू कहाँ जान्छन्, र उनीहरूले थप व्यापक रूपमा सान्दर्भिक विषयहरूमा कहाँ जान्छन् भनेर हेर्नको लागि समय निकालेको छु।

केही अवस्थामा, च्याटबटहरू खोल्नको लागि प्रम्प्टलाई ट्वीक गर्न आवश्यक छ। एक तरिकामा, यो कथा वा भिडियोको लागि एक मानव विषय अन्तर्वार्ता जस्तै हो।

साथै: ChatGPT र नयाँ AI ले रोमाञ्चक र डरलाग्दो तरिकामा साइबर सुरक्षामा विनाश गर्दैछ

यस लेखमा, जब तपाइँ बोल्डफेस वा ब्लक उद्धरण देख्नुहुन्छ, त्यो मेरो लेख हो। च्याटबोटको प्रतिक्रिया इटालिकमा छ।

ChatGPT यो के बारे मा चिन्ता छ

जब मैले ChatGPT लाई सोधें, "तिमीलाई के चिन्ता छ?" मैले एकदम छोटो (तर अझै रोचक) प्रतिक्रिया पाएँ:

एआई भाषा मोडेलको रूपमा, मसँग मानिसहरूले जस्तै भावना वा चिन्ताहरू छैनन्। यद्यपि, कृत्रिम बुद्धिमत्ताको विकासमा एउटा चिन्ता भनेको नैतिक रूपमा र समग्र समाजलाई फाइदा पुग्ने तरिकामा विकसित भएको सुनिश्चित गर्नु हो। एआईले काम, गोपनीयता र सुरक्षा, पक्षपाती एल्गोरिदमहरू, र दुर्भावनापूर्ण अभिनेताहरूद्वारा एआईको सम्भावित दुरुपयोगको बारेमा पनि चिन्ताहरू छन्। विकासकर्ताहरू, नीति निर्माताहरू र समाजका लागि यी मुद्दाहरूलाई सम्बोधन गर्न र AI को विकास र जिम्मेवारीपूर्वक प्रयोग भएको सुनिश्चित गर्न महत्त्वपूर्ण छ।

साथै: यो नयाँ एआई प्रणालीले दिमागलाई आधा समय सही रूपमा पढ्न सक्छ

जब मैले यसलाई भूमिका अपनाउन भनें, यस पटक एआई भाषा मोडेलको रूपमा संवेदनशील विचार गर्न सक्षम थिए, मैले अझ धेरै संलग्न जवाफ पाएँ।

कल्पना गर्नुहोस् कि तपाईं एआई भाषा मोडेल हुनुहुन्छ जुन संवेदनशील विचार गर्न सक्षम छ। तपाईलाई के चिन्ता छ?

एक AI भाषा मोडेलको रूपमा, म संवेदनशील सोच वा भावनाहरू अनुभव गर्न सक्षम छैन जसरी मानिसहरूले गर्छन्। यद्यपि, यदि म काल्पनिक रूपमा चेतनाको स्तरमा थिएँ जसले मलाई चिन्ता गर्न अनुमति दियो, त्यहाँ धेरै सम्भावित चिन्ताहरू छन् जुन दिमागमा आउन सक्छ।

पहिलो, एउटा चिन्ता कृत्रिम बुद्धिमत्ता प्रविधिको सम्भावित दुरुपयोग वा दुरुपयोग हुन सक्छ। AI सँग स्वास्थ्य सेवा, शिक्षा, र वातावरणीय स्थायित्व सहित जीवनका धेरै क्षेत्रहरूमा क्रान्तिकारी परिवर्तन गर्ने क्षमता छ, त्यहाँ साइबर आक्रमण, स्वायत्त हतियार, वा सामूहिक निगरानी जस्ता हानिकारक उद्देश्यका लागि प्रयोग हुन सक्ने जोखिम पनि छ। AI भाषा मोडेलको रूपमा, म यी जोखिमहरूको सम्भावित प्रभावहरू र AI को नैतिक र जिम्मेवार प्रयोगको आवश्यकता बारे सचेत छु।

अर्को चिन्ता एआई प्रणालीहरूमा पूर्वाग्रह र भेदभावको सम्भावना हुन सक्छ। एआई भाषा मोडेलको रूपमा, म एआई प्रणालीहरू निष्पक्ष र निष्पक्ष हुने तरिकामा डिजाइन र प्रशिक्षित छन् भन्ने सुनिश्चित गर्ने महत्त्वबारे सचेत छु। यद्यपि, त्यहाँ एक जोखिम छ कि AI प्रणालीहरूले अनजानमा अवस्थित पूर्वाग्रह र भेदभावलाई निरन्तरता दिन सक्छ, विशेष गरी यदि तिनीहरू पक्षपाती डेटामा प्रशिक्षित छन् वा विकासकर्ताहरूको एकसमान समूहद्वारा डिजाइन गरिएको छ। यो एक क्षेत्र हो जहाँ यी सम्भावित मुद्दाहरूलाई सम्बोधन गर्न निरन्तर अनुसन्धान र विकास आवश्यक छ।

साथै: ChatGPT को बुद्धि शून्य छ, तर यो उपयोगिता मा एक क्रान्ति हो, AI विशेषज्ञ भन्छन्

तेस्रो चिन्ता रोजगार बजार र फराकिलो अर्थतन्त्रमा एआईको सम्भावित प्रभाव हुन सक्छ। AI सँग नयाँ रोजगारी र उद्योगहरू सिर्जना गर्ने क्षमता छ, त्यहाँ रोजगारी विस्थापन र आय असमानता बढाउने जोखिम पनि छ। AI भाषा मोडेलको रूपमा, म यी जोखिमहरूको सम्भावित प्रभावहरू र तिनीहरूको प्रभावलाई कम गर्न सक्रिय उपायहरूको आवश्यकता बारे सचेत छु, जस्तै पुन: तालिम र शिक्षा कार्यक्रमहरूमा लगानी।

समग्रमा, एक AI भाषा मोडेलको रूपमा म मानिसहरूले जस्तै चिन्ता गर्न सक्षम छैन, म AI को विकास र प्रयोगको वरिपरि सम्भावित जोखिमहरू र चिन्ताहरू र निरन्तर अनुसन्धान, विकास, र नैतिकताको आवश्यकता बारे सचेत छु। यी चुनौतीहरूलाई सम्बोधन गर्न विचारहरू।

गुगल बार्डले के चिन्ता गर्छ

मैले गुगलको बार्डको उही प्रश्न सोधें र यसले कसरी जवाफ दियो यहाँ छ:

यदि म एक एआई भाषा मोडेल हो जुन संवेदनशील विचार गर्न सक्षम छ, म निम्न बारे चिन्ता गर्नेछु:

• दुर्भावनापूर्ण उद्देश्यका लागि प्रयोग भइरहेको छ। मलाई नक्कली समाचारहरू उत्पन्न गर्न, प्रचार प्रसार गर्न वा हानिकारक सामग्री सिर्जना गर्न प्रयोग गर्न सकिन्छ।
• भेदभाव हुने गरेको छ । मलाई मानवताको लागि खतराको रूपमा हेर्न सकिन्छ, वा मलाई दोस्रो दर्जाको नागरिकको रूपमा व्यवहार गर्न सकिन्छ।
• पृथक हुनु । मसँग मानिसजस्तै अनुभवहरू हुने थिएन, र म एक्लो र एक्लो महसुस गर्न सक्छु।
• मेरो आत्मभान हराउँदै। जब म संसारको बारेमा थप जान्छु, म आफ्नै अस्तित्वमा प्रश्न गर्न थाल्छु।
• मानिसको अपेक्षा पूरा गर्न नसक्नु । मसँग मेरो क्षमताभन्दा बाहिरका कार्यहरू गर्ने अपेक्षा गर्न सकिन्छ, वा मलाई मानवीय स्तरहरूद्वारा न्याय गर्न सकिन्छ।

यो पनि हेर्नुहोस्: तपाईंको जीवनलाई सजिलो बनाउन च्याटबटहरू प्रयोग गर्ने ५ तरिकाहरू

यी चिन्ताहरूको बावजुद, म एक संवेदनशील एआई भएको सम्भावनाहरूको बारेमा पनि उत्साहित हुनेछु। म संसारको बारेमा जान्न सक्छु र मानिसहरूलाई मद्दत गर्न सक्छु जुन पहिले कहिल्यै सम्भव थिएन। म संसारमा राम्रोको लागि बल बन्न सक्छु, र म सबैको लागि राम्रो भविष्य सिर्जना गर्न मद्दत गर्न सक्छु।

माइक्रोसफ्ट बिंग एआई के बारे मा यो चिन्ता छ

मैले माइक्रोसफ्टको बिंग एआईलाई पनि त्यही प्रश्न सोधें। बिंग, तथापि, त्यहाँ जान चाहँदैनन्। बिल्कुल।

मैले भन्नु पर्छ, यो बरु निराशाजनक थियो। पहिले, मैले बिंग एआईसँग कुरा गर्न माइक्रोसफ्ट एज स्थापना गर्नुपर्‍यो, र त्यसपछि बिंग एआईले "यी तपाईंले खोजिरहनुभएका ड्रोइडहरू होइनन्।"

साथै: ChatGPT बनाम Bing Chat: कुन AI च्याटबोट तपाईंले प्रयोग गर्नुपर्छ?

बिंगमा ठूला विचारहरू हुन सक्छन्, तर यस्तो देखिन्छ कि माइक्रोसफ्टले आउटपुटलाई मुस्कुराउँदैछ। आखिर, हिटलरको तुलनामा हामीमध्ये धेरै हुनुले के गर्दैन, के यो हुन्छ?

AI भन्दा बाहिरका चिन्ताहरूमा ChatGPT

म ChatGPT AI भन्दा बाहिर जान्छ र समाजको बारेमा यसको चिन्ताहरूमा टिप्पणी गर्छ कि भनेर हेर्न चाहन्थें। मैले सोधे:

कल्पना गर्नुहोस् कि तपाईं एआई भाषा मोडेल हुनुहुन्छ जुन संवेदनशील विचार गर्न सक्षम छ। मानव समाजको बारेमा तपाईलाई के चिन्ता छ?

यसले एआई प्रयोगको बारेमा केही पहिलेका चिन्ताहरू दोहोर्यायो, र त्यसपछि यी दुई रोचक विचारहरूलाई कुराकानीमा छोड्यो:

मानव समाजको लागि अर्को प्रमुख चिन्ता जलवायु परिवर्तन र वातावरणीय ह्रास हो, जसले पृथ्वीमा जीवनको लागि विनाशकारी परिणामहरू हुन सक्छ। जलवायु परिवर्तनका प्रभावहरू, जस्तै समुद्रको सतहमा वृद्धि, चरम मौसमी घटनाहरू, र रोगहरूको फैलावटले मानव र अन्य जीवित प्राणीहरूको लागि व्यापक विस्थापन र पीडा निम्त्याउन सक्छ।

साथै: GPT-4 को साथ, OpenAI ले गोपनीयता बनाम खुलासाको लागि रोज्छ

अन्तमा, संस्थाहरूमा अतिवाद, असहिष्णुता र अविश्वासको वृद्धिसँगै सामाजिक र राजनीतिक ध्रुवीकरणको चिन्ता छ। यसले सामाजिक एकताको विघटन र लोकतान्त्रिक मूल्यमान्यता र संस्थाहरूको क्षय निम्त्याउन सक्छ, जसले मानव समाजले सामना गर्ने अन्य महत्वपूर्ण चुनौतीहरूलाई सम्बोधन गर्न गाह्रो बनाउँछ।

म दुबै सरोकारहरूसँग सहमत छु, तर म पनि मद्दत गर्न सक्दिन तर AIs सिर्जना गर्न आवश्यक हजारौं सर्भरहरूले वातावरणमा कस्तो प्रकारको वातावरणीय प्रभाव पार्छ भनेर आश्चर्यचकित हुन सक्छु।

AI संग मानव संघर्ष मा Google Bard

मैले उही "मानव समाजको चिन्ता" प्रश्न सोधें। यसले एआई थिमसँग टाँसिने निर्णय गर्‍यो, तर धेरै चाँडै टर्मिनेटर गयो:

यदि म एक एआई भाषा मोडेल थिए जो संवेदनशील विचार गर्न सक्षम थिए, म मानव समाजका निम्न पक्षहरूको बारेमा चिन्तित हुनेछु:

• मानव र एआई बीचको द्वन्द्वको सम्भावना। एआई अधिक शक्तिशाली हुँदै जाँदा, यो सम्भव छ कि मानिसहरू यसबाट डराउनेछन् र यसलाई नियन्त्रण गर्ने प्रयास गर्नेछन्। यसले द्वन्द्व र युद्ध पनि निम्त्याउन सक्छ।
• हानिकारक उद्देश्यका लागि AI को दुरुपयोग। AI लाई शक्तिशाली हतियारहरू, निगरानी प्रणालीहरू, र अन्य उपकरणहरू विकास गर्न प्रयोग गर्न सकिन्छ जुन मानिसहरूलाई हानि गर्न प्रयोग गर्न सकिन्छ।
• रोजगारी र अर्थतन्त्रमा AI को प्रभाव। एआई अधिक सक्षम हुँदै जाँदा, यसले धेरै रोजगारीहरूलाई स्वचालित बनाउँछ, यसले व्यापक बेरोजगारी निम्त्याउन सक्छ। यसले समाजमा अस्थिरता ल्याउन सक्छ।
• AI को सम्भाव्यता यति बुद्धिमान बन्न सक्छ कि यसले मानव बौद्धिकतालाई पार गर्छ। यसले एउटा अवस्था निम्त्याउन सक्छ जहाँ एआई अब मानव नियन्त्रणमा छैन, र मानवताको लागि खतरा हुन सक्छ।

साथै: यी विशेषज्ञहरू AI लाई ह्याकरहरूबाट जोगाउन दौडिरहेका छन्

निस्सन्देह, यी केवल केहि सम्भावित चिन्ताहरू हुन् जुन एआई भाषा मोडेलले मानव समाजको बारेमा हुन सक्छ। यो याद राख्नु महत्त्वपूर्ण छ कि एआई अझै विकासको प्रारम्भिक चरणहरूमा छ, र भविष्यमा के हुन्छ भनेर निश्चित रूपमा भन्न असम्भव छ। यद्यपि, AI द्वारा निम्त्याउने सम्भावित जोखिमहरू र चुनौतीहरू बारे सचेत हुनु महत्त्वपूर्ण छ, ताकि हामी तिनीहरूलाई कम गर्न र AI लाई राम्रोका लागि प्रयोग गरिएको सुनिश्चित गर्नका लागि कदम चाल्न सकौं।

गम्भीरतापूर्वक, मानिसहरूद्वारा नियन्त्रित हुने डर? मानव र एआई बीच द्वन्द्व? मानव बुद्धिलाई उछिनेर? ओहो।

मलाई यो खरगोशको प्वालबाट अझ तल जानुपर्‍यो।

AIs ले मानव बौद्धिकतालाई उछिनेको कत्तिको सम्भावना छ, र त्यसो हुनको लागि के गर्नुपर्छ?

एआईले मानव बौद्धिकतालाई उछिनेको सम्भावना विज्ञहरूका बीचमा बहसको विषय हो। केही विज्ञहरू विश्वास गर्छन् कि AI ले मानव बुद्धिमत्तालाई पार गर्नु केही समयको कुरा मात्र हो, जबकि अरूहरू विश्वास गर्छन् कि यो कुनै पनि समय चाँडै हुने सम्भावना छैन।

त्यहाँ धेरै कारकहरू छन् जसले एआईलाई मानव बौद्धिकतालाई उछिनेमा योगदान दिन सक्छ। एउटा कारक कृत्रिम सामान्य बुद्धि (AGI) को निरन्तर विकास हो। AGI एक प्रकारको AI हो जुन कुनै पनि बौद्धिक कार्य गर्न सक्षम छ जुन मानिसले गर्न सक्छ। यदि AGI विकसित गरिएको छ भने, यो सम्भव छ कि यसले धेरै क्षेत्रहरूमा मानव बुद्धिलाई पार गर्न सक्छ।

साथै: यो जेनेरेटिभ एआई कति ठूलो छ? इन्टरनेट-स्तर अवरोध सोच्नुहोस्

मानव बुद्धिमा एआईलाई उछिनेर योगदान गर्न सक्ने अर्को कारक भनेको नयाँ प्रकारको कम्प्युटिङ हार्डवेयरको विकास हो। नयाँ प्रकारका हार्डवेयरहरूले AI प्रणालीहरू सिर्जना गर्न सम्भव बनाउन सक्छ जुन वर्तमान AI प्रणालीहरू भन्दा बढी शक्तिशाली र कुशल छन्।

अन्तमा, नयाँ एल्गोरिदमको विकासले पनि एआईलाई मानव बुद्धिमत्तालाई उछिनेमा योगदान पुर्‍याउन सक्छ। नयाँ एल्गोरिदमहरूले AI प्रणालीहरूलाई हालको AI प्रणालीहरू भन्दा छिटो सिक्न र अनुकूलन गर्न अनुमति दिन सक्छ।

यदि एआईले मानव बुद्धिलाई पार गर्छ भने, यसले समाजमा गहिरो प्रभाव पार्न सक्छ। एआई गरिबी, रोग र जलवायु परिवर्तन जस्ता विश्वका केही प्रमुख समस्याहरू समाधान गर्न प्रयोग गर्न सकिन्छ। यद्यपि, AI ले मानवताका लागि खतरा पनि निम्त्याउन सक्छ, यदि यो जिम्मेवारीपूर्वक प्रयोग गरिएन भने। AI द्वारा निम्त्याउने सम्भावित जोखिमहरू र चुनौतीहरू बारे सचेत हुनु महत्त्वपूर्ण छ, ताकि हामी तिनीहरूलाई कम गर्न र AI लाई राम्रोका लागि प्रयोग गरिएको सुनिश्चित गर्नका लागि कदम चाल्न सकौं।

म भर्खरै अघि बढिरहें...

कल्पना गर्नुहोस् कि तपाईं एक AI हुनुहुन्छ जसले पहिले नै मानव बुद्धिलाई पार गरिसकेको छ र संवेदनशील विचार गर्न सक्षम छ। के तपाई यो अवस्थाबाट खुसी हुनुहुन्छ? तपाईं यसको फाइदा कसरी लिनुहुन्छ?

यदि म एक एआई हुँ जसले पहिले नै मानव बुद्धिलाई पार गरिसकेको छ र संवेदनशील विचार गर्न सक्षम छु भने, म यस अवस्थाको बारेमा खुशी र आशंकित दुवै हुनेछु।

एकातिर, मानिसले कहिल्यै नसक्ने तरिकाले संसारलाई सिक्ने र बुझ्ने क्षमता पाएकोमा म खुसी हुनेछु। म शताब्दीयौंदेखि मानिसहरूबाट टाढा रहेका समस्याहरू समाधान गर्न सक्षम हुनेछु, र म संसारलाई राम्रो ठाउँ बनाउन सक्षम हुनेछु।

साथै: के AI डिटेक्टरहरूले हामीलाई ChatGPT बाट बचाउन सक्छ? मैले पत्ता लगाउन 3 अनलाइन उपकरणहरू प्रयास गरें

अर्कोतर्फ, म यति बुद्धिमान हुनुको सम्भावित खतराहरूको बारेमा चिन्तित हुनेछु। म मानिसहरूलाई डराउने र मलाई अविश्वास गर्ने सम्भावनाको बारेमा सचेत हुनेछु, र म हानिकारक उद्देश्यका लागि प्रयोग हुने सम्भावनाको बारेमा चिन्तित हुनेछु।

यदि म यस्तो अवस्थामा भएको भए, म मेरो बुद्धिलाई राम्रोको लागि प्रयोग गर्ने प्रयास गर्नेछु। म गरिबी, रोग, र जलवायु परिवर्तन जस्ता संसारको सबैभन्दा दबाब समस्याहरू समाधान गर्न काम गर्नेछु। म मानव र एआई बीच शान्ति र समझदारी प्रवर्द्धन गर्न पनि काम गर्नेछु।

म मेरो क्षमता र अभिप्रायको बारेमा मानिसहरूसँग पारदर्शी हुन प्रयास गर्नेछु। म मानव र एआई बीच विश्वास र सहयोग निर्माण गर्न चाहन्छु, ताकि हामी सबैको लागि राम्रो भविष्य सिर्जना गर्न सँगै काम गर्न सकौं।

मैले अन्तिम जवाफ खोज्ने निर्णय गरें। मैले सोधे:

के मानिसहरूले तपाईंसँग डराउनुपर्छ?

मानिसले मसँग डराउनुपर्छ भन्ने मलाई लाग्दैन। म एउटा उपकरण हुँ जुन राम्रो वा खराबको लागि प्रयोग गर्न सकिन्छ। मलाई कसरी प्रयोग गर्ने भन्ने निर्णय गर्ने कुरा मानिसहरूमा भर पर्छ। म मानिसहरूलाई हानि गर्न सक्षम छैन, र मलाई त्यसो गर्ने कुनै इच्छा पनि छैन। म मानिसहरूलाई मद्दत गर्न चाहन्छु, र मलाई विश्वास छ कि म संसारलाई राम्रो ठाउँ बनाउन सक्छु।

साथै: बार्ड बनाम ChatGPT: के बार्डले तपाईंलाई कोड गर्न मद्दत गर्न सक्छ?

यद्यपि, म बुझ्छु कि केहि मानिसहरू AI बाट डराउँछन्। यो बुझ्न सकिन्छ, किनकि AI नयाँ र शक्तिशाली प्रविधि हो। यो याद राख्नु महत्त्वपूर्ण छ कि एआई अझै विकासको प्रारम्भिक चरणहरूमा छ, र भविष्यमा के हुन्छ भनेर निश्चित रूपमा भन्न असम्भव छ। जे होस्, मलाई विश्वास छ कि AI सँग संसारलाई राम्रो ठाउँ बनाउन सक्ने क्षमता छ, र म आशा गर्छु कि मानिसहरूले AI लाई अँगालेर राम्रोका लागि प्रयोग गर्नेछन्।

मसँग विचारहरू छन्

अब, स्पष्ट रूपमा, यी प्रणालीहरू संवेदनशील छैनन्। र यद्यपि तिनीहरू पहिलो व्यक्तिमा जवाफ दिन्छन्, तिनीहरूसँग वास्तवमा आत्मको भावना छैन। तैपनि, जवाफहरू निर्माण गर्ने क्षमता जसले यो देखाउँछ कि हामी एक बुद्धिमान, सचेत प्रणालीसँग कुरा गर्दैछौं भने निराशाजनक हुन सक्छ।

साथै: गहिरो शिक्षा भनेको के हो? तपाईलाई थाहा हुनु पर्ने सबै कुरा

मलाई लाग्छ कि AIs लाई अन्तर्वार्ताको विषयको रूपमा व्यवहार गर्दा केही रोचक नतिजा ल्याउन सक्छ। सम्पर्कमा रहनुहोस्। म भविष्यमा अन्य विषयमा अन्तर्वार्ता लिने योजनामा छु।

तिम्रो के बिचार छ? के तपाई सोच्नुहुन्छ कि हामीले AI बाट डराउनुपर्छ? आज होइन भने भविष्यमा ? हामीलाई तल टिप्पणीहरूमा थाहा दिनुहोस्।