AI की बढ़ती ताकत के साथ अब इसके खतरों को लेकर भी चिंता बढ़ रही है। एआई रिसर्चर जैकब कॉक्सन ने एंथ्रोपिक से इस्तीफा देकर दावा किया कि एआई की दौड़ भविष्य में इंसानों के लिए गंभीर खतरा बन सकती है। ALSO READ: एपल का पहला फोल्डेबल फोन iPhone Duo: पासपोर्ट जैसा साइज और मिनी आईपैड जैसी स्क्रीन, जानिए कीमत
जैकब कॉक्सन ने सोशल मीडिया साइट एक्स पर अपनी पोस्ट में कहा कि मैंने आज एंथ्रोपिक (Anthropic) से इस्तीफा दे दिया है। मैंने पिछले तीन साल ओपनएआई (OpenAI) और एंथ्रोपिक दोनों में प्री-ट्रेनिंग रिसर्च करते हुए बिताए हैं। इनमें से कोई भी कंपनी जिम्मेदारी से काम नहीं कर रही है। वे सीधे तौर पर खुद को बेहतर बनाने वाली सुपरइंटेलिजेंस की रेस में भाग रही हैं और हमारी जिंदगियों के साथ जुआ खेल रही हैं।
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
कॉक्सन ने सवाल उठाया कि अगर एआई सिस्टम इंसानों से ज्यादा सक्षम हो गए और खुद को सुधारने लगे तो क्या इंसान उन्हें नियंत्रित कर पाएंगे? एआई की ताकत को कम करके नहीं आंकना चाहिए। उनके मुताबिक, आने वाले समय में ऐसे सिस्टम तैयार हो सकते हैं जो इंसानों से बेहतर तरीके से कई काम कर सकें, किसी भी सिस्टम को हैक कर सकें, अलग-अलग क्षेत्रों में तेजी से बदलाव ला सकें और वास्तविक ताकत तथा संसाधनों तक पहुंच बना सकें।
सभी को खत्म कर सकता है AI
कॉक्सन ने यह भी कहा कि एआई बनाने वाले लोग पूरी ईमानदारी से यह मानते हैं कि यह इस दशक के अंत तक हम सभी को खत्म कर सकता है। यह कोई मार्केटिंग स्टंट नहीं है। अगर कुछ है, तो कई एक्जीक्यूटिव और वरिष्ठ शोधकर्ता प्रेस में समझदार दिखने के लिए अपनी बात को तोड़-मरोड़ कर पेश करते हैं – लेकिन मैं खुद उन्हीं लोगों को निजी तौर पर डर व्यक्त करते हुए सुनता हूँ। मानवीय गतिविधि का कोई अन्य रूप इस स्तर का खतरा पैदा नहीं करता है।
The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible – but I hear the same people express fear…
— Jacob Coxon (@hilbertspaess) September 9, 2026
दूसरी एआई कंपनियों से आगे रखने की दौड़ में फंसी एंथ्रोपिक
कॉक्सन के मुताबिक, एंथ्रोपिक में एआई से जुड़े जोखिमों को अच्छी तरह समझा जाता है। लेकिन कंपनी खुद को दूसरी एआई कंपनियों से आगे रखने की दौड़ में फंसी हुई है। कंपनी का मानना है कि अगर वह खुद विकास की रफ्तार कम करती है तो दूसरी कंपनियां आगे निकल जाएंगी और शायद वे ज्यादा गैर-जिम्मेदार तरीके से एआई विकसित करेंगी।
जैकब ने कहा कि इस रेस को स्वीकार करना और “एंडगेम” में प्रवेश करना एक ऐसा अहंकार से भरा जुआ है जिसे किसी निजी कंपनी के स्लैक (Slack) से शुरू नहीं किया जाना चाहिए। एलाइनमेंट (सुरक्षा और तालमेल) को स्पीडरन करने यानी जल्दबाजी में पूरा करने की कोशिश के लिए यह असाधारण विश्वास होना चाहिए कि इससे बेहतर कोई अन्य रास्ता उपलब्ध नहीं है।
Accepting this race and entering the “endgame” is a hubristic gamble that should not be launched from a private company’s Slack. Attempting to speedrun alignment should require extraordinary confidence that there are no better trajectories available.
— Jacob Coxon (@hilbertspaess) September 9, 2026
उन्होंने कहा कि यदि आप एक लैब रिसर्चर हैं, तो मैं आपसे आग्रह करता हूं कि आप इस बात पर विचार करें कि आने वाले कुछ साल वास्तव में कैसे महसूस होंगे। क्या आप इसके माइंड को पूरी तरह समझे बिना किसी सुपरइंटेलिजेंट RL (रीइंफोर्समेंट लर्निंग) रन की शुरुआत करना चाहते हैं? क्या आपको इसलिए सिर झुकाकर काम करते रहना चाहिए क्योंकि “यह तो वैसे भी हो रहा है” – या फिर इस मौके का फायदा उठाकर अलग और बेहतर स्थितियों की मांग करनी चाहिए?