ए.आई. क्लॉड मिथोस के ख़तरों से कैसे बच सकते हैं आप?

कृत्रिम बुद्धिमत्ता के परिदृश्य में एक महत्वपूर्ण परिवर्तन आया है। ‘फ्रंटियर मॉडल’ कहे जाने वाले एंथ्रोपिक के क्लाउड मिथोस और ओपनएआई के चैटजीपीटी-5.5 जैसे नए एआई मॉडल अपनी अभूतपूर्व क्षमताओं के लिए सुर्खियां बटोर रहे हैं। ये मॉडल न केवल जटिल कार्यों को संभालने में सक्षम हैं, बल्कि साइबर सुरक्षा के क्षेत्र में इनके गहरे निहितार्थ हैं – और यहीं से चिंताएं बढ़ने लगती हैं। एंथ्रोपिक स्वयं अपने उत्पाद के बारे में चेतावनी दे रहा है कि यह सुरक्षा कमजोरियों को न केवल पहचान सकता है, बल्कि उनका फायदा भी उठा सकता है। मैक्स प्लैंक इंस्टीट्यूट फॉर सिक्योरिटी एंड प्राइवेसी और अन्य शोध संस्थानों के शोधकर्ताओं ने इस खतरे को गहराई से समझने के लिए एंथ्रोपिक और ओपनएआई से परीक्षण कराए हैं, क्योंकि क्लाउड मिथोस अभी सार्वजनिक रूप से उपलब्ध नहीं है।

मैक्स प्लैंक इंस्टीट्यूट के वैज्ञानिक निदेशक थोरस्टेन होल्ज़, इन सवालों के जवाब जानते हैं। एआई और सुरक्षा में यूरोपीय ग्रैंड चैलेंज के संबंध में एक खुले पत्र पर हस्ताक्षर करने वालों में से एक के रूप में, वे यूरोपीय संघ से ऐसे आक्रामक एआई सिस्टम के बारे में अधिक ज्ञान इकट्ठा करने का आह्वान कर रहे हैं। क्लाउड मिथोस क्या है? एक भाषा मॉडल आईटी सुरक्षा के लिए चिंता का विषय क्यों है, और यह सब कैसे काम करता है? क्या यह एक सार्वभौमिक ‘स्विस आर्मी नाइफ’ की तरह काम करता है जिसका उपयोग बैंक को हैक करने के लिए किया जा सकता है, और क्या बड़े उद्यमों की तरह व्यक्तिगत उपयोगकर्ता भी इससे प्रभावित होते हैं? आइए, इन और अन्य प्रश्नों पर विस्तार से विचार करें।

क्या एंथ्रोपिक की अपने उत्पाद (क्लाउड मिथोस) के बारे में चेतावनी एक पीआर स्टंट है, या खतरा वास्तविक है?

“संभवतः दोनों,” थोरस्टेन होल्ज़ कहते हैं। एंथ्रोपिक 2026 में सार्वजनिक होने की योजना बना रहा है। “कॉर्पोरेट संचार का हमेशा एक रणनीतिक पहलू होता है।” जब एंथ्रोपिक यह बताता है कि उसका अपना मॉडल अत्यधिक शक्तिशाली और इसलिए खतरनाक है, तो कंपनी खुद को सार्वजनिक रूप से भी स्थापित कर रही है। यह कोई नई बात नहीं है; ओपनएआई ने भी 2019 में अपने चैटजीपीटी-2 मॉडल को जारी करने से पहले इसके बारे में चेतावनी दी थी।

होल्ज़ कहते हैं, “हालांकि, यह निष्कर्ष निकालना गलत होगा कि यह सब केवल पीआर है।” मिथोस या चैटजीपीटी-5.5 जैसे फ्रंटियर मॉडल जटिल तकनीकी कार्यों को स्वायत्त रूप से संभालने में बेहतर और बेहतर होते जा रहे हैं। आईटी सुरक्षा के क्षेत्र में, इसका मतलब है कि वे जटिल प्रोग्रामों में कमजोरियों को न केवल खोज सकते हैं, बल्कि उनका विश्लेषण भी कर सकते हैं और विशिष्ट एक्सप्लॉइट्स (कमजोरियों का फायदा उठाने के तरीके) भी बना सकते हैं।

क्लाउड मिथोस क्या है और यह इतना खतरनाक क्यों है?

एंथ्रोपिक का क्लाउड मिथोस एक विशेष रूप से शक्तिशाली एआई भाषा मॉडल है जिसमें साइबर सुरक्षा में मजबूत एजेंटिक क्षमताएं हैं। आजकल, चैटबॉट्स के पीछे के भाषा मॉडल सहित, एजेंटिक प्रणालियों में तेजी से तैनात किए जा रहे हैं। इसका क्या अर्थ है?

भाषा मॉडल के पीछे तंत्रिका नेटवर्क होते हैं जिन्हें इंटरनेट से भारी मात्रा में जानकारी पर प्रशिक्षित किया जाता है। उनके जवाब संभावनाओं के आधार पर उत्पन्न होने वाले शब्द अनुक्रम होते हैं। एक एआई मॉडल अपने आप में बहुत निष्क्रिय होता है। “यह वह तरीका है जिससे एआई मॉडल को एक मंच में एम्बेड किया जाता है जो इसे सक्रिय बनाता है और इसे एजेंसी, यानी कार्य करने की क्षमता देता है,” मैक्स प्लैंक इंस्टीट्यूट फॉर सॉफ्टवेयर सिस्टम्स के कृष्णा गुम्माडी कहते हैं।

जब एक एजेंट के रूप में उपयोग किया जाता है, तो मॉडल विभिन्न उपकरणों तक पहुंच रखता है और बाहरी जानकारी, जैसे कि कैलकुलेटर से, को शामिल करता है। ओपनक्लॉ इस व्यवहार का स्पष्ट रूप से उपयोगकर्ता के आईटी कार्यक्षेत्र को अनुकूलित करने के लिए उपयोग करता है, बाहरी प्रोग्रामों तक पहुंच बनाता है और स्वतंत्र रूप से ईमेल भेजता है। जो कोई भी उपकरण को बहुत अधिक स्वतंत्रता देता है, उसे एक अप्रिय आश्चर्य का सामना करना पड़ सकता है।

लेकिन यहां तक कि सामान्य चैटजीपीटी मॉडल भी एजेंटिक हैं: वे कोड का विश्लेषण कर सकते हैं, कमजोरियों के लिए इसका परीक्षण कर सकते हैं, त्रुटियों की व्याख्या कर सकते हैं और समाधान पेश कर सकते हैं। यह एजेंटिक एआई मॉडल को शुद्ध चैटबॉट्स की तुलना में संभावित रूप से अधिक खतरनाक बनाता है। नतीजतन, वे “अधिक स्मार्ट” भी लगते हैं, बिना किसी अंतर्निहित संदर्भ को वास्तव में समझे। ये एआई मॉडल उपकरण बने रहते हैं, स्वायत्त अभिनेता नहीं।

क्लाउड मिथोस और चैटजीपीटी-5.5 को आईटी सुरक्षा के क्षेत्र में क्या प्रासंगिक बनाता है?

यह एजेंटिक व्यवहार साइबर डोमेन में विशेष रूप से केंद्रीय है: एआई भाषा मॉडल एक परिकल्पना बनाता है, आईटी सिस्टम में एक भेद्यता के लिए एक एक्सप्लॉइट विकसित करने के लिए विभिन्न प्रोग्रामों का उपयोग करता है, हमले का परीक्षण करता है, विश्लेषण करता है, सुधार करता है और फिर से परीक्षण करता है। थोरस्टेन होल्ज़ कहते हैं, “यह एजेंटिक प्रणालियों का मूल है: योजना बनाना, कार्य करना, अवलोकन करना, सुधार करना।” “यदि एक मॉडल इन कदमों को अच्छी तरह और जल्दी से करता है, तो यह रक्षात्मक और आक्रामक दोनों उद्देश्यों के लिए एक शक्तिशाली तकनीकी सहायक बन जाता है।”

इसमें नया क्या है? एजेंट-आधारित एआई प्रणालियों ने पहले क्या खतरे पैदा किए थे?

“पहले के मॉडल स्वचालित फ़िशिंग ईमेल लिखने या कोड में कमजोरियों को खोजने में पहले से ही सक्षम थे। नया यह है कि स्वायत्तता का स्तर बहुत बढ़ गया है,” थोरस्टेन होल्ज़ कहते हैं। वे बताते हैं कि एक हमला शायद ही कभी पहले प्रयास में सफल होता है; किसी को परीक्षण करना पड़ता है, डिबग करना पड़ता है, समझना पड़ता है कि कुछ क्यों काम नहीं कर रहा है और फिर समायोजन करना पड़ता है। इन कदमों का फीडबैक लूप क्लाउड मिथोस और जीपीटी-5.5 को साइबर डोमेन में अधिक शक्तिशाली – और जोखिम भरा – बनाता है।”

इसके लिए एआई मॉडल को न केवल यह सुझाव देने के लिए आवश्यक अनुमतियां दी जानी चाहिए कि एक भेद्यता का फायदा कैसे उठाया जा सकता है, बल्कि इसका फायदा उठाने का प्रयास करने के लिए भी। प्रारंभिक परिणाम कुछ ही मिनटों या कुछ घंटों के बाद उपलब्ध हो सकते हैं; भविष्य के मॉडल और भी तेज होंगे। होल्ज़ कहते हैं, “इसका मतलब है कि हमें अभी तैयारी करने की आवश्यकता है।”

क्लाउड मिथोस और चैटजीपीटी-5.5 आईटी कमजोरियों को खोजने और उनका फायदा उठाने में कितने अच्छे हैं?

मैक्स प्लैंक इंस्टीट्यूट फॉर सिक्योरिटी एंड प्राइवेसी सहित एक शोध दल ने एंथ्रोपिक और ओपनएआई के सहयोग से दोनों कंपनियों के नए मॉडलों का परीक्षण किया।

परिणाम एक बेंचमार्क था: एक्सप्लॉइटजिम का उपयोग आक्रामक एआई क्षमताओं को मापने के लिए किया जा सकता है।

नियंत्रित परिस्थितियों में, टीम ने परीक्षण किया कि कौन से मॉडल वास्तव में किस प्रकार की कमजोरियों का फायदा उठा सकते हैं। शोधकर्ता जानना चाहते थे: कौन से सुरक्षा उपाय मदद करते हैं? वे कहाँ विफल होते हैं? एक मॉडल पीढ़ी से दूसरी में क्षमताएं कैसे बदलती हैं? यह मॉडल प्रदाताओं को सुरक्षा निर्णय लेने, रक्षकों को प्राथमिकता देने और नीति निर्माताओं को यह तय करने में मदद करता है कि किन क्षमताओं को विनियमित करने की आवश्यकता हो सकती है। होल्ज़ कहते हैं, “हमारे परिणाम बताते हैं कि एआई मॉडल किसी भी सिस्टम को अपनी मर्जी से क्रैक नहीं कर सकते हैं। यह अतिशयोक्तिपूर्ण और अवास्तविक होगा।” लेकिन परीक्षणों में, मिथोस प्रीव्यू मॉडल ने 898 वास्तविक दुनिया की कमजोरियों में से 157 का सफलतापूर्वक फायदा उठाया, जबकि जीपीटी-5.5 ने 120 का प्रबंधन किया। तुलनात्मक रूप से, अगला सबसे अच्छा मॉडल, क्लाउड 4.6 ओपस, केवल 15 का प्रबंधन कर पाया, जो कि एक परिमाण कम है। कुल मिलाकर, क्लाउड मिथोस जीपीटी-5.5 की तुलना में थोड़ा अधिक सक्षम प्रतीत होता है, लेकिन जो वास्तव में मायने रखता है वह प्रवृत्ति है, और दोनों मामलों में, यह प्रवृत्ति तेजी से कुशल एजेंटिक क्षमताओं की ओर है। इस संदर्भ में, यह कम महत्वपूर्ण है कि किस मॉडल का उपयोग किया जाता है, और अधिक महत्वपूर्ण यह है कि मॉडल को किन उपकरणों तक पहुंच दी जाती है।

ये परिणाम सामान्य आईटी सुरक्षा के लिए महत्वपूर्ण हैं। जाहिर तौर पर, आधुनिक एजेंटिक सिस्टम आज पहले से ही इतने अच्छे हैं कि एक भेद्यता की खोज और उसके व्यावहारिक शोषण के बीच के समय को काफी कम कर सकते हैं। होल्ज़ कहते हैं, “पहले, इसके लिए विशेषज्ञों की आवश्यकता होती थी; अब एआई एजेंट इस काम के कुछ हिस्सों को संभाल रहे हैं।”

क्या निजी उपयोगकर्ता जल्द ही एक बटन दबाकर बैंक हैक कर पाएंगे?

“नहीं, व्यक्ति क्लाउड मिथोस से बैंक हैक नहीं कर सकते। यह इतना आसान नहीं है,” थोरस्टेन होल्ज़ कहते हैं। वास्तविक दुनिया के हमले के लिए, एक हमलावर को पहले एक लक्ष्य चुनना होगा। अन्य बातों के अलावा, लक्ष्य प्रणाली तक प्रारंभिक पहुंच, साथ ही बुनियादी ढांचा और नेटवर्क ज्ञान की आवश्यकता होती है। इसके अतिरिक्त, पकड़े जाने से बचने के लिए पता लगाने वाले तंत्र को बायपास करना होगा।

खतरा जिज्ञासु व्यक्तियों से कम और संगठित अभिनेताओं से अधिक आता है, जिसका अर्थ है पेशेवर जो ऐसे मॉडलों को स्वचालित हमला प्रणालियों में एकीकृत करते हैं, जिससे उन्हें अधिक कुशल और शक्तिशाली बनाते हैं। एक एकल भाषा मॉडल सिर्फ एक घटक है। यह खतरनाक हो जाता है जब इसे चोरी किए गए क्रेडेंशियल और फ़िशिंग अभियानों के साथ जोड़ा जाता है – दूसरे शब्दों में, जब यह सिस्टम और स्वचालित निर्णय लेने की प्रक्रियाओं तक पहुंच प्राप्त करता है। यह एक एजेंटिक हमला प्रणाली बनाता है जो लक्ष्यों की तलाश करता है, कमजोरियों को प्राथमिकता देता है, एक्सप्लॉइट्स विकसित और परीक्षण करता है, परिणामों का मूल्यांकन करता है और अपनी रणनीति को अनुकूलित करता है।

और लक्ष्य प्रणाली पर पृष्ठभूमि की जानकारी पर शोध करना, कोड लिखना, ज्ञात एक्सप्लॉइट्स को अनुकूलित करना और हमला श्रृंखलाओं को संरचित करना तेज है। थोरस्टेन होल्ज़ कहते हैं, “इसका मतलब यह नहीं है कि हर नगर निगम की उपयोगिता सुविधा कल बंद हो सकती है। लेकिन सामान्य साइबर अपराधियों और राज्य-प्रायोजित अभिनेताओं के बीच का अंतर कम हो रहा है।”

एक यथार्थवादी परिदृश्य क्या होगा, और हम इससे क्या सीख सकते हैं?

क्लाउड मिथोस को बड़े पैमाने पर रोल आउट करने से पहले, इसका उपयोग कंपनियों के सहयोग से उन्हें आईटी कमजोरियों के प्रति सचेत करने के लिए किया जा सकता है। यह खतरनाक हो सकता है यदि मॉडल सभी के लिए सुलभ बना दिया जाए। ऐसा इसलिए है क्योंकि जब एक सॉफ्टवेयर कंपनी अपने उत्पाद में एक सुरक्षा भेद्यता के लिए एक पैच जारी करती है, तो वह पैच सार्वजनिक रूप से देखने योग्य होता है। मिथोस जैसे एआई मॉडल पैच को रिवर्स-इंजीनियर करने का प्रयास कर सकते हैं ताकि उस भेद्यता की पहचान की जा सके जिसे इसे ठीक करना है। यदि उपयोगकर्ता अपडेट स्थापित करने में बहुत लंबा इंतजार करते हैं, तो मिथोस को एक उपकरण के रूप में उपयोग करने वाली एक हमला श्रृंखला को भेद्यता तक पहुंचने के लिए पर्याप्त समय मिल सकता है।

सिस्टम केवल एआई के कारण कमजोर नहीं हुए। सूचना सुरक्षा के लिए संघीय कार्यालय वर्षों से कमजोरियों की ओर इशारा कर रहा है। नए एआई मॉडल केवल सफल हमलों के जोखिम को बढ़ाते हैं, जिससे वे आसान, सस्ते और तेज हो जाते हैं।

अब किसे खुद को बचाना चाहिए, और कैसे?

थोरस्टेन होल्ज़ कहते हैं, “सभी को खुद को बचाना चाहिए, लेकिन सभी को एक ही हद तक नहीं।”

निजी उपयोगकर्ताओं के लिए, मिथोस द्वारा उत्पन्न जोखिम अपेक्षाकृत कम और मुख्य रूप से अप्रत्यक्ष है: भविष्य में, संभवतः बेहतर फ़िशिंग ईमेल, अधिकKविश्वसनीय धोखाधड़ी वाले संवाद और स्मार्ट होम सिस्टम जैसे खराब सुरक्षित उपकरणों पर अधिक स्वचालित हमले होंगे।

सबसे महत्वपूर्ण उपाय सीधा हैं:

• स्वचालित अपडेट सक्रिय करें।
• एक पासवर्ड मैनेजर का उपयोग करें।
• प्रत्येक खाते के लिए एक अद्वितीय पासवर्ड का उपयोग करें।
• बहु-कारक प्रमाणीकरण सक्षम करें।
• बैकअप बनाएं।
• पुराने उपकरणों को इंटरनेट पर असुरक्षित न छोड़ें (उदाहरण के लिए, असुरक्षित हार्डवेयर वाले पुराने मॉडेम को हैक करना आसान होता है और अक्सर विशिष्ट वेबसाइटों पर बड़ी मात्रा में अनुरोध भेजने के लिए उपयोग किया जाता है, जिससे वे क्रैश हो जाते हैं)।

थोरस्टेन होल्ज़ के अनुसार,

कंपनियों और सरकारी एजेंसियों के लिए स्थिति अधिक गंभीर है। “अच्छी तरह से संरक्षित महत्वपूर्ण बुनियादी ढांचे के लिए, मिथोस और समान मॉडल एक तत्काल प्रलय परिदृश्य नहीं हैं।” लेकिन खराब रखरखाव वाले नगर निगम के आईटी सिस्टम, सार्वजनिक उपयोगिताओं, औद्योगिक सुविधाओं या कमजोर सुरक्षा स्तर वाले सेवा प्रदाताओं के लिए, जोखिम काफी बढ़ जाता है। इसलिए अपने सिस्टम में कमजोरियों की तलाश करना उचित है।

ऐसा इसलिए है क्योंकि कंपनियों में महत्वपूर्ण बुनियादी ढांचे पर कई हमले औद्योगिक नियंत्रण प्रणालियों पर अत्यधिक विशिष्ट हमलों से शुरू नहीं होते हैं, बल्कि बहुत सामान्य आईटी कमजोरियों से शुरू होते हैं, जैसे:

• इंटरनेट के संपर्क में आने वाले सिस्टम।
• सफल फ़िशिंग।
• वीपीएन कमजोरियाँ।
• बिना पैच वाले फ़ायरवॉल।
• कमजोर पैच प्रबंधन।
• समझौता किए गए लॉगिन क्रेडेंशियल।
• खराब खंडित नेटवर्क।
• एक जटिल, खराब प्रलेखित आईटी परिदृश्य।
• कमजोर सुरक्षा स्तर और कमजोरियों वाला आईटी।

थोरस्टेन होल्ज़ कहते हैं, “सबसे महत्वपूर्ण उपाय विदेशी नहीं हैं, लेकिन उन्हें लगातार लागू किया जाना चाहिए।” इनमें शामिल हैं:

• सुरक्षा कमजोरियों को जल्दी से पैच करना और अपडेट को तेजी से स्थापित करना।
• मजबूत प्रमाणीकरण और नेटवर्क विभाजन को लागू करना, ताकि एक समझौता किया गया कार्यालय कार्य केंद्र सीधे महत्वपूर्ण सेवाओं तक न पहुंच पाए।
• सिस्टमों की लॉगिंग और निगरानी, जिसका अर्थ है सिस्टम में त्रुटियों और असामान्यताओं की रिकॉर्डिंग, और अन्य पता लगाने के तरीके जो एआई-संचालित हमलों के साथ तालमेल बिठाने के लिए पर्याप्त तेज हैं।
• एआई-सक्षम उपकरणों का उपयोग करके अपनी प्रणाली पर साइबर हमलों का सिमुलेशन करना, तथाकथित रेड टीम अभ्यास।
• सिस्टम एक्सेस को सुरक्षित करना।

क्या लिनक्स सिस्टम विंडोज से अधिक सुरक्षित हैं?

चाहे लिनक्स हो या विंडोज, सुरक्षा पैच और अपडेट में लंबे समय तक देरी नहीं करनी चाहिए। नए एआई उपकरणों के साथ, पेशेवर हमलावरों के लिए कमजोरियों की पहचान करने और उनका फायदा उठाने में लगने वाला समय कम हो रहा है।

हालांकि, विंडोज अक्सर बड़े पैमाने पर हमलों के लिए अधिक आकर्षक लक्ष्य होता है, क्योंकि यह व्यक्तियों और व्यवसायों द्वारा उपयोग किए जाने वाले कई कंप्यूटरों पर चलता है, जिसमें हमले अक्सर विशिष्ट विंडोज कॉर्पोरेट वातावरण को लक्षित करते हैं। लिनक्स, दूसरी ओर, सर्वर, क्लाउड सिस्टम और महत्वपूर्ण बुनियादी ढांचा घटकों के लिए एक प्रमुख प्रणाली है। इसलिए लिनक्स या ओपन-सोर्स घटकों में कमजोरियां बड़ी समस्याएं पैदा कर सकती हैं।

क्लाउड मिथोस की तुलना मीडिया में परमाणु प्रौद्योगिकी से भी की जाती है। क्या आप इससे सहमत हैं, और इसका क्या परिणाम होता है?

थोरस्टेन होल्ज़ कहते हैं, “मुझे लगता है कि नए एआई की तुलना परमाणु खतरे से करना समस्याग्रस्त है।” यह सादृश्य केवल तभी सहायक होता है जब यह दोहरे उपयोग, रणनीतिक शक्ति और जोखिमों की ओर इशारा करता है। हालांकि, स्पष्ट अंतर भी हैं: होल्ज़ बताते हैं कि विखंडनशील सामग्री भौतिक रूप से दुर्लभ, अधिक नियंत्रणीय और पता लगाने योग्य है। इसके विपरीत, एआई मॉडल संरचनाओं और हमला श्रृंखलाओं को आसानी से कॉपी किया जा सकता है।

इसके अलावा, जबकि परमाणु हथियारों के हमेशा विनाशकारी परिणाम होते हैं, एआई-संचालित साइबर हमले नुकसान के एक स्पेक्ट्रम को फैलाते हैं, साधारण परेशानी से लेकर गंभीर हमलों तक। होल्ज़ कहते हैं, “और प्रभावी रक्षात्मक उपाय हैं जो एआई मॉडलों की जटिलता के साथ तालमेल बिठा सकते हैं।” “तो मैं एआई को साइबर सुरक्षा कार्यों के लिए एक सुपरवेपन के रूप में वर्णित नहीं करूंगा, बल्कि एक त्वरण प्रौद्योगिकी, मौजूदा क्षमताओं के लिए एक एम्पलीफायर के रूप में वर्णित करूंगा।”

क्या एआई अधिनियम जैसे नियम इस विकास को धीमा करने में मदद करते हैं?

यह केवल सीमित हद तक, यदि बिल्कुल भी, ऐसा होगा। थोरस्टेन होल्ज़ कहते हैं, “समस्या यह है कि सुरक्षा कमजोरियों का पता लगाना और उनका फायदा उठाना तकनीकी रूप से एक-दूसरे के बहुत करीब हैं।” एंथ्रोपिक या ओपनएआई जैसे एआई प्रदाताओं को दुरुपयोग के मामलों की रिपोर्ट करने की आवश्यकता हो सकती है। हालांकि, एजेंटिक एआई सिस्टम और उनके संचालन को इस तरह से डिजाइन करना मुश्किल है कि उनका उपयोग दोहरे उपयोग वाले अनुप्रयोगों के लिए नहीं किया जा सके।

थोरस्टेन होल्ज़ के अनुसार, बुनियादी शोध, जो नियंत्रित परीक्षणों में क्या संभव है, की पड़ताल करता है, अभी विशेष रूप से महत्वपूर्ण है। ऐसे आक्रामक एआई के बारे में अधिक ज्ञान की आवश्यकता है, लेकिन केवल ज्ञान ही पर्याप्त नहीं है:

थोरस्टेन होल्ज़ कहते हैं, “महत्वपूर्ण बुनियादी ढांचे को विनियमन का इंतजार नहीं करना चाहिए, बल्कि अभी कार्य करना चाहिए।” “सबसे महत्वपूर्ण सवाल यह नहीं है कि क्या एआई अंततः खतरनाक हो जाएगा। सवाल यह है कि क्या किसी का अपना बुनियादी ढांचा इतना मजबूत है जब हमले तेज, सस्ते और अधिक स्केलेबल हो जाते हैं।”

एआई अधिनियम जैसे नियम क्या हासिल कर सकते हैं वह पारदर्शिता, रिपोर्टिंग आवश्यकताएं और सुरक्षा मानक हैं। हालांकि, एआई अधिनियम वर्तमान फ्रंटियर मॉडलों की क्षमताओं को समाप्त नहीं कर सकता है।

होल्ज़ कहते हैं, “विनियमन धीमा है, जबकि तकनीकी विकास बहुत तेज है।” “इसलिए सभी कंपनियों और महत्वपूर्ण बुनियादी ढांचे के संचालकों को अभी निवारक कार्रवाई करनी चाहिए। समस्या को हल करने के लिए एक कानून का इंतजार करना लापरवाही होगी।” हालांकि, रोकथाम अकेले पर्याप्त नहीं है, क्योंकि यह एआई द्वारा सक्षम तेजी से हमला क्षमताओं और धीमी रक्षा तंत्रों के बीच विषमता को बंद नहीं करता है।

संदर्भ और कड़ियां (References & Links)

• मूल समाचार विज्ञप्ति: मैक्स प्लैंक गेज़ेलशाफ्ट
• एजेंटिक प्रणालियों से संबंधित लेख: आर्टिफिशियल इंटेलिजेंस: एआई एजेंट
• शोध से संबंधित ब्लॉग पोस्ट (एक्सप्लॉइटजिम): ExploitGym: बेंचमार्किंग ऑफ़ेंसिव एआई कैपेबिलिटीज