Google के एजेंट सैंडबॉक्स त्वरित इंजेक्शन का सही उत्तर हैं
Google ने एजेंट कंप्यूट इंजन, हार्डवेयर-पृथक सैंडबॉक्स का अनावरण किया जो कभी भी क्रेडेंशियल नहीं रखता है। यह त्वरित इंजेक्शन के लिए अब तक की सबसे समझदार प्रतिक्रिया है, जो हमला चुपचाप एजेंट को परेशान कर रहा है।
प्रॉम्प्ट इंजेक्शन कोई बग नहीं है जिसे आप एक बार ठीक कर लें। यह समस्या का एक वर्ग है: एक मॉडल अविश्वसनीय इनपुट को पढ़ता है और उस पर कार्य करता है। एकमात्र टिकाऊ समाधान यह सुनिश्चित करना है कि अभिनय किसी भी मूल्यवान चीज़ तक नहीं पहुँच सकता।
एक सैंडबॉक्स जिसमें चोरी करने का कोई प्रमाण नहीं है, एक विनाशकारी हमले को नियंत्रित हमले में बदल देता है। वह सही आकार है, भले ही वह अंतिम आकार न हो।
अब मैं प्रत्येक एजेंट प्लेटफ़ॉर्म का मूल्यांकन इस प्रश्न से करूंगा: जब इसे इंजेक्ट किया जाता है, तो हमलावर वास्तव में किस तक पहुंच सकता है? गूगल का उत्तर है 'कुछ नहीं।' वह फर्श होना चाहिए, छत नहीं।