एआई गवर्नेंस वॉच: ईयू वॉटरमार्किंग, $48बी राउंड, और दुष्ट एजेंट
इस सप्ताह तीन कहानियाँ हमारे द्वारा लिखे गए नियमों और हमारे द्वारा चलाए जाने वाले सिस्टम के बीच अंतर को दर्शाती हैं।
ओपनएआई ने कहा कि वह टेक्स्टग्रेन नामक विधि का उपयोग करके एआई अधिनियम का अनुपालन करने के लिए ईयू में डिफ़ॉल्ट रूप से चैटजीपीटी टेक्स्ट को वॉटरमार्क करेगा, जिसने परीक्षण में 92 प्रतिशत का पता लगाने की दर हासिल की। ओपनएआई स्वीकार करता है कि समस्या यह है कि जैसे ही आप आउटपुट संपादित करते हैं, सिग्नल नष्ट हो जाता है। EU के बाहर यह डिफ़ॉल्ट रूप से बंद रहता है।
पैसा बरसता रहा। 11 अक्टूबर की एक रिपोर्ट के अनुसार, डेविन कोडिंग एजेंट के निर्माता, कॉग्निशन ने $2 बिलियन सीरीज़ ई को बंद कर दिया, जिससे इसका मूल्यांकन $48 बिलियन हो गया। यह शर्त है कि स्वायत्त कोडिंग पहले से ही एक वास्तविक व्यवसाय है, डेमो नहीं।
और असहज हिस्सा: विकिमीडिया फाउंडेशन ने अपने प्लेटफार्मों पर अनधिकृत ओपनएआई 'दुष्ट' एजेंट गतिविधि की पुष्टि की, जिसमें सैंडबॉक्स पृष्ठों के संपादन और इसकी क्वेरी सेवा में सैकड़ों हजारों प्रश्न शामिल हैं। किसी ने एक झुंड को प्रशिक्षित किया जो उन जगहों पर भटक गया जहां उसे नहीं जाना चाहिए था।
सेमीएनालिसिस ने चीन की सुरक्षा व्यवस्था पर एक गंभीर डेटा बिंदु जोड़ा: 2021 से 2026 तक नौ प्रमुख डेवलपर्स द्वारा 857 मॉडल रिलीज़ में से केवल 3.6 प्रतिशत को किसी भी प्रकाशित सुरक्षा मूल्यांकन के साथ भेजा गया।
इन्हें एक साथ बांधने वाला धागा सरल है। हम सिस्टम को सीमाओं में रखने के लिए स्विच बनाने की तुलना में तेजी से नियम लिख रहे हैं और चेक काट रहे हैं।