Astra, OpenAI के Preparedness Framework के तहत साइबर सुरक्षा के Critical स्तर तक पहुँचने वाला पहला मॉडल है। इसका अर्थ है कि उचित एक्सेस मिलने पर यह अनजान कमजोरियाँ खोज सकता है और काम करने वाले एक्सप्लॉइट बना सकता है। उपयोगकर्ताओं के लिए जारी संस्करण प्रूफ-ऑफ-कॉन्सेप्ट एक्सप्लॉइट लिखने जैसे उन्नत आक्रामक कार्यों से इनकार करता है, जबकि सुरक्षित कोड समीक्षा और पैचिंग जैसे रक्षात्मक काम उपलब्ध रहते हैं।
OpenAI, Astra श्रेणी के मॉडल पर प्रोडक्शन में मिसअलाइनमेंट मॉनिटरिंग भी चलाता है। ये जाँच वैध सुरक्षा कार्य सहित किसी चलते काम को धीमा, रोक या बंद कर सकती हैं। ChatGPT या Codex में आगे बढ़ने से पहले किसी कार्रवाई की समीक्षा करने को भी कहा जा सकता है।
एक परिणाम उल्टी दिशा में गया। OpenAI के अनुसार Astra के लिखित तर्क की निगरानी Sol के मुकाबले कठिन है, आंशिक रूप से इसलिए कि यह कम लिखित चरणों में समस्याएँ हल करता है। निगरानी क्षमता में सुधार अभी भी खुला शोध विषय है। यदि आप ऐसा काम सौंपेंगे जिसकी आसानी से जाँच नहीं हो सकती, तो यह बात जानना जरूरी है।
सामान्य सावधानी भी लागू होती है: बेंचमार्क में बढ़त आपके अपने वर्कफ़्लो में ठीक उसी अनुपात में लाभ नहीं देती। प्रति दस लाख आउटपुट टोकन 50 डॉलर की कीमत पर Astra बड़ी मात्रा के आसान काम के लिए सही विकल्प नहीं है; उस उपयोग के लिए इसी लाइनअप के सस्ते मॉडल बेहतर हैं।
