एआई की मदद से जैविक हथियार तैयार करने की कोशिश का चौंकाने वाला मामला सामने आया है। एंथ्रोपिक के मुताबिक, उसके क्लॉड मॉडल से वायरस में बदलाव, मिसाइल और ड्रोन सॉफ्टवेयर से जुड़ी संदिग्ध गतिविधियां हुईं। कंपनी ने कई अकाउंट बंद कर खतरनाक इस्तेमाल को रोकने का दावा किया है।

आर्टिफिशियल इंटेलिजेंस यानी एआई की ताकत जितनी बढ़ रही है, उसके गलत इस्तेमाल का खतरा भी उतना ही गंभीर होता जा रहा है। अब एआई के जरिए सिर्फ साइबर हमले या फर्जी कंटेंट तैयार करने का खतरा नहीं है, बल्कि जैविक हथियारों से जुड़ी रिसर्च में भी इसके दुरुपयोग की आशंका सामने आई है। एआई कंपनी एंथ्रोपिक ने दावा किया है कि उसने अपने क्लॉड मॉडल के जरिए जैविक हथियार विकसित करने से जुड़ी कई संदिग्ध गतिविधियों को समय रहते रोक दिया।

एंथ्रोपिक के मुताबिक, इस साल सामने आए कुछ मामलों में उसके मॉडल का इस्तेमाल ऐसी वैज्ञानिक रिसर्च के लिए करने की कोशिश की गई, जिसका इस्तेमाल खतरनाक जैविक एजेंट तैयार करने में किया जा सकता था। कंपनी ने संदिग्ध अकाउंट्स पर कार्रवाई करते हुए उन्हें स्थायी रूप से बंद कर दिया।

एंथ्रोपिक के थ्रेट इंटेलिजेंस प्रमुख जैकब क्लेन ने बताया कि इन मामलों में इस्तेमाल की गई वैज्ञानिक भाषा बेहद जटिल थी। शुरुआत में यह तय करना आसान नहीं था कि एआई से मांगी गई जानकारी किसी वैक्सीन, बीमारी के इलाज या दूसरे मेडिकल शोध के लिए है या इसके पीछे नुकसान पहुंचाने का इरादा है।यही वजह एआई के दुरुपयोग को पकड़ना मुश्किल बनाती है। किसी वायरस या रोगाणु पर किया जा रहा शोध चिकित्सा के लिए उपयोगी भी हो सकता है और उसी जानकारी का इस्तेमाल नुकसान पहुंचाने के लिए भी किया जा सकता है।