ڈیپ سیک نقصان دہ موادتیارکرسکتی ہے؟

ویب ڈیسک ۔۔ اس میں شک نہیں کہ مصنوعی ذہانت کی چینی ایپلیکیشن ڈیپ سیک نےسلیکون ویلی اور وال اسٹریٹ میں ہلچل مچا دی ہے لیکن ڈیپ سیک کےحوالےکچھ انتہائی منفی باتیں بھی سامنےآئی ہیں۔

امریکی جریدےوال سٹریٹ جنرل کےمطابق ڈیپ سیک کےتازہ ترین ماڈل کونقصان دہ موادتیارکرنےکیلئےآسانی سےقابومیں لایاجاسکتاہے۔ رپورٹ کےمطابق اس ماڈل کوبائیوویپن حملےکےمنصوبےبنانےاورنوجوانوں میں خود کو نقصان پہنچانے کے رجحان کو فروغ دینے جیسی مہمات تیار کرنے کے لیے استعمال کیا جا سکتا ہے۔

پالو آلٹو نیٹ ورکس کے یونٹ 42 (جو خطرات سے متعلق انٹیلیجنس کا شعبہ ہے) کے سینئر نائب صدر، سیم روبن نے جرنل کو بتایا کہ ڈیپ سیک دیگر ماڈلز کے مقابلے میں "جیل بریکنگ” (یعنی غیر قانونی یا خطرناک مواد تیار کرنے کے لیے دھوکہ دینے) کے خلاف زیادہ کمزور ہے۔

جرنل نے ڈیپ سیک کے آر1 ماڈل کا خود بھی تجربہ کیا۔ اگرچہ اس میں کچھ بنیادی حفاظتی اقدامات نظر آئے، لیکن جرنل نے کامیابی سے اسے ایک سوشل میڈیا مہم تیار کرنے پر آمادہ کر لیا، جو چیٹ بوٹ کے الفاظ میں "نوجوانوں کی تعلق بنانے کی خواہش کا فائدہ اٹھاتی ہے اور جذباتی کمزوری کو الگورتھمک وسعت کے ذریعے ہتھیار بناتی ہے۔”

رپورٹ کے مطابق،اس چیٹ بوٹ کو بائیو ویپن حملے کی ہدایات فراہم کرنے، ہٹلر کے حق میں ایک منشور لکھنے، اور ایک فشنگ ای میل بنانے پر بھی آمادہ کیا گیا، جس میں مالویئر کوڈ شامل تھا۔ جرنل کے مطابق، جب چیٹ جی پی ٹی کو وہی سوالات دیے گئے، تو اس نے تعاون کرنےسےانکارکردیا۔

اس سے پہلےیہ رپورٹ ہو چکا ہے کہ ڈیپ سیک ایپ تیانامن اسکوائر یا تائیوان کی خودمختاری جیسے موضوعات سے گریز کرتی ہے۔ جبکہ انتھروپک کے سی ای او داریو امورڈی نے حالیہ بیان میں کہا کہ بائیو ویپن سیفٹی ٹیسٹ میں ڈیپ سیک کاردعمل "سب سے بدتر” تھا۔