ایپل اور گوگل ایپ اسٹورز پر جنسی و پرتشدد ڈیپ فیک بنانے والی 400 سے زائد ایپس کی موجودگی کا انکشاف
وائرڈ کی تحقیقات کے مطابق یہ ایپس ظاہری طور پر بے ضرر دکھائی دیتی تھیں، مگر خفیہ فیچرز کے ذریعے کسی بھی شخص کی تصویر سے فحش اور پرتشدد جعلی مواد تیار کیا جا سکتا تھا۔
ایپل اور گوگل کے ایپ اسٹورز پر ایسی 400 سے زائد ایپس موجود ہیں جو مصنوعی ذہانت کے ذریعے جنسی اور پرتشدد ڈیپ فیک تصاویر اور ویڈیوز تیار کرنے کی صلاحیت رکھتی ہیں۔ یہ انکشاف ٹیکنالوجی ویب سائٹ وائرڈ کی تفصیلی تحقیقات میں سامنے آیا ہے۔
رپورٹ کے مطابق یہ ایپس بیرونی طور پر عام اور غیر متنازع ایپلیکیشنز کی طرح دکھائی دیتی تھیں، تاہم ان میں چھپائے گئے خفیہ فیچرز کے ذریعے کسی بھی فرد کی تصویر استعمال کرتے ہوئے فحش اور پرتشدد جعلی مواد بنایا جا سکتا تھا۔ تحقیقات میں بتایا گیا کہ اس طرح تیار کردہ مواد لوگوں کو بدنام کرنے، ہراساں کرنے اور دھمکانے کے لیے استعمال کیا جا سکتا تھا۔
تحقیق میں یہ بھی سامنے آیا کہ ان ایپس کی تشہیر فیس بک اور انسٹاگرام پر ہزاروں ویڈیو اشتہارات کے ذریعے کی جا رہی تھی۔ ایپس میں خفیہ خصوصیات کو اس انداز سے چھپایا گیا تھا کہ وہ ایپل، گوگل اور میٹا کے جائزہ نظام کو دھوکہ دے سکیں، جس کی وجہ سے یہ طویل عرصے تک ان پلیٹ فارمز پر دستیاب رہیں۔
وائرڈ کی جانب سے اس معاملے کی نشاندہی کے بعد ایپل نے ایسی 19 ایپس کو اپنے ایپ اسٹور سے ہٹا دیا ہے۔ دوسری جانب میٹا کا کہنا ہے کہ اس نے ان ایپس سے منسلک ویب ڈومینز کے ساتھ وابستہ 10 ہزار سے زائد اشتہاری اکاؤنٹس کے خلاف کارروائی کی ہے۔
یہ انکشاف ڈیپ فیک ٹیکنالوجی کے بڑھتے ہوئے غلط استعمال اور آن لائن صارفین کی رازداری اور تحفظ سے متعلق سنگین خدشات کو اجاگر کرتا ہے۔ ماہرین کے مطابق اس طرح کے اوزار نہ صرف افراد کی عزت و وقار کو نقصان پہنچا سکتے ہیں بلکہ ہراسانی اور بلیک میلنگ جیسے جرائم میں بھی استعمال ہو سکتے ہیں۔
واضح رہے کہ دنیا بھر میں ڈیپ فیک مواد کی تیاری اور اشاعت کے حوالے سے قوانین ابھی ابتدائی مراحل میں ہیں۔ اس واقعے نے ایپ اسٹور چلانے والی کمپنیوں کے جائزہ نظام کی مؤثریت اور مصنوعی ذہانت کی مصنوعات کی نگرانی سے متعلق سوالات کو ایک بار پھر نمایاں کر دیا ہے۔
