چند روز پہلے ٹک ٹاک پر Deeptomcruise نامی اکاؤنٹ پر چند ویڈیوز پوسٹ کی گئیں جس سے انٹرنیٹ پر لوگ حیرت میں مبتلا ہو گئے۔ ان ویڈیوز میں موجود شخص اگرچہ مشہور ہالی وڈ اداکار ٹام کروز کی شکل کا دکھائی دے رہا ہے اور اس کی آواز بھی ٹام کروز جیسی ہی ہے، مگر اصل میں یہ ٹام کروز نہیں بلکہ ان ڈیپ فیک نامی ٹیکنالوجی ہے اور ان کی شکل کسی اور شخص پر چسپاں کی گئی ہے۔
ڈیپ فیک یا ڈیپ لرننگ ٹیکنالوجی مصنوعی ذہانت کے ذریعے پہلے سے موجود کسی فرد کی شکل، کسی اور پر چسپاں کی جاتی ہے اور ان کی ہی آواز بھی اس میں نقل کی جاتی ہے۔ اس کے لیے یوٹیوب کلپس اور گوگل امیجز کی مدد لی جاتی ہے۔
ٹک ٹاک کے اکاؤنٹ ’ڈیپ ٹام کروز‘ میں دیکھا جا سکتا ہے کہ ٹام کروز اپنی روایتی ہنسی کے ساتھ ناظرین سے گفتگو کر رہے ہیں۔ کسی ویڈیو میں گالف کھیل رہے ہیں تو کسی ویڈیو میں چلتے چلتے پھسل رہے ہیں اور کسی میں جادو کرتے نظر آ رہے ہیں۔
سائبر سیکیورٹی کے شعور پر کام کرنے والی کمپنی سوشل پروف سیکیورٹی کی سی ای او ریشل ٹوباک نے اس بارے میں چند ٹویٹس میں کہا ہے کہ ڈیپ فیک ٹیکنالوجی عوامی اعتبار کو نقصان پہنچائے گی۔ اس کی وجہ سے مجرم آسانی سے انکار کر سکتے ہیں اور اس ٹیکنالوجی کو لوگوں کو نقصان پہنچانے کے لیے استعمال کیا جا سکتا ہے۔
انہوں نے مزید کہا کہ اگر آپ مصنوعی اور تبدیل کی گئی ویڈیو کی کھوج پر کام کر رہے ہیں تو آپ کو اپنی ٹیم کو متنوع بنانا ہو گا۔ یہ مسئلہ سب کو متاثر کرے گا، لیکن اس کا سب سے زیادہ نقصان خواتین، غیر سفید فام افراد اور اقلیتی گروہوں کو ہو گا۔
سوشل میڈیا پر صارفین نے ٹویٹس کئے کہ اس ڈیپ فیک ویڈیو کو اگر ڈیپ فیک کی کھوج لگانے والی ویب سائٹ counter.social پر اپ لوڈ کیا جائے تو اس کا سافٹ ویئر فوراً اس ویڈیو کے جعلی ہونے کی نشاندہی کرتا ہے۔
واضح رہے کہ ڈیپ فیک ٹیکنالوجی کے خطرات کے بارے میں مبصرین اس سے پہلے بھی خبردار کرتے آئے ہیں۔ اس سال جنوری میں ڈوئچے ویلے میں شائع ہونے والی ایک رپورٹ میں بتایا گیا کہ جنوبی کوریا میں تین لاکھ 75 ہزار افراد کے دستخطوں کے ساتھ ملک کے صدر کو ایک پٹیشن دائر کی گئی جس میں یہ مطالبہ کیا گیا کہ ڈیپ فیک پورنوگرافی پر پابندی عائد کی جائے۔
رپورٹ میں بتایا گیا کہ جنوبی کوریا میں ایپس کے ذریعے ملک کی مشہور خواتین کی فحش فلمیں تیار کر کے مارکیٹ کی جا رہی ہیں۔
جنوری میں بی بی سی سے ایک خصوصی انٹرویو میں برطانوی شاعرہ اور ناولسٹ ہیلن مورٹ نے انکشاف کیا کہ ان کی عام تصاویر ایک فحش ویب سائٹ پر اپ لوڈ کر کے صارفین کو ان میں ترمیم کرنے کی دعوت دی گئی تھی۔ بی بی سی سے انٹرویو میں انہوں نے مطالبہ کیا کہ ان کی تصاویر کے ساتھ کئے جانے والے رد و بدل اور انہیں شئیر یا تقسیم کئے جانے کو مجرمانہ فعل قرار دیا جائے۔
ہیلن نے بی بی سی سے بات کرتے ہوئے کہا 'یہ ایک ایسا جرم ہے جو بہت حد تک نظر نہیں آتا۔ میری تصاویر برسوں سے گردش کرتی رہیں اور میں ان سے لاعلم رہی۔ اور اب بھی ان میں سے کچھ کے بارے میں مجھے ڈراؤنے خواب آتے ہیں۔ یہ (میری تصاویر کا ) ناقابل یقین حد تک ناجائز استعمال ہے۔'
انہوں نے اس فعل کو غیر قانونی قرار دیے جانے سے متعلق آن لائن پٹیشن بھی دائر کی ہے جس میں مطالبہ کیا گیا ہے کہ جعلی جنسی تصاویر بنانے پر قوانین کو سخت کیا جائے۔ ان کی اس آن لائن پٹیشن پر 5 ہزار 5 سو افراد دستخط کر چکے ہیں۔
اس سے پہلے میڈیا میں آنے والی رپورٹس کے بعد پورن ہب نے اداکاروں کی ڈیپ فیک فحش فلموں پر پابندی لگا دی تھی۔ میڈیا رپورٹس کے مطابق سائٹ پر اب بھی بہت سی ڈیپ فیک فحش ویڈیوز دستیاب ہیں۔ ویب سائٹ پر اس حوالے سے تنقید کی جاتی رہی ہے کہ پورن ہب نے ایسی ویڈیوز اپنی سائٹ سے تب تک نہیں ہٹائیں جب تک میڈیا میں اس پر تنقید نہیں ہوئی۔
اس ٹیکنالوجی کے غلط استعمال کے بارے میں اس سے پہلے اداکارہ و ماڈل بیلا تھورن بھی آواز اٹھا چکی ہیں جن کی ویڈیوز کو استعمال کر کے ڈیب فیک فحش فلمیں بنائی گئیں۔
