أخبار الساعة » كتابات ومنوعات » من هنا وهناك

قصة مؤلمة لفتاة استخدمت صورتها في مقاطع إباحية مزيفة

يمكن استخدام التصوير بالذكاء الاصطناعي لابتكار فن، أو تجربة الملابس في غرف القياس الافتراضية، أو المساعدة في تصميم الحملات الإعلانية، لكن الخبراء يخشون من أن الجانب المظلم لهذه الأدوات التي يسهل الوصول إليها يمكن أن يؤدي إلى تفاقم الأمر الذي يؤذي النساء في المقام الأول: المواد الإباحية المزيفة غير الواقعية.

المواد المزيفة أو "الديب فيكس" هي مقاطع مصورة أو صور تم إنشاؤها رقميا، أو تعديلها باستخدام الذكاء الاصطناعي أو التعلم الآلي.

وبدأت المواد الإباحية التي تم إنشاؤها باستخدام التكنولوجيا بالانتشار لأول مرة عبر الإنترنت منذ سنوات عدة، حين شارك مستخدم لموقع ريديت مقاطع وضعت وجوه إناث من المشاهير، على أجساد ممثلين إباحيين.

ومنذ ذلك الحين، نشر منتجو المحتوى المزيف العميق مقاطع مصورة، وصورا، مماثلة تستهدف المؤثرين عبر الإنترنت والصحفيين وغيرهم من أصحاب الملفات الشخصية العامة.

والأحد، نشرت وكالة أسوشيتد برس قصة للأسترالية، نويل مارتن، مع تفاصيل مختصرة عن "قصتها" المؤلمة.

وواجهت مارتن، وهي من مدينة بيرث، الحقيقة المؤلمة لما يمكن أن يسببه التزييف حين اكتشفت الفتاة البالغة من العمر 28 عاما مواد إباحية مزيفة لها، بينما كانت تستخدم "غوغل" بالصدفة، فقط بدافع الفضول، بحثا عن صورة لها.

وحتى اليوم، تقول مارتن إنها لا تعرف من قام بإنتاج الصور أو المقاطع المزيفة أثناء علاقة جنسية.

وتشتبه في أن شخصا ما التقط صورة على الأرجح من على صفحتها على وسائل التواصل الاجتماعي، أو في أي مكان آخر، وحولها إلى مواد إباحية.

وبعدما صعقت لهذا الاكتشاف، سارعت مارتن بالاتصال، طوال سنوات، بمواقع مختلفة في محاولة لإزالة الصور، وبينما لم يستجب البعض، تحرك آخرون لإزالتها، لكنها سرعان ما كانت تعثر عليها مرة أخرى.

وتقول مارتن: "لن يمكنك الانتصار". "هذا شيء سيكون موجودا دائما. إنه كما لو كان دمرك إلى الأبد".

وتضيف أنه كلما تحدثت عن الأمر، كلما تفاقمت المشكلة، حتى أن بعض الناس أخبروها أن الطريقة التي ارتدت بها ملابسها، ونشرت الصور على وسائل التواصل الاجتماعي، ساهمت في ذلك الأمر، وهكذا، وبشكل أساسي، تم إلقاء اللوم عليها، بدلا من منتجي هذه المواد.

وفي النهاية حولت مارتن انتباهها نحو مكافحة ذلك، عن طريق الدعوة إلى إقرار قانون وطني في أستراليا من شأنه تغريم الشركات 555 ألف دولار أسترالي (حوالي 370 ألف دولار أميركي) إذا لم تمتثل لإشعارات الإزالة لمثل هذا المحتوى من منظمي الأمان عبر الإنترنت.

لكن إدارة الإنترنت أمر شبه مستحيل عندما يكون لدى البلدان قوانينها الخاصة للمحتوى.

وتقول مارتن، التي تعمل حاليا محامية، وباحثة قانونية في جامعة ويست أستراليا، إنها تعتقد أنه يجب التغلب على المشكلة من خلال نوع من "الحلول العالمية".

وتؤكد بعض شركات الذكاء الاصطناعي إنها تحجب بالفعل الوصول إلى المحتوى الإباحي.

على سيبل المثال، قالت شركة "أوبن إيه آي" المطورة لـ"تشات جي بي تي"، إنها أزالت المحتوى الجنسي من البيانات المستخدمة لتدريب أداة إنشاء الصور DALL-E، مما يحد من قدرة المستخدمين على إنشاء تلك الأنواع من الصور.

وتعمل الشركة على "فلترة" طلبات المستخدمين، وتقول إنها تمنعهم من إنشاء صور بالذكاء الاصطناعي للمشاهير والسياسيين البارزين.

وتمنع "ميدجيرني" المطورة لبرامج الذكاء الاطناعي استخدام كلمات رئيسية معينة، وتشجع المستخدمين على الإبلاغ عن الصور التي يمكن أن تسبب مشاكل.

وفي نوفمبر الماضي، قررت شركة "ستابليتي إيه أي" للذكاء الاصطناعي منع استخدام أداة الصور الخاصة بها لإنشاء محتوى صريح، بعد تقارير عن استخدامها لتزييف صور مشاهير.

وقال متحدث باسمها إنها تعتمد على "فلتر" يستخدم كلمات رئيسية وتقنيات، مثل التعرف على العرى في الصور.

وبعض شركات وسائل التواصل الاجتماعي أيضا شددت قواعدها لتوفير حماية أفضل لمنصاتها من المواد الضارة.

وقال "تيك توك"، الشهر الماضي، إنه سيشير إلى المواد (التي تعرض مشاهد تبدو واقعية لكنها ليست كذلك) إلى أنها مزيفة أو تم تعديلها بطريقة ما، وقال إنه لم يعد يسمح بالتزييف العميق للناس والشباب الصغار.

وحدثت "تويتر" سياسة الصور المزيفة الصريحة، بعد أن رصدت موقعا إباحيا مزيفا، تورط في "التزييف العميف" أثناء بث مباشر في أواخر يناير.

وكانت الشركة قد حظرت بالفعل المواد المزيفة، أما الآن فمجرد إظهار ولو لمحة عن هذا المحتوى، حتى لو كان الغرض منه التعبير عن الغضب، من شأنه أن يؤدي إلى إزالة هذا المحتوى، كما سيؤدي الترويج للمواد المزيفة أو إنشائها أو مشاركتها عن قصد للحظر الفوري.

وقالت "آبل" و"غوغل" إنهما أزالتا تطبيقا من متاجر التطبيقات الخاصة بهما كان يشغل مقاطع جنسية مزيفة لممثلات، بهدف تسويق منتجه.

وفي فبراير الماضي، أطلقت شركة "ميتا" المالكة لفيسبوك وإنستغرام، بالإضافة إلى مواقع إباحية أداة تسمى "Take It Down" وهو موقع يسمح للمراهقين بالإبلاغ عن الصور والمقاطع الجنسية لأنفسهم على الإنترنت.

Total time: 0.0666