قضية السيدة أم كلثوم مجرد بداية.. مدى قانونية استنساخ الصوت بواسطة الذكاء الاصطناعى.. لا توجد عقوبات على التزييف العميق.. ومطالبات بسد "الفراغ التشريعى" ووضع ضوابط.. وخبير يُجيب عن الأسئلة الشائكة

بادئ ذي بدء يعرف استنساخ الصوت بأنه هو تقنية تسمح بإنشاء أصوات اصطناعية تحاكي الصوت المستهدف من خلال تركيب الكلام، من خلال استنساخ الصوت، ومن خلال ذلك يمكنك نسخ صوت شخص ما بشكل واقعي لاستخدامه في المساعدين الصوتيين أو تطبيقات مبدل الصوت في الوقت الفعلي تقليديا، ويتطلب استنساخ الصوت ساعات من الكلام المسجل لبناء مجموعة من مجموعات البيانات التي يمكن استخدامها لبناء نموذج صوتي جديد ومع ذلك من الممكن الآن إنشاء نسخ صوتية ببضع خطوات سهلة.

 

وفي نفس الصدد - فقد كان تركيب الكلام، أي عملية إنتاج الكلام البشري بشكل مصطنع، موجودًا منذ عقود، ومثل كل التقنيات، فقد مرت بتغيرات عميقة على مر السنين، فأولئك الذين استخدموا Windows 2000 و XP قد يتذكرون Microsoft Sam، الصوت الافتراضي لتحويل النص إلى كلام لنظام التشغيل، فقد أنجزت Microsoft Sam المهمة، لكن الأصوات التي أنتجتها كانت آلية وقاسية وغير طبيعية، إلا أن الأدوات التي لدينا تحت تصرفنا اليوم أكثر تقدمًا إلى حد كبير، ويرجع الفضل في ذلك إلى حد كبير إلى التعلم العميق.   

 

 

قضية السيدة أم كلثوم مجرد بداية

 

في التقرير التالى، يلقى "برلماني" الضوء على قضية التقليد الصوتى للسيدة أم كلثوم، ومدى قانونية استنساخ الصوت بواسطة الذكاء الاصطناعي، حيث أن التعلم العميق هو طريقة للتعلم الآلي تعتمد على الشبكات العصبية الاصطناعية، وبسبب هذه الشبكات العصبية، فإن الذكاء الاصطناعي الحديث قادر على معالجة البيانات تقريبًا مثل الخلايا العصبية في دماغ الإنسان التي تفسر المعلومات، وهذا يعني أنه كلما أصبح الذكاء الاصطناعي أكثر شبهاً بالإنسان، كان من الأفضل محاكاة السلوك البشري - بحسب أستاذ القانون الجنائى والخبير القانونى الدولى محمد أسعد العزاوى.

 

وفي نفس المقام، فقد انتشر استنساخ الصوت بالذكاء الاصطناعي أيضًا إلى عالم الموسيقى، حيث يستخدم الناس التكنولوجيا لإنشاء أغانٍ ذات غناء تبدو متطابقة مع الفنانين المشهورين، حيث انتشرت أغنية مع دريك على الإنترنت، على الرغم من أن أيًا من الفنانين لم يشارك في إنشائها، وتمكنت شركة الإدارة التي تمثل كلا الفنانين من إزالة الأغنية من خدمات البث، فقط بسبب عينات صوتية غير قانونية، وليس الأصوات الذكاء الاصطناعي، وعلق دريك قائلاً: "هذه هي القشة الأخيرة للذكاء الاصطناعي"، بعد أن انتشر مسار تم إنشاؤه بواسطة الذكاء الاصطناعي وهو يغني أغنية - Ice Spice's Munch – وفقا لـ"العزاوى". 

 

 

مطرب كندى: لا تتردد في استخدام صوتي بدون عقوبة

 

فيما يتطلع فنانون آخرون مثل الموسيقي الكندي "غرايمز" إلى المستقبل حيث يمكن أن تستمر هذه التكنولوجيا في النمو وتغيير الطريقة التي تعمل بها صناعة الموسيقى، كما غرد غرايمز "سأقسم 50٪ من الإتاوات على أي أغنية ناجحة تم إنشاؤها بواسطة الذكاء الاصطناعي وتستخدم صوتي: "لا تتردد في استخدام صوتي بدون عقوبة"، ومن خلال ذلك يمكن للناس كتابة الأغاني بأنفسهم، ولكن تسجيلها بأصوات المطربين المشهورين لجذب الانتباه حتى الآن، وحتى الآن لا توجد عقوبات قانونية على التزييف العميق للموسيقى، لكن صحيفة نيويورك تايمز ذكرت أنها تشكل مخاطر التعدي على سمعة الفنانين، وحرمان المطربين من الربح والاستيلاء الثقافي على الفنانين BIPOC – الكلام لـ"العزاوى".

 

وكمثال على ذلك، ولأول مرة منذ 25 عاماً، "حيث سيتمكن جمهور المغني الكوري الجنوبي كيم كوانغ سيوك الذي توفي عام 1996م، من سماع صوته، في أغنيات لم يسبق أن قدمها من قبل، ويحدث هذا في وقت لاحق على شبكة التلفزيون الكورية "إس بي إس"، وذلك باستخدام الذكاء الاصطناعي، وفق ما نقلت شبكة "سي إن أن"، وأثارت العروض الأخيرة للذكاء الاصطناعي حماسة المعجبين بموسيقاهم وتقنياتهم، لكن آخرين أثاروا مخاوف بشأن أخلاقيات وقوانين إحياء أصوات الموتى وحقوقهم، فاستيلاء شخص على بصمة صوت شخص توفي ولا يملك القبول أو الرفض، ووضع ذلك في عمل فني مهما كان مستواه هو عبث وتعد غير مقبول – هكذا يقول أستاذ القانون الجنائى والخبير القانونى الدولى. 

 

 

تقديم أعمال جديدة بواسطة الذكاء الاصطناعي يثير قضايا حقوق النشر

 

ويثير تقديم أعمال جديدة بواسطة الذكاء الاصطناعي أيضاً قضايا حقوق النشر، من يعتبر المالك؟ منشئ البرنامج، أم نظام الذكاء الاصطناعي نفسه، ولعل أن قضية السيدة أم كلثوم مشابهة تماماً لما حصل مع المغني الكوري الجنوبي كيم كوانغ سيوك، حيث إعلان الملحن عمرو مصطفى في وقت سابق عن نشر إعلانًا ترويجيًا لأغنية بعنوان "أفتكرلك إيه"، يصاحبها صورة لأم كلثوم بجانب صورته، على حسابه بإحدى منصات التواصل الاجتماعي، وأشار في منشوره الذي اختفى بعد ذلك، إلى تجربة جديدة عبر تقنية الذكاء الاصطناعي لإنتاج أغنية كاملة بصوت يحاكي أم كلثوم، من ألحانه وكلماته.  

 

واقعة الفنان عمرو مصطفى وأسرة الراحلة أم كلثوم

 

وفي الصدد نفسه، تقدمت جيهان الدسوقي، حفيدة شقيقة أم كلثوم، ببلاغ للنائب العام ضدّ الملحن عمرو مصطفى، بعد تقديمه مصنفاً غنائياً بصوت المطربة الراحلة، استخدم فيها الذكاء الاصطناعي، من دون إذن كتابي مسبق من صاحب الحق أو من ورثتها، إلا أنه تم التواصل مع الفنان عمرو مصطفى وأسرة أم كلثوم وتم حل المشكلة وديا وإنهاء سوء الفهم ونبذ الخلاف والاتفاق فيما بينهم على الحصول علي  تنازل من أسرة أم كلثوم فى حال استخدام المحتوى لمدة 50 سنة.

 

 

وفي وقت سابق، انتشرت أغنية تستخدم الذكاء الاصطناعي لاستنساخ أصوات المغنيين العالميين دريك وذا ويكند على وسائل التواصل الاجتماعي، وكانت الأغنية "Heart On My Sleeve"، حققت جدلا كبيرا، وانتشارا وحققت ملايين المشاهدات على المواقع الاجتماعية، وحينها قال مؤلف الأغنية، المعروف باسم جوست رايتر "ghostwriter"، إن الأغنية تم إنشاؤها بواسطة برنامج ذكاء اصطناعي تمت برمجته على الأصوات الموسيقية، وعلى الفور قامت إحدى كبرى شركات الموسيقى في العالم، والتى تمثل كلا من النجوم العالميين دريك، وأريانا غراندي، وهارى ستايلز، بإرسال إنذار إلى منصات بث الموسيقى، طلبت منهم عدم السماح لبرامج ومنصات الذكاء الصناعي من استخدام منصاتهم لأغنيات الذكاء الصناعي، وطلبوا إزالة الأغنية فورًا، وأثارت قضية حقوق الملكية الفكرية، على ضوء تطور الذكاء الاصطناعي، وطالبت الشركة بتعويض مالي كبير.

 

معارك مستقبلية للدفاع عن الرأس مال البشرى ضد الذكاء الاصطناعي

 

وفي السياق ذاته، قال المغنى البريطاني ستينج، إنه يتوقع أن يخوض الفنانون "معارك" من أجل الدفاع عن أعمالهم، في مواجهة استخدام الذكاء الاصطناعي في الصناعة الموسيقية، وقال مغنى فرقة "بوليس" السابق، والبالغ 71 عاماً، في مقابلة مع محطة "بى بى سي" البريطانية: " إن اللبنات الأساسية للموسيقى تخصنا نحن البشر، وستحصل معركة يتعين علينا جميعاً خوضها في السنوات المقبلة، تتمثل في الدفاع عن رأسمالنا البشرى ضد الذكاء الاصطناعي"، ومن جانب آخر - حذر الناقد الموسيقي محمود الرفاعي من خطورة استخدام الذكاء الاصطناعي، وأوضح أنه سيتسبب في مشكلات عدة خلال الفترة المقبلة في كل أرجاء العالم وليس فقط في وطننا العربي.  

 

 

إشكالية تقليد صوت من اعتزل

 

والسؤال الذي يثار هنا ماذا لو أن أحد المغنين قد اعتزل الغناء منذ فترة معينة، ولكن بعده فترة من الزمن قام أحد الملحنين باعتماد صوته بواسطة الذكاء الاصطناعي، فهل يحق للأول المطالبة بالتعويض كون الأخير قد أستغل صوته دون أذنه، يُجيب "العزاوى": لا شك أن مثل هذا الأمر إذا ظل بلا تنظيم قانوني، فيعني أننا أمام مشاكل كبيرة ستقع مستقبلاً كما أن هذا الأمر سيؤثر على أصوات المعلقين الرياضيين أصحاب الأصوات المتميزة بالإضافة إلى ذلك أصوات المذيعين الإخباريين وغيرهم وما قضية السيدة أم كلثوم إلا مجرد بداية.   

 

ومع استمرار تقدم تقنية الذكاء الاصطناعي، يجد المحتالون طرقًا جديدة لاستغلالها، حيث برز استنساخ الصوت كأداة خطيرة بشكل خاص، حيث يستخدمه المحتالون لتقليد أصوات الأشخاص الذين يعرفهم ضحاياهم ويثقون بهم من أجل خداعهم لتسليم الأموال، ومن جهة أخرى، قالت ماري هاينز، خبيرة الذكاء الاصطناعي: "سيتمكن الأشخاص قريبًا من استخدام أدوات مثل ChatGPT أو حتى Bing وفي النهاية Google، لإنشاء أصوات تشبه إلى حد كبير أصواتهم، واستخدام إيقاعهم وسيكون من الصعب جدًا تمييزه عن الشخص الحقيقي.   

 

 

الذكاء الإصطناعى والإحتيال والنصب

 

وقد صرح نيك إيفرشيد، الصحفي في صحيفة Guardian Australia ، إنه كان قادرًا على الوصول إلى حساب الخدمة الذاتية الخاص به في Centrelink باستخدام نسخة من صوته تم إنشاؤها بواسطة الذكاء الاصطناعي - مما يسلط الضوء بشكل فعال على عيب أمني خطير في نظام التعرف على الصوت، لا شك أن مثل هذا الأمر يسبب مخاوف متزايدة من تهديد الذكاء الاصطناعي لأنظمة المصادقة الصوتية، كما وقد  أشار تحقيق Evershed إلى أن استنساخ صوته، إلى جانب الرقم المرجعي لعميله، كان كافياً للوصول إلى حساب الخدمة الذاتية الخاص به في Centrelink.

 

وفي ضوء ذلك - قالت إدارة شرطة بلدة هافرفورد في بنسلفانيا في بيان صحفي إن بعض المحتالين يستخدمون أيضًا الاستنساخ الصوتي بالذكاء الاصطناعي لإنشاء رسائل بريد صوتي مزيفة من مصادر موثوقة، وقد أوضح ستيف وايزمان، خبير الاحتيال والمحاضر في كلية القانون بجامعة بنتلي، أن المحتالين يمكنهم الحصول على تسجيل لصوت شخص ما من مقاطع الفيديو المنشورة على منصات الإنترنت الشهيرة مثل YouTube أو TikTok أو Instagram أو Facebook، مضيفا أن المخادع قد يحتاج فقط إلى 30 ثانية فقط من مشاركة صوت شخص ما عبر الإنترنت لإنشاء مكالمة تم إنشاؤها بواسطة الذكاء الاصطناعي لأفراد عائلته. 

 

 

حكاية "جينيفر ديستيفانو" الشهيرة والمكالمة المجهولة

 

ففي إحدى القضايا تلقت "جينيفر ديستيفانو" مكالمة مجهولة بعد ظهر أحد أيام يناير بينما كانت ابنتها البالغة من العمر 15 عامًا خارج المدينة لسباق تزلج، حيث سمعت ديستيفانو ابنتها ترد على الهاتف، مذعورة وتصرخ ، وسرعان ما تبعها صوت رجل يهدد بتخدير ابنة ديستيفانو وخطفها ما لم يتم إرسال مليون دولار إليه، حسبما ذكرت شبكة سي إن إن، وقد تمكنت DeStefano من الوصول إلى ابنتها بعد بضع دقائق، التي كانت بخير وحيرة بشأن ما حدث، لأنها لم تختطف ولم تشارك في طلب الفدية، وقد ساعد المستجيبون للطوارئ الأسرة على تحديد المكالمة على أنها خدعة تستخدم الذكاء الاصطناعي.

 

تقليد صوتى يؤدى لعمليات نصب على البنوك

 

وفي قضية أخرى تم خداع مدير بنك في هونغ كونغ من قبل شخص يستخدم تقنية استنساخ الصوت لإجراء تحويلات ضخمة في أوائل عام 2020، ومن جهة أخرى، فقد خسر ما لا يقل عن ثمانية من كبار السن في كندا مبلغًا إجماليًا قدره 200 ألف دولار في عملية احتيال واضحة لاستنساخ الصوت، وفي قضية أخرى، تم خداع الرئيس التنفيذي لشركة بريطانية تعمل في مجال الطاقة بمبلغ قدره 243 ألف دولار، واعتمدوا في هذه العملية على التزوير الصوتي لرئيس الشركة الأم يطلب فيها تحويل الأموال في حالات الطوارئ وأسفرت العملية عن تحويل مبلغ إلى الحساب المصرفي للمحتال، أما في الإمارات العربية المتحدة فقد تم الإبلاغ عن حالة مماثلة في الإمارات العربية المتحدة، حيث تم الاستيلاء على مبلغ قدره 400 ألف دولار في عملية احتيال شملت أيضًا التزييف العميق للصوت. 

 

 

مقترح لجنة التجارة الفيدرالية "FTC"

 

تقترح لجنة التجارة الفيدرالية "FTC" أنه إذا طلب شخص ما يشبه صديقًا أو قريبًا الحصول على المال - خاصة إذا كان يريد أن يتم الدفع له عن طريق التحويل البنكي أو العملة المشفرة أو بطاقة الهدايا - فعليك إنهاء المكالمة والاتصال بالشخص مباشرة للتحقق من قصته، وتوصي لجنة التجارة الفيدرالية أنه إذا تلقيت مكالمة مقلقة من أحد أفراد أسرتك وهو في ورطة، فاتصل بالشخص الذي يُفترض أنه اتصل بك مرة أخرى على رقمه المعتاد وتحقق من القصة، إذا طلب المتصل المال من خلال قنوات مشكوك فيها يصعب تتبعها، مثل الأسلاك أو العملات المشفرة أو بطاقات الهدايا، فقد يكون ذلك علامة على عملية احتيال، يوصي خبراء الأمن بإنشاء كلمة آمنة مع أحبائهم يمكن استخدامها في حالة الطوارئ الحقيقية ولتمييز عمليات الاحتيال.  

 

روشتة نصائح لتجنب النصب بالذكاء الإصطناعى

 

كما أصدر مكتب التحقيقات الفيدرالي تحذيرات بشأن عمليات الخطف الافتراضية، ويحذر الخبراء من أن أي شخص لديه البرنامج المناسب يمكنه استنساخ الأصوات في غضون ثوانٍ فقط، فهل ستكون الحياة مرهقه في ظل هذا التطور التكنولوجي بشأن أستنساخ الصوت، ومع انتشار هذه التكنولوجيا على نطاق واسع، يحث الخبراء الناس على توخي اليقظة والتحقق من المكالمات الواردة من الأصدقاء والعائلة قبل إرسال أي أموال، وفي ضوء ذلك يقول "هاينز": "هناك كل أنواع الأدوات التي يمكن أن تأخذ الكلمة المكتوبة وتخلق صوتًا منها، وسنكتشف قريبًا أن مكالمات الاحتيال ستزداد حقًا"، ويبقى التساؤل مطروحا هنا كيف يمكنني تجنب الوقوع كضحية لمثل هذه الحيل؟ فيما يلي بعض النصائح من الخبراء:

1- أتفق على كلمة أو عبارة رمز سري يستخدمها أفراد عائلتك أو شركاؤك في العمل عندما يكونون في مأزق ، كما توصي شرطة Haverford Township، يمكنك بعد ذلك أن تطلب من شخص ما كلمة السر قبل تقديم أي معلومات.

2- قم بإنهاء المكالمة واتصل بالشخص أو الشركة التي من المفترض أنها اتصلت بك، استخدم رقم هاتف تعرف أنه ملكهم.

3- أطرح أسئلة لا يعرف إلا الشخص الحقيقي إجاباتها، مثل الحكايات أو المعلومات حول محادثتك الأخيرة. يمكنك أيضًا أن تسأل عن المعلومات الخاصة التي لا يمكن جمعها من حساب وسائل التواصل الاجتماعي.

4- إذا طلب منك المحتال تحويل الأموال أو إرسال عملة مشفرة أو شراء بطاقات هدايا، فقم بإنهاء المكالمة على الفور.   

 

 

مدى قانونية استنساخ الصوت بواسطة الذكاء الاصطناعي

 

ويضيف "العزاوى": أن أي محاولة لتقييد هذه التكنولوجيا يستلزم أن يكون هناك تعاونًا دوليًا إلى درجة لم نشهدها منذ عقود، كما أن هذه المسألة تخلو من  القوانين أو اللوائح الكافية لحمايتهم من الاستخدامات غير الآمنة للذكاء الاصطناعي، فقد أصبح من الضروري جداً عقد الندوات أو ورشات العمل أو المؤتمرات لمناقشة مثل هكذا قضايا بالغة الخطورة قبل وقوع ما لا يحمد عقباه، وأرى أنه من الضروري جداً تشريع قانون ينظم ويحدد عمليات الذكاء الاصطناعي.

 

وأما عن حقوق الملكية الفكرية في استخدام تقنية الذكاء الاصطناعي deep fake في اصطناع الأصوات لاستخدامها في صنع عمل فني طالما أن المستخدم استخدم ألحان أو كلمات يمتلك حقوقها، ودمجها بصوت جديد مصطنع بهذه التقنية، فذلك لا يمثل انتهاك لحقوق الملكية الفكرية، حيث أن القانون الدولي والداخلي ينظمان حماية حقوق الملكية الفكرية، وهناك أكثر من 26 اتفاقية دولية في هذا الشأن، حيث أن قانون الملكية الفكرية المصري رقم 82 لسنة 2002 يؤكد ذلك في المادة "140"، والتي أشارت للمصنفات المحمية على سبيل الحصر ولم يكن من بينهم الصوت البشري بحد ذاته، وهذا المعمول به في كافة دول العالم.   

 

 

خبير قانونى دولى: لا توجد عقوبات قانونية على التزييف العميق

 

وهناك حقوق أخرى تخضع للحماية ترتبط بالصوت مثل الكلمات واللحن، والتسجيل الصوتي، يمكن من خلالها وقف أي انتهاك لحق الملكية الفكرية إذا كان العمل مقلد بشكل واضح، كما أن الصوت المصطنع بهذه التقنية لن يكون مشابه للصوت الأصلي بشكل دقيق، حيث إن تقنية الذكاء الاصطناعي مهما بلغت درجة دقتها في وقتنا الراهن لن تصل للصوت الأصلي، ولكن المخاطر ستظهر في المستقبل القريب العاجل حيث أن فكرة الإبداع ومخرجات المؤلف هي التي تجعل الجمهور يعتقدون أن الصوت المشابه يتعلق بذات الشخص المعنى أو بمعنى أخر "خداع سمعي"، فبذلك يصبح ذلك عملاً فنياً أصيلاً، ولا يمثل انتهاكاً لحقوق الملكية الفكرية للصوت الأصلي. 

 

فضلا عن ضرورة الأخذ في الاعتبار قاعدة الإستخدام العادل، وما إذا كان هذا الاستخدام ضار أو كان بغرض الإبداع الفني، لأن هناك حالات كثيرة تم استخدام تقنية Deep fake بشكل ضار، بالإضافة إلى مسألة حماية حقوق الملكية الفكرية، فيجب أن تكون طبيعة المحتوى محور الاهتمام، بحيث يكمن الخطر الرئيسي لتقنية Deep fake في استنساخ الصوت لأغراض خبيثة، ولذلك تصبح هذه التقنية سلاح ذو حدين حيث يمكن أن تستخدم في الخير والأعمال الفنية الإبداعية وإحياء التراث، وهذا ما يستوجب أن ندعمه بشدة، أما في حالة استخدامها بشكل يضر بالآخرين وما يمثل انتهاك لحقوقهم فيجب أن يتم وقف هذا الاعتداء. 

 

 

ومطالبات بتشريع ينظم المسألة بوضع ضوابط

 

ولابد من الأخذ في الإعتبار أنه عندما يتم النص بالوصف على أن المقطع الصوتي الذي تم إنشاؤه بالكامل بواسطة تقنية الذكاء الاصطناعي كما حدث في عدد من النزاعات، فإن منشئة بذلك يكون حريصًا على تذكرة الناس بأن مقطع الصوت هذا لم يكن حقيقيًا، بحيث لا يمكن حدوث أي التباس، بما يقتضي معه الأخذ في الاعتبار بنية الشخص الذي يقف وراء هذا العمل الإبداعي، ولا يوجد سوي عدد قليل من الدول التي لديها قوانين تتعلق على وجه بالتحديد بهذه التكنولوجيا، إلا أن مصر وكافة الدول العربية لم تصدر تشريعات حتى الآن لتنظيم هذه التكنولوجيا، إلا أن دولة الإمارات العربية نظمت بعض الأمور.