اقترح الفريق الحركي استعمال بعض تطبيقات الذكاء الاصطناعي التي تستخدم في التشخيص أو العلاج المرخص لها من قبل منظمة الصحة العالمية مكملة للقرار الطبي البشري، لكن دون الاعتماد عليها كليا.
واقترح الفريق الحركي أيضا الذكاء الاصطناعي في التعليم ضمن البرامج التربوية التعليمية والمساهمة في تحليل البيانات الفردية للطلاب وإعداد الامتحانات، بحسب مقترح قانون يُنظم استعمال الذكاء الاصطناعي.
ويشير مقترح القانون الذي اطلعت “مدار21” على نسخة منه، إلى منع الاعتماد على أنظمة الذكاء الاصطناعي بشكل كامل في التقييمات النهائية للطلاب، حيث يجب أن يكون التقييم البشري جزءا من القرار النهائي، مع إتاحة طرق استخدام أنظمة الذكاء الاصطناعي في البحوث الجامعية، والذي يحدد بنص تنظيمي.
وجاء في مقترح القانون في ما يتعلق باستخدام الذكاء الصطناعي في الحياة العامة، ضرورة إخبار المستهلكين بشكل واضح بقدرات جمع البيانات وتحليلها في الأجهزة الذكية المنزلية، مع توفير خيارات للتحكم في هذه البيانات أو منعها، وتوفير جميع الأجهزة المنزلية الذكية التي تعتمد على الذكاء الاصطناعي على معايير حماية وأمان عالية وأنظمة منخفضة المخاطر.
ويشير المقترح ذاته إلى إمكانية الاستعانة بالذكاء الاصطناعي لتقديم توضيحات أو إعلانات شخصية، ويجب على التجار الإلكترونيين إعلام العملاء بأن هذه التوضيحات أو الإعلانات مبنية على خوارزميات تعتمد على الذكاء الاصطناعي.
ويمكن استخدام الذكاء الاصطناعي في منصات التواصل الاجتماعي، خاصة في معالجة المحتوى وتقديم التوصيات، شريطة ألا يتم استخدام هذه التقنية في نشر الأخبار الزائفة أو الخطابات المسيئة أو الصور والفيديوهات المفبركة، بحسب المقترح.
وبخصوص الملكية الفكرية وحماية حقوق النشر، يلزم هذا المقترح الأنظمة التي تصنع محتوى (مثل النصوص، الفن، أو الموسيقى) أن تشير بوضوح إلى أن المحتوى تم إنشاؤه بواسطة الذكاء الاصطناعي حماية لحقوق الملكية الفكرية.
وتحدد المادة الثالثة من هذا المقترح المسؤوليات، إذ يجب بمقتضاها على كل مؤسسة أو فرد يستخدم الذكاء الاصطناعي إعلام المستخدمين بأنهم يتعاملون مع نظام يعتمد على الذكاء الاصطناعي، وتحمل المستخدم أو المؤسسة المسؤولية الكاملة عن أي ضرر ناتج عن قرارات أو أفعال أنظمة الذكاء الاصطناعي.
وبخصوص حماية البيانات، تفرض المادة الخامسة من هذا المقترح على جميع أنظمة الذكاء الاصطناعي التي تعتمد على البيانات الشخصية الالتزام بالقانون رقم 08-09 المتعلق بحماية الأشخاص الذاتيين تجاه معالجة المعطيات ذات الطابع الشخصي وبالقوانين ذات الصلة الجاري بها العمل، مع ضرورة تأمين البيانات الشخصية وضمان عدم استخدامها إلا للأغراض المصرح بها من قبل المستخدم أو مالك البيانات.
وتمنع المادة 11 من هذا المقترح استخدام أنظمة الذكاء الاصطناعي في البنية التحتية الحيوية بدون ترخيص من لدن الإدارة وتحدد بنص تنظيمي المجالات المعنية بالترخيص، إذ يجب على أي جهة تستخدم الذكاء الاصطناعي في إدارة البنية التحتية الحيوية أن تقدم تقارير دورية للجنة الوطنية المشار إليها أعلاه في المادة 6 من هذا القانون حول مستوى أمان الأنظمة وآليات حماية البيانات والمعلومات.
وتفرض المادة الـ13 من هذا المقترح حماية الخصوصية وتحليل البيانات، من خلال إخفاء هوية المستخدمين في جميع البيانات التي يتم جمعها أو تحليلها من خلال أنظمة الذكاء الاصطناعي، لتجنب إمكانية التعرف على الأفراد دون موافقتهم الصريحة، مع إلزامية استخدام تقنيات تشفير متقدمة لضمان عدم وصول أي طرف غير مصرح له إلى البيانات المستخدمة في تشغيل أنظمة الذكاء الاصطناعي، إلى جانب استخدام خوارزميات تعلم آلي تكون مصممة لتجنب أي تسريبات بيانات أو اختراقات خلال عملية المعالجة.
وحمّل المقترح مطوري ومنفذي أنظمة الذكاء الاصطناعي المسؤولية عن أي خطأ برمجي في النظام يتسبب في نتائج غير متوقعة أو ضارة، إذ في حالة حدوث أي خلل تقني أو اختراق أمان سيبراني، يجب على الشركات تقديم تقرير مفصل للجهات التنظيمية حول سبب الخطأ والإجراءات المتخذة لتصحيحه ومنع حدوثه مرة أخرى، وفق المادة الـ14.
وفيما يتعلق بالعقوبات، فيقترح الفريق الحركي في حال انتهاك أي من أحكام هذا القانون، جواز فرض غرامات مالية تتراوح بين 50,000 درهم و500,000 درهم حسب طبيعة ومدى الانتهاك، وفي حال تكرار الانتهاك أو التسبب في أضرار جسيمة، يمكن فرض عقوبات بالسجن تتراوح من 6 أشهر إلى 5 سنوات، بحسب المادة الـ15.
وبناء على المادة 16 المقترحة، يتم تحميل الأفراد أو المؤسسات المسؤولية الجنائية في حالة الاستخدام غير المشروع أو المسيء لأنظمة الذكاء الاصطناعي، سواء كان ذلك عبر انتهاك خصوصية الأفراد أو التسبب في ضرر جسدي أو مادي.
ويأتي هذا المقترح بحسب المذكرة التقديمية، لكون أحدث موجات التكنولوجيا تعتمد على الذكاء الاصطناعي، حيث أن هذا الأخير دخل في صلب جميع القطاعات والمجالات، واعتبارا لما تنطوي عليه هذه الآلية التكنولوجيا الرقمية المتطورة من إيجابيات ومن سلبيات في نفس الوقت، فإن دخولها الى مجال التقنين أصبح أمرا ملحا.
ويأتي هذا المقترح أيضا في سياق الاستراتيجية التي وضعتها المملكة، والتي تتثمل في المغرب الرقمي 2030 وفي إطار التطور الرقمي الذي انخرط فيه.
وفي ظل الممارسات التي أصبحت شائعة من قبيل الصور والفيديوهات المفبركة والاخبار الزائفة، والأخطار المتعلقة باستخدام الذكاء الاصطناعي في مختلف مناحي الحياة (التعليم والصحة والخدمات اليومية وغيرها) وكذا استنادا الى التوصيات الدولية التي تدعو الى ضرورة التشريع لأنظمة الذكاء الاصطناعي.
