1 – أفلاطون الآلي يجيب ولا يسأل

في محاوراته الفلسفية التي قاربت الثلاثين، خـلَّد أفلاطون أستاذه سقراط وطريقته في نقل المعرفة إلى تلاميذه، حين جعله الشخصية الرئيسة في تلك المحاورات التي يطرح فيها سقراط الأسئلة على تلاميذه أكثر مما يقدِّم لهم من إجابات. والهدف هو دفعهم إلى البحث عن الأجوبة بأنفسهم، فإذا ما أجابوا عاد إليهم بطرح أسئلة جديدة حول الموضوع نفسه، بغية اختبار أصالة طرح التلميذ وقدرته على الصمود في وجه الطعن الفكري. 

وبالمثل كان حكماء الشرق الصينيون واليابانيون والهنود يعتمدون على الوسيلة نفسها، ولم يزل شكل المحاورة ملهمًا لعديد من الكُتَّاب حتى اليوم. 

في الصيحة العالمية التي بتنا نعرفها بـ “شات جي بي تي” وأمثاله من تطبيقات محاورات الذكاء الاصطناعي، تبرز المحاورة الأفلاطونية من حيث الشكل، لكنها في المنهج والمحتوى سارت على عكس منهج المُعلم سقراط بطل المحاورات الأفلاطونية.

إنها لا تطرح أسئلة بل تقدِّم إجابات، كانت تتسم بشيء من عدم الوضوح في بعض الأحيان لحظة الإعلان عن إطلاق برنامج “شات جي بي تي”، وهو أحد برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي AI، في نوفمبر من العام الماضي. وكأن تلك الإجابات “الروبوتية” جاءت لتُعفينا نحن التلاميذ، من عناء التفكير والبحث، رغم ما ينطوي على تبعاتها من مخاطر.

لقد كانت الدهشة عنوان تلك اللحظة، التي تسرَّع كثيرون في إبداء حماستهم ترحيبًا بالوافد الشبكي الجديد بوصفه وسيلة لخدمة البشرية ورفاهيتها، بينما اتجه آخرون إلى التحفظ باعتبارها تهديدًا لعديد من المهن التي يمكن أن تحل محلها.

بطبيعة الحال بدأت بعض الشركات في التفكير الجدي في مستقبل الوظائف التي لا تتعامل مع الجمهور، إذ صرح المدير العام لشركة “آي بي إم”، أرفند كريشنا، في مقابلته مع شبكة “بلومبيرغ”، أول مايو الماضي، بأن شركته تفكر في الاستغناء عن %30 من موظفي الموارد البشرية خلال السنوات الخمس المقبلة.

وفي مقابلة لاحقة مع شبكة “سي إن بي سي”، أكد كريشنا أن الذكاء الاصطناعي لن ينافس البشر، بل سيعيد توجيه العمالة البشرية، وضرب مثالًا بميكنة الزراعة التي تسببت في الاستغناء عن معظم العمالة اليدوية الزراعية، لكنها أعادت توجيه هذه المجهودات البشرية إلى وظائف مستحدثة.  

التوليدية وكيس المكنسة

ولكي ندرك مدى خطورة البرنامج، لابد أن نتأمل طريقة عمل جيل محركات البحث السابق له والمستخدم حتى الآن، مثل محرك غوغل ومواقع التواصل الاجتماعي التي يشار إليها بـ “النماذج غير التوليدية”، والتي توفر المعلومات حول موضوع البحث من خلال روابط منفصلة، إذ يمكن للباحث أن يتصفحها رابطًا بعد آخر، وكل مادة، سواء أكانت مقالًا أم مقطع فيديو أم غير ذلك، لها وجودها الخاص وبتوقيع صاحبها، وقد تكون مرتبطة بمعلومات تعريفية عن صاحب الصفحة وضعها بنفسه عن نفسه، الأمر الذي يجعل المتصفح مدركًا للطبيعة الشخصية ولما يتلقاه من معلومات. وكلما فتح المتصفح رابطًا جديدًا حمل رأيًا مختلفًا، وتتسع رؤيته ويستطيع في النهاية أن يكوِّن رأيه من خلال اختلافات الآراء التي تلقاها.  

وهذه المحركات، المنعوتة بغير التوليدية، ليست خالية من العيوب بطبيعة الحال، فهي ترتب روابط المقالات وفق برمجيات خاصة بها تأخذ في حسبانها أعداد الزائرين، أي طبقًا لشعبيتها.

ومعروف، بالطبع، أن الأكثر شعبية قد يكون الأقل قيمة، وهكذا يمكن للمتصفح أن يكتفي بالموضوعات الأقل قيمة التي تتصدر قائمة النتائج، بالإضافة إلى ما تقرره هذه الوسائل بنفسها من قيود قد لا تكون محقة فيها.

أما برامج الذكاء الجديدة التي تُعرف بالـ”توليدية” فهي مصممة لكي تمتص المعلومات آليًّا دون تدخل العقل البشري، وبالتالي تختزن كمية ضخمة من المعلومات تشبه حساءً موحدًا، وبالطبع لا بد أن يطغى فيه الرائج. 

ويمكننا أن نُشبِّه هذه الآلية لجمع المعلومات بعمل المكنسة الكهربائية فوق سجادة، فهي تمتص الغبار والعملة المعدنية وربما خاتمًا ذهبيًا أو قرطًا، وربما حتى مفتاح البيت. ولأن التراب هو الغالب، فنحن لا نرى سواه عندما نُفرغ كيس المكنسة، ولن تظهر أشياؤنا المفقودة، ولن نجدها إلا إذا انتبهنا مسبقًا إلى أننا فقدنا شيئًا أثناء عملية الكنس، أو فيما لو عزمنا على غربلة كل هذا التراب ونكشه بحثًا عن الشيء المفقود. 

إنه لمن سوء الطالع، إذا ما وجدنا أن كميات التراب أكبر من كميات الذهب على الشبكات وقواعد البيانات التي تصل إليها البرامج التوليدية، وهذا هو العيب البنيوي الأول لهذه الآلية.  

باختصار، هناك تخوّف له أسبابه الوجيهة من أن يعمل أفلاطون الآلي على تحويل البشر كلهم إلى أطفال من السهولة بمكان يُتلاعَب بهم. هذه المخاطر تضع العلم في مواجهة الأخلاق، وكأننا بصدد امتحان جديد للبشرية ولكن موضوعه هذه المرَّة هو الذكاء الاصطناعي، الأمر الذي يذكرنا بأخطر الامتحانات التي تعرَّضت لها البشرية على أعتاب الألفية الثالثة بسبب الاستنساخ، عندما ولدت النعجة دولي عام 1996م استنساخًا من خلية ومن جنس واحد ومن نعجة دون تزاوج. 

لم يتوقف الجدل الأخلاقي حول الاستنساخ حتى اليوم، وفيما يبدو أن الجدل حول أخلاقية الـ”شات جي بي تي” وأمثاله لن يتوقف قريبًا. 

2 – إرهاصات القرصنة والعنصرية والتزييف العميق

د. غسان مراد

على الرغم من الفوائد التي تقدّمها برمجيات الذكاء الاصطناعي، فإن الدعوات أخذت تتصاعد من دول ومديرين وصنَّاع تقنيات محذرة من المخاطر المختلفة. تلك المخاطر مرتبطة بصراعات اقتصادية وسياسية، وبعضها متعلق بسرية الابتكارات، وبعضها لا ينفك تأثيره وتأثره بالأمن السيبراني وتصنيع الأسلحة.

هناك تحذيرات جادة وعميقة من إستراتيجيات خوارزمية في “النمذجة” الرقمية، تؤثر في ثقافة المجتمعات، خاصةً فيما يتعلق بحقوق الإنسان والحرية والتمييز.

مخاطر وحلول

أدّت هذه الإستراتيجيات، خاصة التي تعتمد على توليد النصوص من خلال البيانات المتاحة على الإنترنت، إلى توخي عديد من الدول والشركات الحذر في تعاملاتهم مع الشبكة أو المحيط الخارجي، ما أدّى إلى عدم استخدامها في مؤسسات عديدة وإيقافها في بعض الدول.

على سبيل المثال، فقد تمت الموافقة على نموذج “شات جي بي تي” واستخدامه في إيطاليا، بعد حظره في نهاية شهر مارس 2023م من هيئة حماية البيانات الشخصية الإيطالية.

 النماذج اللغوية وتنفيذ المهام 

باتت النماذج اللغوية التي ترتكز إلى المعالجة الآلية للغات كـ “شات جي بي تي” أكثر انتشارًا. وآتت النتائج المولَّدة باهرة وهي تطبّق على لغات عديدة. ترتبط جودة النتائج ارتباطًا وثيقًا بعدد البيانات المتوفرة التي جرى تدريب خوارزمياتها عليها، إلى أن أصبح هذا النوع من الخوارزميات سائدًا في عددٍ كبير من البرمجيات المعتمدة على التعلّم الآلي من البيانات بأنواعها كافة. 

بالنسبة إلى النماذج المعتمدة على خوارزميات الذكاء الاصطناعي، فمنها ما يعتمد على بيانات المستخدم كـ “فيسبوك” وغيره من برمجيات شبكات التواصل، ومنها ما هو توليدي، (GPT Generative Pretrained Transformer)، وهي المحولات التوليدية سابقة التدريب التي لا يُعرف بالتحديد كيف تُجري عملية التحولات اللغوية لبناء نص جديد من مجمل ما لديها من معلومات، إلا أنها تتعلّق بالسياق اللغوي لطلب المستخدم. 

بشكل عام، تعمل هذه البرمجيات من خلال توقّع الكلمة أو العبارة التالية في محادثة ما بناءً على السياق والمعلومات المتاحة، وتستخدم شبكة عصبية تسمّى “المحوّل” لمعالجة المدخلات وتوليد استجابة. ما يقوم به البرنامج هو تشكيل علاقة بين الكلمات والجُمَل، بالاعتماد على حساب الاحتمالات. فعند التعرّف على كلمة مفتاحية معينة، يقوم البرنامج بالبحث عن سياق مفرداتها، ثم يقوم بالبحث عن سياق المفردتين للبحث عن المفردة الثالثة لإضافتها من خلال ما هو ممكن ومُدرج سياقًا في البيانات التي تدرّب عليها وهكذا، إلى أن يصل إلى حدٍّ ما، ثم يطلب من المستخدم المتابعة أو التوقف. هذا التفاعل، على الرغم من بساطته، يصبح أداةً لتعلّم البرنامج، فكلّ مستخدم هو أيضًا مساعد في تطويره. 

تطرح هذه الآلية، نظرًا لارتباطها باللغة، أسئلة عديدة حول النتائج المولدة. كيف تختار هذه النماذج الجُمَل وعلى أي أساس تفضيلي؟ وهل تتعلّق بثقافة ما أو برأي معيَّن؟ فمن الممكن لهذه البرامج أن تعطينا مطالعة سلبية وإيجابية لكتاب معيّن أو لمسرحية؛ لأنّ المعلومات التي دُربت عليها عبارة عن سلسلة من الأحرف والكلمات المتساوية من دون أيّ فروقات دلالية في محتواها. وهذا يطرح أسئلة حول موثوقية النتائج ومصداقيتها، إذ كيف نتعامل مع المعلومات الشخصية والثقافية والسياسية والاجتماعية والدينية؟  

نتائج مأساوية

من النقاشات المطروحة أيضًا مسألة حقوق الإنسان. على سبيل المثال، اعتمدت برامج مساعدة العائلات الفقيرة في دول عديدة على تحليلات برمجيات الذكاء الاصطناعي لتحديد مستحقي الاستفادة منها. وأدى هذا إلى أخطاء لا يمكن لنماذج الذكاء الاصطناعي التعرف إليها. 

من بين نماذج تلك الأخطاء يمكن الإشارة إلى تجربة هولندا التي تطوّر الأمر فيها إلى ما يُشبه الفضيحة؛ لأنّ القرارات أدّت إلى حالات انتحار، حيث حُرمت عائلات من استحقاقات الأطفال، واضطرت إلى سداد سنوات من استحقاقات تلقي المساعدات التي اعتبرها النموذج غير مستحقة. لقد وجد الناس أنفسهم في حالات ديون رهيبة بسبب البرمجيات. فما كان من الإدارة إلّا إيقاف هذا البرنامج التجريبي عن العمل. وللتوضيح أكثر، فقد يكون البرنامج متدربًا على أنّه من يملك بيتًا ليس بحاجة للمساعدة، لكن هذا لا يعني أن العائلة باستطاعتها تأمين قوت عيشها، وأنها ليست بحاجة للمساعدة. 

وقد بات التمييز في الخوارزميات بشكلٍ عام، وخاصةً التمييز العنصري، شائعًا في عديد من البرمجيات. فمثلًا، عندما نطلب من برنامج “ميدجورني” صورًا لجماعات إرهابية تأتي الصور ذات ملامح عربية إسلامية؛ لأنّ بيانات التدريب واللوائح التي جرى على أساسها تلقين الخوارزمية ارتكزت إلى لوائح غربية تحتوي على هذا النمط من الصور، ما أدى إلى انعكاس ذلك على البرمجيات التي تضاعف الأخطاء وتؤدي إلى تنميط المجتمعات العربية. وهذا قد يفضي إلى الاضطهاد وإلى الاشتباه بمواطني هذه الدول عندما يتجولون في البلدان الغربية.

الحدّ من التحيزات وتصفية البيانات 

تعكس التحيزات اللغوية حالة المجتمع، وتكون ضمن نظام معرفي ثقافي معيَّن. فيما يخص الذكاء الاصطناعي، التحيّز عبارة عن مدخلات البرنامج أو مخرجاته، ويحتمل أن يؤثر ذلك سلبًا في مجتمعات معينة. فهل الذكاء الاصطناعي محايد؟ الجواب يتعلق بما درّبناه على القيام به، فالبيانات هي عبارة عن انعكاس للمجتمع بشكل مباشر وغير مباشر. 

هناك أسئلة تُطرح حول مفهوم التحيز الرقمي الذي يتشكل بمجمله من محتوى مسيء يجب التخلص منه. في الواقع، لا يتجرأ أحد على القول إنّه يريد معلومات معادية وعنصرية وخارجة عن المعايير العامة إلّا الذي يُدرّب النموذج على بيانات كهذه. وهذا يحصل أحيانًا، إذ نجد أنّ المقرصنين “الهاكرز” يستغلّون النماذج التوليدية ويدرِّبونها على بيانات تسيئ إلى المجتمع، ومزيفة وتعطي نتائج مضلّلة، وهذا ما يسمّى بــ”التزييف العميق”. 

فهل من الممكن استخدام تقنيات للتخلص من إشكالية القوالب النمطية والتحيزات؟ إنّ ذلك ممكن بطرق محدّدة: أولًا، من خلال اختيار المصادر الموثوقة للتدريب وتصفيتها، وثانيًا من خلال مراقبة النتائج في المرحلة الأخيرة من توليد المحتوى. فالاعتماد على البيانات المُجمّعة دون تصفية ومعلومات موثوقة يؤدي إلى مشكلات متعدِّدة. ولكنّ جميع الحلول جزئية نسبيًا.