تمهيد
مع توسع استخدام الذكاء الاصطناعي والبيانات الضخمة في مختلف القطاعات، أصبحت الخوارزميات لاعبًا رئيسيًا في اتخاذ قرارات تتعلق بالتوظيف، والتعليم، والرعاية الصحية، والتمويل، وحتى العدالة الجنائية.
وبينما ينظر كثيرون إلى هذه الأنظمة باعتبارها أكثر دقة وحيادًا من البشر، يأتي كتاب «أسلحة الدمار الرياضي» لعالمة الرياضيات الأمريكية كاثي أونيل ليقدم رؤية مختلفة، مؤكدًا أن الخوارزميات قد تتحول إلى أدوات لإعادة إنتاج الظلم الاجتماعي إذا صُممت أو استُخدمت دون رقابة وشفافية.
ولا يهاجم الكتاب الرياضيات أو الذكاء الاصطناعي، بل يدعو إلى استخدامهما بصورة مسؤولة، مع إخضاع النماذج الرقمية للمساءلة، حتى لا تتحول إلى قوة خفية تؤثر في مصير الأفراد دون أن تمنحهم حق معرفة كيفية اتخاذ القرارات التي تمس حياتهم.
لماذا كُتب الكتاب؟
جاء الكتاب استجابة للتوسع الكبير في الاعتماد على النماذج الرياضية والخوارزميات داخل المؤسسات الحكومية والشركات الخاصة، حيث لاحظت المؤلفة أن كثيرًا من هذه الأنظمة أصبحت تتخذ قرارات مصيرية بعيدًا عن الرقابة المجتمعية أو القانونية.
وتهدف كاثي أونيل إلى لفت الانتباه إلى أن التكنولوجيا ليست محايدة بطبيعتها، وأن النماذج الرياضية تعكس دائمًا الافتراضات والقيم التي يضعها مصمموها، وهو ما قد يؤدي إلى ترسيخ التمييز وعدم المساواة بدلًا من الحد منهما.
يلخص هذا الكتاب عدة أمور
يتناول الكتاب مفهوم “أسلحة الدمار الرياضي”، وهو المصطلح الذي ابتكرته المؤلفة لوصف الخوارزميات التي تتسم بثلاث خصائص رئيسية: الغموض، واتساع نطاق التأثير، والقدرة على إحداث أضرار واسعة للأفراد والمجتمع.
ويشرح كيف يمكن للبيانات التاريخية المنحازة أن تتحول إلى قرارات مستقبلية منحازة أيضًا، من خلال ما يعرف بحلقات التغذية الراجعة، حيث تؤدي نتائج الخوارزميات إلى إنتاج بيانات جديدة تؤكد التحيزات القديمة، فتستمر الأخطاء في التكرار بصورة آلية.
كما يستعرض الكتاب استخدام الخوارزميات في مجالات متعددة، مثل تقييم المعلمين، وقبول الطلاب، والتوظيف، ومنح القروض، والتأمين، وتقدير احتمالات العودة إلى الجريمة، موضحًا أن هذه التطبيقات قد تؤثر في فرص الإنسان ومستقبله دون أن تتوافر له وسيلة للطعن في القرارات أو فهم أسبابها.
ويؤكد الكتاب أن الذكاء الاصطناعي لا يصبح خطرًا بسبب تطوره التقني، وإنما بسبب غياب الشفافية والمساءلة، واعتماد المؤسسات على نتائج النماذج الرياضية باعتبارها حقائق مطلقة.
لمن يناسب هذا الكتاب؟
يناسب هذا الكتاب الباحثين في الذكاء الاصطناعي وعلوم البيانات، وصناع السياسات، والمبرمجين، والمتخصصين في الاقتصاد والقانون، والمهتمين بأخلاقيات التكنولوجيا، كما يعد مرجعًا مهمًا للصحفيين والباحثين في الإعلام الرقمي، ولكل من يرغب في فهم التأثير الحقيقي للخوارزميات على المجتمع والاقتصاد والديمقراطية.
مميزات الكتاب
يمتاز الكتاب بقدرته على تبسيط مفاهيم رياضية وتقنية معقدة بلغة واضحة يفهمها غير المتخصصين، مع الاعتماد على أمثلة واقعية توضح كيف تؤثر الخوارزميات في الحياة اليومية.
كما يتميز بطرح متوازن؛ إذ لا يدعو إلى رفض التكنولوجيا، بل إلى تطويرها وفق مبادئ العدالة والشفافية، مع ضرورة إخضاعها للمراجعة المستمرة والتقييم الأخلاقي.
ويُحسب للمؤلفة أيضًا ربطها بين التكنولوجيا والعلوم الاجتماعية والقانون، لتؤكد أن جودة الخوارزمية لا تقاس فقط بدقتها الحسابية، وإنما أيضًا بقدرتها على احترام حقوق الإنسان وتقليل التحيز.
قراءة صحفية
يقدم كتاب «أسلحة الدمار الرياضي» واحدة من أهم القراءات النقدية في عصر الذكاء الاصطناعي، إذ يكشف أن الخوارزميات لم تعد مجرد أدوات تقنية، بل أصبحت جزءًا من البنية التي تُدار بها المجتمعات الحديثة. فالقرار الذي كان يتخذه موظف أو مسؤول أصبح اليوم يصدر عن نموذج رياضي قد لا يعرف أحد طريقة عمله أو المعايير التي يعتمد عليها.
وتوضح كاثي أونيل أن الاعتقاد السائد بأن الأرقام محايدة يمثل أحد أكبر المفاهيم المضللة في العصر الرقمي، لأن كل نموذج رياضي يُبنى على اختيارات بشرية، سواء في طريقة جمع البيانات أو تصميم الخوارزمية أو تحديد معايير النجاح والفشل، وهو ما يجعل التحيز ينتقل من الإنسان إلى النظام الإلكتروني.
ويستعرض الكتاب كيف يمكن للخوارزميات أن تعزز الفجوات الاجتماعية عندما تعتمد على بيانات تاريخية غير متوازنة. ففي أنظمة التنبؤ بالجريمة، على سبيل المثال، قد تؤدي زيادة المراقبة في منطقة معينة إلى تسجيل مزيد من الجرائم فيها، فتعتبرها الخوارزمية منطقة أكثر خطورة، ما يؤدي إلى استمرار تكثيف المراقبة وإعادة إنتاج النتيجة نفسها في دائرة يصعب كسرها.
كما يناقش الكتاب تأثير هذه النماذج في التعليم وسوق العمل والقطاع المالي، حيث أصبحت الخوارزميات تحدد فرص التوظيف، وتقييم الأداء، وأهلية الحصول على القروض أو التأمين، وهو ما يمنحها سلطة كبيرة على حياة الأفراد، رغم أن كثيرًا منها يعمل داخل ما يُعرف بـ”الصندوق الأسود” الذي يصعب فهم آلية اتخاذه للقرارات.
ولا تدعو المؤلفة إلى وقف استخدام الذكاء الاصطناعي أو البيانات الضخمة، بل تؤكد أن مستقبل التكنولوجيا يجب أن يقوم على مبادئ الشفافية والمحاسبة، من خلال إخضاع الأنظمة الذكية للتدقيق الأخلاقي، وإلزام المؤسسات بالكشف عن معايير اتخاذ القرار، مع وجود أطر قانونية تحاسب الجهات التي تستخدم الخوارزميات بصورة تمييزية أو تتسبب في الإضرار بالأفراد.
وتخلص الكاتبة إلى أن نجاح المجتمعات الرقمية لن يقاس فقط بقدرتها على تطوير تقنيات أكثر ذكاءً، وإنما بمدى قدرتها على ضمان أن تظل هذه التقنيات خادمة للإنسان، لا أن تتحول إلى سلطة غير مرئية ترسم مستقبله بعيدًا عن العدالة والرقابة والمساءلة.
حقوق النشر
هذه المادة عبارة عن قراءة صحفية تحليلية مستقلة أُعدت لأغراض التعريف والنقد والمراجعة الفكرية، وتعتمد على إعادة صياغة الأفكار وتقديم رؤية تفسيرية خاصة بالمُعد، ولا تمثل إعادة نشر لمحتوى الكتاب أو بديلًا عنه. وتظل جميع الحقوق الأدبية والفكرية محفوظة لمؤلف الكتاب وناشره، ويُنصح بالرجوع إلى النسخة الأصلية للاطلاع على العمل كاملًا.
البطاقة التعريفية للكتاب
العنوان: أسلحة الدمار الرياضي: كيف تزيد البيانات الضخمة من انعدام المساواة وتهدد الديمقراطية
المؤلف: كاثي أونيل
دار النشر: دار نشر كراون
بلد النشر: الولايات المتحدة الأمريكية
الطبعة: الأولى
سنة النشر: 2016
عدد الصفحات: 288
رقم الإيداع الدولي: 978-0553418811
