BAU Journal - Journal of Legal Studies - ‫مجلة الدراسات‬

‫القانونية‬

Volume 2021 Article 1

ISSN: 2958-4884

2022

ARTIFICIAL INTELLIGENCE: TOWARDS A LEGAL DEFINITION AN

IN-DEPTH STUDY OF THE PHILOSOPHICAL FRAMEWORK OF
ARTIFICIAL INTELLIGENCE FROM A COMPARATIVE LEGAL
PERSPECTIVE
‫د محمد عرفان الخطيب‬.‫أ‬
‫قطر‬-‫الدوحة‬- ‫كلية أحمد بن محمد العسكرية‬-‫استاذ القانون المدني‬, [email protected]

Follow this and additional works at: https://digitalcommons.bau.edu.lb/lsjournal

Recommended Citation
2022) ,‫ الخطيب‬.‫د محمد ع‬.‫" )أ‬ARTIFICIAL INTELLIGENCE: TOWARDS A LEGAL DEFINITION AN IN-DEPTH
STUDY OF THE PHILOSOPHICAL FRAMEWORK OF ARTIFICIAL INTELLIGENCE FROM A COMPARATIVE
LEGAL PERSPECTIVE," BAU Journal - Journal of Legal Studies - ‫مجلة الدراسات القانونية‬: Vol. 2021 , Article
1.
DOI: https://doi.org/10.54729/ERKF2181

This Article is brought to you by the BAU Journals at Digital Commons @ BAU. It has been accepted for inclusion in
BAU Journal - Journal of Legal Studies - ‫ مجلة الدراسات القانونية‬by an authorized editor of Digital Commons @ BAU.
For more information, please contact [email protected].
ARTIFICIAL INTELLIGENCE: TOWARDS A LEGAL DEFINITION AN IN-DEPTH
STUDY OF THE PHILOSOPHICAL FRAMEWORK OF ARTIFICIAL INTELLIGENCE
FROM A COMPARATIVE LEGAL PERSPECTIVE

Abstract
To this date, the term artificial intelligence does not have a definite and universally accepted legal
definition, which creates sterile doctrinal debates and significant confusion in the legal field. To tackle
this issue, this paper aims to provide a definition of the term artificial intelligence that covers all the legal
and technical aspects of this concept. This research is based on an analytical approach and is divided
into two sections. In the first section, the author provides a thorough overview of the concept of artificial
intelligence, both from a technical and legal point of view. In the second section, the author discusses
some of the main challenges posed by artificial intelligence in the legal field. The paper concludes with
key recommendations including the necessity of adopting a normative definition of the concept of artificial
intelligence as opposed to a descriptive one. Similarly, the paper stresses the importance of promoting
an ethical stance and a proactive as opposed to a reactive approach when it comes to dealing with legal
issues involving artificial intelligence. Normativity, ethics, and governance are the key words that must be
focused on to better address the ever-evolving issues of artificial intelligence in the legal field.

Abstract (Arabic) ‫الملخص باللغة العربية‬

‫ سعى البحث لتسليط الضوء على الحاجة لتقديم تعريف قانوني منضبط للذكاء االصطناعي‬،‫وفق منهج تحليلي معمق‬
،‫ إن لجهة حسم الجدل الفقهي حول مفهوم هذا الذكاء بذاته‬،‫من خالل عرض الضرورات التي تملي وضع هذا التعريف‬
‫ة مفادها أن أكثر حاالت الخلط‬ ً ‫ مستندا ً في ذلك لمسلم‬.‫أو لجهة ضبط ارتدادات هذا المفهوم على الجانب القانوني‬
‫ المتآتي من عدم وجود تعريف منضبط‬،‫ إنما مردها لعدم فهمنا لطبيعة هذا الذكاء‬،‫القانوني القائمة لرجال القانون‬
‫ ضرورة حسم الجدل الفقهي القائم حول التأصيل‬:‫ عارضا ً لذلك وفق مخطط بحثي تناول في قسمه األول‬.‫وواضح له‬
‫ ضرورة ضبط االراتدات المتآيتة جراء هذا الذكاء على الجانب‬:‫ ومبينا ً في قسمه الثاني‬.‫التقني والمفاهيمي لهذا المفهوم‬
‫ استنادا ً لطبيعته‬،‫ أثبت البحث بأن هذا الذكاء‬.‫معبر عن رؤية الباحث القانونية‬ ُ ‫ مختتما ً كل قسم بالرأي القانوني الـ‬.‫القانوني‬
‫ طرح تعريف قانوني خاص به وفق المفهوم التقليدي‬-‫في الوقت الحالي‬- ‫ لن يكون من الممكن‬،‫حوره‬ َ َ ‫وتطوره كما ت‬
.‫ وأن الحل هو في تبني فكرة التعريف التأشيري أو المعياري أكثر منه التعريف المفاهيمي أو الوصفي‬،‫المتصور للتعريف‬
‫ل ننتقل‬ٌ ‫ تعام‬.ً ‫ أن التعامل االستشرافي الصحيح مع هذا الذكاء يجب أن يكون تعامال ً وقائيا ً ال عالجيا‬،‫مؤكدا ً بذات الوقت‬
ً ‫ من خالل أخلقة هذا الذكاء وصوال‬.‫فيه من البحث في تأطير ارتداداته بعد وقوعها إلى العمل على تأطيرها قبل حدوثها‬
‫ ُيشدد البحث أنه ال ُيمكن للذكاء‬،‫ وذلك بدال ً من الخوض في قضايا قانونية فلسفية كالشخصية والمسؤولية‬.‫إلى حوكته‬
‫ "التعريف المعياري واألخلقة الموصلة للحوكمة" تلك هي الشيفرة التي يرى الباحث‬.‫ق إليها‬ ِ ‫االصطناعي بالمطلق أن يرت‬
‫ يأمل الباحث أن يتنبه‬،‫ة‬ ٌ ‫ ثنائي‬.‫أنها القادرة على حسم الجدل الفقهي حول ماهية هذا الذكاء كما ضبط ارتداداته القانونية‬
‫ حينما يتاح للمشرع العربي أن يقول كلمته في هذا الذكاء‬،‫ وأن يتمسك بها الفقه العربي‬،‫إليها الفقه الغربي‬

Keywords
Civic responsibility and intelligence, Legal personality and intelligence, Independence and responsibility,
Artificial Intelligence Ethics, Artificial intelligence philosophy, Natural intelligence, The Robot

Keywords (Arabic) ‫الكلمات الدالة‬

‫ فلسفة‬،‫ أخالقيات الذكاء االصطناعي‬،‫ االستقاللية والمسؤولية‬،‫ الشخصية القانونية والذكاء‬،‫المسؤولية المدنية والذكاء‬
‫ اإلنسآلة‬،‫ الذكاء الطبيعي‬،‫الذكاء االصطناعي‬.

This article is available in BAU Journal - Journal of Legal Studies - ‫مجلة الدراسات القانونية‬:
https://digitalcommons.bau.edu.lb/lsjournal/vol2021/iss1/1
 ‫‪ .1‬مقدمة‬
‫من غير الخافي أن القضية األهم في التعامل القانوني مع أي ظاهرة مستجدة‪ ،‬تكمن في تحديد مفهوم هذه الظاهرة‪،‬‬
‫وصوالً إلى تعريفها‪ .‬ما يمنح القانون القدرة على تحديد مضامين هذه الظاهرة‪ ،‬بما يُمكنه من التعامل معها وفق مفهوم اليقين ال‬
‫الشك‪ .‬فحينما يَفتقد القانون هذه األدوات‪ ،‬يغدو عاجزاً عن التصدي لما هو أمامه‪ .‬وفي أفضل الحاالت متحيراً‪ ،‬إن لم نقل متخبطا ً‬
‫في التعامل معه‪ .‬واق ٌع قد ال يُسعف الوقت القانون في االنتظار أمامه‪ .‬السيما حينما يكون أمام حالةً أثرها‪ ،‬بِقدر ما هو عام ومتسع‪،‬‬
‫بِقدر ما ُمؤثر و ُمتسارع‪ .‬تلك هي اليوم حال القانون مع الذكاء االصطناعي‪!1‬‬
‫‪2‬‬
‫فبرغم كثرة الحديث عن هذا المفهوم وعن انتشاره وأثره على مختلف مستويات الحياة بما فيها القانونية ‪ ،‬ال يوجد له‬
‫تعريف محدد "متفق عليه" بين القائمين عليه! لسبب بسيط يتمثل في االفتقاد تقنيا ً كما قانونياً‪ ،‬لتحديد مفهومه الدقيق حتى حينه!‬
‫قو ٌل قد يبدو مستغربا ً للكثيرين ‪ ...‬لكنه عين الواقع المعبر عن الحقيقة‪ !3‬سواء أكان ذلك على مستوى المتخصصين أو‬
‫على مستوى القانونين ‪ ...‬أم غيرهم‪ .‬وإن كان يبدو األمر مبرراً بالنسبة لباقي العلوم اإلنسانية‪ ،‬فإن األمر بخالفه في القانون‪ .‬ذلك‬
‫أن غياب هذا التعريف‪ ،‬يضعنا نحن رجال القانون‪ ،‬موضع العاجز غير المقبول عجزه! وربما يدخلنا ضمن فرضية إنكار العدالة‬

‫‪ .1‬محمد عرفان الخطيب‪ ،‬الذكاء االصطناعي والقانون ‪ -‬دراسة نقدية مقارنة في التشريعين المدني الفرنسي والقطري في ضوء القواعد األوربية‬
‫في القانون المدني لإلنسآلة لعام ‪ 2017‬والسياسة الصناعية األوربية للذكاء االصطناعي واإلنسآالت لعام ‪ .2019‬مجلة الدرسات القانونية‪،‬‬
‫كلية الحقوق والعلوم السياسية‪ ،‬جامعة بيروت العربية‪ ،‬لبنان‪ ،‬عدد ‪ ،2020‬المقال الرابع‪ .‬محمد عرفان الخطيب‪ ،‬ضمانات الحق في العصر‬
‫الرقمي‪" ،‬من تبدل المفهوم ‪ ....‬لتبدل الحماية"‪ .‬قراءة في الموقف التشريعي األوربي والفرنسي وإسقاط على الموقف التشريعي الكويتي‪ .‬مجلة‬
‫كلية القانون الكويتية العالمية‪ .‬ملحق خاص‪ ،‬العدد الثالث‪ ،‬الجزء األول‪ ،2018 ،‬ص‪ .‬ص‪ .324-251 .‬صفات سالمة وخليل أبوقورة‪ ،‬تحديات‬
‫عصر الروبوتات وأخالقياته‪ :‬دراسات استراتيجية‪ ،‬مركز اإلمارات للدراسات والبحوث االستراتيجية‪ ،‬العدد ‪ ،196‬الطبعة األولى‪ ،‬أبو ظبي‪:‬‬
‫مركز اإلمارات‪ .2014 ،‬فيصل محمد البحيري‪ ،‬أثر النهضة العلمية الحديثة على الفكر القانوني‪ ،‬دراسة في فلسفة القانون‪ .‬الطبعة األولى‪،‬‬
‫مركز الدراسات العربية لنشر والتوزيع‪ ،‬مصر‪ .2015 ،‬مشاعل عبد العزيز الهاجري‪ ،‬قالع وجسور‪ :‬الدراسات البينية وأثرها في االتصال‬
‫بين الحقوق المعرفية‪ .‬دراسة في القانون كحقل معرفي مستقل وعالقته بعداه من العلوم‪ .‬مجلة الحقوق‪ ،‬العدد ‪ 3‬السنة ‪ ،2007 ،31‬ص‪ .‬ص‪.‬‬
‫‪.240-171‬‬
‫‪J-M. Sommer, La Cour de cassation à l'épreuve du numérique et de l'intelligence artificielle, 9 févr. 2021.‬‬
‫‪Avalable in Net. M-P. Blin-Franchomme, Le défi d'une IA inclusive et responsable. Droit social 2021 p. 100.‬‬
‫‪C. Castets-Renard, Quelle politique européenne de l'intelligence artificielle ? RTD Eur. 2021 p. 297. F.‬‬
‫‪Rouvière, L'intelligence artificielle au risque du mythe. RTD Civ. 2020, p. 990. G. Drouot, Droit, algorithmes‬‬
‫‪et anarchie. Recueil Dalloz 2020. p. 35. L. Godefroy, Le code algorithmique au service du droit, D. 2018, p.‬‬
‫‪734. S. Larrière, Confier le droit à l’intelligence artificielle : le droit dans le mur ? Revue Lamy droit de‬‬
‫‪l'immatériel, 2017, n° 134, Pp. 38-40. M. Quenillet, Droit et intelligence artificielle : mythes, limites et‬‬
‫‪réalités, Petites affiches, 1994, n° 66, p. 11. R. Chatila, Intelligence artificielle et robotique : un état des lieux‬‬
‫‪en perspective avec le droit, Dalloz IP/IT, 2016, p. 284. M. Hildebrandt, The Force of Law and the Force of‬‬
‫‪Technology. In The Routledge International. Handbook of Technology, Crime and Justice, ed. M.R.P.‬‬
‫‪McGuire and Holt. Routledge, 2017, Pp. 579-608.‬‬
‫‪2‬‬
‫‪. A. Bensamoun et G. Loiseau, L'intégration de l'intelligence artificielle dans certains droits spéciaux, Dalloz‬‬
‫? ‪IP/IT 2017. P. 295. É. Geffray, Droits fondamentaux et innovation : quelle régulation à l’ère numérique‬‬
‫‪Cah. Cons. const. 2016, n° 52, p. 7. N. Fricero, Algorithmes et nouvelle génération de droits humains, à‬‬
‫‪propos de la charte éthique européenne d'utilisation de l'intelligence artificielle dans les systèmes judiciaires‬‬
‫‪et leur environnement, JCP G. 2018. P. 1331. J. Larrieu, La propriété intellectuelle et les robots, Journ.‬‬
‫‪intern. de bioéthique, 2013/4, vol. 33, p. 125.‬‬
‫‪ 3‬لو وضعنا على محرك بحث غوغل تعريف الذكاء االصطناعي سنتفاجأ بالرقم الفلكي الذي يبرز لنا في معرض اإلجابة عن هذا السؤال الذي‬
‫يعتقد الجميع أنهم يملكون القدرة على تعريفه‪ .‬والذي ال يُمكن تخيل قدرة أي إنسان على اإلحاطة بها‪ .‬فعندما وضعنا هذا السؤال بتاريخ‬
‫‪ 2021/11/09‬تاريخ التفكير بإعداد البحث كان األرقام حقيقةً فلكية الوصف‪:‬‬
‫‪On Google the phrase “what is A.I.”, the search engine will return About 10,790,000,000 results (0.59‬‬
‫‪seconds), About 8,780,000,000 results (0.71 seconds) for “what is Artificial Intelligence” and other About‬‬
‫‪9,280,000,000 results (0.58 seconds) for the search “definition of A.I.”.‬‬
‫‪-‬إن لم نقل هضم العدالة‪ -‬التي طالما سعى القانون في رسالته لعدم الوقوع فيها‪ ،4‬ناهيك عن أنه يضع القانون في موضع التبيعة‬
‫ال القيادة‪ ،5‬مكانةً ما إن تهتز حتى يختل كيان المجتمع بمختلف أركانه‪ ،‬ما يوجب أن تكون كلمة القانون هي العليا‪.6‬‬
‫من هنا تبرز أهمية هذه الورقة البحثية‪ ،‬والغاية التي تنشدها‪ .‬ذلك أن مسألة إيجاد تعريف واضح ومحدد لقضية الذكاء‬
‫اإلصطناعي ليست ترفا ً فكريا ً أو معرفياً‪ ،‬بقدر ما هي ضرورة تحسم الجدل التقني والفقهي حول طبيعة هذا الذكاء وصوالً لتحديد‬
‫ُكنهه وماهيته‪ .‬كما أنها ستساعدنا ‪-‬نحن أهل القانون‪ -‬على ضبط ارتدادات هذا المفهوم على الكثير من القضايا القانونية التقليدية‬
‫التي يكثر الحديث عنها‪ ،‬السيما ضمن نظريتي الشخصية والمسؤولية‪ 7‬دون أن يقتصر الحال على ذلك‪ .8‬األمر الذي ال زالت‬
‫الكثير من البحوث القانونية تعاني منه‪ .‬فالمتمعق في هذا الذكاء وتأصيليه الفلسفي يدرك تماماً‪ ،‬أن أكثر مشاكل الخلط القانوني‬
‫القائمة حالياً‪ ،‬إنما مردها لعدم فهمنا لطبيعة هذا الذكاء‪ ،‬المتآتي من عدم وجود تعريف قانوني منضبط وواضح يبين كنهه ومحدداته‪.‬‬

‫‪4‬‬
‫‪. M-A. Frison-Roche, "Déni de justice et interprétation de la loi par le juge", J-Cl droit civil, art. 4. L.‬‬
‫‪Favoreu, Résurgence de la notion de déni de justice et droit au juge, in Mélanges J. Waline, Dalloz, 2002,‬‬
‫‪p. 513.‬‬
‫محمد عرفان الخطيب‪ ،‬محددات الدور "المصدري" لالجتهاد القضائي في القانون المدني‪" ،‬التطور والتحول" الجزء األول ؛ حقيقة الدور‬
‫"المصدري" لالجتهاد القضائي في القانون المدني‪" ،‬الواقعية القانونية"‪ ،‬الجزء الثاني‪ .‬دراسة مقارنة بين المدرستين الفرنسية والعربية‬
‫القوانين المصرية والسورية واللبنانية مثاالً‪ .‬مجلة كلية القانون الكويتية العالمية‪ ،‬على التوالي‪ :‬العدد (‪ ،2019 ،)27‬ص‪ .‬ص‪.311-267 .‬‬
‫العدد (‪ ،2019 ،)28‬ص‪ .‬ص‪ .180-117 .‬سحر عبد الستار إمام يوسف‪ ،‬تدعيم دور محكمة النقض الفرنسية في تحقيق العدالة‪ ،‬مجلة‬
‫البحوث القانونية واالقتصادية‪ ،‬كلية الحقوق‪ ،‬جامعة اإلسكندرية‪ ،‬عدد خاص‪ ،‬ديسمبر‪ ،2012 ،‬ص‪ .‬ص‪ .1106-1079 .‬عابد فايد عبد‬
‫الفتاح فايد‪ ،‬الع دالة في القانون المدني‪ ،‬دراسة مقارنة بين القانون الفرنسي والمصري‪ ،‬مجلة البحوث القانونية واالقتصادية‪ ،‬كلية الحقوق‪،‬‬
‫جامعة اإلسكندرية‪ ،‬عدد خاص‪ ،‬ديسمبر‪ ،2012 ،‬ص‪ .‬ص‪.999-961 .‬‬
‫‪5‬‬
‫‪. J. Oster, Code is code and law is law. The law of digitalization and the digitalization of law, International‬‬
‫‪Journal of Law and Information Technology, Vol. 29, Issue 2, 2021, Pp. 101–117. L. Lessig, Code is Law,‬‬
‫‪The Industry Standard, 18, 1999. L. Godefroy, Le code algorithmique au service du droit, D. 2018, p. 734.‬‬
‫محمد عرفان الخطيب‪ ،‬سلسة الكتل ”‪ “Blockchain‬والعقود الذكية ”‪ “Smart-Contracts‬نموذجا" للتعايش بين القانون و العلوم‬
‫المناظرة‪ ...‬االقتصاد و الرياضيات مثاال"‪ ،‬قراءة في الفلسفة والتأصيل‪ .‬مجلة الدرسات القانونية‪ ،‬كلية الحقوق والعلوم السياسية‪ ،‬جامعة‬
‫بيروت العربية‪ ،‬لبنان‪ ،‬عدد ‪ ،2020‬المقال الثالث‪.‬‬
‫‪ .6‬فيما لو أُجيز لنا استخدام هذا التعبير البالغي من القرآن الكريم‪ .‬مع التأكيد أن هلل المثل األعلى‪ ،‬وأن كلمة هللا عز وجل هي العليا دوماً‪.‬‬
‫‪7‬‬
‫‪. A-S. Chone-Grimaldi et P. Glaser, Responsabilité du fait du robot doué d’intelligence artificielle : faut-il‬‬
‫‪créer une personnalité robotique ? Contrats Concurrence Consommation, n° 1, 2018, alerte 1. A.‬‬
‫‪Bensoussan, Plaidoyer pour un droit des robots : de la personne morale à la personne robot, La Lettre des‬‬
‫‪juristes d'affaires, 23 oct. 2013, n° 1134. D. Bourcier, De l'intelligence artificielle à la personne virtuelle :‬‬
‫‪émergence d'une entité juridique ? Droit et société, 2001/3, n° 49, Pp. 847-871. F. Pasquale, A Rule of‬‬
‫‪Persons, Not Machines: The Limits of Legal Automation, 87 Geo. Wash. L. Rev. 1. 2019. G. Courtois,‬‬
‫‪Robots intelligents et responsabilité : quels régimes, quelles perspectives ? D., 2016, p. 289. G. Loiseau,‬‬
‫‪La personnalité juridique des robots : une monstruosité juridique, Libres propos, JCP. G, 2018, vol. 22, Pp.‬‬
‫? ‪1039‑1042. P. Veber, Les robots et les hommes naîtront-ils et demeureront-ils libres et égaux en droit‬‬
‫‪Décideurs stratégie finance droit, 16 avr. 2013.‬‬
‫في الدراسات العربية حول المسؤولية المدنية راجع محمد عرفان الخطيب‪ ،‬المسؤولية المدنية والذكاء االصطناعي‪" ،‬إمكانية المساءلة؟!"‬
‫دراسة تحليلية معمقة لقواعد المسؤولية المدنية في القانون المدني الفرنسي‪ ،‬مجلة كلية القانون الكويتية العالمية‪ .‬السنة الثامنة‪ ،‬العدد األول‪،‬‬
‫‪ .2020‬ص‪ .‬ص‪ .151-107 .‬مصطفى أبو مندور موسى عيسى‪ ،‬مدى كفاية القواعد العامة للمسئولية المدنية في تعويض أضرار الذكاء‬
‫االصطناعي‪ ،‬دراسة تحليلية تأصيلية مقارنة‪ .‬مجلة حقوق دمياط للدراسات القانونية واالقتصادية‪ ،‬كلية الحقوق‪ ،‬جامعة دمياط‪ ،‬العدد الخامس‪،‬‬
‫‪ ،2022‬ص‪ .‬ص‪ . 403-210 .‬مها رمضان محمد بطيخ‪ ،‬المسؤولية المدنية عن أضرار أنظمة الذكاء االصطناعي‪ :‬دراسة تحليلية مقارنة‪،‬‬
‫المجلة القانونية‪ ،‬المجلة القانونية‪ ،‬جامعة القاهرة‪ ،‬المجلد التاسع العدد الثاني‪ ،‬مصر‪ ،2021 ،‬ص‪ .‬ص‪ .1616 – 1513 .‬مجاهد محمد أحمد‬
‫المعداوي عبد ربه‪ ،‬المسئولية المدنية عن الروبوتات ذات الذكاء االصطناعي‪ :‬دراسة مقارنة‪ ،‬المجلة القانونية‪ ،‬جامعة القاهرة‪ ،‬المجلد التاسع‬
‫العدد (‪ ،)2‬مصر‪ ،2021 ،‬ص‪ .‬ص‪ . 392 – 283 .‬محمد عبدالرازق وهبه سيد أحمد‪ ،‬المسؤولية المدنية عن أضرار الذكاء االصطناعي‪:‬‬
‫دراسة تحليلية‪ .‬مجلة جيل األبحاث القانونية المعمقة‪ ،‬العدد ‪ ،43‬لبنان‪ ،2020 ،‬ص‪ .‬ص‪ .45-11 .‬حول نظرية الشخصية راجع‪ ،‬محمد‬
‫عرفان الخطيب‪ ،‬المركز القانوني لإلنسآلة (‪ ) Robots‬قراءة في القواعد األوربية في القانون المدني لإلنسآلة (‪ )Robots‬لعام ‪،2017‬‬
‫"اإلشكاليات والتحديات ‪ ...‬دراسة تأصيلية مقارنة"‪ .‬مجلة كلية القانون الكويتية العالمية‪ .‬السنة السادسة‪ ،‬العدد الربع‪ .2018 ،‬ص‪ .‬ص‪-19 .‬‬
‫‪ .58‬محمد عبدالحفيظ المناصير‪ ،‬إشكالية الشخصية اإللكترونية القانونية للروبوت "دراسة تأصيلية تحليلية مقارنة في إطار التشريعين‬
‫المدني العماني واألوربي‪ ،‬المجلة العربية للعلوم ونشر األبحاث‪ .‬المجلد (‪ ،)7‬العدد (‪ ،2020 ،)1‬ص ‪.44‬‬
‫‪8‬‬
‫‪. A. Bensamoun et G. Loiseau, L'intégration de l'intelligence artificielle dans certains droits spéciaux, Op,‬‬
‫‪cit. P. 295. É. Geffray, Droits fondamentaux et innovation : quelle régulation à l’ère numérique ? Op, cit,‬‬
‫‪p. 7. N. Fricero, Algorithmes et nouvelle génération de droits humains, à propos de la charte éthique‬‬
‫‪européenne d'utilisation de l'intelligence artificielle dans les systèmes judiciaires et leur environnement,‬‬
‫‪Op, cit. P. 1331. J. Larrieu, La propriété intellectuelle et les robots, Journ. intern. de bioéthique, Op, cit, p.‬‬
‫‪125. P. Ginestié, La robotisation des contrats par les juristes eux-mêmes sera leur prochain eldorado, Dalloz‬‬
‫‪IP/IT 2017. P. 527. E. Palmerini, and A. Bertolini, Liability and Risk Management in Robotics. Digital‬‬
‫‪Revolution: Challenges for Contract Law in Practice. R. Schulze and D. Staudenmayer. Baden-Baden,‬‬
‫‪Nomos, 2016. Pp. 225-259.‬‬
‫محمد عرفان الخطيب‪ ،‬ضمانات الحق في العصر الرقمي‪" ،‬من تبدل المفهوم ‪ ....‬لتبدل الحماية"‪ .‬قراءة في الموقف التشريعي األوربي‬
‫والفرنسي وإسقاط على الموقف التشريعي الكويتي‪ .‬م جلة كلية القانون الكويتية العالمية‪ .‬سبقت اإلشارة‪ ،‬ص‪ .‬ص‪ ،.324-251 .‬ص‪282 .‬‬
‫وما بعد‪ .‬سلسة الكتل ”‪ “Blockchain‬والعقود الذكية ”‪ “Smart-Contracts‬نموذجا" للتعايش بين القانون و العلوم المناظرة‪ ...‬االقتصاد‬
‫و الرياضيات مثاال"‪ ،‬قراءة في الفلسفة والتأصيل‪ .‬سبقت اإلشارة‪ ،‬المقال الثالث‪.‬‬
‫ "ضرورات" وضع تعريف قانوني‬:‫ضمن ذلك تأتي فكرة هذه الورقة البحثية التي تحاول إبراز ما يُمكن تسميته بـ‬
‫ "ضرورة حسم الجدل الفقهي" حول مفهوم هذا الذكاء‬:‫ األولى‬،‫ والتي يُمكن حصرها في ضرورتين رئيسين‬،‫منضبط لهذا الذكاء‬
‫ "ضرورة ضبط ارتدادات هذا المفهوم على هذا الجانب‬:‫ والثانية‬.‫المـُمتد التأثير إلى مختلف جوانب حياتنا بما فيها القانوني‬
‫ كما الجهود الدولية‬،9‫ ُمستندين في ذلك إلى العديد من الدرسات الفقهية والقانونية التي تناولت تحديد هذا المفهوم‬."‫القانوني‬
.10‫والغربية ال سيما األوربية المنضوية تحت ذلك‬
‫ يتناول قسمه األول ما يُمكن اعتباره ضرورة حسم الجدل القائم حول التأصيل‬،‫كل ذلك وفق مخطط بحثي غير متكلف‬
‫ السيما‬،‫ ويعرض قسمه الثاني ما يُمكن تكييفه بضرورة ضبط هذه االرتدات على الجانب القانوني‬.‫التقني والمفاهيمي لهذا المفهوم‬
‫التي‬- ‫ مقدمين من ذلك رؤيتنا القانونية‬،‫ على أن نختم كل قسم بالرأي القانوني الذي خلصنا إليه‬.‫في قضيتي الشخصية والمسؤولية‬
‫ وذلك ضمن سعي بحثي قوامه المشاركة والمساهمة في الجهود البحثية‬.‫ حول مختلف الطروحات السابقة‬- ‫ال ندعي اكتمالها‬
‫ كما تقديم مساهمة أكاديمية متواضعة تؤسس إلطار قانوني منهجي يساعد في فهم‬،ً‫الرامية الستجالء حقيقة هذا المفهوم قانونيا‬
.‫ كما كيفية التعامل معه‬،‫هذا الذكاء‬

‫ ضرورة حسم الجدل‬:‫ المطلب األول‬.2

‫؟ سؤا ٌل بِقدر ما يبدو بسيطا ً بِقدر ما هو بحقيقته معقداً! ألمور عدة يُمكن جمعها‬11‫ نحن أمام ماذا‬... ‫الذكاء االصطناعي‬
:‫ وفق ما يُمكن اعتباره‬،‫ األولى ترتبط بأصل الجدل الفلسفي والتقني حول ماهية العلم الذي ينتمي إليه هذا الذكاء‬:‫في نقطتين‬
‫ ضمن‬،‫ والثاني يرتبط بماهية هذا المخرج "الذكاء االصطناعي" وفق أي تكييف فلسفي وقانوني يُمكن تحديده‬."‫"جذر المشكلة‬
."‫ "زئبقية المفهوم‬:‫ما يُمكن وصفه بـ‬

9
. Voir, C. Castets-Renard, AI and the Law in the European Union and the United States, in Artificial
Intelligence and the Law in Canada, F. Martin-Bariteau and T. Scassa (dir.), LexisNexis 2021, Pp. 397-
422. F. Rouvière, L'intelligence artificielle au risque du mythe. Op, cit, p. 990. G. Meissner, Artifcial
Intelligence: Consciousness and Conscience. 2020. 35 AI & Society, p. 231. H. Surden, Artificial
Intelligence and Law: An Overview, Georgia State University Law Review, 2019, Vol. 35, Iss. 4, Art.
8. Pp. 1306-1337. J. Haiech, Parcourir l’histoire de l’intelligence artificielle, pour mieux la définir et la
comprendre. Médecine/sciences n° 10, vol. 36, 2020, Pp. 919-923. M. Crosby & H. Shevlin, Defining
Artificial Intelligence: Resilient Experts, Fragile Geniuses, and the Potential of Deep Reinforcement
Learning. Journal of Artificial General Intelligence 11(2), 2020, Pp. 31–34. M. Longeart, Intelligence
Artificielle, mythe ou réalité ? in Carrefour, Société Philosophique de l'Outaouais, Hull, 1989, Pp. 149-
152. M. Soulez, Questions juridiques au sujet de l’intelligence artificielle. In L’intelligence artificielle,
un enjeu d’économie et de civilisation. Enjeux numériques, n° 1 mars 2018. Ed. Annales des Mines.
Pp. 81-85. W-J. Rapaport, What Is Artificial Intelligence? Journal of Artificial General Intelligence.
2020, 11(2), Pp. 52–56. R-C. Schank, What Is AI? Journal of Artificial General Intelligence 11(2), 2020,
Pp. 89–90. R-S. Sutton, John McCarthy’s Definition of Intelligence. Journal of Artificial General
Intelligence 11(2), 2020, Pp. 66–67.
10
. Voir, Proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées
concernant l’intelligence artificielle et modifiant certains actes législatifs de l’Union. COM/2021/206
final. Proposition de règlement du Parlement européen et du Conseil relatif à un marché intérieur des
services numériques. COM(2020) 825 final. Proposition de règlement du Parlement européen et du
Conseil relatif aux marchés contestables et équitables dans le secteur numérique. COM(2020) 842 final.
Résolution du Parlement européen du 16 février 2017 contenant des recommandations à la Commission
concernant des règles de droit civil sur la robotique (2015/2103(INL). Résolution du Parlement
européen du 20 oct. 2020 contenant des recommandations à la Commission concernant un cadre pour
les aspects éthiques de l'intelligence artificielle, de la robotique et des technologies connexes
(2020/2012(INL), P9_TA(2020)0275. Résolution du Parlement européen du 20 oct. 2020 contenant des
recommandations à la Commission sur un régime de responsabilité civile pour l'intelligence artificielle
(2020/2014(INL), P9_TA(2020)0276. Livre blanc de la Commission, Intelligence artificielle - Une
approche européenne axée sur l'excellence et la confiance. COM(2020) 65 final. Communication de la
Commission Européen : L'intelligence artificielle pour l'Europe, COM(2018)237 final. Communication
de la Commission Européen : Renforcer la confiance dans l'intelligence artificielle axée sur le facteur
humain, COM(2019) 168 final. Groupe d'experts indépendants de haut niveau sur l'intelligence
artificielle, Lignes directrices en matière d'éthique pour une IA digne de confiance, Publications de l'UE,
2019.
‫ الشخص الطبيعي والشخص االعتباري في القانون‬،‫ أنور العمروسي‬.2017 ،‫ دار البداية‬،‫ الطبعة األولى‬،‫ الذكاء الصناعي‬،‫ عبير أسعد‬.11
‫ دار صفاء للطباعة والنشر‬،‫ الطبعة األولى‬،‫ مقدمة في الذكاء الصناعي‬،‫ زياد عبد الكريم القاضي‬. 2012 ،‫ دار محمود للنشر‬،‫المدني‬
.2005 ،‫ منشورات جامعة الملك عبد العزيز‬،‫ مدخل إلى عالم الذكاء الصناعي‬،‫ عادل عبد النور‬.2010 ،‫والتوزيع‬
F. Chollet, A Definition of Intelligence for the Real World? Journal of Artificial General Intelligence
11(2), 2020, Pp. 27–30. M. Rosa, On Defining Artificial Intelligence. Commentary. Journal of Artificial
General Intelligence 11(2), 2020, Pp. 60–62.
 ‫ جذر المشكلة‬:‫ الفرع األول‬1-2
‫ ُعبِّر عنه‬،‫ما هي ماهية الذكاء االصطناعي؟! تلك هي جذر المشكلة! فرضيةٌ بقدر ما تبدو ذات تأصيل تقني‬
‫ بِقَدر ما ترتبط بتأصيل فلسفي يتناول تحديد طبيعة تموضع هذا‬،12‫باختالف وجهات النظر بين اآلباء المؤسسين لهذا العلم‬
‫ أم أنه امتداد لحقل معرفي قائم؟ ليبرز تيار فكري ينادي بنظرية العلم المستقل‬،ً‫ هل يمثل حقالً معرفيا ً جديدا‬.13‫الذكاء‬
.14‫ لهذا الذكاء‬-‫ال المستقل‬- ‫ يوازيه تيار آخر ينادي بنظرية العلم الممتدد‬،‫للذكاء االصطناعي‬

‫ نظرية العلم المستقل‬-‫أولا‬

‫ المتميز عن غيره من حقول‬،‫تسند هذ الفرضية إلى اعتبار الذكاء اإلصطناعي حقالً جديداً من حقول المعرفة‬
.‫ ونعني بذلك علوم الحاسوب‬،‫ بما فيها تلك التي خرج منها‬،‫ بحيث أنه ال يرتبط بأي من العلوم التقليدية‬،‫المعرفة التقليدية‬
،‫إذ يرى منظروا هذه النظرية أن الذكاء االصطناعي كعلم يجمع في مكوناته جملة من العلوم التي ال تجتمع في غيره‬
‫ ونظرية‬،‫ واللغويات‬،‫ المقترن بجملة من العلوم اإلنسانية كعلم النفس‬،‫من حيث علم الرياضيات والخوارزميات‬
‫ إضافةً لتشعبة بالعلوم الطبية ال سيما علوم‬،‫ مع الخوض في نظريات التفكير اإلنساني الفلسفي‬،‫ والفلسفة‬،‫المعرفة‬
.15‫ وصوالً لتطبيق التفكير اإلنساني الصرف وفق نماذج رياضية تعبر عن الفهم اإلنساني والذكاء الطبيعي‬،‫األعصاب‬
ً‫كل ذلك من خالل خوارزميات البرمجة التي تُنمذج المعرفة وأنماط التفكير اإلنساني ُمخرجةً ُمخرجا ً جديداً منفصال‬
.17‫ دون أن يطعن اعتماده على كل ذلك في خصوصيته وتفرده‬.16"‫ "الذكاء االصطناعي‬:‫ هو‬،‫عن كل ما سبق‬
‫ إنما كانت تمثل بشكل أو بآخر ردة الفعل‬.18‫هذه النظرية التي سادت بشكل كبير في سبعينيات القرن الماضي‬
‫الطبيعية على واقع النظرة القاصرة وغير المتفائلة عن علوم الحاسوب التي كانت تعاني تراجعا ً واضحا ً في تلك‬
‫ ما دفع‬."‫ إذ اعتبر أن ربط قضية الذكاء االصطناعي بعلوم الحاسوب فيه انتقاصا ً كبيراً لهذا العلم "الجديد‬.19‫الفترة‬
ٌ ‫ نظرة‬.20‫ إلى عدم تقبل فكرة ربطه بعلوم الحاسوب‬J. McCarthy :‫بالكثير من اآلباء المؤسسين لهذا العلم بمن فيهم‬
‫ وثبوت االرتباط التقني بين هذا‬،‫ ال سيما مع عودة النظرة التفائلية لعلوم الحاسوب وتطورها‬،‫اضمحلت بمرور الوقت‬
.‫ لتبرز نظرية أكثر صالبة تعتبر الذكاء االصطناعي علما ً ُممتدداً لعلوم الحاسوب‬،‫العلم "الجديد" وعلوم الحاسوب‬

‫ نظرية العلم الممتد‬-‫ثانياا‬

.‫هذه النظرية ال تقبل بانفصال الذكاء االصطناعي عن علوم الحاسوب وإن كانت تقضي بتمتعه بالخصوصية‬
‫ وأن هذا العلم لم يكن‬،‫ والعصب الذي بُني عليه هذا الذكاء هو علوم الحاسوب‬،‫إذ تؤكد أن المكون الرئيس لهذه الذكاء‬

12
. J. McCarthy, What has AI in Common with Philosophy? International Joint Conference on Artificial
Intelligence (95), vol. 2, 1995, Pp. 2041-2042. A-M. Turing, Computing Machinery and Intelligence,
Mind, 59 (236), 1950. Pp. 433– 460. J. McCarthy & M. Minsky, N. Rochester, & C. Shannon, A
proposal for the Dartmouth Summer Research Project on Artificial Intelligence. 1955. Available in net.
J-N. Neumann, The Computer and the Brain. 1958. Available in Net.
13
. V. Rialle, L'intelligence artificielle et sa place dans les sciences de la cognition, Bulletin de l’Association
Française de l’Intelligence Artificielle., n° 26, 1996. Pp. 8-12. D. Andler, Quelle est la place de
l'intelligence artificielle dans la cognition ? in Revue Internationale de Philosophie, n° 21, 1990, Pp. 62-
86. T. Van Gelder, What might Cognition be if not Computation? Journal of Philosophy, vol. 92, n° 7,
1995. Pp. 345-381.
14
. J. Haiech, Parcourir l’histoire de l’intelligence artificielle, pour mieux la définir et la comprendre. Op,
cit, Pp. 919-923. J. McCarthy, What has AI in Common with Philosophy? Op, cit, Pp. 2041-2042. J.
McCarthy, What is Artificial Intelligence? 1997. Available in net. J. McCarthy. What is Artificial
Intelligence? Stanford University, 2007. R-S. Sutton, John McCarthy’s Definition of Intelligence. Op,
cit, Pp. 66–67. W-J. Rapaport, What Is Artificial Intelligence? Op, cit, Pp. 52–56.
15
. T. Van Gelder, What might Cognition be if not Computation? Journal of Philosophy, vol. 92, n° 7, 1995.
Pp. 345-381.
16
. La définition française donnée dans le vocabulaire de l'intelligence artificielle : Champ interdisciplinaire
théorique et pratique qui a pour objet la compréhension de mécanismes de la cognition et de la réflexion,
et leur imitation par un dispositif matériel et logiciel, à des fins d'assistance ou de substitution à des
activités humaines, JO n° 0285, 9 déc. 2018, texte n° 58, NOR : CTNR1832601K.
17
. J. McCarthy, What is Artificial Intelligence? Op, cit. A. Winfield, Intelligence Is Not One Thing. Journal
of Artificial General Intelligence 11(2), 2020, Pp. 97–100. R-S. Sutton, John McCarthy’s Definition of
Intelligence. Op, cit, Pp. 66-67.
18
. P. Zaraté, L'intelligence artificielle d'hier à aujourd'hui. Droit social 2021, p. 106. J. Haiech, Parcourir
l’histoire de l’intelligence artificielle, pour mieux la définir et la comprendre. Op, cit, Pp. 919-923. N-
J. Nilsson, The Quest for Artificial Intelligence: A History of Ideas and Achievements. New York, NY:
Cambridge University Press. 2009.
19
. P. Zaraté, L'intelligence artificielle d'hier à aujourd'hui. Op, cit, p. 106. J. Haiech, Parcourir l’histoire de
l’intelligence artificielle, pour mieux la définir et la comprendre. Op, cit, Pp. 919-923.
20
. J. McCarthy, What is Artificial Intelligence? Op, cit. J. McCarthy. What is Artificial Intelligence? Op,
cit. J-N. Neumann, The Computer and the Brain. 1958. Available in Net.
 ‫ليكتب له التحقق لوال علوم الحاسوب‪ .21‬وأما باقي العلوم األخرى‪ ،‬على اختالف تصنيفاتها‪ ،‬ال سيما العلوم اإلنسانية‬
‫والبرمجية واللغوية والعصبية‪ ،‬فهي مكونات تُساعد على الوصول األمثل لهذا الذكاء‪ .‬فعلى سبيل المثال المكون العقلي‬
‫للمخزون المعرفي لهذا الذكاء المتمثل بالبيانات الضخمة "‪ "Big data‬هو بالمحصلة يستند لهذا العلم الذي يمثل‬
‫‪22‬‬
‫الذاكرة الرقمية لهذه الذكاء‪ .‬والتي قد يُجيد هذا الذكاء‪ ،‬بحسب أنظمة الخوازميات‪ ،‬االستفادة منها من عدمه‪.‬‬
‫اليوم تغدو هذه النظرية هي األقرب للقبول‪ ،‬باعتبار أن الذكاء االصطناعي يقوم على هذا العلم‪ ،‬كما أن تطوره‬
‫وتناميه يعتمد على هذا العلم الذي تغير وجهه بشكل كبير‪ .‬ذلك أنه إن كان البعض يرى أن ربط الذكاء االصطناعي‬
‫بعلوم الحاسوب فيه انتقاص لهذا العلم‪ ،‬نظراً لطبيعة علوم الحاسوب المتواضعة آنذاك‪ ،23‬فإن الخطوات المتسارعة‬
‫التي حققتها هذه العلوم والتي جعلت الذكاء االصطناعي أكثر اعتماداً عليها‪ ،‬جعلت كذلك هذا العلم اليوم‪ ،‬يرتبط اربتطا ً‬
‫وثيقا ً بها‪.24‬‬
‫ضمن ذلك تُقر هذه النظرية بأن ثمة أربعة أنواع مختلفة لهذا الذكاء ضمن ذات العلم‪ ،25‬والتي يُمكن دمجها‬
‫ضمن نوعين رئيسين‪ :‬األول‪ ،‬الذكاء االصطناعي الضعيف الذي يُمكن اعتباره أكثر ارتباطا ً بعلوم الحاسوب كونه‬
‫ذكاء آلي مؤتمت يفتقد لالستقاللية بالمفهوم المطلق‪ ،‬والذكاء االصطناعي القوي أو المعمق الذي يمتلك القدرة على‬
‫محاكاة السلوك اإلنساني‪ ،‬كما يُمكنه توليد المعرفة الخاصة به‪ ،‬ضمن هامش من االستقاللية التقنية‪ ،‬بما يُ َم ِّكنُ من القول‬
‫أن ارتباطه بعلوم الحاسوب ال يقل عن ارتباطه ببقية العلوم اإلنسانية واالجتماعية األخرى‪ .‬علما ً بأن هذا الفصل يبقى‬
‫فصالً تقنيا ً أكثر منه تأصيلي‪ ،‬إذ أن أي من هذين النوعين ال يُمكنه التواجد بعيداً عن علوم الحاسوب‪ ،‬ما يجعل المسألة‬
‫‪-‬باعتقادنا‪ -‬ال تتعلق بصحة االرتبطار‪ ،‬بقدر ما ترتبط بحجم االرتباط‪ .26‬وهو األمر الذي ثَبَّتَهُ البرلمان األوربي في‬
‫تعريفه األخير لهذا الذكاء ضمن مبادرته اإلطارية حول نظام المسؤولية المدنية للذكاء االصطناعي لعام ‪2020‬‬
‫المتضمنة التوصيات الخاصة بشأن نظام هذه المسؤولية‪ ،27‬معرفا ً أنظمة الذكاء االصطناعي باعتبارها‪" :‬نظام ‪-‬سواء‬
‫أعتمد على البرمجيات أو أُدمج في أجهزة مادية‪ -‬يُظهر سلو ًكا يحاكي الذكاء‪ ،‬ال سيما بجمعه البيانات ومعالجتها‪،‬‬
‫وتحليل وتفسير بيئته والتفاعل ضمنها‪ ،‬مع هامش معين من االستقاللية‪ ،‬بُغية تحقيق أهداف محددة"‪.28‬‬

‫‪21‬‬
‫‪. As J. McCarthy, S. Russell, P. Norvig, M. Mahoney. See J. Haiech, Parcourir l’histoire de l’intelligence‬‬
‫‪artificielle, pour mieux la définir et la comprendre. Op, cit, Pp. 919-923. J. McCarthy, What has AI in‬‬
‫‪Common with Philosophy? Op, cit, Pp. 2041-2042. A-M. Turing, Computing Machinery and‬‬
‫‪Intelligence 1950. In Boden, M.A. (éd.). 1990. The Philosophy of Artificial Intelligence. Oxford‬‬
‫‪University Press, Pp. 40-66.‬‬
‫‪ .22‬بعد الحرب العالمية الثانية ‪ ،‬بدأ عدد من األشخاص العمل بشكل مستقل على آالت ذكية‪ .‬قد يكون عالم الرياضيات ‪ A-M. Turing‬هو‬
‫األول‪ .‬ألقى محاضرة عن ذلك في عام ‪ .1947‬وربما كان أيضًا أول من قرر أن البحث عن الذكاء االصطناعي أفضل من خالل برمجة‬
‫أجهزة الكمبيوتر بدالً من بناء اآلالت‪ .‬بحلول أواخر الخمسينيات من القرن الماضي ‪ ،‬كان هناك العديد من الباحثين في مجال الذكاء‬
‫االصطناعي ‪ ،‬وكان معظمهم يعتمدون في عملهم على برمجة أجهزة الكمبيوتر‪.‬‬
‫‪A-M. Turing, Computing Machinery and Intelligence, Mind, Op, cit. Pp. 433– 460. A-M. Turing,‬‬
‫‪Computing Machinery and Intelligence 1950. Op, cit, Pp. 40-66. K. Warwick & H. Shah, Can machines‬‬
‫‪think? A report on Turing test experiments at the Royal Society. Journal of Experimental & Theoretical‬‬
‫‪Artificial Intelligence, 2016, 28, Pp. 989-1007.‬‬
‫‪23‬‬
‫‪. As J. McCarthy, S. Russell, P. Norvig, M. Mahoney. See J. Haiech, Parcourir l’histoire de l’intelligence‬‬
‫‪artificielle, pour mieux la définir et la comprendre. Op, cit, Pp. 919-923. J. McCarthy, What has AI in‬‬
‫‪Common with Philosophy? Op, cit, Pp. 2041-2042. A-M. Turing, Computing Machinery and Intelligence‬‬
‫‪1950. Op, cit, Pp. 40-66.‬‬
‫‪ .24‬وفقا ً للقاموس الفرنسي "‪ "Larousse‬يُعرّف الذكاء االصطناعي بأنه‪ :‬مجموعة من النظريات والتقنيات المطبقة بهدف إنتاج آالت قادرة‬
‫على محاكاة الذكاء اإلنساني‪ .‬ويعرفه قاموس ‪ :Oxford‬نظرية وتطوير أنظمة الكمبيوتر القادرة على أداء المهام التي تتطلب عادةً ذكا ًء‬
‫إنسانيا ‪ ،‬مثل اإلدراك البصري والتعرف على الكالم واتخاذ القرار والترجمة بين اللغات‪.‬‬
‫‪“Ensemble de théories et de techniques mises en œuvre en vue de réaliser des machines capables de‬‬
‫‪simuler l'intelligence humaine”. https://www.larousse.fr/. “The theory and development of computer‬‬
‫‪systems able to perform tasks normally requiring human intelligence, such as visual perception, speech‬‬
‫‪recognition, decision-making, and translation between languages”. https://www.oxfordreference.com/.‬‬
‫‪Voir, S. Legg & M. Hutter, A Collection of Definitions of Intelligence. In Proceedings of the 2007‬‬
‫‪Conference on Advances in Artificial General Intelligence: Concepts, Architectures and Algorithms:‬‬
‫‪Proceedings of the AGI Workshop 2006, Pp. 17–24.‬‬
‫‪25‬‬
‫‪. Reactive machines, Limited memory, Theory of mind and self-awareness. See, R. Fulmer, Artificial‬‬
‫‪intelligence and counseling: Four levels of implementation. Theory & Psychology. 2019; 29(6), Pp. 807-‬‬
‫‪819.‬‬
‫‪26‬‬
‫‪. R. Fulmer, Artificial intelligence and counseling: Four levels of implementation. Op, cit, Pp. 807-819. M.‬‬
‫‪Crosby & H. Shevlin, Defining Artificial Intelligence: Resilient Experts, Fragile Geniuses, and the‬‬
‫‪Potential of Deep Reinforcement Learning. Op, cit, Pp. 31–34. Y. Bengio, Y. Lecun, G. Hinton, Deep‬‬
‫‪learning for AI. Communications of the ACM. 2021 Jun 21;64(7), Pp. 58-65.‬‬
‫‪27‬‬
‫‪. A9-0178/2020. Un régime de responsabilité civile pour l’intelligence artificielle. Voir le Rapport‬‬
‫‪contenant des recommandations à la Commission sur un régime de responsabilité civile pour l’intelligence‬‬
‫‪artificielle. Voir, Annexe à la résolution : Recommandations détaillées concernant l’élaboration d’un‬‬
‫‪règlement du parlement européen et du conseil relatif à un régime de responsabilité pour l’exploitation‬‬
‫‪des systèmes d’intelligence artificielle. Article 3. al. a.‬‬
‫‪28‬‬
‫‪. « Système d’IA, un système qui est soit fondé sur des logiciels, soit intégré dans des dispositifs matériels,‬‬
‫اليوم‪ ،‬حتى مع نظرية العلم الممتد وإقرار كون الذكاء االصطناعي استمراراً لعلوم الحاسوب‪ ،‬يبقى السؤال حول تحديد ماهية هذا‬
‫المفهوم قائماً‪ .‬ذلك أن أن حصر العلم الذي يتبع له هذا المفهوم‪ ،‬إن كان قد َح َل مسألة "تبعية" المفهوم‪ ،‬فإنه ال يحل معضلة "ذاتية"‬
‫المفهوم‪ ،‬الذي ال يزال حتى حينه مفهوما ً‪-‬فيما لو جاز لنا استعارة التشبيه المتداول عن فيروس كورونا‪ -‬مفهوما ً متحوراً‪ ،‬ضمن ما‬
‫يُمكن وصفه بـ‪" :‬زئبقية المفهوم"‪.‬‬

‫‪ 2-2‬الفرع الثاني‪ :‬زئبقية المفهوم‬

‫بعلم ُمتطور‪ ،‬فهو مفهوم‬
‫ىء من يعتقد أن مفهوم الذكاء االصطناعي هو مفهوم ثابت‪ ،‬إذ أنه طالما ارتبط ٍ‬ ‫مخط ٌ‬
‫متغير‪ .‬لكن حتى ضمن ذلك‪ ،‬من المالحظ أن هذا العلم يشهد ما يُمكن تسميتها بطفرات التطور التقني‪ ،‬ما يجعل هذا المفهوم‬
‫إضافةً لكونه مفهوما ً متطوراً‪ ،‬مفهوما ً متحوراً‪.29‬‬

‫أولا‪-‬غموض المفهوم‬
‫إن أي محاولة لتعريف أي مفهوم ال تخرج عن أمرين‪ ،‬فهي إما أن تنطلق من تحديد مكونات هذا المفهوم‬
‫وصوالً لمنحه المسمى المـُعبر عنه‪ .‬أو النظر في المسمى المقترح له تمهيداً لبلورة التعريف الـُمعبر عنه‪ .‬وإن كان‬
‫األصل في منح التعريف ‪-‬أي تعريف‪ -‬هو تحديد ماهية المفهوم‪ ،‬ومن ثم منحه التعريف المـُعبر عنه‪ .‬لكن هل نستطيع‬
‫تطبيق ذات الفرضية في الذكاء االصطناعي؟‬
‫في الحقيقة‪ ،‬ما يجب العلم به يقينا ً أننا نحن رجال القانون لم يكن لنا دو ٌر يذكر في تحديد هذا التعريف الذي‬
‫بقي ولمدة طويلة نسبيا ً بعيداً عن إهتماماتنا لبعده عن مجاالت القانون‪ .‬لذلك لم يكن القانون وأهله يتعبون أنفسهم في‬
‫النظر في صدق العنوان من عدمه‪ ،‬كونه لم يكن ليُخرج عن مفهوم الـ ُمنتج الشيئي الذي أفرزته الثورة الرقمية‪.‬‬
‫لكن‪ ،‬حالما تبين أن لهذا المفهوم آثاراً ال يُمكن تجاهلها على المنظومة القانونية ككل‪ ،30‬وفي ضوء فرض‬
‫هذا العنوان علينا كما هو من قبل التقنين‪ ،‬للتعامل معه ومع ُمكونه الخوارزمي‪ 31‬الذي ينطوي على الكثير من‬
‫جوانب الغموض بين جنباته على األقل بالنسبة لنا‪ ،‬غدت المشكلة مركبة‪ .‬إذ توجب علينا النظر في صحة المسمى‬
‫المفروض علينا لهذا المفهوم بكونه المعبر عن محتواه‪ .‬ومن ثم النظر في صدق هذه المحتوى ومدى تطابقه مع‬
‫المسمى‪ ،‬السيما وأن المحتوى ‪-‬بالنسبة لنا كقانونين‪ -‬هو البوابة الموصلة للمفهوم‪ ،‬المفضي بدوره للمسمى الموصل‬
‫بدوره للتعريف‪ .‬والسؤال أين نحن من هذه الرباعية‪ .‬تلك هي المعضلة!‬
‫ذلك أنه‪ ،‬وأمام حالة المسمى المتداول والمفروض‪" :‬الذكاء االصطناعي"‪ ،‬فإن أي محاولة لتعريف هذا‬
‫الذكاء االصطناعي ستنطلق مما يُمكن اعتباره الكلمات المفتاحية لهذا المسمى‪ :‬الذكاء‪ ،‬االصطناعي‪ ،‬الخوارزميات‪،‬‬
‫البرمجيات‪ ،‬التفكير‪ ،‬التكييف‪ ،‬التنبؤ‪ ،‬المحاكاة‪ ،‬التعلم‪ ،‬التطور ‪ ...‬وغيرها من المصطلحات المرتبطة بهذا المفهوم‬
‫إن بشكل مباشر أو غير مباشر‪ .‬لكن هل مختلف هذه العبارات منضبطة في المجال التقني أو على األقل محددة من‬
‫قبل هؤالء التقنين‪ .‬ال نعتقد ذلك! إذ أن مختلف التعريفات الممنوحة للذكاء االصطناعي‪ ،‬ومنذ البداية كانت عبارة‬
‫عن محاوالت آنية للتعامل مع حالة ُمستجدة‪ ،‬فيها الكثير من الغموض‪ .‬ضمن حالة تضغى عليها التنافسية االقتصادية‪،‬‬
‫ما جعل فصل البعد التأصيلي عن البعد الترويجي أمراً غايةً في الصعوبة‪ .32‬بحيث بتنا دون أن نشعر أسيرين هذا‬
‫الترويج‪ ،‬ومنصاعين إليه في حالة من الالشعور‪ُ ،‬مقريّن بأنه ذكاء حتى دون تمكننا من فهم ما هو المقصود به‬
‫ومدى مصداقيته ضمن المفهوم التقني قبل المفهوم القانوني‪.‬‬
‫إقرا ٌر قوامة االنقياد ال االستقاللية‪ ،‬السيما وأن أغلب المصطلحات السابقة إن لم نقل جميعها‪ ،‬تنطوي على‬
‫ما يُمكن وصفه بمناطق العتمة‪ ،‬إما الرقمية "‪ "Trade Secret‬كما هو الحال في الخوازميات والبرمجيات وعمليات‬

‫‪et qui affiche un comportement simulant l’intelligence, notamment en collectant et traitant des données,‬‬
‫‪en analysant et en interprétant son environnement et en agissant, avec un certain degré d’autonomie, pour‬‬
‫‪atteindre des objectifs spécifiques ». A9-0178/2020. Op, cit, Voir, Annexe à la résolution Article 3. al. a.‬‬
‫‪ 29‬فيما لو جاز لنا استخدام هذا التعبير من القاموس الطبي نظراً للحالة التي يعشها العالم اليوم مع فيروس (‪ )Coved 19‬والمتحورات التي‬
‫أفرزها‪.‬‬
‫‪30‬‬
‫‪. B. Boris. Le droit en datas : comment l’intelligence artificielle redessine le monde juridique. Revue Lamy‬‬
‫‪Droit de l'immatériel, Lamy (imprimé) / Wolters Kluwer édition électronique 2019. M. Soulez, Questions‬‬
‫‪juridiques au sujet de l’intelligence artificielle. Op, cit. Pp. 81-85. A. Mendoza-Caminade, Le droit‬‬
‫? ‪confronté à l'intelligence artificielle des robots : vers l'émergence de nouveaux concepts juridiques‬‬
‫‪Recueil Dalloz 2016 p. 445. A. Bensamoun et G. Loiseau, L’intégration de l’intelligence artificielle dans‬‬
‫‪l’ordre juridique en droit commun questions de temps, D., 2017, p. 241s. J-B. Duclercq, Les effets de la‬‬
‫‪multiplication des algorithmes informatiques sur l’ordonnancement juridique, Comm. com. électr. 2015,‬‬
‫‪n° 11, p. 15.‬‬
‫‪31‬‬
‫‪. M-Y. Vardi, What is an Algorithm? Communications of the ACM. 2012. Vol. 55, p. 5. S. Chassagnard-‬‬
‫‪Pinet, Les usages des algorithmes en droit : prédire ou dire le droit ? Dalloz IP/IT 2017, p. 495‬‬
‫‪32‬‬
‫‪. F-L. Ruta, Do the Benefits of Artificial Intelligence Outweigh the Risks? Economist (Sept. 10, 2018),‬‬
‫‪Available in Net. M. Hildebrandt, Law as computation in the era of artificial legal intelligence. Speaking‬‬
‫‪law to the power of statistics. University of Toronto Law Journal. Available in net.‬‬
‫ كما في‬،34‫ ؛ أو الذهنية‬33‫التحليل والتنبؤ التي ال يوجد لدينا نحن القانونين القدرة على فهمها والتأكد من مصداقيتها‬
‫ التي ال تزال حتى يومنا محل خالف فلسفي‬،‫األمور المرتبطة بعمليات التفكير والمفهوم الفلسفي التجريدي للذكاء‬
.35‫وتأصيلي لم يملك بعد أي شخص مفاتحها‬
‫ فصل البعد التأصيلي المـُعبر عن حقيقة هذا‬-‫إلى حد التبرير‬- ‫ وإن كان من الصعب على الكثير‬،‫رغم ذلك‬
‫ في عالم غدى فيه الصوت التجاري والتسويقي أقوى من الصوت‬،‫ عن بعده الترويجي المـُعبر عن صُوريته‬،‫المفهوم‬
‫ مبرراً لقبول بعض التضيحات القانونية مقابل بعض المنافع االقتصادية‬،‫ بل وفي بعض الطروحات‬،‫القانوني والقيمي‬
‫ بوصفها أداة للتنمية‬،‫عن طريق تفعيل ما يُمكن تسميته بالدور االقتصادي ال القانوني للمسؤولية المدنية‬
‫ السيما في‬،-‫أهل القانون وخاصته‬- ‫ فإن ذلك ال يُمكن أن يكون شفيعا ً لمثل هذا التجاهل بالنسبة لنا‬.36‫االقتصادية‬
.‫ضوء ما يُمكن تسميته بتحور المفهوم‬

‫ تحور المفهوم‬-‫ثانياا‬
‫إن استعراض التعريفات المقترحة لهذا الذكاء منذ لحظة إطالق هذا المسمى للمرة األولى في‬
‫ إذ أن‬.‫ وحتى يومنا هذا يُمكن لها أن تعطينا مؤشراً واضحا ً لجانب التحول والتحور في هذا المفهوم‬194337‫العام‬
‫ سواء من حيث تعبيرها عن وجهات النظر المختلفة بين‬،‫هذه التعريفات تُعتبر َمدخالً واضحا ً لفهم هذه التحورات‬
.ً‫ وأخيراً فيما بين هؤوالء جميعا‬،‫ وبين مستثمري هذا العلم‬،‫صناع هذا العلم فيما بينهم‬
‫ "علم وهندسة صناعة اآلالت‬:‫" هو‬J. McCarthy" ‫ ال سيما‬،‫فبحسب اآلباء المؤسسين لهذا العلم‬
‫ "صنع آلة تتصرف بطرق من شأنها أن تسمى ذكية فيما لو كان اإلنسان‬:‫ هو‬-‫في تعرف آخر‬- ‫ أو‬.38"‫الذكية‬
،‫ "علم تصنيع اآلالت لتقوم بأشياء تتطلب الذكاء‬:‫" بكونه‬M. Minsky" ‫ بينما يراه‬.39"‫يتصرف على نحوها‬

33
. T-R. Moore, Trade Secrets and Algorithms as Barriers to Social Justice. Center for Democracy &
Technology. 2017. Available in net. D. Bourcier, Le droit va-t-il disparaître dans les algorithmes ? LPA
2018, n° 223, p. 8. G. Drouot, Droit, algorithmes et anarchie. Op, cit. p. 35. L. Godefroy, Le code
algorithmique au service du droit, Op, cit, p. 734. S. Chassagnard-Pinet, Les usages des algorithmes en
droit : prédire ou dire le droit. Op, cit, p. 495.
34
. K. Foss-Solbrekk, Three routes to protecting AI systems and their algorithms under IP law: The good, the
bad and the ugly, Journal of Intellectual Property Law & Practice, Vol 16, Issue 3, 2021, Pp. 247–258. Y.
Gaudemet, La justice à l’heure des algorithmes, RDP 2018, p. 651. Y. Meneceur, Quel avenir pour la
justice prédictive ? Enjeux et limites des algorithmes d’anticipation des décisions de justice, JCP G 2018,
p. 316.
‫ دراسة نقدية معمقة في الموقف األنكلوسكسوني‬،"‫ "الفرص والتحديات‬،‫ "العدالة التنبؤية" والعدالة القضائية‬،‫محمد عرفان الخطيب‬
‫ محمد‬.48-11 .‫ ص‬.‫ ص‬،2019 ،1 ‫ العدد‬،12 ‫ المجلد‬.‫ مجلة الحقوق والعلوم اإلنسانية‬،‫ الجفلة الجزائر‬،‫ جامعة زيان عاشور‬.‫والالتيني‬
‫ مجلة‬.‫دراسة نقدية معمقة في الموقف االنكلوسكسوني والالتيني‬-‫الفرص والتحديات‬-‫ العدالة التنبؤية" والدعوى القضائية‬،‫عرفان الخطيب‬
‫ تطبيق الذكاء‬،‫ سمير مرقس‬.‫ المقال الثالث‬،2019 ‫ عدد‬،‫ لبنان‬،‫ جامعة بيروت العربية‬،‫ كلية الحقوق والعلوم السياسية‬،‫الدرسات القانونية‬
‫ خالد‬.2014 ،‫ مصر‬،655 ‫ المجلد‬،‫ مجلة االقتصاد والمحاسبة‬،‫االصطناعي واألنظمة الخبيرة في زيادة كفاءة المحامين أمام القضاء‬
.2008 ،‫ اإلسكندرية‬،‫ دار الفكر الجامعي‬،‫ الدعوى اإللكترونية وإجراءاتها أمام المحاكم‬،‫ القاضي االلكتروني‬،‫ممدوح إبراهيم‬
35
. A. Sloman, A Philosopher-Scientist’s View of AI. Journal of Artificial General Intelligence 11(2), 2020,
Pp. 91-96. D. Andler, Quelle est la place de l'intelligence artificielle dans la cognition ? Op, cit, Pp. 62-
86. F-J. Maccarthy, & P-J. Hayes, Some Philosophical Problems from the Standpoint of Artificial
Intelligence, in B. Meltzer and D. Michie, éds, Machine Intelligence, vol. 4, Halstead, NY, 1969, Pp. 463-
502.
36
. Selon la Commission au Parlement Européen : « Les règles de responsabilité civile jouent un double rôle
dans notre société : d’une part, elles garantissent que les victimes de dommages causés par des tiers
obtiennent réparation et, d’autre part, elles prévoient des incitations économiques destinées à encourager
les parties responsables à éviter de causer des dommages. Les règles de responsabilité doivent toujours
viser un juste équilibre entre la protection des citoyens et la capacité d’innovation des entreprises ».
Rapport de la Commission au Parlement Européen sur les conséquences de l’intelligence artificielle, de
l’internet des objets et de la robotique sur la sécurité et la responsabilité. COM/2020/64 final. P. 14. Voir
aussi, Annexe à la Résolution du Parlement européen du 20 oct. 2020 contenant des Recommandations à
la Commission sur un régime de responsabilité civile pour l'intelligence artificielle (2020/2014(INL),
P9_TA(2020)0276, qui a indiqué que : « Les règles de responsabilité civile pour l’IA doivent chercher à
atteindre un équilibre entre, d’une part, protéger les citoyens et, d’autre part, encourager les entreprises à
investir dans l’innovation, notamment dans les systèmes d’IA ». Annexe à la Résolution, p. 12, N° (4).
37
. M-A. Boden, propose l’année 1943 comme date de naissance symbolique pour l’Intelligence Artificielle.
In AI in Half-Century. AI Magazine, vol. 16, n° 4, 1995. Cette année correspond à la publication des
travaux de Warren S. McCulloch et Walter H. Pitts liant le calcul, la logique et les systèmes nerveux.
McCulloch, W-S. Pitts, W-H. 1943. A Logical Calculus of the Ideas Immanent in Nervous Activity. In
Boden, M-A. (éd.). 1990. The Philosophy of Artificial Intelligence. Oxford University Press, Pp. 22-39.
38
. J. McCarthy, What has AI in Common with Philosophy? Op, cit, Pp. 2041-2042. R-S. Sutton, John
McCarthy’s Definition of Intelligence. Op, cit, Pp. 66–67. W-J. Rapaport, What Is Artificial Intelligence?
Op, cit, Pp. 52–56.
39
. J. McCarthy, What has AI in Common with Philosophy? Op, cit, Pp. 2041-2042. J. McCarthy, What is
Artificial Intelligence? Op, cit.
‫لو قام بها اإلنسان"‪ .40‬بالمقابل يرى فيه "‪ "D. Roth‬بأنه‪" :‬المجال العلمي الذي يحاول فهم أسس السلوك الذكي‬
‫من منظور حسابي"‪ .41‬بذات الوقت الذي تم تحديده من قبل "‪ "S. Russell & P. Norvig‬بكونه‪" :‬تصميم‬
‫وبناء عوامل ذكية تتلقى تصورات من البيئة وتتخذ اإلجراءات التي تؤثر على تلك البيئة‪".42‬‬
‫في حين عرفه "‪ "A-M. Turing‬من خالل ما تُعارف عليه الحقا ً بــ‪ ،"Turing Test" :‬من حيث‬
‫كونه‪" :‬قدرة الحاسب على إيهام المتلقي في الجانب اآلخر بأنه يتحدث مع إنسان يقوم ويفكر بذات التفكير اإلنساني‬
‫ولديه ذات الردود اإلنسانية"‪ .43‬وهو ما ذهب إليه فيما بعد "‪ "M. Mahoney‬بأنه‪" :‬قدرة اآللة على التواصل‬
‫باستخدام اللغة الطبيعية عبر برمجية توهم الشخص ليعتقد أنه أمام إنسان"‪.44‬‬
‫بالمقابل وفق المفهوم الترويجي واالستثماري يختلف المنظور لهذا العلم بين الشركات بحسب طبيعتها‬
‫والغاية التسويقية له‪ ،‬حيث حددته شركة ‪ IBM’s‬بكونه‪" :‬أي شيء يجعل اآلالت تعمل بشكل أكثر ذكا ًء"‪ .45‬بينما‬
‫وصفته شركة ‪ PwC’s‬باعتباره‪" :‬التقنيات الناشئة التي يُمكن أن تفهم وتتعلم ثم تتصرف بنا ًء على تلك‬
‫المعلومات"‪ .46‬بالمقابل‪ ،‬وبحسب شركة ‪ Accenture’s‬حُدد بأنه‪" :‬مجموعة من التقنيات التي توسع القدرات‬
‫اإلنسانية من خالل االستشعار والفهم والتمثيل والتعلم‪ ،‬مما يسمح للناس فعل المزيد"‪ .47‬بينما اعتبرته شركة‬
‫‪ Deloitte’s‬بكونه‪" :‬جعل أجهزة الكمبيوتر تقوم بمهام تتطلب عادةً ذكا ًء إنسانيا‪ ."48‬لتذهب شركة‬
‫‪ McKinsey’s‬للقول بأنه‪" :‬قدرة اآلالت على إظهار ذكاء يشبه اإلنسان"‪ .49‬ولتذهب شركة ‪Salesforce‬‬
‫لتأطيره بكونه‪" :‬مجال في علوم الكمبيوتر يركز على إنشاء آالت يمكنها التعلم والتعرف والتنبؤ والتخطيط‬
‫والتوصية باإلضافة إلى فهم الصور واللغة واالستجابة لها"‪ .50‬بذات الوقت الذي وصف بـ‪" :‬علم جعل اآلالت‬
‫ذكية"‪ 51‬وفق شركة ‪.Google‬‬
‫هذه الرؤية الخالفية بين اعتباره علم وبين اعتباره تقنية تسويقية‪ ،‬هي نقطة فارقة في فهم هذا الذكاء‬
‫وكيفية التعامل معه‪ ،‬بين الغايات العلمية والغايات التسويقية‪ ،‬دون أن ننكر أن ما تأثرنا به نحن القانونين هو‬
‫ارتدادات الضغط االقتصادي التسويقي‪ ،‬أكثر منه التأثير العلمي الصرف‪ .‬بحيث أننا أقرينا بمفهوم الذكاء وفق‬
‫المفهوم الترويجي رغم أن مؤسسي هذا العلم حددو قدرات هذه القدرات ولم يتجاوزوا فيها حدود الواقع إلى الخيال‬
‫التي ذهب إليه البعد التسويقي‪ .‬ما يفسر ‪-‬باعتقادنا‪ -‬خصوصية هذا المفهوم المتغير غير الثابت‪ ،‬ذو التركيب‬
‫"الرقمي" المتعدد‪ .‬كما يدلل إلى أن طبيعة تحديد هذا المفهوم ومحدداته تتغير اعتمادًا على تغير ذاتية ونظرة‬
‫الجهة المبلورة له وموقفها منها‪ ،‬األمر الذي يزيد من صعوبة التكييف القانوني الخاص بهذا المفهوم‪ ،‬وإمكانية‬
‫ضبضه‪.‬‬
‫رغم ذلك‪ ،‬يُمكن أن تكون لنا نحن القانونين كلمةٌ‪ ،‬قد تعيدنا إلى أرض صلبة في تحديد هذا المفهوم وتَحيّد‬
‫اللغط المرتبط به‪ ،‬السيما لجهة الربط الملتبس بين مفهوم الذكاء والذكاء االصطناعي‪.‬‬

‫‪40‬‬
‫‪. Definition offered by M. Minsky in 1968. J. Haiech, Parcourir l’histoire de l’intelligence artificielle, pour‬‬
‫‪mieux la définir et la comprendre. Op, cit, Pp. 919-923. R-S. Sutton, John McCarthy’s Definition of‬‬
‫‪Intelligence. Op, cit, Pp. 66–67. W-J. Rapaport, What Is Artificial Intelligence ? Op, cit, Pp. 52–56.‬‬
‫‪41‬‬
‫‪. Conf. J. Haiech, Parcourir l’histoire de l’intelligence artificielle, pour mieux la définir et la comprendre.‬‬
‫‪Op, cit, Pp. 919-923. R-S. Sutton, John McCarthy’s Definition of Intelligence. Op, cit, Pp. 66–67. W-J.‬‬
‫‪Rapaport, What Is Artificial Intelligence? Op, cit, Pp. 52–56.‬‬
‫‪42‬‬
‫‪. S. Russell & P. Norvig in “Artificial Intelligence: A Modern Approach. Conf. J. Ribeiro, These Are the‬‬
‫‪Best Definitions of Artificial Intelligence You Can Read Today. Published in 03 03 2001. Available in‬‬
‫‪net.‬‬
‫‪43‬‬
‫‪. A-M. Turing, Computing Machinery and Intelligence, Mind, 59 (236), 1950. Pp. 433– 460. B-J. Copeland,‬‬
‫‪The Turing Test." Minds and Machines 10.4, 2000, Pp. 519-539. A. Pinar Saygin, C. Ilyas, & A. Varol.‬‬
‫‪Turing test: 50 years later. Minds and machines 10.4 (2000), Pp. 463-518.‬‬
‫‪K. Warwick & H. Shah, Can machines think? A report on Turing test experiments at the Royal Society.‬‬
‫‪Journal of Experimental & Theoretical Artificial Intelligence, 2016, 28, Pp. 989–1007‬‬
‫‪44‬‬
‫‪M. Mahoney. Available in net. Conf. J. Ribeiro, These Are the Best Definitions of Artificial Intelligence‬‬
‫‪You Can Read Today. Op, cit.‬‬
‫‪45‬‬
‫‪. Available in net. https://research.ibm.com/‬‬
‫‪46‬‬
‫‪. Report: Bot. Me: A revolutionary partnership. How AI is pushing man and machine closer together‬‬
‫‪Consumer Intelligence Series. 2020. P. 2. Available in net.‬‬
‫‪47‬‬
‫‪. Available in net. https://www.accenture.com/‬‬
‫‪48‬‬
‫‪. Available in net. https://www2.deloitte.com/‬‬
‫‪49‬‬
‫‪. Available in net. https://www.mckinsey.com/‬‬
‫‪50‬‬
‫‪. Available in net. Conf. J. Ribeiro, These Are the Best Definitions of Artificial Intelligence You Can‬‬
‫‪Read Today. Op, cit.‬‬
‫‪51‬‬
‫‪. Available in net. Conf. J. Ribeiro, These Are the Best Definitions of Artificial Intelligence You Can‬‬
‫‪Read Today. Op, cit.‬‬
 ‫‪ ‬الرأي القانوني‬
‫بعض التحليل القانوني الهادئ والمعمق لمختلف التعاريف السابقة قد يبدو مفيداً لفهم ماهية األمر الذي‬
‫نحن بصدده‪.‬‬

‫‪ o‬التحليل‬
‫في الحقيقة‪ ،‬وبغض النظر عن تعدد التعاريف السابقة بين البعدين العلمي والتسويقي‪ ،‬إال أن ما‬
‫يجمعها جميعا ً هو ربط تعريف الذكاء االصطناعي بمفهوم الذكاء‪ ،‬وهو األمر الجيد‪ .‬لكن دون أن تمنحنا‬
‫أي تعريف لهذا الذكاء االصطناعي سوى المقاربة بينه وبين الذكاء الطبيعي‪ ،‬األمر المتأسف عليه‪ .‬وهنا‬
‫اإلشكالية األولى‪ .‬ذلك أن تعريف الذكاء االصطناعي باالستناد إلى الذكاء الطبيعي دون أن يمنحنا هؤالء‬
‫التقنيين أي تعريف للذكاء الطبيعي هو أمر يستحق المراجعة! وحينما ال يمنحونا تعريفا ً للذكاء وفق مفهوم‬
‫الذكاء االصطناعي تصبح المراجعة أكثر إلحاحاً! فنحن ندعي تعريف مفهوم غير معرف يتمثل بـ‪:‬‬
‫"الذكاء االصطناعي"‪ ،‬بالرجوع لمفهوم غير متفق على تعريفه يتمثل بـ‪" :‬الذكاء الطبيعي"‪.52‬‬
‫كذلك يالحظ أن جانب اعتماد مصطلح الذكاء بين مختلف هذه التعاريف يأخذ بعدين‪ :‬بين أن‬
‫تكون هذه اآلالت ذكية‪ ،‬وبين أن تتصرف هذه اآلالت بذكاء‪ .‬وربما يدق التفريق بينهما‪ .‬وهنا اإلشكالية‬
‫الثانية‪ .‬ذلك أن السؤال ما هو المعيار التأشيري لهذا الذكاء!؟ فهل يشترط في اآللة حتى تكون ذكية أن‬
‫يكون ذكائها مطابق للذكاء اإلنساني!؟ فالقول‪ :‬أن تتصرف اآلالت بذكاء‪ ،53‬أو أن ننشئ آالت ذكية‪،54‬‬
‫أو أي شيء يجعل اآلالت تعمل بذكاء كما لو كنا أمام إنسان‪ ،55‬كل ذلك تعابير مصطلحية تقُر بأن هذه‬
‫اآللة يجب أن تمتلك الذكاء‪ ،‬لكن السؤال هل نقصد بذلك الذكاء الذي يمتلكه البشر أم ذكاء من نوع خاص؟!‬
‫هذا سؤال مفتوح!‬
‫آال يُمكن تصور وجود جانب مختلف من الذكاء خاص بهذه اآللة مختلف عن الذكاء اإلنساني‪،‬‬
‫وإن كان يتشابه معه‪ .‬آال يُمكن االدعاء بأن الذكاء االصطناعي هو ذكاء من نوع خاص‪ ،‬يختلف عن‬
‫الذكاء الطبيعي‪ ،‬دون أن نُشغل أنفسنا بأن يكون في بعض مراحله أعلى من الذكاء الطبيعي أو أدنى منه!‬
‫بالنسبة لنا على األقل قانونياً‪ ،‬نعتقد أن الخلط بين مفهومي الذكاء الطبيعي والذكاء االصطناعي‪،‬‬
‫والمضي قدما في أننا نريد أن يكون ذكاء اآللة مطابق لذكاء البشر‪ ،‬فيه اختالل لفهم مفهوم طبيعة اآللة‬
‫وطبيعة البشر‪ .56‬فالذكاء اإلنساني ليس مجرد عملية مؤتمتة‪ ،‬أو حسابية صرفة‪ .57‬بل هو حُكم عقالني‬
‫مرتبط بمختلف الوظائف الجسدية األخرى ذات الطبيعة اإلنسانية‪ ،‬المرتبطة بالوعي واإلدراك المرتبط‬
‫بالمشاعر اإلنسانية‪ .‬لذلك هناك فارق كبير بين الذكاء وبين التصرف بذكاء‪ .‬بين أن تكون اآللة ذكية وأن‬
‫تتصرف بذكاء‪ ،‬ال سيما حينما يكون هذا التصرف ال يتطابق مع حكم الذكاء الصرف‪ .‬كما لو كنا نتحدث‬
‫عن ترجيح بين خياريين صحيحين‪ ،‬يوجب التصرف االستجابة ألحدهما قبل اآلخر‪ ،‬بين الحاجة لتجاوز‬
‫إشارة مرور ضوئية حمراء تفاديا ً إلزهاق روح طفل يسير في اتجاه خاطئ‪ .‬إذ أن هذا التصرف ال يمليه‬
‫الذكاء‪ ،‬وإنما مقتضيات الذكاء‪ .‬كما لو كنا أمام التمييز بين األخالق وبين ما هو أخالقي‪ .‬فال توجد حالة‬
‫إنسانية‪ ،‬إال وتنطوي على االستثناء المقبول‪ ،‬ضمن مفهوم الضرورة‪ .‬فهل يَقبل الذكاء االصطناعي هذا‬
‫المفهوم؟ هل يقبل القتل ضمن مفهوم الدفاع الشرعي؟! هل يفهم مبدأ الضرورات تبيح المحظورات؟! هل‬

‫‪ 52‬حينما سئل "‪ "J. McCarthy‬عن تعريف الذكاء اعتبر أنه الذكاء الرياضي المرتبط بالذكاء الحسابي معرفا ً إياه بكونه الجزء الحسابي من‬
‫القدرة على تحقيق األهداف في العالم‪ .‬مؤكداً على اختالف أنواع ودرجات الذكاء لدى البشر والعديد من الحيوانات وبعض اآلالت‪ .‬هذا‬
‫التعريف هو تعريف تقني للذكاء يأخذ زاوية ضيقة من مفهوم الذكاء الذي يتسع من الناحية الفلسفية لنواحي أخرى أشد تعقيداً‪ ،‬ولعل ذلك‬
‫ما دفعه لوقل بأنهم‪-‬كتقنين‪ -‬ال يستطيعون وصف أنواع اإلجراءات الحسابية التي يُمكن تسميتها ذكية‪ .‬إذ أنهم يفهمون بعض آليات الذكاء‬
‫وليس البعض اآلخر‪.‬‬
‫‪J. McCarthy, What is Artificial Intelligence? Op, cit. J. McCarthy & M. Minsky, N. Rochester, & C.‬‬
‫‪Shannon, A proposal for the Dartmouth Summer Research Project on Artificial Intelligence. Op, cit. R-‬‬
‫‪S. Sutton, John McCarthy’s Definition of Intelligence. Op, cit, Pp. 66–67.‬‬
‫‪53‬‬
‫‪. Available in net. https://research.ibm.com/‬‬
‫‪54‬‬
‫‪. Available in net. https://research.ibm.com/Available in net. Conf. J. Ribeiro, These Are the Best‬‬
‫‪Definitions of Artificial Intelligence You Can Read Today. Op, cit. Alternative definition by John‬‬
‫‪McCarthy who coined the term ‘Artificial Intelligence’ in 1955.‬‬
‫‪55‬‬
‫‪M. Mahoney. Available in net. Conf. J. Ribeiro, These Are the Best Definitions of Artificial Intelligence‬‬
‫‪You Can Read Today. Op, cit. Available in net. https://www.mckinsey.com/‬‬
‫‪56‬‬
‫‪. R-V. Yampolskiy, On Defining Differences Between Intelligence and Artificial Intelligence. Journal of‬‬
‫‪Artificial General Intelligence 11(2), 2020, Pp. 68–70. P. Wang, On Defining Artificial Intelligence.‬‬
‫‪Journal of Artificial General Intelligence, 10 (2), 2019. Pp. 1–37.‬‬
‫صالح الفضلي‪ ،‬آلية عمل العقل عند اإلنسان‪ ،‬عصر الكتب للنشر والتوزيع‪ ،‬القاهرة‪ .2019 ،‬كريم موسى حسين‪ ،‬الذكاء االصطناعي‬
‫من منظور فلسفة العقل‪ ،‬مجلة الفلسفة‪ .‬الجامعة المستنصرية‪ ،2014 .‬العدد ‪ ،11‬ص‪ .‬ص‪ .132-109 .‬ناصر شبكة‪ ،‬الذكاء‬
‫االصطناعي ومنطق تمثيل المعرفة‪ ،‬منطق المكونات المادية المتعددة‪ .‬المجلة العربية الدولية للمعلوماتية‪ ،‬المجلد (‪ ،)1‬العدد (‪،)2‬‬
‫‪ ،2012‬ص‪ .‬ص‪ . 33-19 .‬ليث أثير يوسف‪ ،‬مشكلة االستقراء والذكاء الصناعي‪ .‬مجلة آداب المستنصرية‪ .‬الجامعة المستنصرية‪.‬‬
‫‪ ،2011‬العدد ‪ ،5‬ص‪ .‬ص‪.14-1 .‬‬
‫‪57‬‬
‫‪. Conf. J. Haiech, Parcourir l’histoire de l’intelligence artificielle, pour mieux la définir et la comprendre.‬‬
‫‪Op, cit, Pp. 919-923. R-S. Sutton, John McCarthy’s Definition of Intelligence. Op, cit, Pp. 66–67. W-J.‬‬
‫‪Rapaport, What Is Artificial Intelligence? Op, cit, Pp. 52–56.‬‬
 ‫يفهم الترجيح بين ضررين بتالفي ضرر أشد بضرر أخف؟! هل يفهم موانع المسؤولية؟! تلك أسئلة‬
‫قانونية ال يمليها الذكاء في مفهومه القانوني‪ ،‬وإنما يمليها مفهوم التصرف القانوني بذكاء‪ .‬لذلك‪ ،‬نعتقد أنه‬
‫وضمن تعريف هذا المصطلح‪" :‬الذكاء االصطناعي"‪ ،‬يجب تحييد فكرة الذكاء الصرف‪ ،‬والتركيز على‬
‫التصرف بذكاء‪.‬‬
‫ثمةَ سؤا ٌل آخ ٌر أكثر تعقيداً‪ ،‬هل التصرف بذكاء‪ ،‬يقصد به التصرف الذكي المطابق للتصرف‬
‫اإلنساني؟ من غير الخافي أن من بين التعريفات من يذهب لذلك للقول بأنه علم تصنيع اآلالت لتقوم بأشياء‬
‫تتطلب الذكاء‪ ،‬فيما لو قام بها اإلنسان‪ .58‬وبالتالي ضمن هذا اإلطار نالحظ أننا ربطنا بين مفهوم الذكاء‬
‫والتصرف اإلنساني‪ ،‬بشكل كبير‪ .‬هذا الربط األخير‪ ،‬يتناول السلوك اإلنساني الساكن والمتحرك‪ ،‬إذ‬
‫يتناول التفكير والتأمل‪ ،‬إضافة للفعل الحركي في حال النشاط والتنقل‪ .‬علما ً بأننا هنا نربط بين الذكاء‬
‫وحامل الذكاء‪ .‬ليصبح هناك خلطا ً وضحا ً بين الشيء بذاته الذي هو الذكاء المقابل الملموس لما هو داخل‬
‫الدماغ الذي أن جاز لنا أن نمثله بـ‪" :‬العقل"‪ ،‬وبين حامل هذا الشيء الذي هو اآللة المقابل لمفهوم الجسد‬
‫البشري بالمفهوم اإلنساني‪ ،‬وتلك قضيةٌ أخرى‪.‬‬
‫إضافةً لما سبق‪ ،‬ثمة نقطة جوهرية تُماييز بين الذكاء اإلنساني والذكاء االصطناعي‪ ،‬تكمن في‬
‫مفهوم الذكاء المنسوب للذكاء االصطناعي‪ ،‬باعتباره ذكاء تراكمي ال عقلي‪ .59‬بكونه يقوم على المنطق‬
‫الرياضي ال المنطق الفلسفي‪ ،‬ما يجعل منه مخزونا ً معرفيا ً أكثر منه ذكا ًء إنسانياً‪ .‬إذ أن التقنين غالبا ً ما‬
‫يعبرون عنه بالقدرة على التعلم وحل المسائل وفهم البديهيات والتفاعل مع المحيط المجتمعي بطريقة‬
‫منطقية‪ .60‬في حين أن الذكاء موضوعا ً وفلسفةً ال يرتبط بحجم المعارف أو المهارات التي يمتلكها‬
‫الشخص‪ ،‬دون أن ننفي أنها‪ ،‬كما المخزون المعرفي تساعد على زيادة فاعلية الذكاء وتطويره‪ .‬فالتخزين‬
‫المعرفي شيء والذكاء شيء آخر منفصل عنه‪ .61‬إذ أن التخزين المعرفي المفتقر للذكاء ال يفضي إال‬
‫لعملية تراكمية من المعارف التي ال يُمكن وصف حاملها بالذكاء‪ ،‬كما لو أننا أمام موسوعة الكون ونشأته‬
‫ُمحملة في مكتبة عمالقة‪ ،‬أو موضوعة في قرص صلب ذو طاقة تخزينية ضخمة‪ .‬فذلك مخزون معرفي‬
‫ال ذكاء‪ .‬كذلك‪ ،‬فإن منطقية الذكاء اإلنساني ليست بالمطلق هي منطقية الذكاء الرياضي أو المتوالي الذي‬
‫يعتمد عليه الذكاء االصطناعي‪ ،‬بل قد تكون معارضة في بعض الحاالت لهذا الذكاء‪.‬‬
‫كل هذا الجدل السابق‪ ،‬دفع البرلمان األوربي في مبادرته اإلطارية حول نظام المسؤولية المدنية‬
‫للذكاء االصطناعي لعام ‪ 2020‬المتضمنة التوصيات الخاصة بشأن نظام هذه المسؤولية‪ 62‬إلى هجر‬
‫التركيز على تعريف الذكاء االصطناعي إلى التركيز على تعريف أنظمة الذكاء االصطناعي‪ ،‬معرفا ً‬
‫أنظمة الذكاء االصطناعي باعتبارها‪" :‬نظام ‪-‬سواء أعتمد على البرمجيات أو أُدمج في أجهزة مادية‪-‬‬
‫يُظهر سلو ًكا يحاكي الذكاء‪ ،‬ال سيما بجمعه البيانات ومعالجتها‪ ،‬وتحليل وتفسير بيئته والتفاعل ضمنها‪،‬‬
‫مع هامش معين من االستقاللية‪ ،‬بُغية تحقيق أهداف محددة"‪.63‬‬
‫هذا التعريف األخير‪ ،‬عدا عن أهميته الكبرى بكونه أول تعريف قانوني صادر عن هيئة رسمية‬
‫على المستوى األوربي‪ ،‬فهو يبين بين جنباته رؤية المشرع األوربي في التعامل مع الذكاء االصطناعي‬
‫وبيان محدداته بشكل أكثر وضوحا ً ودقة عما مضى‪ .‬ولعل المالحظة األولى التي يُمكن استنتاجها من‬
‫التعريف‪ ،‬أن المشرع األوربي فرق بوضوح بين الذكاء االصطناعي كمفهوم تقني وفلسفي وبين أنظمة‬
‫الذكاء االصطناعي‪ ،‬بحيث أن من يقرأ التقرير مع مختلف المرفقات‪ 64‬يستنتج أن المشرع األوربي ركز‬

‫‪58‬‬
‫‪. J. McCarthy, What has AI in Common with Philosophy? Op, cit, Pp. 2041-2042. R-S. Sutton, John‬‬
‫‪McCarthy’s Definition of Intelligence. Op, cit, Pp. 66–67. W-J. Rapaport, What Is Artificial‬‬
‫‪Intelligence? Op, cit, Pp. 52–56.‬‬
‫‪ . 59‬ليث أثير يوسف‪ ،‬مشكلة االستقراء والذكاء الصناعي‪ .‬المرجع السابق‪ ،‬ص‪ .‬ص‪ .14-1 .‬ناصر شبكة‪ ،‬الذكاء االصطناعي ومنطق تمثيل‬
‫‪A. Fisher. The logic of real arguments.2éme‬‬ ‫المعرفة‪ ،‬منطق المكونات المادية المتعددة‪ .‬المرجع السابق‪ ،‬ص‪ .‬ص‪.33-19 .‬‬
‫‪Cambridge University Press.UK.p149.‬‬
‫‪60‬‬
‫‪. J. McCarthy, What has AI in Common with Philosophy? Op, cit, Pp. 2041-2042. R-S. Sutton, John‬‬
‫?‪McCarthy’s Definition of Intelligence. Op, cit, Pp. 66–67. W-J. Rapaport, What Is Artificial Intelligence‬‬
‫‪Op, cit, Pp. 52–56.‬‬
‫‪61‬‬
‫‪. A-Y. Portnoff, , et J-F. Soupizet. Intelligence artificielle : opportunités et risques, Futuribles, vol. 426, n°‬‬
‫‪5, 2018, Pp. 5-26.‬‬
‫‪62‬‬
‫‪. A9-0178/2020. Un régime de responsabilité civile pour l’intelligence artificielle. Voir le Rapport‬‬
‫‪contenant des recommandations à la Commission sur un régime de responsabilité civile pour l’intelligence‬‬
‫‪artificielle. Voir, Annexe à la résolution : Recommandations détaillées concernant l’élaboration d’un‬‬
‫‪règlement du parlement européen et du conseil relatif à un régime de responsabilité pour l’exploitation‬‬
‫‪des systèmes d’intelligence artificielle. Article 3. al. a.‬‬
‫‪63‬‬
‫‪. « Système d’IA, un système qui est soit fondé sur des logiciels, soit intégré dans des dispositifs matériels,‬‬
‫‪et qui affiche un comportement simulant l’intelligence, notamment en collectant et traitant des données,‬‬
‫‪en analysant et en interprétant son environnement et en agissant, avec un certain degré d’autonomie,‬‬
‫‪pour atteindre des objectifs spécifiques ». A9-0178/2020. Op, cit, Voir, Annexe à la résolution Article‬‬
‫‪3. al. a.‬‬
‫‪64‬‬
‫‪. A9-0178/2020. Op, cit, Voir, Annexe à la résolution : Recommandations détaillées concernant‬‬
‫‪l’élaboration d’un règlement du parlement européen et du conseil relatif à un régime de responsabilité‬‬
‫‪pour l’exploitation des systèmes d’intelligence artificielle.‬‬
 ‫على فكرة أنظمة الذكاء االصطناعي‪ ،‬مع التجاهل التام للذكاء االصطناعي‪ .‬وبالتالي المصطلح المعبر‬
‫في التعامل القانوني مع هذا الذكاء أصبح اليوم هو‪" :‬أنظمة الذكاء" وليس "الذكاء"‪.‬‬
‫وقد يعتقد البعض أن المفهومين متشابهين‪ .‬لكن من الناحية الفعلية هناك فارق جوهري بينهما‬
‫على األقل في االعتبار القانوني‪ ،‬ففي حين أن الذكاء االصطناعي يمثل الجانب الساكن غير المرئي قانونيا ً‬
‫رغم وجوده الفعلي‪ ،‬كونه ال يترتب عليه أي أثر قانوني‪ ،‬لذلك ال يجد القانون نفسه معينا ً به‪ ،‬بينما أنظمة‬
‫الذكاء االصطناعي إنما تمثل الذكاء االصطناعي النشط‪ ،‬مع ما يترتب على هذا النشاط من آثار تقع على‬
‫المجتمع واألفراد‪ .‬وإن أردنا التشبيه بين األمرين فقد يكون اإلسقاط بين "السلوك الباطني أو النية" التي‬
‫ال يحاسب عليها القانون من حيث األصل‪ ،‬معبراً عن الذكاء االصطناعي‪ ،‬و"السلوك الخارجي" الذي‬
‫يحاسب عليه القانون معبراً عن أنظمة الذكاء االصطناعي‪ .‬فحينما يكون الذكاء في مرحة السكون‪ ،‬إنما‬
‫نتناول حال النية أو السلوك الداخلي الذي ال ينظر إليه القانون‪ ،‬بينما حينما نتناول أنظمة الذكاء‬
‫االصطناعي‪ ،‬فنحن نتحدث عن السلوك الخارجي المنظور من قبل القانون‪.‬‬
‫كذلك‪ ،‬من بين النقاط شديدة األهمية في هذا التعريف أنه وضح الرأي القانوني حول مفهوم هذا‬
‫الذكاء‪ .‬حيث يضعنا التعريف أمام أمرين‪ :‬األول هو المحاكاة‪ ،‬والثاني محاكاة لبعض جوانب الذكاء وليس‬
‫للذكاء بمجمله‪ .‬إذ يبين التموضع القانوني لهذه الذكاء بكونه سلوك يحاكي الذكاء‪ ،‬وبالتالي ال يُمكن وصفه‬
‫بالذكاء‪ ،‬بقدر ما يُمكن وصفه بالمحاكاة أو التقليد‪ .‬فهو سلوك محاكاة للذكاء‪ .‬وهنا السؤال ألي ذكاء؟!‬
‫التعريف لم يحيل في مفهوم هذه المحاكاة للذكاء اإلنساني‪ ،‬وبالتالي هذا الربط في سلوك الربط‬
‫بين محاكاة الذكاء االصطناعي للذكاء اإلنساني لم يُقره المشرع األوربي‪ ،‬وكأننا أمام سلوك لمحاكاة ذكاء‬
‫ليس بالضرورة مرتبط بالذكاء اإلنساني‪ .‬والسؤال هنا هل هناك ذكاء خارج ذكاء البشر‪ .‬اإلجابة هي نعم‪.‬‬
‫فالحيوانات على اختالف فئاتها تمتلك جانبا ً من الذكاء‪ ،‬بين الذكاء الغريزي الذي تمليه غريزة البقاء لدى‬
‫مختلف الحيوانات‪ ،‬والذكاء الفطري المكتسب بالفطرة من كل حيوان‪ ،‬والمختلف من حيوان آلخر‪ .‬ما بين‬
‫الحيوانات التي تستطيع التعرف على أنفسها أمام المرآة مثل‪ :‬القرود والدالفين والغربان‪ ،‬والحيوانات‬
‫التي تستطيع صنع االشياء مثل‪ :‬الشامبانزي والغراب‪ ،‬وتلك التي تستطيع إجراء محادثة منظمة كالببغاء‪،‬‬
‫وغيرها من أوجه الذكاء الحيواني‪ .65‬رغم ذلك‪ ،‬إن كان الذكاء المقترن للحيوانات هو ذكاء يُمكن وصفه‬
‫بالطبيعي كونه مقترن مع هذه الكائنات‪ ،66‬وال يُمكن القول بأنه ذكاء يحاكي الذكاء اإلنساني‪ .‬إال أن الذكاء‬
‫المقترن بالذكاء االصطناعي هو اصطناعي بالضرورة‪ ،‬ولذلك هو محاكاة للذكاء‪ .67‬بالتالي يُمكن القول‬
‫هنا‪ ،‬أننا أمام إسقاط جديد لنوع جديد من الذكاء الخاص بالذكاء االصطناعي الذي تقوم أنظمة الذكاء‬
‫االصطناعي بمحاكاته‪.‬‬
‫كذلك‪ ،‬لو نظرنا إلى العبارات المستخدمة ضمن هذا التعريف نجدها تعطينا مؤشرات حول ماهية‬
‫هذه المحاكاة‪ ،‬التي تأخذ شكل المحاكاة الرياضية‪ ،‬أو اآللية‪ ،‬والتي يبرع فيها الذكاء االصطناعي‪ ،‬من‬
‫حيث جمع البيانات ومعالجتها‪ ،‬أو من حيث التعامل مع البيئة المحيطة به‪ .‬والسؤال آال يقترب جانب‬
‫المحاكاة لهذ الذكاء اآللي المؤتمت من الذكاء الغريزي‪ .‬وكأننا أمام متوالية رياضية محددة‪ ،‬بحسب‬
‫المدخالت ستكون المخرجات‪ .‬بينما حينما نتحدث عن تحليل الذكاء االصطناعي وتفسيره لبيئته والتفاعل‬
‫ضمنها‪ ،‬فنحن نتحدث عن ذكاء فطري بحسب نوع هذه المحاكاة والغاية منها‪ ،‬ضمن مفهوم الذكاء المعمق‬
‫"‪ "Deep Intelligence‬أو الذكاء المولد للذكاء ")‪.68"Artificial General Intelligence (AGI‬‬
‫ضمن ذلك‪ ،‬وفي ضوء ما نحن عليه من حقيقة أن مفهوم الذكاء الطبيعي لم يحدد بعد‪ ،‬نعتقد أن‬
‫االدعاء بأن الذكاء االصطناعي هو المقابل للذكاء اإلنساني‪ ،‬هو قول مغلوط‪ .‬فالذكاء اإلنساني بذاته ال‬
‫يزال بالنسبة للكثيرين مفهوم غامض‪ ،‬إن من الناحية الطبية‪ ،‬حيث ال زلنا نجهل الكثير عن هذا الذكاء‬
‫وقدراته‪ ،‬أو من الناحية الفلسفية التي ال يزال هناك اختالف في تحديد التعاريف الفعلية لهذا الذكاء‪.69‬‬
‫كذلك‪ ،‬إن الحديث والمقاربة بين الذكاء االصطناعي ومحاولة تقريبه للذكاء الطبيعي من خالل التعمق في‬
‫هذا األخير‪ ،‬يجعلنا حقيقة أمام دعوة مفتوحة لفهم الذكاء الطبيعي ال االصطناعي! ذلك إن ادعائنا بأننا‬

‫‪65‬‬
‫‪. M. Delsol, Intelligence animale, intelligence humaine : la question posée, in M. Delsol, B. Feltz, M.-C.‬‬
‫‪Groessens (dir.), Intelligence animale. Intelligence humaine, Vrin/Institut Interdisciplinaire d’Etudes‬‬
‫‪épistémologiques, 2008, p. 2. Voir aussi, https://en.wikipedia.org/wiki/Animal_cognition‬‬
‫‪66‬‬
‫‪. S. Desmoulin-Canselier, Les intelligences non humaines et le droit Observations à partir de l’intelligence‬‬
‫‪animale et de l’intelligence artificielle. Archives de philosophie du droit, Dalloz, 2012, Le droit et les‬‬
‫‪sciences de l’esprit, Vol. 55, Pp. 65-87. J. Aram, Le hasard jouerait un rôle important dans la‬‬
‫‪communication des animaux, Le Journal de la science 11 janvier 2012.‬‬
‫‪67‬‬
‫‪. D-G. Johnson & M. Verdicchio. Why robots should not be treated like animals. Ethics and Information‬‬
‫‪Technology, 2018, Pp. 291-301.‬‬
‫‪68‬‬
‫‪. R-V, Yampolskiy & J. Fox, Artificial general intelligence and the human mental model. In A-H. Eden,‬‬
‫‪J-H. Soraker, & E. Steinhart (Eds.), Singularity hypotheses, 2012, Pp. 129–145.‬‬
‫علما ً بأننا ال ننكر بأن هذا التحليل واالستنتاج المستخلص منه قد يكون موضع نظر من قبل العديد من الزمالء األخرين من أهل القانون‬
‫والتقنين‪ .‬رغم ذلك‪ ،‬نرى أن هذه المقاربة رغم المحاذير حولها تبقى ممكنة وقائمة‪.‬‬
‫‪69‬‬
‫‪. J-F. Le Ny, Intelligence Naturelle et Intelligence Artificielle. Paris, Presses Univ. de France. 1993., p.‬‬
‫‪12.‬‬
‫سنفهم الذكاء االصطناعي من خالل فهم الذكاء الطبيعي‪ ،‬إنما هو تركيز على فهم الذكاء الطبيعي ال‬
‫‪70‬‬
‫االصطناعي‪ ،‬ضمن ما يُمكن اعتباره دعوة لفهم الذكاء الطبيعي تحت حجة فهم الذكاء االصطناعي!‬
‫ولعل ذلك ما جعل الذكاء االصطناعي اليوم ينتقل من مفهوم القول بأنه مماثل للذكاء اإلنساني‬
‫إلى القول بأنه يحاكي الذكاء اإلنساني‪ ،‬علما ً أنه حتى ضمن هذه الفرضية األخيرة‪ ،‬لم يَ ُع ْد مطلوبا ً من هذا‬
‫الذكاء أن يوازي في المحاكاة الذكاء اإلنساني‪ ،‬بأن يكون نداً أو مقابالً له‪ .‬وإنما يكفيه أن يُنفذ بعض‬
‫العلميات التي يقوم بها الذكاء اإلنساني بذكاء يوازي الذكاء اإلنساني أو يتفوق عليه‪ ،‬دون أن يكون لهذه‬
‫الموازنة االستنسابية أي تأثير على التكييف الفلسفي لهذا الذكاء‪ .‬ليصبح آلية محاكاة استنسابية لبعض‬
‫األعمال التي يقوم بها الذكاء اإلنساني‪ ،‬وليس بالمطلق هو الذكاء المقابل للذكاء اإلنساني‪.71‬‬
‫كل ذلك‪ ،‬طرح على القائمين على هذ الذكاء قضية أكثر جوهرية تتجاوز التأصيل الفلسفي لهذا‬
‫الذكاء‪ ،‬للبحث في مدى ربط هذا الذكاء بنظريات الفلسفة التقليدية للذكاء وكيفية تقييم مفهوم الذكاء‬
‫االصطناعي به مع نظرية الذكاء في الفلسفة التقليدية‪ ،‬ومن ثم مكانة هذا العلم ضمن نظريات المعرفة‬
‫التقليدية‪ ،72‬وصوالً إلى القول بأن القادم سيتجاوز ربط الذكاء االصطناعي بنظريات الذكاء في الفلسفة‬
‫التقليدية إلى الحديث عن فلسفة الذكاء االصطناعي بذاته‪ ،‬كونه علما ً قائما ً بذاته سينفصل بالضرورة عن‬
‫العلوم الفلسفية التقليدية‪.73‬‬

‫‪ o‬الخالصة ‪ ...‬نحن أمام ماذا؟!‬

‫إن أهم شيئ في بلورة تعريف قانوني صحيح متماسك هو فهم المقابل الذي نود تعريفه‪ .‬مفهو ٌم‪،‬‬
‫يُمكن القول أن بعضا ً من مالمحه قد حددت‪ ،‬فهو ليس بـ‪" :‬كائن" حي‪ ،‬كما أنه ال يتمتع بالذكاء وإن كان‬
‫يحاكي الذكاء‪ .‬كذلك‪ ،‬هو بالعمق والجوهر مفهوم معنوي ساكن غير متحرك‪ .‬ما يجعله‪" :‬مفهوم شيئي‬
‫ذو طبيعة خاصة"‪.‬‬
‫‪ .1‬نحن أمام مفهوم شيئي‬
‫الذكاء االصطناعي ليس بكائن حي بالمطلق‪ ،‬ولن يكون كذلك‪ .‬ذلك أنه إن كان التجسيد‬
‫المادي للذكاء االصطناعي السيما في شكله المتمثل باإلنسآلة‪ ،‬قد دفع الكثير للقول بأن الذكاء‬
‫االصطناعي سيمتلك يوما ً ما ذات المشاعر اإلنسانية‪ ،‬بين الحب والكراهية‪ ،‬بين األلم والفرح‪،74‬‬
‫منطلقين من ذلك للقول بأن هذا الذكاء يُمكن أن يكون شيئا ً حياً‪ .‬فإن في هذا الطرح الكثير من اللغط‬
‫الفلسفي‪.‬‬
‫وهنا من جديد ندخل في البعد الترويجي والتسويقي للشكل المادي للذكاء االصطناعي‪ ،‬وليس‬
‫الذكاء االصطناعي‪ ،‬سواء أتمثل هذا الشكل في محاكاة شكل اإلنسان أو الحيوان‪ .‬ذلك أن الذكاء‬
‫االصطناعي لن يستطيع إمتالك مثل هذه المشاعر بالمطلق‪ ،‬وإن كان يُمكنه مستقبالً أن يمتلك محاكاة‬
‫هذه المشاعر‪ ،‬من حيث برمجيات محاكاة الفرح والخوف والحزن وما إلى ذلك‪ .‬لكننا بالمطلق ضمن‬
‫مفهوم المحاكاة ال اإلحساس‪ .‬وهنا الفارق‪.‬‬
‫ويكفي أن نطلع على الكثير من الدرسات األكاديمية التي تتناول ما يعرف بـ‪" :‬هوة‬
‫االستهجان" "‪ ،75"Uncanny valley‬من حيث كونها ردة الفعل الطبيعة لإلنسان المكتسية‬

‫‪70‬‬
‫‪. Ibid.‬‬
‫‪71‬‬
‫‪. Ibid.‬‬
‫‪72‬‬
‫‪. J. Proust, L'intelligence artificielle comme philosophie, Le Débat, Vol. 47, n° 5, 1987, Pp. 88-102. R.‬‬
‫‪Lamarche-Perrin. Des collaborations possibles entre philosophie et intelligence artificielle.‬‬
‫‪Philosophie. 2012. Available in Net. B. Marchal, Des fondements théoriques pour l’intelligence‬‬
‫‪artificielle et la philosophie de l’esprit. Revue Internationale de Philosophie, vol. 44, n° 172 (1), 1990,‬‬
‫‪Pp. 104-17. D-C. Dennett, When Philosophers Encounter Artificial Intelligence, in S-R. Graubard,‬‬
‫‪(éd.), The Artificial Intelligence Debate, False Starts, Real Fondations, MIT Press, Mass, 1989, Pp.‬‬
‫‪283- 295.‬‬
‫‪73‬‬
‫‪. W-P. Mendonça, Intelligence artificielle et signification : À propos des limites et des possibilités des‬‬
‫‪sciences cognitives, in Revue Philosophiques, Vol. XVII, n° 1, printemps, 1990, Pp. 3-19. J-M.‬‬
‫‪Besnier, L’intelligence artificielle entre science et métaphysique. Esprit, 184 (8/9),1992, Pp. 60–73.‬‬
‫‪74‬‬
‫‪. R. Prasad, et al. Robots that can hear, understand and talk. Advanced Robotics 18, 2004, Pp. 533-564.‬‬
‫‪J. Bach, When Artificial Intelligence Becomes General Enough to Understand Itself. Commentary on‬‬
‫‪Pei Wang’s Paper “On Defining Artificial Intelligence”. Journal of Artificial General Intelligence‬‬
‫‪11(2), 2020, Pp. 15–18. P. Persaud, et al. Can Robots Get Some Human Rights? A Cross-Disciplinary‬‬
‫‪Discussion. Journal of Robotics (2021). Available in Net. S. Sabanovic, Inventing Japan’s robotics‬‬
‫‪culture : The repeated assembly of science, technology, and culture in social robotics. Social Studies‬‬
‫‪of Science. vol. 44, n° 3, 2014, Pp. 342–367.‬‬
‫‪75‬‬
‫‪. The term was first coined and described by the Japanese roboticist Masahiro Mori in an article‬‬
‫‪published in 1970 . The term used to describe the relationship between the human-like appearance of‬‬
‫‪a robotic object and the emotional response it evokes. In this phenomenon, people feel a sense of‬‬
‫‪unease or even revulsion in response to humanoid robots that are highly realistic. See. M. Mori, “The‬‬
‫‪uncanny valley,” Energy ,vol. 7, n ° 4, Pp. 33–35, 1970. (In Japanese). M. Mori, K. F. MacDorman‬‬
‫باالستهجان والنفور حين التعامل مع اآلالت الشبيه بالبشر‪ ،‬بالرغم من الشعور األولي بالقبول‬
‫واالستحسان‪ .‬ما يولد شعوراً بالنفور من هذه اآلالت عند اكتشاف حقيقتها اآللية ال اإلنسانية‪ ،‬السيما‬
‫إحساس برودة الذراعين حين المصافحة واالفتقاد لمفهوم دفئ الجسد وتدفق الدماء فيه‪ .‬أو عمليات‬
‫المحاكاة بين االبتسامة والشعور بالفرح أو الحزن‪ ،‬المرتسمة جميعها بشكل زمني مصطنع‪ ،‬ما بين‬
‫محاكاة النموذج وارتسامته على وجه اإلنسآلة‪ ،‬ما يجعل تأثيره سلبيا ً أكثر منه إيجابياً‪ ،‬بحيث أن‬
‫المتعامل يعلم يقينا ً أنه يتعامل مع آلة وليس إنسان‪ ،‬ما يزيد من حالة النفور لديه‪ .‬مع ما تنطوي عليه‬
‫مختلف هذه الطروحات من محاكاة المشاعر اإلنسانية من آثار سلبية‪ ،‬السيما على الفئات الهشة في‬
‫المجتمع‪ ،‬تحديداً األطفال وكبار السن‪ .76‬إذ يكفي ذلك اإلحساس بالخوف حال فصل اآللة عن الطاقة‪،‬‬
‫ليتمثل رؤية الجثة والموت للمتلقي أو المتعامل مع هذه اآللة‪ ،‬ما يذكره بالموت‪ ،‬ويزيد من آالمه‪،77‬‬
‫لتصبح هذه المحاكاة موجعة لإلنسان وغير ذات معنى‪ .‬ما يُثبت أن أي إدعا ٍء بأننا أمام كائن حي هو‬
‫محض ترويج تسويقي‪.‬‬

‫‪ .2‬نحن أمام مفهوم ذو طبيعة خاصة‬

‫يضاف لما سبق أن الذكاء اإلصطناعي هو في تأصيليه الفعلي مفهوم ساكن غير متحرك‪.‬‬
‫فنحن نتكلم عن مفهوم معنوي صرف هو‪" :‬الذكاء" الذي يأخذ شكالً اصطناعياً‪ ،‬وكأننا نقارن به عقل‬
‫اإلنسان‪ .‬فهو بالمحصلة شيئ غير ملموس مفترض وجوده حقيقة رغم عدم تمكننا من رؤيته أو‬
‫لمسه‪ .78‬أما عملية التجسيد المادي له في كيان ما‪ ،‬سواء أكان ذلك على شكل إنسان أو حيوان‪ ،79‬ال‬
‫يعطيه بذاته صفة الحركة بقدر ما يعطي هذا الكيان المجسد له صفة الحركة‪ ،‬بالتالي صفة الحركة‬
‫هي صفة تبعية ليست أصيلة فيه‪ ،‬بل منفصلة عنه ومتجسدة في بعض أشكال صوره المادية‪.80‬‬
‫أما ما يتعلق بقضية ذكاء هذا الذكاء فهي كما أشرنا سابقا ً حالة جدلية في تأصيليها تتجاوز‬
‫البعد الترويجي الذي رسم لها‪ ،‬فالذكاء ال ينحصر في البعد الحسابي أو الرياضي أو ما إلى ذلك‪ .‬مع‬
‫التأكيد على التفريق بين كون الذكاء االصطناعي ذكياً‪ ،‬وبين أن يتصرف هذا الذكاء بذكاء‪ ،‬واألمرين‬
‫كليهما ال يزال الذكاء االصطناعي بعيداً عنها‪.81‬‬
‫خالصة القول‪ ،‬نعتقد جازمين أن مشكلة الذكاء االصطناعي بمختلف صنوفه وأنواعه هو‬
‫عدم االعتراف بطبيعته بكونه محاكاة وليس ذكاء‪ .‬ربما هذه الحقيقة التي ال يود أن يعترف بها حتى‬
‫التقنين والمتخصصين في موضوع هذا الذكاء‪ ،‬السيما المنادين بالطابع الترويجي للذكاء‪ .82‬فمحاكاة‬
‫الشيء هي ليست الشيء نفسه‪ ،‬وال يهمنا إن كانت هذا المحاكاة تتجاوز األصل الـ ُمحاكى أو هي‬
‫دونه‪ .‬إنما يهمنا أنها ليس هذا األصل‪ ،‬وبالتالي ال يُمكن بحال من األحوال تطبيق ذات أحكام األصل‬
‫عليها‪ .‬وهنا بيت القصيد‪.‬‬
‫ضمن ذلك‪ ،‬نعتقد جارمين أن اإلقرار بهذا المنظور الدقيق لفهم الذكاء االصطناعي بمختلف‬
‫صنوفه ومكوناته‪ ،‬سيجعلنا قادرين على ضبط ارتدادات هذا الذكاء على المستوى القانوني‪.‬‬

‫‪and N. Kageki, "The Uncanny Valley [From the Field]," in IEEE Robotics & Automation Magazine,‬‬
‫‪2012, vol. 19, n° 2, Pp. 98-100.‬‬
‫‪76‬‬
‫‪. N. Kitano, Robo-ethics: a comparative analysis of social acceptance of robots between the West and‬‬
‫‪Japan. The Waseda Journal of Social Sciences, Vol 6. 2005. S. Zhao, Humanoid social robots as a‬‬
‫‪medium of communication. New Media & Society. 2006, 8 (3), Pp. 401-419. L. Loumé, Des robots‬‬
‫‪au service des personnes âgées. Planète robots, n°27, mai/juin 2014, Pp. 50-56.‬‬
‫‪77‬‬
‫‪. J-M. Conte, A review and critique of emotional intelligence measures. Jour-nal of Organizational‬‬
‫‪Behavior, 26(4), 2005, Pp. 433–440. P-J. LaFreniere, & J-E. Dumas, Social competence and behavior‬‬
‫‪evaluation in children ages 3 to 6 years: The short form (SCBE-30). Psychological Assess-ment, 8(4),‬‬
‫‪1996, Pp. 369-377.‬‬
‫‪78‬‬
‫‪. I. Harvey, Robotics: Philosophy of Mind Using a Screwdriver. Evolutionary Robotics: From Intelligent‬‬
‫‪Robots to Artificial Life, 2000, vol. III, Pp. 207-230. J-R. Searle, Minds, Brains, and Programs.‬‬
‫‪Behavioral and Brain Sciences. 1980, Pp. 417–24. R. Rosenblatt, “The Mind in the Machine”, Time,‬‬
‫‪May 3, 1982, p. 59. W-J. Rapaport, How minds can be computational systems. J. Exp. Theor. Artif.‬‬
‫‪Intell. 1998, 10, Pp. 403–419.‬‬
‫‪79‬‬
‫‪. A. Bensoussan, Droit des robots : science-fiction ou anticipation ? D. 2015. P. 1640. Albus, J.S., Brains,‬‬
‫‪Behavior, and Robotics, Byte Books Publications inc., s./v., USA, 1981, 352p.‬‬
‫‪80‬‬
‫‪. P-J. Delage, Les androïdes rêveront-ils de personnalité juridique ? in Science-fiction et science‬‬
‫‪juridique, IRJS éd., 2013, p. 165. X. Bioy, Vers un statut juridique des androïdes ? Journ. intern. de‬‬
‫‪bioéthique, 2013/4, vol. 33, p. 85.‬‬
‫‪81‬‬
‫‪. L. Whitney, Are Computers Already Smarter Than Humans? TIME. Sept. 29, 2017, Available in net.‬‬
‫‪Albus, J.S., Brains, Behavior, and Robotics, BYTE Books Publications inc., s./v., USA, 1981, 352p.‬‬
‫‪J. Haiech & T. Jouault, Think small! Science disruptive et petites équipes. Med Sci (Paris) 2020, 36,‬‬
‫‪Pp. 651-3.‬‬
‫‪82‬‬
‫‪. M. Hildebrandt, Law as computation in the era of artificial legal intelligence. Op, cit. M-U. Scherer,‬‬
‫‪Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies, Harvard‬‬
‫‪Journal of Law & Technology, 29 (2), 2016. Pp. 353–400.‬‬
 ‫‪ .3‬المطلب الثاني‪ :‬ضرورة ضبط الراتدات‬
‫هذا الجدل التقني والفلسفي غير المحسوم لهذا الذكاء‪ ،‬المترافق مع حالة التسويق المبالغ لهذا المفهوم‪ ،‬دفعت بالكثير‬
‫لالعتقاد أن هذا المفهوم سيقلب مجتمعاتنا رأسا ً على عقب‪ .83‬حالةٌ لم ينجو منها العالم القانوني‪ !84‬الذي طرحت أمامه قضيتين‬
‫رئيستين‪ ،‬هما‪ :‬الشخصية والمسؤولية‪ .‬لتخرج العديد من النظريات المؤيدة لمنح الذكاء االصطناعي الشخصية القانونية‪ ،‬كما إمكانية‬
‫مساءلته بذاته عن أفعاله‪.85‬‬

‫‪ 1-3‬الفرع األول‪ :‬الشخصية القانونية‬

‫بعيداً عن حالة االنجراف الالواعي نحو هذا العلم‪ ،‬واالنبهار المجتمعي لفكرة منح الشخصية القانونية لإلنسآلة‪،‬‬
‫والصورة الخيالية لوجود شخصية قانونية من صنف ثاني إلى جانبنا نحن البشر ضمن مفهوم الولع السينمائي أو الخيال‬
‫العلمي‪ ،86‬فإن النقاش القانوني الهادئ‪ ،‬قد يقودنا لتوضيح واستجالء حقيقة هذه االدعاءات المرتبطة بفكرة الشخصية‪،‬‬
‫وارتبطاها بفكرة اإلنسان من جهة‪ ،‬وفكرة الذكاء من جهة أخرى‪.‬‬

‫أولا‪-‬فكرة الشخصية واإلنسان‬

‫إن فكرة الشخصية منذ وجودوها ارتبطت باإلنسان لتعتبر بمثابة المعبر اإلنساني ومن ثم القانوني عن اإلنسان‪،‬‬
‫بمعنى أن الشخصية وبغض النظر عن الوضع القانوني للشخص‪ ،‬ارتبطت باإلنسان واإلنسان فقط‪ .87‬ولم يسجل‬
‫تاريخيا ً أو فلسفيا ً منح هذا المسمى لغير اإلنسان‪ ،‬بما فيها مرحلة العبودية التي أفقدت الرقيق بعضا ً من سمات الشخصية‬
‫بمفهومها القانوني وليس بمفهومها اإلنساني‪ .‬وعندما تم االعتراف بالحقوق والحريات لجميع البشر‪ ،‬ارتبط مفهوم‬
‫الشخصية ببعدها اإلنساني مع بعدها القانوني‪ ،‬لتكتمل فكرة الشخصية القانونية إلى جانب نظيرتها اإلنسانية‪.‬‬
‫علما ً بأن فكرة الشخصية القانونية لم تنفصل يوما ً عن اإلنسان‪ ،‬بل بقيت ملتصقة به‪ ،‬وعندما أحدثت الشخصية‬
‫المعنوية أو االعتبارية فقد أتت بشكل أو بآخر امتداداً للشخصية اإلنسانية‪ .‬بالتالي هي لم تُميز بالوجود المادي المنفصل‬
‫بقدر ما ارتبطت بالوجود المعنوي المنفصل والوجود المالي المفترض انفصاله إدعا ًء ال حقيقةً‪ .‬فهذه الرؤية في‬
‫عمومها‪ ،‬تطرح فكرة االمتداد المعنوي للشخصية القانونية المستمدة أصالَ من الشخصية اإلنسانية لشخص أو مجموعة‬

‫‪83‬‬
‫‪. B. Teyssié, La Cité des algorithmes. Recueil Dalloz 2021 p. 1683. S-N. Lehman-Wilzig, Frankenstein‬‬
‫‪unbound: Towards a legal definition of artificial intelligence, Futures, Vol. 13, Issue 6, 1981, Pp. 442-‬‬
‫‪457. G. Koenig, La fin de l'individu – Voyage d'un philosophe au pays de l'intelligence artificielle,‬‬
‫‪Éditions de L'Observatoire, 2019. L'auteur rappelle combien, historiquement, toutes les grandes‬‬
‫‪révolutions techniques ont été accompagnées d'une extension du droit de propriété, par exemple avec‬‬
‫‪la terre et la paysannerie au sortir de la féodalité, l'imprimerie et le droit d'auteur qui l'a suivie, soutenu‬‬
‫‪par Beaumarchais, ou encore la création des brevets sur les innovations au moment de la révolution‬‬
‫‪industrielle.‬‬
‫‪84‬‬
‫‪. G. Chantepie, Le droit en algorithmes ou la fin de la norme délibérée ? Dalloz IP/IT 2017, p. 522. B.‬‬
‫‪Van der Sloot, Smart technologies and the end(s) of law: novel entanglements of law and technology.‬‬
‫‪[Review of: M. Hildebrandt]. European Data Protection Law Review, 1(2), 2015. Pp. 157-159. B.‬‬
‫‪Marr, How AI and Machine Learning Are Transforming Law Firms and the Legal Sector, Available‬‬
‫‪in net.‬‬
‫‪85‬‬
‫‪. A-S. Chone-Grimaldi et P. Glaser, Responsabilité du fait du robot doué d’intelligence artificielle : faut-‬‬
‫‪il créer une personnalité robotique ? Op, cit, alerte 1. A. Bensoussan, Plaidoyer pour un droit des‬‬
‫‪robots : de la personne morale à la personne robot, Op, cit, n° 1134. D. Bourcier, De l'intelligence‬‬
‫‪artificielle à la personne virtuelle : émergence d'une entité juridique ? Op, cit, Pp. 847-871. G.‬‬
‫‪Courtois, Robots intelligents et responsabilité : quels régimes, quelles perspectives ? Op, cit, p. 289.‬‬
‫‪G. Loiseau, La personnalité juridique des robots : une monstruosité juridique, Libres propos, Op, cit,‬‬
‫‪Pp. 597.‬‬
‫في الدراسات العربية حول المسؤولية المدنية راجع محمد عرفان الخطيب‪ ،‬المسؤولية المدنية والذكاء االصطناعي‪" ،‬إمكانية‬
‫المساءلة؟!" دراسة تحليلية معمقة لقواعد المسؤولية المدنية في القانون المدني الفرنسي‪ ،‬مجلة كلية القانون الكويتية العالمية‪ .‬سبقت‬
‫اإلشارة‪ ،‬ص‪ .‬ص‪ .151-107 .‬مصطفى أبو مندور موسى عيسى‪ ،‬مدى كفاية القواعد العامة للمسئولية المدنية في تعويض أضرار‬
‫الذكاء االصطناعي‪ ،‬دراسة تحليلية تأصيلية مقارنة‪ .‬سبقت اإلشارة‪ ،‬ص‪ .‬ص‪ .403-210 .‬مها رمضان محمد بطيخ‪ ،‬المسؤولية‬
‫المدنية عن أضرار أنظمة الذكاء االصطناعي‪ :‬دراسة تحليلية مقارنة‪ ،‬سبقت اإلشارة‪ ،‬ص‪ .‬ص‪ .1616 – 1513 .‬مجاهد محمد أحمد‬
‫المعداوي عبد ربه‪ ،‬المسئولية المدنية عن الروبوتات ذات الذكاء االصطناعي‪ :‬دراسة مقارنة‪ ،‬سبقت اإلشارة‪ ،‬ص‪ .‬ص‪– 283 .‬‬
‫‪ .392‬محمد عبدالرازق وهبه سيد أحمد‪ ،‬المسؤولية المدنية عن أضرار الذكاء االصطناعي‪ :‬دراسة تحليلية‪ .‬سبقت اإلشارة‪ ،‬ص‪ .‬ص‪.‬‬
‫‪ .45-11‬حول نظرية الشخصية راجع‪ ،‬محمد عرفان الخطيب‪ ،‬المركز القانوني لإلنسآلة (‪ )Robots‬قراءة في القواعد األوربية في‬
‫القانون المدني لإلنسآلة (‪ )Robots‬لعام ‪" ،2017‬اإلشكاليات والتحديات ‪ ...‬دراسة تأصيلية مقارنة"‪ .‬سبقت اإلشارة‪ ،‬ص‪ .‬ص‪-19 .‬‬
‫‪ .58‬محمد عبدالحفيظ المناصير‪ ،‬إشكالية الشخصية اإللكترونية القانونية للروبوت "دراسة تأصيلية تحليلية مقارنة في إطار التشريعين‬
‫المدني العماني واألوربي‪ ،‬سبقت اإلشارة‪ ،‬ص ‪.44‬‬
‫‪86‬‬
‫‪. C. Hockstein, R. Gourin, D. Faust, & A. Terris, A history of robots: from science fiction to surgical‬‬
‫‪robotics. J. Robot. Surg., 1 (2), 2007, Pp. 113-118. R. Abbott & A. Sarch, Punishing Artificial‬‬
‫‪Intelligence: Legal Fiction or Science Fiction, UC Davis Law Review, 2019. Available in net.‬‬
‫‪87‬‬
‫‪. C. Levy-Leboyer, Évaluation du personnel. Quelle méthode choisir ? Paris, éd. D’organisation, 1990.‬‬
‫‪VAJ. Kurki, A Theory of Legal Personhood. Oxford University Press. 2019, Pp. 127–152. VAJ.‬‬
‫‪Kurki, Legal Personhood: Animals, Artificial Intelligence and the Unborn. Springer 2017. Available‬‬
‫‪in net.‬‬
‫أشخاص‪ ،‬لتعبر عن فكرة االفتراض القانوني لوجود شخصية بديلة‪ ،‬ما هي بالحقيقة إال امتداداً ألصلها اإلنساني‪،‬‬
‫األمر الذي يبدو واضحا ً إما بحسب نوع هذه الشخصية المعنوية‪ ،‬أو بحسب طبيعة ونوعية الشركة‪ ،‬لتظهر بشكل أكبر‬
‫في حالة إفالس الشركة التي تكشف الغطاء عن هذا الفرضية أو ما يعتبره البعض‪" :‬الحيلة القانونية"‪ ،88‬لكي يبدو‬
‫الوضع مباشراً أمام شخصية قانونية ذات ارتباط إنساني هي باألصل امتداد لشخصية إنسانية‪ .‬وبالتالي مهما قلنا‪ ،‬فهذه‬
‫لشخصية تعود بالمفهوم المدني لتستقر في الشخصية اإلنسانية الطبيعية‪ .‬كل ذلك ال يرتبط بالروبوتات‪ ،‬فهذه الرؤية‬
‫في ضوء طرحها لفكرة شخصية مفترضة لشي معنوي "الذكاء االصطناعي" يُمكن أن يتمثل في شيء مادي‬
‫"اإلنسآلة"‪ ،‬تختلف بالمطلق عن سابقتها‪.89‬‬
‫هذه الصفة من الشخصية القانونية هي أحد الركائز الرئيسة في التمييز بين مفهوم الشييء واإلنسان‪ ،‬فكل ما‬
‫يتمتع بالشخصية هو إنسان أو امتداد لشخصية اإلنسان كما في مفهوم الشخص االعتباري أو المعنوي‪ .‬ما عدا ذلك هو‬
‫شيء‪ .‬لكن طرح فكرة الذكاء االصطناعي السيما في شكله المادي المرتبط باإلنسآلة أو ما يعرف بالروبوت‪ ،‬جعلت‬
‫العديد الباحثين بمن فيهم القانونين يطرحون التساؤل حول مدى إمكانية منح الشخصية القانونية للذكاء االصطناعي‪،90‬‬
‫وكانت بذلك أولى الخطوات القانونية نحو تأصيل فكرة الشخصية لهذا المفهوم الشيئي‪.‬‬
‫حيث ُوضعت العديد من المبادرات الدولية من أهمها قواعد القانون المدني لإلنسآلة لعام ‪ 2017‬المقرة في‬
‫البرلمان األوربي الخاص باإلنسآلة‪ ،91‬ليتم الحديث للمرة األولى بشكل شبه رسمي عن إمكانية منح الشخصية القانونية‬
‫للروبوت ذات التعلم العميق والقادرة على توليد الذكاء بمفهوم التعلم العميق "‪ "Deep Learning92‬باعتباره أحد‬
‫الكيانات المادية للذكاء االصطناعي األكثر قربا ً لإلنسان‪ .‬األمر الذي أوجد لغطا ً فكريا ً حول حدود وأبعاد هذا التوجه‪.‬‬
‫ليتدخل المجلس األوربي بغية تأطير فكرة هذه الشخصية متيبنا ً مصطلحا ً جديداً لمفهوم هذه الشخصية هو الشخصية‬
‫‪93‬‬
‫المنقادة‪" .‬الشخص المنقاد "‪ . "Human in Command‬وليؤكد بأن منح هذه الشخصية يجب أن يتم وفق ما‬
‫‪94‬‬
‫يتناسب مع احتياجات وطبيعة اإلنسآلة ‪.‬‬
‫هذا التناول الحرج والمعقد لفكرة الشخصية القانونية والتجاذب بين المجلس والبرلمان األوربيين‪ ،‬جعل‬
‫المبادرة األوربية الوحيدة في هذا المجال حذرة جداً في التعاطي مع هذه الفكرة‪ ،‬ولم يحل دون انتقادها الكبير من قبل‬
‫العديد من رجال الفقه األوربي‪ .‬ليعتبره البعض رفضًا من المجلس لفكرة منح الشخصية القانونية لإلنسآلة‪ ،‬ويراه‬
‫‪95‬‬
‫آخرون قبوالً بهذه الشخصية ‪ .‬في حين أن المجلس االقتصادي واالجتماعي باعتقادنا‪ ،‬أَطَ َر لرؤية جديدة لمفهوم‬
‫الشخصية وفق هذا المفهوم الجديد "الشخص المنقاد "‪ ،"Human in Command‬ما يمنكه من منحه الشخصية دون‬
‫مستتبعات المسؤولية‪ ،‬كما لو كنا أمام مسؤولية متولي الرقابة‪ .‬فالبرلمان األوربي أقر مبدأ منح اإلنسآلة الشخصية‬

‫‪88‬‬
‫‪. A. Bensoussan, Plaidoyer pour un droit des robots : de la personne morale à la personne robot, Op, cit,‬‬
‫‪n° 1134.‬‬
‫‪89‬‬
‫‪. Ibid.‬‬
‫‪90‬‬
‫‪. D. Bourcier, De l'intelligence artificielle à la personne virtuelle : émergence d'une entité juridique ? Op,‬‬
‫‪cit, Pp. 847-871. G. Courtois, Robots intelligents et responsabilité : quels régimes, quelles‬‬
‫‪perspectives ? Op, cit, p. 289. G. Loiseau, La personnalité juridique des robots : une monstruosité‬‬
‫‪juridique, Libres propos, Op, cit, Pp. 597.‬‬
‫محمد عرفان الخطيب‪ ،‬المركز القانوني لإلنسآلة (‪ )Robots‬قراءة في القواعد األوربية في القانون المدني لإلنسآلة (‪ )Robots‬لعام‬
‫‪" ،2017‬اإلشكاليات والتحديات ‪ ...‬دراسة تأصيلية مقارنة"‪ .‬سبقت اإلشارة‪ ،‬ص‪ .‬ص‪ .58-19 .‬همام القوصي‪ ،‬نظرية الشخصيَّة‬
‫االفتراضية للروبوت وفق المنهج اإلنساني‪ ،‬دراسة تأصيلية تحليلية استشرافية في القانون المدني الكويتي واألوروبي‪ .‬مجلة جيل األبحاث‬
‫القانونية المعمقة‪ ،2019 ،‬ص‪ .11 .‬محمد عبدالحفيظ المناصير‪ ،‬إشكالية الشخصية اإللكترونية القانونية للروبوت "دراسة تأصيلية تحليلية‬
‫مقارنة في إطار التشريعين المدني العماني واألوربي‪ ،‬سبقت اإلشارة‪ ،‬ص ‪.44‬‬
‫‪91‬‬
‫‪. Résolution du Parlement européen du 16 février 2017 contenant des règles de droit civil sur la robotique.‬‬
‫‪Op, cit.‬‬
‫‪92‬‬
‫‪. « Qu’au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes‬‬
‫‪électroniques dotées de droits et de devoirs bien précis y compris celui de réparer tout dommage causé à‬‬
‫‪un tiers ». Résolution du Parlement européen du 16 février 2017, Op, cit, paragraphes 25s.‬‬
‫‪93‬‬
‫‪. Avis publié le 31 mai 2017. http://www.lemondedudroit.fr. L’Europe doit opter pour une approche où‬‬
‫‪l’homme reste aux commandes. Le Conseil économique social et européen (CESE). Communiqué de‬‬
‫‪presse, Le Comité économique et social européen., n° 27/2017, Le 30 mai 2017. Le CESE a préféré une‬‬
‫‪approche « Human in command », de l’intelligence artificielle, dans laquelle « les machines restent des‬‬
‫‪machines que les hommes ne cessent jamais de contrôler ». http://www.lemondedudroit.fr.‬‬
‫‪94‬‬
‫‪ .‬لعل ذلك هو ما دفع المشرع األوربي ألن يجعل فلسفته القانونية في فكرة وبناء هذا القرار االعتماد الكبير على قواعد السلوك القانوني‬
‫لإلنسآلة التي أكد عليها تقرير النائبة البرلمانية "‪ "Mady Delvaux‬والتي يعود الفضل في بلورتها لكاتب الخيال العلمي إسحاق أسيموف‬
‫في روايته الشهيرة‪" :‬أنا ربوت" للعام ‪ 1950‬والتي عرفت الحقًا بقانون أسيموف‪ ،‬والتي تقضي بأفضلية الجنس اإلنساني على اإلنسآلة‪.‬‬
‫راجع في ذلك‪،‬‬
‫‪Résolution du Parlement européen du 16 février 2017 contenant des règles de droit civil sur la robotique.‬‬
‫‪Op, cit. Robots : les députés de la commission des affaires juridiques demandent des règles européennes.‬‬
‫‪Communiqué de presse. 12-01-2017, 114s. Available in net.‬‬
‫‪95‬‬
‫‪. CESE défavorable à la création d’une personnalité juridique pour les robots dotés d’intelligence‬‬
‫‪artificielle. http://www.infodsi.com/articles/169540/. Le CESE n’est pas favorable à la création d’une‬‬
‫‪personnalité juridique pour les robots ou l’IA. http://www.lemondedudroit.fr/unes/229224.‬‬
‫القانونية‪ ،‬والمجلس األوربي بيَّن طبيعة هذه الشخصية ومحدداتها‪ .96‬بمعنى أن البرلمان األوربي بحث فكرة الشخصية‬
‫ال المسؤولية‪ ،97‬بينما حدد المجلس األوربي طبيعة هذه الشخصية‪ .‬بحيث يُمكن اعتبار توجههما توجها ً قائما ً على‬
‫التكامل ال التنافر‪.‬‬

‫ثانياا‪-‬فكرة الشخصية والذكاء‬

‫لعل مفهوم الذكاء هو العبارة األكثر ترويجا ً وتسويقا ً لفكرة الذكاء االصطناعي‪ ،‬بإيهامنا بأننا أمام مفهوم جديد‬
‫يتمتع بالذكاء اإلنساني الذي يحوزه اإلنسان‪ ،‬بل ويتفوق عليه‪ ،‬وما إلى ذلك من انبهارنا بفكرة تجاوز الممكن اإلنساني‬
‫إلى المستطاع االصطناعي‪ ،‬وما بعد حدود هذا المستطاع‪ ،‬ضمن مفهوم عدم التوقع اإلنساني لهذا المستطاع‪.‬‬
‫لكن السؤال إن كانت صفة الشخصية ببعديها اإلنساني والقانوني مرتبطة باإلنسان‪ ،‬فهل هي مرتبطة بالذكاء‪،‬‬
‫وهل تمنح لإلنسان الذكي‪ ،‬وهل الذكاء شرط الستحقاق الشخصية؟! اإلجابة حتما ً بالنفي‪ .‬ففكرة الشخصية القانونية‬
‫مرتبطة بالشخصية اإلنسانية‪ ،‬بعيداً عن العقل أو الذكاء‪ ،‬بمعنى أن الشخصية القانونية هي صفة مالزمة لإلنسان‬
‫كإنسان بغض النظر عن بعده العقلي أو غير العقلي‪ .‬وإذا ما علمنا أن قضية الشخصية حينما طرحت في موضوع‬
‫الذكاء االصطناعي‪ ،‬فقد قيلت ‪-‬باعتقادنا‪ -‬في معرض الترويج التسويقي غير الواعي لمدى تطابق فكرة الذكاء‬
‫االصطناعي مع الشخصية‪ ،‬على األقل من قبل المنادين بهذا الطرح من غير المتخصصين من أهل القانون‪ .98‬فإن‬
‫ذلك يجعل أي ربط لفكرة منح الشخصية القانونية للذكاء االصطناعي‪ ،‬السيما في بعده المتعلق بالتعلم العميق المولد‬
‫للذكاء "‪ "Self-Awareness‬ربطا ً عير صحيح من الناحية القانونية‪ .‬باعتبار أن فكرة منح الشخصية وربطها بالذكاء‬
‫االصطناعي هو ربط خاطئ في أساسه‪ ،‬إذ أننا لم نمنح الشخصية يوما ً للذكاء اإلنساني‪ ،‬كما أن القانون لم يربط يوما ً‬
‫مفهوم الشخصية بمفهوم الذكاء‪.‬‬
‫إذ أن الحديث وفق تصور منح هذه الشخصية للذكاء االصطناعي بمفهومه المطلق العام هو تفكير غير صائب‪.‬‬
‫فال يُمكن منح العقل غير المتجسد بالجسد البشري الشخصية‪ .99‬ذلك أننا بهذه الفرضية كمن ينادي بمنح الذكاء اإلنساني‬
‫الشخصية القانونية‪ ،‬أو على األقل المقابل للدماغ هذه الشخصية‪ .‬بينما فكرة الشخصية القانونية للذكاء االصطناعي‬
‫حينما طرحت فقد روجت في إطار البعد المادي الذي يُمكن أن يتجسد به هذا الذكاء‪ ،‬مع التأكيد مجدداً أن هذا الطرح‬
‫لم يكن في أي بعد مادي‪ ،‬بل البعد المادي للشكل األقرب لإلنسان ونعني به الروبوت‪ ،‬كونه األقرب للقبول األخالقي‬
‫لمنظور الشخصية اإلنسانية‪ .‬ما يُعيدنا للقول أن المعيار بمنح الشخصية هو معيار إنساني أكثر منه عقلي أم مرتبط‬
‫بالذكاء‪ .‬إذ لم يُبحث بالمطلق منح الشخصية القانونية لغير الروبوت‪ ،‬ولم يُتصور منح الشخصية القانونية لغيره من‬
‫أشكال التجسيد المادي لباقي الكائنات كالكلب أو القطة أو غيرهما مهما بلغت درجة ذكائهما‪ .100‬بالتالي الفكرة ال‬
‫ترتبط بالذكاء بذاته‪ ،‬بل بالمجسد لهذا الكيان المتمثل بالكيان األقرب للكيان اإلنساني‪.‬‬

‫‪ 2-3‬الفرع الثاني‪ :‬المسؤولية القانونية‬

‫جانب االستقاللية المقترن بالذكاء في آليات عمل الذكاء االصطناعي السيما المعمق منه‪ ،‬دفعت بالعديد من‬
‫التقنيين والقانونين على حد سواء للحديث عن المسؤولية القانونية للذكاء االصطناعي وإمكانية تحميل هذا األخير‬
‫المسؤولية القانونية باعتباره المسؤول عن أفعاله‪ .‬ليكثر الحديث عما يسمى بالمسؤولية المدنية للذكاء االصطناعي عن‬

‫أن القرار األوربي لم يتجه إلى إلزام الدول بتكريس النصوص القانونية الخاصة بالشخصية القانونية لإلنسآلة‬ ‫‪ .96‬ال سيما إذا ما علمنا َّ‬
‫بأن التسارع المتزايد للذكاء الصناعي سيجبر هذه الدول في غضون‬ ‫َّ‬
‫والمسؤولية القانونية عليه‪ ،‬وإنما وضع توجهات عامة في ذلك‪ ،‬مؤكدًا َّ‬
‫فترة زمنية تتراوح ما بين عشر إلى خمس عشرة عا ًما على إعادة النظر في القواعد القانونية ألحكام الشخصية القانونية والمسؤولية‬
‫القانو نية لتنظيم الوجود القانوني لهذا "الكائن الثالث الجديد" في المجتمع‪.‬‬
‫‪Résolution du Parlement européen du 16 février 2017 contenant des règles de droit civil sur la robotique.‬‬
‫‪Op, cit, paragraphes 25s.‬‬
‫إن الفاصل بين كل من موقف البرلمان األوربي والمجلس األوربي‪ ،‬يكمن في فهم البعض للتكييف القانوني للمسؤولية القانونية‬ ‫‪ .97‬في الحقيقة َّ‬
‫أن إحداث شخصية قانونية سيجعل اإلنسآلة هو المسؤول المباشر والوحيد‬ ‫أن البعض من أعضاء المجلس اعتبر َّ‬ ‫ال الشخصية القانونية‪ .‬ذلك َّ‬
‫ً‬
‫مستحيال قانونًا‪ .‬األمر الذي نرى فيه قصورًا كبيرًا في تحليل الموقف القانوني‬ ‫عن هذه األضرار‪ ،‬ما سيجعل من عملية جبر الضرر أمرًا‬
‫للمجلس ولطبيعة الفرق بنين الشخصية القانونية من جهة والمسؤولية القانونية من جهة‪ ،‬األمر الذي حاول البرلمان األوربي توضيحه أكثر‬
‫من مرة‪.‬‬
‫‪Le CESE avance comme principal argument pour justifier sa position, le fait que les effets correctifs‬‬
‫‪préventifs du droit de la responsabilité civile seraient mis à mal, ce que le Parlement européen avait‬‬
‫‪d’ailleurs déjà remarqué, en notant que « les règles habituelles ne suffiraient pas à établir la responsabilité‬‬
‫‪du robot, puisqu’elles ne permettraient pas de déterminer quelle est la partie responsable pour le‬‬
‫‪versement des dommages et intérêts ni d’exiger de cette partie qu’elle répare les dégâts causés ». Le CESE‬‬
‫‪soutient par ailleurs que la reconnaissance de la personnalité juridique aux robots créerait des risques‬‬
‫? ‪d’abus et moraux trop importants. Voir, A. Chéron, Un robot peut-il être une personnalité juridique‬‬
‫‪http://www.informatiquenews.fr/‬‬
‫‪98‬‬
‫‪. D. Bourcier, De l'intelligence artificielle à la personne virtuelle : émergence d'une entité juridique ? Op,‬‬
‫‪cit, Pp. 847-871. VAJ. Kurki, A Theory of Legal Personhood. Op, cit, Pp. 127–152.‬‬
‫‪99‬‬
‫‪. P-J. Delage, Les androïdes rêveront-ils de personnalité juridique ? Op, cit, p. 165. S. Chesterman, Artificial‬‬
‫‪intelligence and the limits of legal personality. International and Comparative Law Quarterly, 69(4),‬‬
‫‪2020. Pp. 819-844.‬‬
‫‪100‬‬
‫‪. D-G. Johnson & M. Verdicchio. Why robots should not be treated like animals. Op, cit, Pp. 291-301.‬‬
‫‪VAJ. Kurki, Legal Personhood: Animals, Artificial Intelligence and the Unborn. Op, cit.‬‬
‫ ومدى ارتباط الذكاء‬،‫ في فهم مدى ارتباط مفهوم االستقاللية بالمسؤولية‬،‫ وهنا األمر يحتاج إلى بعض الروية‬.101‫أفعاله‬
.‫بالمسؤولية‬

‫الستقاللية والمسؤولية‬-‫أولا‬
‫ ما اُعتبر استقاللية‬،‫من أكثر المبررات التي دفعت المناديين بفكرة المسؤولية المدنية للذكاء االصطناعي‬
‫ األمر‬.‫هذا األخير في اتخاذ القرارات التي يتوصل إليها بعيداً عن األشخاص القائمين عليه أو المساهمين في تكوينه‬
‫الذي رأي فيه أنصار هذا الرأي البوابة القانونية السليمة لتحميل هذا األخير المسؤولية القانونية كاملةً غير منقوصة‬
‫ سواء من حيث صحة االدعاء بوجود هذه االستقاللية‬،ٌ‫ استنتا ٌج نعتقد أن فيه نظ ٌر كبير‬.102‫عن أفعاله وتصرفاته‬
.ً‫ وصحة البناء على اعتبار االستقاللية شرطا ً كافيا ً لقيام المسؤولية ثانيا‬،ً‫أوال‬
103
‫ السيما في نموذجه المعمق‬، ‫ يرى أنصار المسؤولية المدنية للذكاء االصطناعي‬،‫ففي إطار االستقاللية‬
‫ بأن هذا األخير طالما‬،"Self-Awareness" ‫" القادر على التعلم وتوليد المعرفة الذاتية‬Deep Intelligence"
،‫ المدرجة ضمن مفهوم عدم المتوقع من مبرمجه أو صانعه‬،‫لديه القدرة على اتخاذ قراراته ضمن مفهوم االستقاللية‬
‫ ذلك أن هذا األخير يسأل عن المتوقع في عمل الذكاء‬.‫فإنه هو المسؤول عن ذلك وليس صانعه أو مبرمجه‬
.‫ وإن كان هو الموصول للهدف‬،‫االصطناعي وال يسأل عن غير المتوقع‬
‫ باعتبار أن الذكاء االصطناعي‬،104‫أم ٌر يؤكد أنصاره أنه ال ينطبق إال على الذكاء االصطناعي المعمق‬
‫ بينما الذكاء االصطناعي القوي القائم على‬،‫الضعيف يعمل ضمن خوارزمية برمجية مختلف طروحاتها متوقعة‬
‫ ضمن هذا النقطة‬.‫التعليم المعمق يعمل ضمن خوارزمية برمجية بعض طروحاتها متوقع والبعض اآلخر غير متوقع‬
‫ يرى أنصار المسؤولية أن هذا الذكاء إن حاد عن هذا الهدف أو وصل إليه بطريقة خالفت توقعات مبرمجه‬،‫األخيرة‬
‫ باعتباره عمل في‬،‫ وإنما الذكاء االصطناعي بذاته‬،‫ حين ذاك ال يكون هذا الشخص هو المسؤول‬،‫وأحدثت الضرر‬
.105‫هامش لم يتوقعه المبرمج‬

101
. C. Castets-Renard, Comment construire une intelligence artificielle responsable et inclusive ? D. 2020.
P. 225. C. Coulon, Du robot en droit de la responsabilité civile : à propos des dommages causés par les
choses intelligentes, Responsabilité civile et assurances 2016, n° 4, p. 17. D-L. Bazelon, Risk and
responsibility. Science 205, 4403, 1979. Pp. 277-80. F-P. Lani, La responsabilité contractuelle face à l’IA
: gestion des risques lors de la contractualisation d’un système d’IA, colloque portant sur l’intelligence
artificielle qui sera responsable ? organisé par le Cnejita, 10 avril 2018.G. Courtois, Robots intelligents
et responsabilité : quels régimes, quelles perspectives ? Op, cit, p. 289. G. Loiseau, Les responsabilités
du fait de l’intelligence artificielle, CCE, n° 4, avril 2019, comm. 24. H. Christodoulou. La responsabilité
civile extracontractuelle à l’épreuve de l’intelligence artificielle. Lexbase Hebdo édition privée, 2019. L.
Floridi, Robots, Jobs, Taxes, and Responsibilities. Philosophy& Technology. Vol. 30, 2017, Pp. 1-4. L.
Godefroy, Les algorithmes : quel statut juridique pour quelles responsabilités ? Comm. com. électr. 2017,
n° 11, p. 16. L. Hin-Yan & K. Zawieska, Frome responsible robotics towards a human rights regime
oriented to the challenges of robotics and artificial intelligence. Ethics and Information Technology, 2017,
Pp. 1-13. L. Szuskin, Intelligence artificielle et responsabilité, CCE, n° 6, juin 2018, entretien 7. M-P.
Blin-Franchomme, Le défi d'une IA inclusive et responsable. Op, cit, p. 100. P. Glaser, Intelligence
artificielle : qui sera responsable ? LPA, n° 107, 2018, p. 103. S. Dormont, Quel régime de responsabilité
pour l’IA ? Commerce électronique, n° 11, novembre 2018, étude 19. S. Migayron, Intelligence artificielle
: qui sera responsable ? Comm. com. électr. 2018, n° 4, p. 118. A-S. Chone-Grimaldi et P. Glaser,
Responsabilité du fait du robot doué d’intelligence artificielle : faut-il créer une personnalité robotique ?
Op, cit, alerte 1. A. Bensamoun et G. Loiseau, La gestion des risques de l’intelligence artificielle., De
l’éthique à la responsabilité, JCP éd. G, 2017, doctr. P. 1203.
102
. P. Glaser, Intelligence artificielle : qui sera responsable ? Op, cit, p. 103. G. Courtois, Robots intelligents
et responsabilité : quels régimes, quelles perspectives ? Op, cit, p. 289. H. Christodoulou. La
responsabilité civile extracontractuelle à l’épreuve de l’intelligence artificielle. Op, cit. L. Szuskin,
Intelligence artificielle et responsabilité, Op, cit, entretien 7. M-P. Blin-Franchomme, Le défi d'une IA
inclusive et responsable. Op, cit, p. 100. S. Migayron, Intelligence artificielle : qui sera responsable ? Op,
cit, p. 118.
103
. F-P. Lani, La responsabilité contractuelle face à l’IA : gestion des risques lors de la contractualisation
d’un système d’IA. Op, cit. D-L. Bazelon, Risk and responsibility. Op, cit. Pp. 277-80. G. Courtois,
Robots intelligents et responsabilité : quels régimes, quelles perspectives ? Op, cit, , p. 289. A-S. Chone-
Grimaldi et P. Glaser, Responsabilité du fait du robot doué d’intelligence artificielle : faut-il créer une
personnalité robotique ? Op, cit, alerte 1. A. Bensamoun et G. Loiseau, La gestion des risques de
l’intelligence artificielle., De l’éthique à la responsabilité, Op, cit,. P. 1203.
104
. P. Glaser, Intelligence artificielle : qui sera responsable ? Op, cit, p. 103. G. Courtois, Robots intelligents
et responsabilité : quels régimes, quelles perspectives ? Op, cit, p. 289. A. Bertolini, Robots and liability
- Justifying a change in perspective. Rethinking Responsibility in Science and Technology. F. Battaglia,
J. Nida-Rümelin and N. Mukerji. Pisa, Pisa University Press, 2014. Pp.143-166.
105
. E. Palmerini, and A. Bertolini, Liability and Risk Management in Robotics. Digital Revolution:
Challenges for Contract Law in Practice. R. Schulze and D. Staudenmayer. Baden-Baden, Nomos, 2016.
Pp. 225-259. A. Bertolini, Robots and liability - Justifying a change in perspective. Rethinking
Responsibility in Science and Technology. F. Battaglia, Op, cit. Pp.143-166.
‫حيث يرى هؤالء أن هذه االستقاللية تكمن في قدرة هذه األنظمة على التفسير والتحليل التخاذ الخيار ضمن‬
‫محددات مسبقة‪ .‬بمعنى أنه إن كان لهذا األنظمة دالئل إرشادية تستند إليها في معرض التفسير والتحليل‪ ،‬إال أن هذه‬
‫الدالئل اإلرشادية ليست ُمقيدة لها بالمطلق‪ ،‬وإنما وضعت لها على سبيل المثال‪ ،‬بحيث أنه يمكنها إما أن تختار فيما‬
‫بينها وهو األمر غير المعقد‪ ،‬أو أن تدمج أكثر من خيار وصوالً إلى خيار جديد من ضمن هذه الخيارات المتاحة‬
‫لديها‪ ،‬ويعتمد على هذه الخيارات وهو األمر المعقد ضمن ما يعرف بالذكاء االصطناعي المعمق‪ ،‬أو أن تصل بذاتها‬
‫ولذاتها‪ ،‬معتمدة على هذه الخيارات إلى خيار جديد ال يعارض مختلف هذه الخيارات وإن كان يختلف عنها‪ ،‬وهو‬
‫األمر األشد تعقيداً‪ ،‬ضمن ما يسمى بالذكاء االصطناعي المولد للذكاء‪.106‬‬
‫استنتا ٌج نراه في غير مكانه‪ ،‬ألسباب عديدة‪ ،‬من أهمها تعريف الذكاء االصطناعي ذاته‪ ،‬فالمدقق في تعريفات‬
‫الذكاء االصطناعي حتى من قبل القائمين عليه يجد أن هذا الذكاء قد وجد ألداء مهمة أو هدف معين‪ .107‬وبالتالي تم‬
‫تصنيعه وبرمجته في ضوء هذا الهدف‪ .‬فإن حاد عن هذا الهدف فإن المسؤولية تقع على عاتق من وضع هذا الهدف‪،‬‬
‫وسخره لخدمة هذا الهدف‪ ،‬سواء أكان خروجه عن هذا الهدف ضمن المتوقع أو غير المتوقع‪.‬‬
‫كذلك‪ ،‬من قال إن فكرة المسؤولية المدنية عن غير المتوقع هي فكرة غير متأصلة ومتجذرة في القانون‬
‫المدني‪ ،‬فالمسؤولية المدنية عن الفعل المتوقع وغير المتوقع هي فكرة موجودة ومتأصلة في القانون المدني‪ ،‬سواء‬
‫في إطار المسؤولية الشخصية أو نظيرتها الموضوعية‪ ،‬وضمن بعديها العقدية وغير العقدية‪ .‬فاألب يسأل عن‬
‫تصرفات ابنه غير المتوقعة طالما أحدثت ضرراً‪ ،‬كما يسأل صاحب الحيوان عن تصرفات حيوانه غير المتوقعة‪،‬‬
‫ورغم إن كليهما يتمتعان بهامش االستقاللية في التصرفات‪ ،‬بغض النظر عن صفة الوعي في هذه التصرفات‪،‬‬
‫وبغض النظر عن هامش الذكاء المرتبط بهذه التصرفات‪.108‬‬
‫كذلك‪ ،‬فإن فكرة المسؤولية عن الضرر المتوقع وغير المتوقع هي كذلك فكرة متأصلة ومتجذرة في القانون‬
‫المدني‪ ،‬وفي مختلف طروحات المسؤولية السابقة‪ ،‬وإن كانت تدخل في اعتبار األصل في المسؤولية غير العقدية‪،‬‬
‫باعتبار إن األصل أن يسأل مسبب الضرر عن الضرر المتوقع وغير المتوقع ضمن هذه المسؤولية‪ ،‬أو في االستثناء‬
‫في إطار المسؤولية التعاقدية باعتباره أنه يسأل عن ذلك في حال الخطأ الجسيم أو الغش ضمن هذه المسؤولية‪ ،‬مع‬
‫العلم أن المستقر فقها ً واجتهاداً تكييف الخطأ المرتبط بالضرر الجسدي الموجب للتعويض بالخطأ الجسيم‪ ،109‬ما‬
‫يفتح المجال واسعا ً للمسؤولية عن الضرر المتوقع وغير المتوقع ‪-‬ضمن هذا الضرر‪ -‬في نطاق المسؤولية التعاقدية‬
‫ليأخذ حكم األصل ال االستثناء‪ ،‬لننتقل في التكييف القانوني عنها من أحكام المسؤولية العقدية إلى المسؤولية غير‬
‫العقدية‪.110‬‬
‫إضافةً لما سبق‪ ،‬وبعيداً عن التحليل القانوني وصوالً للتحليل التأصيلي‪ ،‬هل مجرد وصول الذكاء‬
‫االصطناعي لقرار ما بعيداً عن توقعات صانعه يعني أنه له االستقاللية في اتخاذ هذا القرار الـ ُم َم ِكنة من تحميله‬
‫المسؤولية القانونية‪ .‬ال نعتقد ذلك! ذلك أن هذه االستقاللية "المدعاة" هي استقاللية مصطنعة وليست حقيقة‪ ،‬ذات‬
‫طابع ترويجي أكثر منه قانوني‪ .‬كونها باألساس مرتبطة ببرمجية هذا الذكاء‪ ،‬وبالتالي منظمة من قبل مبرمجه وفق‬

‫‪106‬‬
‫‪. F. Pasquale, A Rule of Persons, Not Machines: The Limits of Legal Automation, Op, cit. F. Rouvière,‬‬
‫‪L'intelligence artificielle au risque du mythe. Op, cit, p. 990. N. Mavridis, A review of verbal and non-‬‬
‫‪verbal human–robot interactive communication, Op, cit, Pp. 22-35. S. Chesterman, Artificial Intelligence‬‬
‫‪and the Problem of Autonomy. Op, cit. P. 210. S. Chopra & L-F. White, A Legal Theory for Autonomous‬‬
‫‪Artificial Agents. Op, cit. 160p. S. Perri. Ethics, regulation and the new artificial intelligence, part II:‬‬
‫‪autonomy and liability. Information, Op, cit, Pp. 406-434. M. Monot-Fouletier, Véhicule autonome : vers‬‬
‫‪une autonomie du régime de responsabilité applicable ? D. 2018, p. 129.‬‬
‫‪107‬‬
‫‪. J. Haiech, Parcourir l’histoire de l’intelligence artificielle, pour mieux la définir et la comprendre. Op,‬‬
‫‪cit, Pp. 919-923. J. McCarthy, What has AI in Common with Philosophy? Op, cit, Pp. 2041-2042. J.‬‬
‫‪McCarthy, What is Artificial Intelligence? Op, cit. R-S. Sutton, John McCarthy’s Definition of‬‬
‫‪Intelligence. Op, cit, Pp. 66–67. W-J. Rapaport, What Is Artificial Intelligence? Op, cit, Pp. 52–56.‬‬
‫‪108‬‬
‫‪. J-R. Searle, Animal Minds. In J. Feinberg & R. Shafer-Landau (Eds.), Reason and Responsibility:‬‬
‫‪Readings in Some Basic Problems of Philosophy, Thomson: Wadsworth. 13th ed., 2008, pp. 356–365.‬‬
‫‪109‬‬
‫‪. S. Garnier, Des évolutions nécessaires en matière de dommage corporel : à propos du projet de réforme‬‬
‫‪de la responsabilité civile. PA, 2018, n° 027, p. 5. J. Knetsch, Le traitement privilégié du dommage‬‬
‫‪corporel, JCP E 2016, supplt au n° 30-35. S. Porchy-Simon, Brève histoire de la réparation du dommage‬‬
‫‪corporel, Gaz. Pal. 8 avr. 2011, p. 9. G. Viney, Précisions apportées à l'interprétation des notions de‬‬
‫‪"défaut" et de "dommage" exigées. RDC, 2015, n° 03, p. 466.‬‬
‫محمد عرفان الخطيب‪ ،‬االستشراف المستقبلي لمبدأ "وحدة" المسؤولية المدنية في التشريع المدني الفرنسي الحديث‪ ،‬قراءة في فلسفة‬
‫مشروع قانون إصالح نظرية المسؤولية "‪ " "PLRRC Urvoas 2017‬دراسة تحليلية معمقة"‪ ،‬مجلة كلية القانون الكويتية العالمية‪.‬‬
‫السنة الثامنة‪ ،‬العدد الثالث‪ .2020 ،‬ص‪ .‬ص‪ .312-269 .‬راجع لذات المؤلف‪ ،‬المالمح الحداثية لنظرية المسؤولية المدنية في التشريع‬
‫المدني الفرنسي‪ .‬دراسة نقدية لنصوص مشروع قانون إصالح نظرية المسؤولية المدنية‪ ."PLRRC Urvoas 2017" .‬مجلة الدرسات‬
‫القانونية‪ ،‬كلية الحقوق والعلوم السياسية‪ ،‬جامعة بيروت العربية‪ ،‬لبنان‪ ،‬عدد ‪ ،2018‬المقال السادس‪ ،‬ص‪ .‬ص‪.192-142 .‬‬
‫‪110‬‬
‫‪. Comme l'envisageaient l'avant-projet Catala et la proposition de loi de Laurent Béteille, le projet de la‬‬
‫‪Chancellerie impose, à son article 1233-1, l'application du régime extracontractuel : « Les préjudices‬‬
‫‪résultant d'un dommage corporel sont réparés sur le fondement des règles de la responsabilité‬‬
‫‪extracontractuelle alors même qu'ils seraient causés à l'occasion de l'exécution du contrat ». Cette‬‬
‫‪solution s'inspire ici des propositions du groupe de travail dirigé par François Terré. Cité in Rapport‬‬
‫‪d'information de Sénat n° 663 (2019-2020) de J. Bigot et A. Reichardt, fait sur la responsabilité civile‬‬
‫‪déposé le 22 juillet 2020. p. 34.‬‬
‫مفهوم التبعية ال االستقاللية‪ ،‬وفي حال دخول تصرفاتها ضمن مفهوم غير المتوقع‪ ،‬فال يفسر ذلك باالستقاللية‪ ،‬بقدر‬
‫ما يكيف باالنحراف عن المسار المتوقع ضمن مفهوم عدم االستقاللية وليس االستقاللية‪ .‬ما يجعل القول بأنها‬
‫استقاللية تُوجب المسؤولية قول فيه نظر‪.‬‬
‫ً‬ ‫ً‬
‫في الجانب اآلخر‪ ،‬هل االستقاللية تعتبر شرطا كافيا لقيام المسؤولية المدنية؟ ذاك سؤال آخر! فحتى لو قبلنا‬
‫بأن هذه الذكاء يعمل باستقاللية تامة أصيلة مرتبطة به ال بمبرمجه‪ ،‬فهل هذا يكفي لتحميله المسؤولية القانونية‪ ،‬هذا‬
‫السؤال يحتاج منا مجدداً اإلجابة على السؤال السابق هل االستقاللية بذاتها شرطا ً كافيا ً لنهوض المسؤولية‪ .‬ال يختلف‬
‫أهل القانون أن اإلجابة هي النفي‪ .111‬فاالستقاللية بذاتها لم تكن يوماً شرطا ً كافيا ً لقيام المسؤؤلية‪ ،‬بل يجب أن ترتبط‬
‫هذه االستقاللية بمكونات قانونية وفلسفية تؤهل ما يُمكن وصفه باالعتبار القانوني لالستقاللية كشرط من شروط‬
‫نهوض المسؤولية‪ ،‬بجعلها تدخل ضمن مجموعة اشتراطات تُهيئ لنهوض هذه المسؤولية‪ .‬ولعل الشرط األهم في‬
‫ذلك أن تقترن هذه االستقاللية بالوعي أو االدراك لصحة التصرف من عدمه‪ .‬فالمسؤولية القانونية ترتبط بالتصرف‬
‫أو الفعل الواعي الـ ُمقترف على وجه االستقالل‪.112‬‬
‫لمجمل ما سبق نعتقد أن القول الترويجي المبني على فكرة استقاللية الذكاء االصطناعي والبناء عليها‬
‫لتحميله فكرة المسؤولية هي فكرة غير صحيحة‪ ،‬سواء أكان ذلك من الناحية القانونية أو من الناحية التأصيلية‪ .‬ليبقى‬
‫السؤال عن طبيعة الربط بين الذكاء والمسؤولية‪.‬‬

‫ثانياا‪-‬الذكاء والمسؤولية‬
‫بعيداً عن مناقشة حقيقة اإلدعاء بذكاء الذكاء االصطناعي من عدمه‪ .‬السؤال هل الذكاء شرط للمسؤولية؟‬
‫بمعنى هل نحن كقانونين نُحمل المسؤولية المدنية لألذكياء فقط ونعفي منها من هم دونهم؟! مع االنتباه لتحديد مدى‬
‫قدرتنا على اإلجابة على السؤال األعمق بتبيان الحد الفاصل بين مفهومي الذكاء والغباء! اإلجابة على ذلك‪ ،‬أن‬
‫القانون ال يعتد بأي من المفهومين في بناء المسؤولية المدنية‪ ،‬فهي ليس عبئا ً على األذكياء دون غيرهم‪ .‬وما من قول‬
‫يُوجب بإعفاء من هم دونهم منها‪ .‬بالتالي‪ ،‬الذكاء لم يكن يوما ً شرطا ً من شروط المسؤولية‪ .‬هذه األخيرة‪ ،‬كما سبق‬
‫بيانه ترتبط باإلدراك والوعي لصحة التصرف من عدمه‪ .‬األمر المفتقد في الذكاء االصطناعي‪.‬‬
‫والحقيقة‪ ،‬إن كان بالنسبة للتقنيين هناك رابط خفي بين الذكاء واالستقاللية‪ ،‬بحيث أنه كلما زاد معدل ذكاء‬
‫الذكاء االصطناعي كلما زاد معدل استقالليته‪ ،‬والعكس بالعكس‪ .‬ليولد لديهم التمييز بين الذكاء االصطناعي القوي‬
‫أو المعمق والذكاء االصطناعي الضعيف‪ .113‬وإن كان هذا األمر ال يصدق دوما ً بالنسبة إلينا كقانونين‪ ،‬وقد ال يعتد‬
‫به‪ .‬لكن في ضوء الذكاء االصطناعي فإن األمر قد يدفعنا إلعادة ترتيب أولوياتنا في النظرة لهذه المسؤولية‪ .‬السيما‬
‫أن هذا الربط بين معدل الذكاء االصطناعي واالستقاللية‪ ،‬برز من خالل تعريف الذي تبناه المشرع األوربي للمقصود‬
‫باالستقاللية في مبادرته اإلطارية حول نظام المسؤولية المدنية للذكاء االصطناعي لعام ‪ ،2020‬بتأكيده بأنها تعبر‬
‫عن‪" :‬نظام ذكاء اصطناعي يعمل من خالل تفسير بعض البيانات المدخلة واستخدام مجموعة من اإلرشادات المحددة‬
‫مسبقاً‪ ،‬على سبيل المثال ال الحصر‪ ،‬مع بقاء سلوك النظام ملتزما ً بتحقيق الهدف المحدد له‪ ،‬وخاضعا ً للقيود المتآتية‬
‫من هذا الهدف‪ ،‬وخيارات التصميم األخرى المفروضة من قبل مطوره"‪.114‬‬
‫إذ تكمن أهمية هذا التعريف في كونه قد وضع حداً للجدل الفقهي في التمييز في النظرة والمعاملة القانونية‬
‫بين الذكاء االصطناعي القوي والذكاء االصطناعي الضعيف‪ .‬ذلك أنه ؛ إن كان أغلب التقنين يقبلون بفكرة المحاكاة‬
‫في الذكاء االصطناعي الضعيف‪ ،‬باعتباره يعمل بخوارزمية متوالية وضمن مفهوم آلي مؤتمت ال يخرج عنه‪ ،‬وال‬
‫يملك أي سلطة هامشية أو استقاللية في اتخاذ القرار‪ ،‬فإنهم ال يقبلون بها في الذكاء االصطناعي المعمق أو القوي‪.‬‬
‫معتبرين أن هذا الذكاء يملك هامشا ً من االستقاللية‪ ،‬يُ َّم ِكنه من اتخاذ قرارات مستقلة‪ ،‬كما يولد ذكا ًء معرفياً خاصا ً‬

‫‪111‬‬
‫‪. G. Verrier, & N. Bourgeois, Chapitre 4. L’autonomie et la responsabilité. In: G. Verrier & N. Bourgeois‬‬
‫‪(Dir), Les RH en 2030: 30 pistes concrètes pour réinventer l'entreprise, 2020, Pp. 32-40). E. Grillo,‬‬
‫‪L’autonomie : dimensions et paradoxes, Ethique et santé, 2004, 1, Pp. 179-181.‬‬
‫‪S. Chopra & L-F. White, A Legal Theory for Autonomous Artificial Agents. Op, cit, 160p. S. Perri.‬‬
‫‪Ethics, regulation and the new artificial intelligence, part II: autonomy and liability. Information, Op,‬‬
‫‪cit, Pp. 406-434. M. Monot-Fouletier, Véhicule autonome : vers une autonomie du régime de‬‬
‫‪responsabilité applicable ? Op, cit, p. 129.‬‬
‫‪112‬‬
‫‪. J. Ricot, Remarques philosophiques sur la responsabilité. Revue générale de droit, 33(2), 2003, Pp.‬‬
‫‪293–303. A. Coeuret, La faute inexcusable et ses applications jurisprudentielles, 2. Doctr., Gaz. Pal.,‬‬
‫‪1987.‬‬
‫‪113‬‬
‫‪. I. Arel, D-C. Rose, & T-P. Karnowski, Deep machine learning - A new frontier in artificial intelligence‬‬
‫‪research. IEEE Computational Intelligence Magazine, 5(4), 2010, Pp. 13-18. F. Russell, Artificial‬‬
‫‪intelligence and counseling: Four levels of implementation. Theory & Psychology. 2019, p. 29. M. Tual,‬‬
‫‪Comment le « Deep learning » révolutionne l’intelligence artificielle, Le Monde.fr 28 juillet 2015. Y.‬‬
‫‪Bengio, A. Courville et I. Goodfellow, Deep Learning, éd. The MIT Press, 2016, p, 1s.‬‬
‫‪http://www.deeplearningbook.org. Le Cun, Y., Bengio and G. Hinton, Deep learning. Nature, 521‬‬
‫‪(7553), 2015. Pp, 436-444.‬‬
‫‪114‬‬
‫‪. « Autonome, un système d’IA qui fonctionne en interprétant certaines données entrées et en utilisant‬‬
‫‪un ensemble d’instructions prédéterminées, sans se limiter à de telles instructions, bien que le‬‬
‫‪comportement du système vise à atteindre l’objectif qui lui a été assigné et qu’il soit soumis aux‬‬
‫‪contraintes découlant de cet objectif et d’autres choix de conception posés par son développeur ». A9-‬‬
‫‪0178/2020. Op, cit, Voir, Annexe à la résolution. Article 3. al. b.‬‬
‫به‪ ،‬يجعله يتجاوز مفهوم المحاكاة‪ .‬ليخلصوا إلى ضرورة التميز في قواعد المسؤولية ضمن هذه الفرضية‪ ،‬بين‬
‫مسؤولية األب عن ابنه القاصر في ضوء الذكاء االصطناعي الضعيف‪ ،‬وعدم مسؤولية األب عن تصرفات ابنه‬
‫البالغ في ضوء الذكاء االصطناعي القوي‪ 115‬؛ فإن التفسير القانوني للتعريف األوربي استناداً إلى التمييز بين نوعي‬
‫هذا الذكاء سيساعدنا في تحديد أي من قواعد المسؤولية المدنية تنطبق على كليهما‪ ،‬ومدى كفاية قواعد هذه المسؤولية‬
‫في الوقت الحالي في معالجة تبعات هذا الذكاء‪ ،‬دون أن نصل إلى ما يذهب إليه البعض من أن ذلك سيؤسس‬
‫لمسؤولية قانونية مستقلة على هذه اآلالت التي تعمل بالذكاء االصطناعي القوي‪ ،‬وإنما كما قلنا سابقا ً سيدفعنا إلى‬
‫التميز ضمن قواعد هذه المسؤولية بين ما يُمكن اعتباره بمسؤولية األب عن أفعال ابنه القاصر "غير المميز" ضمن‬
‫مفهوم الذكاء االصطناعي الضعيف‪ ،‬وابنه القاصر "المميز" غير الراشد ضمن مفهوم الذكاء االصطناعي القوي‪.116‬‬
‫مع التأكيد أن هذا "اإلبن المفترض" لن يتجاوز يوما ً حدود هذين السقفين االفتراضيين‪ .‬إذا ال يُمكن له بالمطلق أن‬
‫يبلغ سن الرشد الموجب لمسؤوليته القانونية المرتبطة به‪.‬‬
‫بالتالي يُمكن لهذا التحليل بين هذين النوعين من الذكاء‪ ،‬مع االنتباه لطبيعة الربط بين الذكاء االصطناعي‬
‫ال الطبيعي واالستقاللية‪ ،‬سيدفعنا إلى إعادة جدولة قراءتنا لقواعد المسؤولية المدنية‪ ،‬وهذا أمر ال ضير فيه بل هو‬
‫ضرورة‪ ،‬لتأطير المسؤولية المدنية عن أفعال هذا الذكاء ال المسؤولية المدنية لهذا الذكاء‪ .‬والفرق بين األمرين بين‬
‫واضح‪.‬‬

‫‪ ‬الرأي القانوني‬
‫التحليل القانوني الهادئ والمعمق لمختلف ما سبق قد يبدو مفيداً لفهم كيفية التعامل القانوني المستقبلي‬
‫مع قضيتي الشخصية والمسؤولية ضمن هذا الذكاء‪.‬‬

‫‪ o‬التحليل‬
‫في قضية الشخصية‪ ،‬ورجوعا ً إلى التأكيد بربط فكرة الشخصية بفكرة اإلنسان‪ ،‬سواء مفهوم‬
‫الشخصية اإلنسانية المرتبطة باإلنسان‪ ،‬كونها مستمدة منه‪ ،‬أو فكرة الشخصية القانونية المرتبطة بهذا‬
‫اإلنسان كذلك‪ ،‬كونه الوحيد القادر على إكتساب الحقوق وتحمل االلتزامات‪ .‬يُمكن القول أنه من المتعذر‬
‫منح سمة الشخصية لهذا الذكاء االصطناعي‪ ،‬كونه ال يمتلك أي من صفات اإلنسان‪ ،‬بغض النظر عن‬
‫الدخول في التفاصيل المعمقة لهذا الموضوع والتي سبق شرحها‪ ،‬كما أنه ليس أهال الكتساب الحقوق أو‬
‫تحمل االلتزامات‪ .‬وبالتالي تغدو فكرة منح الشخصية للذكاء االصطناعي ضربا ً من الترويج التسويقي‬
‫لهذا المفهوم أكثر منه حقيقةً فعليةً بالمفهوم اإلنساني أو القانوني‪.‬‬
‫كذلك‪ ،‬ما يجب التأكيد عليه‪ ،‬أن فكرة الشخصية في القانون ومحدداتها‪ ،‬ليست مجرد فكرة قانونية‬
‫سطحية أو عابرة يُمكن تجاوزها أو القفز فوقها‪ ،‬بل هي أشبه بأحد أهم محاور "الكون القانوني" ‪-‬فيما لو‬
‫جاز لنا استعارة التعبير‪ ،‬إذ أنها الحد الفاصل بين مفهوم اإلنسان والشيء‪ ،‬وما يبنى عليهما من نظريات‬
‫قانونية شديدة التعقيد تبدأ بنظرية الحق وال تنتهي بنظرية االلتزام‪ .‬وأي تجاوز بين هذين المفهومين‬
‫سيجعل األساس القانوني الذي بني النظام القانوني ببعده اإلنساني واألخالقي مهدداً بالسقوط بالمجمل‪.117‬‬
‫كذلك‪ ،‬وبغض النظر عن وجهات النظر المختلفة حول تمتع الذكاء االصطناعي بالذكاء‪ ،‬ومفهوم‬
‫الذكاء المرتبط به‪ ،‬وهل هذا الذكاء هو ذكاء مكافئ للذكاء اإلنساني أم يتجاوزه أم دونه ‪ ...‬فالسؤال األهم‬
‫بالنسبة لنا نحن القانونين‪ ،‬هل الذكاء من حيث توافره أو عدم توافره هو شرط من شروط منح الشخصية‬
‫اإلنسانية أو القانونية‪ .‬اإلجابة هي النفي المطلق‪ .‬فالشخصية تبقى قائمة ومحمية حتى مع انعدام العقل ‪-‬‬
‫الذكاء‪ .-‬ما يجعل فكرة الشخصية القانونية والشخصية اإلنسانية منفصلة عن مفهوم الذكاء‪ ،‬أي ذكاء ‪...‬‬
‫سواء اإلنساني أو االصطناعي‪ .‬فكليهما ليسا بشرط من شروط منح هذه الشخصية‪ .‬ما يجعل أي ربط بين‬
‫فكرة الشخصية والذكاء فكرة غير صحيحة بالمطلق‪.‬‬
‫لذلك نرى أن كل هذا الحديث عن فكرة منح الشخصية القانونية للذكاء االصطناعي‪ ،‬هي فكرة‬
‫مغلوطة ال يُمكن البناء عليها‪ ،‬إنسانيا ً أو قانونيا ً أو أخالقياً‪ .‬وأن هذه الفكرة إنما ِسيقت في ضوء صدمة‬
‫القانون بعلوم التكنولوجيا‪ ،‬وحالة الضغط اإلعالمي والترويجي الهائلة لهذا المفهوم‪ ،‬الذي رأى الكثير أنه‬
‫‪118‬‬
‫سيوجد إلى جانبا ً نحن البشر "قوما ً آخرين" ‪ .‬مع تأكيدنا أن هذا المصطلح المسمى بـ‪" :‬الشخصية"‬

‫‪115‬‬
‫‪. R. Martinez, Artificial Intelligence: Distinguishing between Types & Definitions. Nevada Law Journal,‬‬
‫‪19 (3), 2019, Pp. 1015–1042. L. Cunningham, A Question of Capacity: Towards a Comprehensive and‬‬
‫‪Con-sistent Vision of Children and Their Status under Law, 10 U.C. DAVIS J. JUV. L. & POL’Y, vol :‬‬
‫‪275, 2006, Pp. 321-333.‬‬
‫‪ .116‬علما ً بأن التشبيه هنا هو ألغراض الشرح والتبسيط وليس ألغراض القطع واليقنين‪ .‬فالمسألة من الناحية القانونية فيها حديث كثير‪.‬‬
‫‪117‬‬
‫‪. M-A. Frison-Roche, La disparition de la distinction de jure entre la personne et les choses : gain fabuleux,‬‬
‫‪gain catastrophique, D, 2017, vol. 41, Pp. 2386‑2389. G. Loiseau, La personnalité juridique des robots :‬‬
‫‪une monstruosité juridique, Libres propos, Op, cit, Pp. 1039‑1042. S. Chesterman, Artificial intelligence‬‬
‫‪and the limits of legal personality. Op, cit. Pp. 819-844.‬‬

‫‪118‬‬
‫‪. M. Bouteille-Brigant, Intelligence artificielle et droit : entre tentation d'une personne juridique du‬‬
‫‪troisième type et avènement d'un « transjuridisme ». Petites affiches, 2018, n° 62, p. 7. O. Vix, Rencontre‬‬
‫‪du troisième type : le robot intelligent. Defrénois, 2018, n° 24, p. 37.‬‬
‫إنما يُمنح لهذا الكائن المسمى بـ‪" :‬اإلنسان" لكون هذا األخير كيان متكامل تتوافر فيه جملة من العناصر‬
‫المادية والمعنوية التي تمكن من منحه هذه الصفة‪ .‬بالتالي هي صفة حصرية لإلنسان‪ ،‬وال يُمكن تصور‬
‫منحها لغير اإلنسان‪ ،‬حتى ولو تشابه في الشكل الخارجي مع اإلنسان‪.‬‬
‫في قضية المسؤولية‪ ،‬يُمكن الوصول لذات النتيجة القانونية‪ ،‬آال مسؤولية قانونية يُمكن أن تترتب‬
‫على الذكاء االصطناعي بغض النظر عن تصنفيه القوي أو الضعيف‪ .‬فإن كان المشرع األوربي في‬
‫مبادرته اإلطارية حول نظام المسؤولية المدنية للذكاء االصطناعي لعام ‪ ،2020‬قد أقر ‪-‬في أحسن حاالت‬
‫التفسير الموسع للنص‪ -‬بوجود هامش من االستقاللية‪ ،119‬إال أنها ليست استقاللية مستقلة أو كاملة‬
‫بالمطلق‪ ،‬وإنما هي استقاللية جزئية‪ ،‬مرتبطة بتحقيق األهداف المرسومة من قبل مبرمج أنظمة الذكاء‬
‫االصطناعي‪ .‬ما يجعلها أقرب إلى استقاللية الحيوان‪ ،‬كما لو أننا أمام مقدم عروض السيرك لبعض‬
‫الحركات الخطرة للحيوانات‪ ،‬وخرجت هذه الحيوانات عن سيطرته‪.‬‬
‫بالتالي هي استقاللية ال تنفي المسؤولية عن المبرمج كما ال تُحمل المسؤولية ألنظمة الذكاء‬
‫االصطناعي‪ .‬إذ تبقى استقاللية مؤطرة بجملة من المحددات التي ال يُمكن ألنظمة الذكاء االصطناعي أن‬
‫تتجاوزها‪ ،‬وإن كان يُمكن لها أن تتسم ببعض المرونة واالستقاللية ضمنها‪ .‬كما تبقى محددة بالهدف الذي‬
‫وضع له هذا النظام والغايات المرجوة منها والتي يجب عليها تحقيقها‪ ،‬ضمن القيود التي وضعت لهذا‬
‫الذكاء لتحقيق هذه األهداف وخيارات التصميم المفروضة من قبل ُمطور هذا النظام‪.‬‬
‫لمجمل ما سبق نعتقد أن هذه الهالة الكبيرة من الترويج اإلعالمي والتسويق التجاري لفكرة‬
‫الشخصية والمسؤولية لهذا الذكاء أم ٌر قد تم تجاوزه على األقل بالنسبة لنا أهل القانون‪ ،‬حيث انتقلنا في‬
‫التعامل معه من مرحلة الصدمة إلى مرحل ٍة يُمكن تسميتها‪" :‬ما بعد الصدمة"‪ .‬بحيث أننا اليوم نقف على‬
‫أرض صُلبة في مواجهة هذا القادم الجديد‪ ،‬إذ بِتنا أكثر تعرفا ً وتفهما ً له‪ ،‬بعيداً عن حالة الضوضاء التي‬
‫أوقعتنا في الكثير من الغموض والقرارات غير الصائبة‪ .‬لتصبح قضية الشخصية محسومة بالرفض‬
‫المطلق‪ ،‬على األقل على أوروبيا ً وأمريكياً‪ .120‬لتكون إجابته النفي القطعي‪ .‬في حين أن قضية المسؤولية‪،‬‬
‫في بعدها المتعلق بتحميل الذكاء االصطناعي المسؤولية عن أفعاله‪ ،‬منتفية كذلك‪ .‬ذلك أن انتفاء الشخصية‬
‫يستتبع حتما ً انتفاء المسؤولية‪ .‬بالمقابل قضية المسؤولية المترتبة على الذكاء االصطناعي وليس أفعال‬
‫الذكاء االصطناعي‪ ،‬في طريقها للحل كوننا استطعنا أن نحدد التكييف القانوني لهذا الذكاء‪.‬‬

‫‪ o‬خالصة القول ‪ ...‬أين نحن؟!‬

‫الوصول المباشر إلى اإلجابة األكثر منطقية في ضبط االرتدادات القانونية للذكاء االصطناعي‬
‫في قضيتي الشخصية والمسؤولية‪ ،‬تمكن في إعادة هذا المفهوم الشيئي إلى مكانه الصحيح‪ ،‬بما يُ َم ِّكنُ من‬
‫ضمان ضبطه الضبط القانوني الصحيح‪.‬‬

‫‪ .1‬العودة للتموضع الصحيح‬

‫أصبح جليا ً اليوم أنه ال يُمكن التعامل مع الذكاء االصطناعي قانونيا ً ضمن أي من مفهومي‬
‫الشخصية أو المسؤولية‪ ،‬إذ ال يُمكن القول بأن له شخصية قانونية تُمكن من تحميله المسؤولية‬
‫القانونية‪ .‬لكن هذا الرفض لهذين المفهومين ال يعني أن يبقى هذا المفهوم الجدلي بتداعياته القانونية‪،‬‬
‫دون أي تأطير قانوني‪ .‬بل يجب أن يكون هناك تأطير يعيد هذا الذكاء لمكانه الطبيعي ضمن مفهومه‬
‫الشيئي‪.‬‬
‫ً‬
‫ذلك أن التموضع القانوني الصحيح لهذا الذكاء االصطناعي‪ ،‬بعيدا عن الشطحات السينمائية‬
‫والدفق الترويجي‪ ،‬تجعلنا ندرك بوضوح أننا ‪-‬كما سبق بيانه‪ -‬أمام مفهوم شيئ ذو طبيعة خاصة‪ .‬وأن‬
‫هذه الطبيعة الخاصة‪ ،‬ال تجعل منه شيئا ً مختلفاً‪ ،‬وإن كانت توجب علينا تعامالً قانونيا ً مختلفا ً معه‪،‬‬
‫يتناسب مع طبيعته الخاصة‪ .‬بالتالي يصبح التفكير ال في تجاوز هذا المفهوم للقانون‪ ،121‬وإنما في‬
‫إعادة إستعياب القانون لهذا المفهوم‪.122‬‬

‫محمد عرفان الخطيب‪ ،‬المركز القانوني لإلنسآلة (‪ )Robots‬قراءة في القواعد األوربية في القانون المدني لإلنسآلة لعام ‪" ،2017‬اإلشكاليات‬
‫والتحديات ‪ ...‬دراسة تأصيلية مقارنة"‪ .‬سبقت اإلشارة‪ .‬ص‪ .‬ص‪ .58-19 .‬تحديداً ‪ 26‬وما بعد‪ .‬محمد عرفان الخطيب‪ ،‬ضمانات الحق في‬
‫ا لعصر الرقمي‪" ،‬من تبدل المفهوم ‪ ....‬لتبدل الحماية"‪ .‬قراءة في الموقف التشريعي األوربي والفرنسي وإسقاط على الموقف التشريعي‬
‫الكويتي‪ .‬مجلة كلية القانون الكويتية العالمية‪ .‬سبقت اإلشارة‪ ،‬ص‪ .‬ص‪ ،.324-251 .‬ص‪ 282 .‬وما بعد‪.‬‬
‫‪119‬‬
‫‪. « Autonome, un système d’IA qui fonctionne en interprétant certaines données entrées et en utilisant un‬‬
‫‪ensemble d’instructions prédéterminées, sans se limiter à de telles instructions, bien que le comportement‬‬
‫‪du système vise à atteindre l’objectif qui lui a été assigné et qu’il soit soumis aux contraintes découlant‬‬
‫‪de cet objectif et d’autres choix de conception posés par son développeur ». A9-0178/2020. Op, cit, Voir,‬‬
‫‪Annexe à la résolution. Article 3. al. b.‬‬
‫‪120‬‬
‫‪. S. Sabanovic, Inventing Japan’s robotics culture : The repeated assembly of science, technology, and‬‬
‫‪culture in social robotics. Op, cit, Pp. 342–367. Persaud, et al. Can Robots Get Some Human Rights? A‬‬
‫‪Cross-Disciplinary Discussion. Op, cit.‬‬
‫‪121‬‬
‫‪. L. Lessig, Code is Law,Op, cit.‬‬
‫‪122‬‬
‫‪. J. Oster, Code is code and law is law. The law of digitalization and the digitalization of law, Op, cit, Pp.‬‬
‫‪101–117. L. Godefroy, Le code algorithmique au service du droit, Op, cit, p. 734.‬‬
‫واليوم وبعد أن أصبحنا أكثر دقة في التكييف القانوني لهذا الشيئ‪ ،‬يُمكن القول أن القانون‬
‫أكثر قدرة على تحديد طبيعة التعامل القانوني معه‪ ،‬ضمن نظرية األشياء ال األشخاص‪ ،‬وهذا أمر في‬
‫غاية األهمية‪ ،‬ذلك أن هذه القاعدة في اإلنطالق في التعامل القانوني‪ ،‬ستجعل أي سؤال في الشخصية‬
‫أو المسؤولية أمراً ال أساس قانوني له‪ .‬فاألشياء ال تمنح أي منهما‪.‬‬
‫ليبقى السؤال هل القانون بوضعه الحالي قادر على التعامل مع هذا الشئ؟!‬
‫ربما تكمن اإلجابة على هذا السؤال بتقسيم اإلجابة حول مدى إمكانية قبوله كشيئ‪ ،‬ومدى‬
‫ضبط قواعد المسؤولية المترتبة جراءه‪ .‬في اإلطار األول إن نظرية األشياء في القانون تستوعب هذا‬
‫الذكاء بكونه شيئا ً ذو طبيعة خاصة‪ ،‬وبالتالي ال نعتقد أن ثمة مشكلة في التكييف القانوني الشيئي‬
‫الخاص بالذكاء االصطناعي‪ ،‬وبإستيعاب القانون له ضمن هذا التوصيف‪ .‬ليبقى السؤال حول ضبط‬
‫المسؤولية المترتبة عنه؟ هنا يُمكن القول أن القانون يمتلك األرضية القانونية المناسبة للتعامل القانوني‬
‫مع ارتدادات المسؤولية المترتبة عن الذكاء االصطناعي ال على الذكاء االصطناعي‪ ،‬من خالل ضبط‬
‫المفهوم الشيئي لهذا الذكاء االصطناعي‪ .‬باعتباره منتجاً‪ ،‬ما يُ َم ِّكنُ من إدخاله ضمن نظرية المسؤؤلية‬
‫المدنية عن ضمان المنتجات المعيبة‪ ،‬باعتبارها قسما ً خاصا ً من المسؤولية المدنية عن األشياء‪ .‬ما‬
‫يُ َم ِّكنُ لنشؤء مسؤولية مدنية جديدة ضمن المسؤولية المدنية عن األشياء هي المسؤولية المدنية عن‬
‫‪123‬‬
‫الذكاء االصطناعي‪ ،‬يُعالج فيها مختلف جوانب الخصوصية والتفرد ضمن هذا الذكاء ‪.‬‬

‫‪ .2‬العودة للضبط الصحيح‬

‫ضمن الضبط السابق يصبح السؤال األكثر دقة ليس البحث في مسؤولية الذكاء االصطناعي‬
‫وإنما البحث في المسؤولية عن هذا الذكاء‪ .‬بتعبير آخر‪ ،‬كيف نحدد المسؤولية عن الذكاء ال مسؤولية‬
‫الذكاء‪ .‬ضمن ذلك تقدم لنا نظرية المسؤولية المدنية عن األشياء مرتكزاً قانونيا ً يُمكن البناء عليه‪،‬‬
‫دون أن ندعي اكتماله‪ ،‬يتمثل في المسؤولية المدنية عن المنتجات المعيبة‪ .‬ذلك أن قواعد هذه النظرية‬
‫ذات األصول الجرمانية‪ ،‬والتي تبناها المشرع الفرنسي في العام ‪ ،1998‬في معرض تبينه للتوجيه‬
‫األوربي الخاص بها العائد للعام ‪ 1985124‬تبين بوضوح أن الذكاء االصطناعي باعتبارها منتجا ً‬
‫شيئاً‪ ،‬يُمكن تطبيق أحكام هذه المسؤولية عليه‪ ،‬بما ينطوي عليه ذلك من نظرة موضوعية في فهم‬
‫قواعد المسؤولية المدنية‪ ،‬باعتبارها مسؤولية تقوم على الضرر ال الخطأ‪ ،‬أو على األقل الخطأ‬
‫المفترض‪ ،‬وذلك وفق أي زاوية نود أن نحلل قواعد هذه النظرية‪ .125‬إال أن ما يهمنا أن هذه النظرية‬
‫تسمح للمتضرر بالحصول على التعويض وتحميل المسؤولية لآلخر بمجرد إدعاءه إثباته لوجود عيب‬
‫"‪ "Défaut‬في المنتج دون إثبات الخطأ‪ .‬بالتالي‪ ،‬اإلثبات يتناول العيب "‪ "Défaut‬ال الخطأ‪ ،‬كما ال‬
‫يتناول إثبات من قبل من وقع هذا الخطأ أو من أين تأتى هذا العيب "‪.126"Défaut‬‬
‫ومن الواضح أن المشرع األوربي في آخر تجلياته التشريعية يذهب في هذا االتجاه‪ ،‬إذ يؤكد‬
‫في مبادرته المتعلقة بقرار البرلمان األوربي حول التوصيات الخاصة بنظام المسؤولية المدنية للذكاء‬
‫االصطناعي لعام ‪ 1272020‬على التكييف القانوني للذكاء االصطناعي بكونه منتج يدخل ضمن‬

‫محمد عرفان الخطيب‪ ،‬سلسة الكتل ”‪ “Blockchain‬والعقود الذكية ”‪ “Smart-Contracts‬نموذجا" للتعايش بين القانون و العلوم‬
‫المناظرة‪ ...‬االقتصاد و الرياضيات مثاال"‪ ،‬قراءة في الفلسفة والتأصيل‪ .‬سبقت اإلشارة‪ ،‬المقال الثالث‬
‫‪123‬‬
‫‪. F. G’Sell, Ver l’émergence d’une responsabilité numérique. Dalloz IP/IT. 2020, n° 3, Pp. 153-158. A-S.‬‬
‫‪Choné-Grimaldi, P. Glaser, Responsabilité civile du fait du robot doué d’intelligence artificielle : faut-il‬‬
‫‪créer une personnalité robotique ? Comm. com. élect. 2018, n° 1, foc. 1, p. 2. C. Bossée-Pilon et I.‬‬
‫‪Francoz, La responsabilité́ civile en matière d'intelligence artificielle, Affiches parisiennes, 1er mars 2019.‬‬
‫‪C. Coulon, Du robot en droit de la responsabilité civile : à propos des dommages causés par les choses‬‬
‫‪intelligentes. Op, cit, Pp. 17-21.‬‬
‫محمد عرفان الخطيب‪ ،‬المسؤولية المدنية والذكاء االصطناعي‪" ،‬إمكانية المساءلة؟!" دراسة تحليلية معمقة لقواعد المسؤولية المدنية‬
‫في القانون المدني الفرنسي‪ ،‬سبقت اإلشارة‪ .‬ص‪ .‬ص‪.151-107 .‬‬
‫‪124‬‬
‫‪. Dir. 85/374/CEE du Conseil du 25 juill. 1985 en matière de responsabilité du fait des produits défectueux.‬‬
‫‪L'art. 3, § 1, désigne le producteur la personne qui se présente comme producteur en apposant sur le‬‬
‫‪produit son nom, sa marque ou un autre signe distinctif.‬‬
‫‪125‬‬
‫‪. Ch. Garin, L’application des règles relatives à la responsabilité du fait des produits défectueux et à la‬‬
‫‪sécurité générale des produits aux biens matériels, Journal des sociétés, 2013, p. 16. Y. Ninane, J. Van‬‬
‫‪Zuylen, Le vice dont répond le gardien ou propriétaire sur le fondement des articles 1384, alinéa 1 er et‬‬
‫‪1386 du Code civil. In Les défauts de la chose : responsabilités contractuelles et extracontractuelles,‬‬
‫‪Limal, Anthemis, 2015, Pp. 225-293.‬‬
‫محمد عرفان الخطيب‪ ،‬المسؤولية المدنية والذكاء االصطناعي‪" ،‬إمكانية المساءلة؟!" دراسة تحليلية معمقة لقواعد المسؤولية المدنية في‬
‫القانون المدني الفرنسي‪ ،‬سبقت اإلشارة‪ .‬ص‪ .‬ص‪ .151-107 .‬حسن عبد الباسط جميعي‪ ،‬مسؤولية المـُنِتج عن األضرار التي تسببها‬
‫منتجاته المعيبة‪ ،‬دراسة مقارنة‪ ،‬دار النهضة العربية‪ ،‬القاهرة‪ ،2000 ،‬ص‪ .184 .‬حسين الماحي‪ ،‬المسؤولية الناشئة عن المنتجات المعيبة‬
‫في ضوء أحكام التوجيه األوربي الصادر في ‪ 25‬يوليو ‪ .1985‬دار النهضة العربية‪ ،‬القاهرة‪ ،1988 ،‬ص‪ .54 .‬فتحي عبد الرحيم عبد‬
‫هللا‪ ،‬دراسات في المسؤولية التقصيرية‪ ،‬نحو مسؤولية موضوعية‪ ،‬منشأة المعارف‪ ،‬اإلسكندرية‪ ،2005 ،‬ص‪.185 .‬‬
‫‪126‬‬
‫‪. Ibid.‬‬
‫‪127‬‬
‫‪. Résolution du Parlement européen du 20 oct. 2020 contenant des recommandations à la Commission sur‬‬
‫‪un régime de responsabilité civile pour l'intelligence artificielle (2020/2014(INL), P9_TA(2020)0276.‬‬
 ‫ دون أن ينكر أن قواعد المسؤولية المدنية عن المنتجات المعيبة‬،128‫المسؤولية عن المنتجات المعيبة‬
‫ تحديداً ضمن مفهوم‬،129‫عنده تحتاج إلى إعادة نظر السيما في إطار قواعد اإلعفاء من المسؤولية‬
‫" الذي يُمكن‬Sécurité" "‫ المتمثل بعدم قدرة المـُنَتج على تقديم األمان "السالمة‬،"Défaut" ‫العيب‬
‫ أو صعوبة هذا اإلثبات حينما يرتبط العيب في الذكاء االصطناعي بمفهومه‬،‫توقعه منه بشكل مشروع‬
‫ في‬،‫ السيما ما يرتبط بقدرة المـُنِتج على التمسك بحالة المعرفة العلمية والتقنية‬،‫المعنوي البرمجي‬
.130‫ التي لم تُمكن من الكشف عن وجود هذا العيب‬،‫الوقت الذي وضعت فيه المـُنَتج في التداول‬
‫لذلك نالحظ أن المعالجة القانونية للمسؤولية عن هذه المنتجات "الذكاء االصطناعي" ضمن‬
‫ اختلفت باختالف نوع الذكاء االصطناعي والبعد القطاعي الخاص به وغير‬،‫هذا التوجه األوربي‬
ً‫ وما بين المسؤولية الموضوعية الملطفة وصوال‬،‫ ما بين المسؤولية الموضوعية الصرفة‬.‫ذلك‬
‫ تفصيالت رغم أهميتها ال تلغي البعد الشيئ لهذا الذكاء المنطوي على تكيفيه‬.131‫للمسؤولية الشخصية‬
‫ الذي هو‬،‫ لتصبح العملية األهم هي تحديد المسؤول عن هذا الذكاء وليس أفعال هذا الذكاء‬.‫كمنتج‬
.132‫اإلنسان في المحصلة‬

128
. « Aux fins du présent règlement, on entend par : …. j) «producteur», le producteur tel que défini à
l’article 3 de la directive 85/374/CEE ». Article 3. Définitions. Voir, Annexe à la résolution :
Recommandations détaillées concernant l’élaboration d’un règlement du parlement européen et du
conseil relatif à un régime de responsabilité pour l’exploitation des systèmes d’intelligence artificielle.
(2020/2014(INL), P9_TA(2020)0276.
129
. « La future proposition de règlement et la directive sur la responsabilité du fait des produits constituent
deux piliers d’un cadre commun de responsabilité pour les systèmes d’IA et exigent une coopération
étroite et une cohérence entre tous les acteurs politiques concernés, au niveau de l’Union et au niveau
national ». N° 6. « La directive 85/374/CEE (directive sur la responsabilité du fait des produits) s’est
avérée depuis trente ans un moyen efficace d’obtenir réparation d’un dommage causé par un produit
défectueux. Par conséquent, elle devrait également être utilisée en ce qui concerne les actions en
responsabilité civile d’une partie qui subit un préjudice ou un dommage à l’encontre du producteur d’un
système d’IA défectueux. Conformément aux principes d’une meilleure réglementation de l’Union, toute
adaptation législative nécessaire devrait être examinée lors de la révision nécessaire de cette directive. Le
droit actuel des États membres en matière de responsabilité civile pour faute offre, dans la plupart des
cas, un niveau de protection suffisant pour les personnes qui subissent un préjudice ou un dommage causé
par un tiers perturbateur, étant donné que la perturbation constitue régulièrement une action fondée sur
une faute, lorsque le tiers utilise le système d’IA pour causer un préjudice. Par conséquent, le présent
règlement devrait se concentrer sur les actions à l’encontre de l’opérateur d’un système d’intelligence
artificielle. N° (9). Annexe à la résolution : Recommandations détaillées concernant l’élaboration d’un
règlement du parlement européen et du conseil relatif à un régime de responsabilité pour l’exploitation
des systèmes d’intelligence artificielle. (2020/2014(INL), P9_TA(2020)0276.
130
. V. Berg, La notion de risque de développement en matière de responsabilité du fait des produits
défectueux, JCP 1996. I. p. 3945. G. Raymond, Premières vues sur la loi n° 98-389 du 19 mai 1988
relative à la responsabilité du fait des produits défectueux, Contrats, conc. Consom. 1988, chron., p. 7.
131
. Articles 4-9. Chapitre II Systèmes d’IA à haut risque. Voir, Annexe à la résolution : Recommandations
détaillées concernant l’élaboration d’un règlement du parlement européen et du conseil relatif à un régime
de responsabilité pour l’exploitation des systèmes d’intelligence artificielle. (2020/2014(INL),
P9_TA(2020)0276.
132
. « Considérant que le système juridique d’un État membre peut moduler ses règles de responsabilité
auxquelles sont soumis certains acteurs ou les rendre plus strictes pour certaines activités; que la
responsabilité objective implique qu’une partie peut être tenue pour responsable malgré l’absence de
faute; que, dans de nombreux droits nationaux de la responsabilité civile, le défendeur est tenu pour
objectivement responsable lorsqu’un risque qu’il a provoqué pour le public, par exemple en conduisant
une voiture ou en menant des activités dangereuses, ou un risque qu’il ne peut contrôler, comme dans le
cas d’animaux, entraîne un préjudice ou un dommage ». Résolution du Parlement européen du 20 oct.
2020 contenant des recommandations à la Commission sur un régime de responsabilité civile pour
l'intelligence artificielle (2020/2014(INL), P9_TA(2020)0276. Considérant C. « La notion de «
responsabilité » joue un rôle important dans notre vie quotidienne à un double titre: d’une part, elle
garantit qu’une personne ayant subi un préjudice ou un dommage est en droit de demander réparation à
la partie tenue pour responsable de ce préjudice ou de ce dommage, et, d’autre part, elle donne aux
personnes des incitations économiques à ne pas causer de préjudice ou de dommage en premier lieu. Tout
cadre de responsabilité devrait non seulement s’appliquer à inspirer la confiance dans des produits et
services au fonctionnement sûr, fiable et cohérent, dont les technologies numériques émergentes, telles
que l’intelligence artificielle (IA), l’internet des objets (IDO) ou la robotique, mais aussi à créer un
équilibre permettant de protéger efficacement les victimes potentielles d’un préjudice ou d’un dommage
tout en conservant la marge de manœuvre nécessaire au développement de nouveaux produits, services
ou technologies ». Voir, Annexe à la résolution : Recommandations détaillées concernant l’élaboration
d’un règlement du parlement européen et du conseil relatif à un régime de responsabilité pour
l’exploitation des systèmes d’intelligence artificielle. (2020/2014(INL), P9_TA(2020)0276. N° (1).
‫علما ً بأن دور هذه الورقة البحثية ليس في تحديد من هو هذا اإلنسان‪ ،‬هل هو المبرمج أو‬
‫المطور أو المستخدم أو المالك أو الحائر‪ ،133‬فكل ذلك بالنسبة لهذه الورقة مجرد تفصيالت جانبية‬
‫تخرج الورقة عن مضمونها‪ .‬لكن ما يهمنا الخطوة الكبرى التي حددها المشرع في هذ المجال‪ ،‬إذ‬
‫أخرج الحديث عن الذكاء االصطناعي‪ ،‬من الحديث عن مسؤوليته إلى الحديث عن المسؤولية عنه‪،‬‬
‫دون الحديث عن أفعاله‪.‬‬
‫وهنا نود التنويه أنه إن كان هناك فعل للحيوان يكون اإلنسان مسؤول عنه‪ ،‬فإننا ال نرى أن‬
‫هناك أفعال للذكاء االصطناعي يكون اإلنسان مسؤوالً عنها‪ ،‬إذ ليس هناك فعل للذكاء االصطناعي‪،‬‬
‫فهو مفهوم شيئ مجرد غير حي‪ ،‬بخالف الحيوان الذي هو مفهوم شيئي حي يُمكن القبول بأن له أفعال‬
‫تخرج عن حارسه الذي هو اإلنسان‪ .‬بينما الذكاء االصطناعي ليس له وال يُمكن أن نقول أن له أفعال‬
‫تخرج منه‪ ،‬فهو بالمحصلة برنامج ومنتج يقوم بعميلة معينة بطريقة معينة سواء أكانت ذات طبيعة‬
‫حركية مادية كالروبوت أو معنوية صرفة غير ملموسة كالبرمجيات الذكية غير المتجسدة في هيكل‬
‫مادي‪.‬‬
‫‪ .4‬الخاتمة‬
‫تناولنا في هذه الورقة البحثية الحاجة لوضع تعريف قانوني منضبط لهد المفهوم‪ ،‬والضرورات التي تملي ذلك‪ ،‬سواء‬
‫لحسم الجدل حول مفهوم هذا الذكاء‪ ،‬أو لضبط ارتدادات هذا المفهوم على الجانب القانوني‪ .‬وفق مخطط بحثي تناولنا في قسمه‬
‫األول أولى هذه الضرورات المرتبطة بحسم الجدل القائم حول التأصيل التقني والمفاهيمي لهذا المفهوم‪ .‬في حين عرضنا في‬
‫قسمه الثاني لثاني هذه الضرورات المتصلة بضبط اراتدادات هذا الجدل على فهمنا القانوني لهذا الذكاء وكيفية التعامل معه‪.‬‬
‫مختتمين كل قسم بالرأي القانوني الذي خلصنا إليه‪ .‬لنخلص إلى االستنتاج أن التعريف المعياري ال المفاهيمي هو الحل‪ ،‬بذات‬
‫الوقت الذي يجب التركيز أكثر على أخلقة الذكاء االصطناعي‪ ،‬ال مسؤوليته‪.‬‬

‫أولا‪-‬النتقال من التعريف المفاهيمي إلى التعريف التأشيري‬

‫باعتقادنا إن أي محاولة لوضع تعريف جامع مانع‪ ،‬دقيق وموحد للذكاء االصطناعي هي ضرب من العبيثة‪ ،‬على‬
‫األقل في الوقت الحاضر‪ ،‬نظراً لكوننا أمام مفهوم لم يكتمل‪ ،‬ولعلم لم يصل إلى نهايته في التبلور ناهيك عن التطور‪ .‬فكأننا‬
‫نريد أن نمنح توصيفا ً دقيقا ً لمولود لم يكتمل بعد‪ .‬لذلك قد يبدو وضع تعريف موسع وعام مؤطر لهذا الذكاء حالً منطقيا ً يُمكنه‬
‫أن يعوض هذا العجز‪ .‬لنصل لتعريف معياري أو تأشيري‪ ،‬أكثر منه تعريف وصفي ومفاهيمي‪.‬‬
‫ضمن ذلك قد يكون الحل‪ ،‬ليس البحث في التعريف ذاته‪ ،‬وإنما في المعايير التي يُمكن أن يستند إليها هذا التعريف‬
‫من الناحية القانونية‪ .‬األمر الذي يُمكن أن ينقسم بين ما يُمكن وصفه بالمعايير التأشيرية العامة المعرفة والمؤطرة ألي مفهوم‬
‫بما فيها الذكاء االصطناعي‪ ،‬والمعايير التأشيرية الخاصة التي تتناول مفهوم هذا الذكاء بذاته‪.‬‬
‫حيث يُمكن أن نشير في اإلطار األول إلى أن التعريف يجب أن يتسم بالوضوح وعدم التعقيد‪ ،‬بحيث يقدم للمتلقي‬
‫فهما ً عاما ً وواضحا ً عن هذا الذكاء بعيداً عن تعقيد المصطلحات التقنية‪ ،‬بل وحتى القانونية‪ ،‬بذات الوقت الذي يجب أن يتجب‬
‫الغموض‪ ،‬ذلك أنه إن كانت التعريف يهدف إلى إخبار الناس بما يعنيه مصطلح أو عبارة ما في سياقات معينة‪ ،‬فإنه يجب أن‬
‫يقدمها بطريقة واضحة ومفهومة للجميع‪.‬‬
‫في المعايير التأشيرية الخاصة يجب أن يكون التعريف تعريفا ً مرنا ً قابالً للتطور‪ ،‬كوننا أمام علم متغير غير ثابت‪،‬‬
‫بما يسمح لدالالت العبارات المستخدمة المرونة الكافية في التكييف والتطور‪ ،‬بما يناسب طبيعته المتسارعة والمتغيرة‪ .‬كما‬
‫يجب أن يكون تعريفا ً شفافا ً ومسؤوالً‪ ،‬غير متحيز‪ .‬فبذات الوقت الذي يبين فيه هذا التعريف طبيعة المعايير األخالقية التي‬
‫ينهض عليها هذا الذكاء‪ ،‬يبين طبيعة المسؤوليات المترتبة على انتهاك هذه األخالقيات‪.‬‬
‫بذلك‪ ،‬يُمكن لهذا التعريف المعياري ببعديه العام والخاص‪ ،‬ضمان التحقيق األمثل لالمتثال القانوني لهذا الذكاء‬
‫لمقتضيات العدالة القانونية واشتراطاتها‪.‬‬

‫ثانياا‪-‬التركيز على أخلقة الذكاء الصطناعي ل مسؤوليته‬

‫التركيز على البعد الوقائي ال العالجي ربما يكون هو الحل األمثل في ضبط االرتدادات القانونية لهذا الذكاء‪ ،‬وذلك‬
‫من خالل العمل على أخلقة هذا الذكاء سواء فيما يتعلق بتكوينه خالل مرحلة بناءه البرمجي وما يرتبط بذلك‪ ،‬أو خالل مرحلة‬
‫استخدامه وما يتصل بذلك‪ .‬بحيث يتم التركيز على وضع معايير أخالقية تنظم هذا الذكاء سواء في كيفية وضع هذه البرمجيات‬
‫تجنبنا ألي انحرافات مستقبلية في آلية عملها أو وظائفها أو طريقة اتخاذها لقراراتها‪ ،‬السيما ضمن ما يعرف بمناطق العتمة‬
‫الرقمية "‪ "Trade Secret‬التي ال يُمكن لغير المبرمجين أو المطورين استكشاف حقيقتها وطبيعتها‪ ،134‬ضمن هذا العلم‬
‫الخوارزمي الذي قد يكون بالنسبة للكثير من األشخاص بمثابة األحجية الذي ال يُمكن كشف حقيقتها‪.‬‬

‫‪133‬‬
‫‪. « Il est impératif de garantir une sécurité juridique maximale tout au long de la chaîne des responsabilités,‬‬
‫‪y compris pour le producteur, l’opérateur, les personnes lésées et tout autre tiers, pour répondre aux‬‬
‫‪nouvelles difficultés juridiques qu’engendrent les évolutions des systèmes d’intelligence artificielle‬‬
‫‪(IA) ». Voir, Annexe à la résolution : Recommandations détaillées concernant l’élaboration d’un‬‬
‫‪règlement du parlement européen et du conseil relatif à un régime de responsabilité pour l’exploitation‬‬
‫‪des systèmes d’intelligence artificielle. (2020/2014(INL), P9_TA(2020)0276. N° 2.‬‬
‫‪134‬‬
‫‪. S. Noble, Algorithms of Oppression: How Search Engines Reinforce Racism, New York: New York‬‬
‫‪University Press, 2018. D. Bourcier, P. De Filippi, Transparence des algorithmes face à l’open data : quel‬‬
‫‪statut pour les données d’apprentissage ? RFAP 2018, n° 167, p. 525.‬‬
‫بذات الوقت الذي يجب على مختلف المتعاملين مع هذه البرمجيات من المطورين إلى المستخدمين وصوالً لمختلف‬
‫الشرائح االجتماعية التي تتعامل مع هذه البرمجيات‪ ،‬أن تقوم باستخدامها ضمن االستخدامات األخالقية‪ ،‬بحيث ال يساء‬
‫استخدامها لغايات غير مشروعة أو بطريقة غير مشروعة تُخرجها عن الغايات التي وضعت لها‪ .‬هنا تلعب مختلف الجهات‬
‫الفاعلة في المجتمع دوراً فاعالً في الرقابة على شفافية استخدام هذه البرمجيات بما ال يخالف الغايات المرجوة منها‪.135‬‬
‫علما ً بأن الخطوة التالية يجب أن تكون تجاوز مفهوم األخلقة الذي ينطوي على التزام أدبي‪ ،‬غالباً ما تجيد الشركات‬
‫اللعب على وتره‪ ،136‬ما يفقد هذا اإلجراء الكثير من الغايات المأمولة منه في تصويب استخدامات هذا الذكاء‪ ،‬إلى الحوكمة‬
‫التي تفترض تدخالً فاعالً من الدولة ضمن مفهوم اإللزام القانوني‪ .137‬بحيث تصبح هذه المعايير ذات البعد األخالقي تحمل‬
‫مضمونا ً قانونيا ً ملزما ً يُجبر الشركات على مختلف مستوياتها على احترامه واالمتثال له‪ .‬خطوة ٌ ال تزال الكثير من الدول‬
‫تتردد في المضي بها‪ ،‬خشية من ارتداداتها على االستثمار التنافسي المحتدم في هذا السوق بين الشرق والغرب‪ ،‬ومآالت‬
‫هذا األمر على اقتصاديات هذه الدول وزعماتهما العالمية لهذا السوق‪ ،‬تحت ذريعة عدم إمكانية تمكين القانوني من الرقمي!‬
‫ليعود السؤال مجدداً حول مأالت احترام البعد القيمي للقانون والتكلفة االقتصادية لهذا االحترام‪ ،‬ناهيك ‪-‬ضمن هذه الفرضية‪-‬‬
‫عن تكلفتها السياسية‪ .‬وذلك سؤال آخر‪.‬‬
‫التعريف المعياري لهذا الذكاء‪ ،‬كما أخلقته الموصلة لحوكمته‪ ،‬تلك هي الثنائية التي نعتقد أنها قادرة على حسم الجدل‬
‫الفقهي حول ماهية هذا الذكاء كما ضبط ارتداداته القانونية‪ .‬ثنائيةٌ نأمل أن يتنبه إليها الفقه الغربي‪ ،‬وأن يتمسك بها الفقه‬
‫العربي حينما يتاح للمشرع العربي أن يقول كلمته في هذا الذكاء‪.‬‬
‫كلمةٌ‪ ،‬تأخر قدومها ال يلغي حتمية هذا القدوم‪.‬‬

‫‪ . 135‬من الجدير ذكره أن المشرع األوربي كما أغلب التشريعات الغربية تسير في هذا االتجاه الذي ال يزال يحتاج إلى الكثير من عمليات‬
‫الضبط والمراقبة‪.‬‬
‫‪Résolution du Parlement européen du 20 oct. 2020 contenant des recommandations à la Commission‬‬
‫‪concernant un cadre pour les aspects éthiques de l'intelligence artificielle, de la robotique et des‬‬
‫‪technologies connexes (2020/2012(INL). Charte éthique européenne d'utilisation de l'intelligence‬‬
‫‪artificielle dans les systèmes judiciaires et leur environnement, Conseil de l'Europe, févr. 2019. Groupe‬‬
‫‪d'experts indépendants de haut niveau sur l'intelligence artificielle, Lignes directrices en matière‬‬
‫‪d'éthique pour une IA digne de confiance, Op, cit. C. Castets-Renard, AI and the Law in the European‬‬
‫‪Union and the United States, Op, cit, Pp. 397-422.‬‬
‫‪136‬‬
‫‪. L-C. Calvo, RSE et intelligence artificielle, mariage d'amour ou de raison ? Available in net, 8 mars 2019.‬‬
‫‪J-G. Frynas, the False Promise of Corporate Social Responsibility: Evidence from Multinational Oil‬‬
‫‪Companies. International Affairs, n° 81, 2005, Pp. 581-598.‬‬
‫محمد عرفان الخطيب‪ ،‬المسؤولية االجتماعية للشركات‪ ،‬فاعلية السياسة األممية "قراءة في الجانب القانوني"‪ .‬مجلة الشريعة والقانون‪ ،‬اإلمارات‬
‫العربية المتحدة‪ ،‬العدد (‪ ،2017 ،)70‬المقال الثالث‪ ،‬ص‪ .‬ص‪ .80-57 .‬انظر لذات المؤلف‪ ،‬طبيعة الجانب القانوني في المسؤولية االجتماعية‬
‫للشركات! "دراسة نقدية ألحكام الميثاق العالمي لقطاع األعمال (‪ )UNGC‬لعام ‪ ."2000‬الجامعة األردنية‪ ،‬عمادة البحث العلمي‪ .‬دراسات علوم‬
‫الشريعة والقانون‪ ،‬المجلّد ‪ ،42‬العدد ‪ ،3‬ص‪ .‬ص‪.900-873 .‬‬
‫‪137‬‬
‫‪. L. Godefroy, Éthique et droit de l'intelligence artificielle, osmose ou symbiose ? D. 2020. P. 231. D. Forest,‬‬
‫‪La régulation des algorithmes, entre éthique et droit, RLDI, 2017, n° 137, p. 38.‬‬
 ‫المراجع‪138‬‬

‫‪ .1‬العربية‬
‫‪ ‬الكتب‬
‫‪ ‬أنور العمروسي‪ ،‬الشخص الطبيعي والشخص االعتباري في القانون المدني‪ ،‬دار محمود للنشر‪.2012 ،‬‬
‫‪ ‬حسن عبد الباسط جميعي‪ ،‬مسؤولية المـُنِتج عن األضرار التي تسببها منتجاته المعيبة‪ ،‬دراسة مقارنة‪ ،‬دار النهضة‬
‫العربية‪ ،‬القاهرة‪.2000 ،‬‬
‫‪ ‬خالد ممدوح إبراهيم‪ ،‬القاضي االلكتروني‪ ،‬الدعوى اإللكترونية وجراءتها أمام المحاكم‪ ،‬دار الفكر الجامعي‪،‬‬
‫اإلسكندرية‪.2008 ،‬‬
‫‪ ‬رؤوف وصفي‪ ،‬الروبوتات في عالم الغد‪ ،‬الطبعة األولى‪ ،‬دار المعارف‪.2008 ،‬‬
‫‪ ‬زياد عبد الكريم القاضي‪ ،‬مقدمة في الذكاء الصناعي‪ ،‬الطبعة األولى‪ ،‬دار صفاء للطباعة والنشر والتوزيع‪.2010 ،‬‬
‫‪ ‬سعيد السيد قنديل‪ ،‬المسؤولية العقدية في مجال المعلوماتية‪ ،‬دار الجامعة الجديدة‪ ،‬اإلسكندرية‪.2014 ،‬‬
‫‪ ‬صفات سالمة وخليل أبوقورة‪ ،‬تحديات عصر الروبوتات وأخالقياته‪ :‬دراسات استراتيجية‪ ،‬مركز اإلمارات‬
‫للدراسات والبحوث االستراتيجية‪ ،‬العدد ‪ ،196‬الطبعة األولى‪ ،‬أبو ظبي‪ :‬مركز اإلمارات‪.2014 ،‬‬
‫‪ ‬صالح الفضلي‪ ،‬آلية عمل العقل عند اإلنسان‪ ،‬عصير الكتب للنشر والتوزيع‪ ،‬القاهرة‪.2019 ،‬‬
‫‪ ‬عادل عبد النور‪ ،‬مدخل إلى عالم الذكاء الصناعي‪ ،‬منشورات جامعة الملك عبد العزيز‪.2005 ،‬‬
‫‪ ‬عاطف النقيب‪ ،‬النظرية العامة للمسؤولية الناشئة عن فعل االشياء‪ ،‬المنشورات الحقوقية صادر ‪.1999‬‬
‫‪ ‬عبير أسعد‪ ،‬الذكاء الصناعي‪ ،‬الطبعة األولى‪ ،‬دار البداية‪.2017 ،‬‬
‫‪ ‬فيص ل محمد البحيري‪ ،‬أثر النهضة العلمية الحديثة على الفكر القانوني‪ ،‬دراسة في فلسفة القانون‪ .‬الطبعة األولى‪،‬‬
‫مركز الدراسات العربية لنشر والتوزيع‪ ،‬مصر‪.2015 ،‬‬
‫‪ ‬محمد حسن قاسم‪ ،‬القانون المدني االلتزامات‪ ،‬المصادر‪" :‬العقد"‪ ،‬المجلد األول‪ .‬آثار العقد "جزاء اإلخالل‬
‫بالمسؤو لية المدنية"‪ .‬المجلد الثاني‪ .‬دراسة فقهية قضائية مقارنة في ضوء التوجهات التشريعية والقضائية الحديثة‬
‫وقانون العقود الفرنسي الجديد‪ ،‬واالشارة الى المشروع التمهيدي لتعديل قانون المسؤولية المدنية الفرنسي‪ .‬منشورات‬
‫الحلبي الحقوقية‪.2018 .‬‬

‫المقالت‬ ‫‪‬‬
‫‪ ‬أنور احمد الفزيع‪ ،‬مسؤولية مصممي برامج الحاسوب التقصيرية‪ ،‬دراسة في القانون الكويتي المقارن‪ ،‬مجلة‬
‫الحقوق‪ ،‬جامعة الكويت‪ ،1995 ،‬ص‪ .‬ص‪.177-131 .‬‬
‫‪ ‬سمير مرقس‪ ،‬تطبيق الذكاء االصطناعي واألنظمة الخبيرة في زيادة كفاءة المحامين أمام القضاء‪ ،‬مجلة االقتصاد‬
‫والمحاسبة‪ ،‬المجلد ‪ ،655‬مصر‪ .2014 ،‬ص‪ .‬ص‪.9-8 .‬‬
‫‪ ‬كريم موسى حسين‪ ،‬الذكاء االصطناعي من منظور فلسفة العقل‪ ،‬مجلة الفلسفة‪ .‬الجامعة المستنصرية‪ ،2014 .‬العدد‬
‫‪ ،11‬ص‪ .‬ص‪.132-109 .‬‬
‫‪ ‬ليث أثير يوسف‪ ،‬مشكلة االستقراء والذكاء الصناعي‪ .‬مجلة آداب المستنصرية‪ .‬الجامعة المستنصرية‪ ،2011 .‬العدد‬
‫‪ ،5‬ص‪ .‬ص‪.14-1 .‬‬
‫‪ ‬مجاه د محمد أحمد المعداوي عبد ربه‪ ،‬المسئولية المدنية عن الروبوتات ذات الذكاء االصطناعي‪ :‬دراسة مقارنة‪،‬‬
‫المجلة القانونية‪ ،‬جامعة القاهرة‪ ،‬المجلد التاسع العدد (‪ ،)2‬مصر‪ ،2021 ،‬ص‪ .‬ص‪392 – 283 .‬‬
‫‪ ‬محمد عبدالحفيظ المناصير‪ ،‬إشكالية الشخصية اإللكترونية القانونية للروبوت "دراسة تأصيلية تحليلية مقارنة في‬
‫إطار التشريعين المدني العماني واألوربي‪ ،‬المجلة العربية للعلوم ونشر األبحاث‪ .‬المجلد (‪ ،)7‬العدد (‪،2020 ،)1‬‬
‫ص‪ .‬ص‪.73-44 .‬‬
‫‪ ‬محمد عرفان الخطيب‪،‬‬
‫‪ o‬الذكاء االصطناعي والقانون‪ ،‬دراسة نقدية مقارنة في التشريعين المدني الفرنسي والقطري في ضوء القواعد‬
‫األوربية في القانون المدني لإلنسآلة لعام ‪ 2017‬والسياسة الصناعية األوربية للذكاء االصطناعي واإلنسآالت‬
‫لعام ‪ . 2019‬مجلة الدرسات القانونية‪ ،‬كلية الحقوق والعلوم السياسية‪ ،‬جامعة بيروت العربية‪ ،‬لبنان‪ ،‬عدد‬
‫‪ ،2020‬المقال الرابع‪.‬‬
‫‪ o‬ضمانات الحق في العصر الرقمي‪" ،‬من تبدل المفهوم ‪ ....‬لتبدل الحماية"‪ .‬قراءة في الموقف التشريعي األوربي‬
‫والفرنسي وإسقاط على الموقف التشريعي الكويتي‪ .‬مجلة كلية القانون الكويتية العالمية‪ .‬ملحق خاص‪ ،‬العدد‬
‫الثالث‪ ،‬الجزء األول‪ ،2018 ،‬ص‪ .‬ص‪.324-251 .‬‬
‫‪ o‬العدالة التنبؤية والدعوى القضائية‪-‬الفرص والتحديات‪-‬دراسة نقدية معمقة في الموقف االنكلوسكسوني‬
‫والالتيني‪ .‬مجلة الدرسات القانونية‪ ،‬كلية الحقوق والعلوم السياسية‪ ،‬جامعة بيروت العربية‪ ،‬لبنان‪ ،‬عدد ‪،2019‬‬
‫المقال الثالث‪.‬‬

‫‪ .138‬نظراً لتعدد المراجع القانونية والفقهية في البحث‪ ،‬فقد تم االكتفاء بذكر أهمها‪ ،‬علما ً َّ‬
‫بأن كافة المراجع مسددة في متن البحث‪.‬‬
‫ دراسة نقدية معمقة في الموقف األنكلوسكسوني‬،‫ الفرص والتحديات‬،‫ العدالة التنبؤية والعدالة القضائية‬o
،2019 ،1 ‫ العدد‬،12 ‫ المجلد‬.‫ مجلة الحقوق والعلوم اإلنسانية‬،‫ الجفلة الجزائر‬،‫ جامعة زيان عاشور‬.‫والالتيني‬
.48-11 .‫ ص‬.‫ص‬
‫) لعام‬Robots( ‫) قراءة في القواعد األوربية في القانون المدني لإلنسآلة‬Robots( ‫ المركز القانوني لإلنسآلة‬o
،‫ السنة السادسة‬.‫ مجلة كلية القانون الكويتية العالمية‬."‫ دراسة تأصيلية مقارنة‬... ‫ "اإلشكاليات والتحديات‬،2017
.58-19 .‫ ص‬.‫ ص‬.2018 ،‫العدد الربع‬
‫ "إمكانية المساءلة؟!" دراسة تحليلية معمقة لقواعد المسؤولية المدنية‬،‫ المسؤولية المدنية والذكاء االصطناعي‬o
.‫ ص‬.‫ ص‬.2020 ،‫ العدد األول‬،‫ السنة الثامنة‬.‫ مجلة كلية القانون الكويتية العالمية‬،‫في القانون المدني الفرنسي‬
.151-107
‫ مجلة جيل‬.‫ دراسة تحليلية‬:‫ المسؤولية المدنية عن أضرار الذكاء االصطناعي‬،‫ عبدالرازق وهبه سيد أحمد‬،‫محمد‬ 
.45-11 .‫ ص‬.‫ ص‬،2020 ،‫ لبنان‬،43 ‫ العدد‬،‫األبحاث القانونية المعمقة‬
،‫ المجلة القانونية‬،‫ المجلة القانونية‬،‫ دراسة تحليلية مقارنة‬:‫المسؤولية المدنية عن أضرار أنظمة الذكاء االصطناعي‬ 
.1616 – 1513 .‫ ص‬.‫ ص‬،2021 ،‫ مصر‬،‫ المجلد التاسع العدد الثاني‬،‫جامعة القاهرة‬
‫ دراسة‬.‫ الدراسات البينية وأثرها في االتصال بين الحقوق المعرفية‬:‫ قالع وجسور‬،‫مشاعل عبد العزيز الهاجري‬ 
.‫ ص‬.‫ ص‬،2007 ،31 ‫ السنة‬3 ‫ العدد‬،‫ مجلة الحقوق‬.‫في القانون كحقل معرفي مستقل وعالقته بعداه من العلوم‬
.240-171
‫ مدى كفاية القواعد العامة للمسئولية المدنية في تعويض أضرار الذكاء‬،‫مصطفى أبو مندور موسى عيسى‬ 
،‫ كلية الحقوق‬،‫ مجلة حقوق دمياط للدراسات القانونية واالقتصادية‬.‫ دراسة تحليلية تأصيلية مقارنة‬،‫االصطناعي‬
.403-210 .‫ ص‬.‫ ص‬،2022 ،‫ العدد الخامس‬،‫جامعة دمياط‬
‫ المجلة العربية الدولية‬.‫ منطق المكونات المادية المتعددة‬،‫ الذكاء االصطناعي ومنطق تمثيل المعرفة‬،‫ناصر شبكة‬ 
.33-19 .‫ ص‬.‫ ص‬،2012 ،)2( ‫ العدد‬،)1( ‫ المجلد‬،‫للمعلوماتية‬

2. Français
I. Ouvrages et Études
 A. Bensoussan, Plaidoyer pour un droit des robots : de la personne morale à la personne
robot, La Lettre des juristes d'affaires, 23 oct. 2013, n° 1134.
 B. Boris. Le droit en datas : comment l’intelligence artificielle redessine le monde
juridique. Revue Lamy Droit de l'immatériel, Lamy / Wolters Kluwer édition électronique
2019.
 C. Levy-Leboyer, Évaluation du personnel. Quelle méthode choisir ? Paris, éd.
D’organisation, 1990.
 F-P. Lani, La responsabilité contractuelle face à l’IA : gestion des risques lors de la
contractualisation d’un système d’IA, colloque portant sur l’intelligence artificielle qui sera
responsable ? organisé par le Cnejita, 10 avril 2018.
 Groupe d'experts indépendants de haut niveau sur l'intelligence artificielle, Lignes
directrices en matière d'éthique pour une IA digne de confiance, Publications de l'UE, 2019.
 H. Christodoulou. La responsabilité civile extracontractuelle à l’épreuve de l’intelligence
artificielle. Lexbase Hebdo édition privée, 2019.
 J-F. Le Ny, Intelligence Naturelle et Intelligence Artificielle. Paris, Presses Univ. de France.
1993., p. 12.
 L-C. Calvo, RSE et intelligence artificielle, mariage d'amour ou de raison ? Available in
net, 8 mars 2019.
 M. Delsol, Intelligence animale, intelligence humaine : la question posée, in M. Delsol, B.
Feltz, M.-C. Groessens (dir.), Intelligence animale. Intelligence humaine, Vrin/Institut
Interdisciplinaire d’Etudes épistémologiques, 2008, p. 2.
 P-J. Delage, Les androïdes rêveront-ils de personnalité juridique ? in Science-fiction et
science juridique, IRJS éd., 2013, p. 165.
 P. Veber, Les robots et les hommes naîtront-ils et demeureront-ils libres et égaux en droit ?
Décideurs stratégie finance droit, 16 avr. 2013.
 S. Dormont, Quel régime de responsabilité pour l’IA ? Commerce électronique, n° 11,
novembre 2018, étude 19.
II. Articles
 A-S. Chone-Grimaldi et P. Glaser, Responsabilité du fait du robot doué d’intelligence
artificielle : faut-il créer une personnalité robotique ? Contrats Concurrence
Consommation, n° 1, 2018, alerte 1.
 A. Bensamoun et G. Loiseau, L’intégration de l’intelligence artificielle dans l’ordre
juridique en droit commun questions de temps, D., 2017, p. 241s.
 A. Bensamoun et G. Loiseau, La gestion des risques de l’intelligence artificielle., De
l’éthique à la responsabilité, JCP éd. G, 2017, doctr. P. 1203.
 A. Bensoussan, Droit des robots : science-fiction ou anticipation ? D. 2015. P. 1640.
 A. Coeuret, La faute inexcusable et ses applications jurisprudentielles, 2. Doctr., Gaz. Pal.,
1987.
 A. Mendoza-Caminade, Le droit confronté à l'intelligence artificielle des robots : vers
l'émergence de nouveaux concepts juridiques ? Recueil Dalloz 2016 p. 445.
 B. Marchal, Des fondements théoriques pour l’intelligence artificielle et la philosophie de
l’esprit. Revue Internationale de Philosophie, vol. 44, n° 172 (1), 1990, Pp. 104-17.
 B. Teyssié, La Cité des algorithmes. Recueil Dalloz 2021 p. 1683.
 C. Castets-Renard, Comment construire une intelligence artificielle responsable et
inclusive ? D. 2020. P. 225.
 C. Castets-Renard, Quelle politique européenne de l'intelligence artificielle ? RTD Eur.
2021 p. 297.
 D. Andler, Quelle est la place de l'intelligence artificielle dans la cognition ? in Revue
Internationale de Philosophie, n° 21, 1990, Pp. 62-86.
 D. Bourcier, De l'intelligence artificielle à la personne virtuelle : émergence d'une entité
juridique ? Droit et société, 2001/3, n° 49, Pp. 847-871.
 D. Bourcier, Le droit va-t-il disparaître dans les algorithmes ? LPA 2018, n° 223, p. 8.
 D. Forest, La régulation des algorithmes, entre éthique et droit, RLDI, 2017, n° 137, p. 38.
 E. Grillo, L’autonomie : dimensions et paradoxes, Ethique et santé, 2004, 1, Pp. 179-181.
 F. G’Sell, Ver l’émergence d’une responsabilité numérique. Dalloz IP/IT. 2020, n° 3, Pp.
153-158.
 F. Rouvière, L'intelligence artificielle au risque du mythe. RTD Civ. 2020, p. 990.
 G. Chantepie, Le droit en algorithmes ou la fin de la norme délibérée ? Dalloz IP/IT 2017,
p. 522.
 G. Courtois, Robots intelligents et responsabilité : quels régimes, quelles perspectives ?
D., 2016, p. 289.
 G. Drouot, Droit, algorithmes et anarchie. Recueil Dalloz 2020. p. 35.
 G. Loiseau, La personnalité juridique des robots : une monstruosité juridique, Libres
propos, JCP. G, 2018, vol. 22, Pp. 1039‑1042.
 G. Loiseau, Les responsabilités du fait de l’intelligence artificielle, CCE, n° 4, avril 2019,
comm. 24.
 G. Verrier, & N. Bourgeois, Chapitre 4. L’autonomie et la responsabilité. In: G. Verrier
& N. Bourgeois (Dir), Les RH en 2030: 30 pistes concrètes pour réinventer l'entreprise,
2020, Pp. 32-40).
 J-M. Sommer, La Cour de cassation à l'épreuve du numérique et de l'intelligence
artificielle, 9 févr. 2021. Avalable in Net.
 J. Haiech, Parcourir l’histoire de l’intelligence artificielle, pour mieux la définir et la
comprendre. Médecine/sciences n° 10, vol. 36, 2020, Pp. 919-923.
 J. Pomian, Aux origines de l'Intelligence Artificielle : H-A. Simon père fondateur. In
Cahiers, n° 1, Printemps 1987. Genèse de l'intelligence artificielle. Pp. 9-25.
 J. Proust, L'intelligence artificielle comme philosophie, Le Débat, Vol. 47, n° 5, 1987, Pp.
88-102.
 J. Ricot, Remarques philosophiques sur la responsabilité. Revue générale de droit, 33(2),
2003, Pp. 293–303.
  L. François, Le concept d’une Philosophie artificielle, in Théorie des identités. Fractalité
généralisée et philosophie artificielle, sous la direction de L. François. L'Interrogation
philosophique, 1992, Pp. 267-288.
 L. Godefroy, Éthique et droit de l'intelligence artificielle, osmose ou symbiose ? D. 2020.
P. 231.
 L. Godefroy, Le code algorithmique au service du droit, D. 2018, p. 734.
 L. Szuskin, Intelligence artificielle et responsabilité, CCE, n° 6, juin 2018, entretien 7.
 M-P. Blin-Franchomme, Le défi d'une IA inclusive et responsable. Droit social 2021 p.
100.
 M. Bouteille-Brigant, Intelligence artificielle et droit : entre tentation d'une personne
juridique du troisième type et avènement d'un « transjuridisme ». Petites affiches, 2018,
n° 62, p. 7.
 M. Quenillet, Droit et intelligence artificielle : mythes, limites et réalités, Petites affiches,
1994, n° 66, p. 11.
 M. Soulez, Questions juridiques au sujet de l’intelligence artificielle. In L’intelligence
artificielle, un enjeu d’économie et de civilisation. Enjeux numériques, n° 1 mars 2018.
Ed. Annales des Mines. Pp. 81-85.
 M. Tual, Comment le « Deep learning » révolutionne l’intelligence artificielle, Le
Monde.fr 28 juillet 2015.
 O. Vix, Rencontre du troisième type : le robot intelligent. Defrénois, 2018, n° 24, p. 37.
 P. Glaser, Intelligence artificielle : qui sera responsable ? LPA, n° 107, 2018, p. 103.
 P. Zaraté, L'intelligence artificielle d'hier à aujourd'hui. Droit social 2021, p. 106.
 S. Desmoulin-Canselier, Les intelligences non humaines et le droit Observations à partir
de l’intelligence animale et de l’intelligence artificielle. Archives de philosophie du droit,
Dalloz, 2012, Le droit et les sciences de l’esprit, Vol. 55, Pp. 65-87.
 S. Migayron, Intelligence artificielle : qui sera responsable ? Comm. com. électr. 2018, n°
4, p. 118.
 X. Bioy, Vers un statut juridique des androïdes ? Journ. intern. de bioéthique, 2013/4, vol.
33, p. 85.
 Y. Gaudemet, La justice à l’heure des algorithmes, RDP 2018, p. 651.
 Y. Meneceur, Quel avenir pour la justice prédictive ? Enjeux et limites des algorithmes
d’anticipation des décisions de justice, JCP G 2018, p. 316.

III. Communication, Proposition, et Résolution

 Charte éthique européenne d'utilisation de l'intelligence artificielle dans les systèmes

judiciaires et leur environnement, Conseil de l'Europe, févr. 2019.
 Communication de la Commission Européen : L'intelligence artificielle pour l'Europe,
COM(2018)237 final.
 Communication de la Commission Européen : Renforcer la confiance confiance dans
l'intelligence artificielle axée sur le facteur humain, COM(2019) 168 final.
 Livre blanc de la Commission, Intelligence artificielle - Une approche européenne axée
sur l'excellence et la confiance. COM(2020) 65 final.
 Proposition de règlement du Parlement européen et du Conseil établissant des règles
harmonisées concernant l’intelligence artificielle (législation sur l’intelligence artificielle)
et modifiant certains actes législatifs de l’Union. COM/2021/206 final.
 Proposition de règlement du Parlement européen et du Conseil relatif à un marché intérieur
des services numériques. COM(2020) 825 final.
 Proposition de règlement du Parlement européen et du Conseil relatif aux marchés
contestables et équitables dans le secteur numérique. COM(2020) 842 final.
 Recommandations détaillées concernant l’élaboration d’un règlement du parlement
européen et du conseil relatif à un régime de responsabilité pour l’exploitation des
systèmes d’intelligence artificielle. (2020/2014(INL).
  Résolution du Parlement européen du 16 février 2017 contenant des recommandations à
la Commission concernant des règles de droit civil sur la robotique (2015/2103(INL).
 Résolution du Parlement européen du 20 oct. 2020 contenant des recommandations à la
Commission concernant un cadre pour les aspects éthiques de l'intelligence artificielle, de
la robotique et des technologies connexes (2020/2012(INL).
 Résolution du Parlement européen du 20 oct. 2020 contenant des recommandations à la
Commission sur un régime de responsabilité civile pour l'intelligence artificielle
(2020/2014(INL).

3. English
I. Books & Studies
 Albus, J.S., Brains, Behavior, and Robotics, BYTE Books Publications inc., s./v., USA,
1981, 352p.
 B. Marr, How AI and Machine Learning Are Transforming Law Firms and the Legal Sector,
Available in
 C. Reed, How Should We Regulate Artificial Intelligence? Philosophical Transactions of
the Royal Society A, 2018. P. 376.
 F-L. Ruta, Do the Benefits of Artificial Intelligence Outweigh the Risks? Economist (Sept.
10, 2018), Available in Net.
 J-S. Albus, Brains, Behavior, and Robotics, Byte Books Publications inc., s./v., USA, 1981,
352p.
 J-N. Neumann, The Computer and the Brain. 1958. Available in Net.
 J. McCarthy & M. Minsky, N. Rochester, & C. Shannon, A proposal for the Dartmouth
Summer Research Project on Artificial Intelligence. 1955. Available in Net.
 J. McCarthy. What is Artificial Intelligence? Stanford University, 2007.
 J. Ribeiro, These Are the Best Definitions of Artificial Intelligence You Can Read Today.
Published in 03 03 2001. Available in net.
 L. Whitney, Are Computers Already Smarter Than Humans? TIME. Sept. 29, 2017,
Available in net.
 N-J. Nilsson, The Quest for Artificial Intelligence: A History of Ideas and Achievements.
New York, NY: Cambridge University Press. 2009.
 S. Chopra & L-F. White, A Legal Theory for Autonomous Artificial Agents. University of
Michigan Press 2011. 160p.
 T-R. Moore, Trade Secrets and Algorithms as Barriers to Social Justice. Center for
Democracy & Technology. 2017. Available in net.
 Y. Bengio, A. Courville et I. Goodfellow, Deep Learning, éd. The MIT Press, 2016, p, 1s.
Available in net.

II. Articles
 A-M. Turing, Computing Machinery and Intelligence, Mind, 59 (236), 1950. Pp. 433– 460.
 A. Sloman, A Philosopher-Scientist’s View of AI. Jour. of Artificial General Intelligence.
11(2), 2020, Pp. 91-96.
 A. Winfield, Intelligence Is Not One Thing. Journal of Artificial General Intelligence 11(2),
2020, Pp. 97–100.
 C. Castets-Renard, AI and the Law in the European Union and the United States, in
Artificial Intelligence and the Law in Canada, F. Martin-Bariteau and T. Scassa (dir.),
LexisNexis 2021, Pp. 397-422.
 D-C. Dennett, When Philosophers Encounter Artificial Intelligence, in S-R. Graubard, (éd.),
The Artificial Intelligence Debate, False Starts, Real Fondations, MIT Press, Mass, 1989,
Pp. 283- 295.
 D-G. Johnson & M. Verdicchio. Why robots should not be treated like animals. Ethics and
Information Technology, 2018, Pp. 291-301.
 D-L. Bazelon, Risk and responsibility. Science 205, 4403, 1979. Pp. 277-80.
 F-J. Maccarthy, & P-J. Hayes, Some Philosophical Problems from the Standpoint of
Artificial Intelligence, in B. Meltzer and D. Michie, éds, Machine Intelligence, vol. 4,
Halstead, NY, 1969, Pp. 463-502.
 F. Pasquale, A Rule of Persons, Not Machines: The Limits of Legal Automation, 87 Geo.
Wash. L. Rev. 1. 2019.
 G. Meissner, Artifcial Intelligence : Consciousness and Conscience. 2020. 35 AI & Society,
p. 231.
 I. Arel, D-C. Rose, & T-P. Karnowski, Deep machine learning - A new frontier in artificial
intelligence research. IEEE Computational Intelligence Magazine, 5(4), 2010, Pp. 13-18.
 J-R. Searle, Animal Minds. In J. Feinberg & R. Shafer-Landau (Eds.), Reason and
Responsibility: Readings in Some Basic Problems of Philosophy, Thomson: Wadsworth.
13th ed., 2008, pp. 356–365.
 J-R. Searle, Minds, Brains, and Programs. Behavioral and Brain Sciences. 1980, Pp. 417–
24.
 J. Bach, When Artificial Intelligence Becomes General Enough to Understand Itself.
Commentary on Pei Wang’s Paper “On Defining Artificial Intelligence”. Journal of
Artificial General Intelligence 11(2), 2020, Pp. 15–18.
 J. Haiech & T. Jouault, Think small! Science disruptive et petites équipes. Med Sci (Paris)
2020, 36, Pp. 651-3.
 J. McCarthy, What is Artificial Intelligence? 1997. Available in net.
 K. Foss-Solbrekk, Three routes to protecting AI systems and their algorithms under IP law:
The good, the bad and the ugly, Journal of Intellectual Property Law & Practice, Vol 16,
Issue 3, 2021, Pp. 247–258.
 K. Warwick & H. Shah, Can machines think? A report on Turing test experiments at the
Royal Society. Journal of Experimental & Theoretical Artificial Intelligence, 2016, 28, Pp.
989–1007.
 L. Floridi, Robots, Jobs, Taxes, and Responsibilities. Philosophy& Technology. Vol. 30,
2017, Pp. 1-4.
 L. Hin-Yan & K. Zawieska, Frome responsible robotics towards a human rights regime
oriented to the challenges of robotics and artificial intelligence. Ethics and Information
Technology, 2017, Pp. 1-13.
 Le Cun, Y., Bengio and G. Hinton, Deep learning. Nature, 521 (7553), 2015. Pp, 436-444.
 M-U. Scherer, Regulating Artificial Intelligence Systems: Risks, Challenges,
Competencies, and Strategies, Harvard Journal of Law & Technology, 29 (2), 2016. Pp.
353–400.
 M. Crosby & H. Shevlin, Defining Artificial Intelligence: Resilient Experts, Fragile
Geniuses, and the Potential of Deep Reinforcement Learning. Journal of Artificial General
Intelligence 11(2), 2020, Pp. 31–34.
 M. Hildebrandt, The Force of Law and the Force of Technology. In The Routledge
International. Handbook of Technology, Crime and Justice, ed. M.R.P. McGuire and Holt.
Routledge, 2017, Pp. 579-608.
 M. Mori, K. F. MacDorman and N. Kageki, "The Uncanny Valley [From the Field],"
in IEEE Robotics & Automation Magazine, 2012, vol. 19, n° 2, Pp. 98-100.
 McCulloch, W-S. Pitts, W-H. 1943. A Logical Calculus of the Ideas Immanent in Nervous
Activity. In Boden, M-A. (éd.). 1990. The Philosophy of Artificial Intelligence. Oxford
University Press, Pp. 22-39.
 N. Mavridis, A review of verbal and non-verbal human–robot interactive communication,
Robotics and Autonomous Systems, Vol. 63, Part 1, 2015, Pp. 22-35.
 P-J. LaFreniere, & J-E. Dumas, Social competence and behavior evaluation in children ages
3 to 6 years: The short form (SCBE-30). Psychological Assess-ment, 8(4), 1996, Pp. 369-
377.
 P. Persaud, et al. Can Robots Get Some Human Rights? A Cross-Disciplinary
Discussion. Journal of Robotics, 2021. Available in Net.
 P. Wang, On Defining Artificial Intelligence. Journal of Artificial General Intelligence, 10
(2), 2019. Pp. 1–37.
 R-C. Schank, What Is AI? Journal of Artificial General Intelligence 11(2), 2020, Pp. 89–
90.
 R-S. Sutton, John McCarthy’s Definition of Intelligence. Journal of Artificial General
Intelligence 11(2), 2020, Pp. 66–67.
 R-V. Yampolskiy, On Defining Differences Between Intelligence and Artificial
Intelligence. Journal of Artificial General Intelligence 11(2), 2020, Pp. 68–70.
 R. Prasad, et al. Robots that can hear, understand and talk. Advanced Robotics 18, 2004,
Pp. 533-564.
 R. Rosenblatt, “The Mind in the Machine”, Time, May 3, 1982, p. 59.
 Report: Bot.Me: A revolutionary partnership. How AI is pushing man and machine closer
together Consumer Intelligence Series. 2020. P. 2. Available in net.
 S. Chesterman, Artificial intelligence and the limits of legal personality. International and
Comparative Law Quarterly, 69(4), 2020. Pp. 819-844.
 S. Chesterman, Artificial Intelligence and the Problem of Autonomy. Notre Dame Journal
of Emerging Technologies, 2020, n° 1. P. 210.
 S. Sabanovic, Inventing Japan’s robotics culture : The repeated assembly of science,
technology, and culture in social robotics. Social Studies of Science. vol. 44, n° 3, 2014,
Pp. 342–367.
 VAJ. Kurki, A Theory of Legal Personhood. Oxford University Press. 2019, Pp. 127–152.
 W-J. Rapaport, What Is Artificial Intelligence? Journal of Artificial General Intelligence.
2020, 11(2), Pp. 52–56.
 Y. Bengio, Y. Lecun, G. Hinton, Deep learning for AI. Communications of the ACM. 2021
Jun 21;64(7), Pp. 58-65.
 ‫"المخطط"‬
‫مقدمة‬
‫المطلب األول‬
‫ضرورة حسم الجدل‬

‫الفرع األول‬
‫جذر المشكلة‬
‫أوالً‪-‬نظرية العلم المستقل‬
‫ثانياً‪-‬نظرية العلم الممتد‬
‫الفرع الثاني‬
‫زئبقية المفهوم‬
‫أوالً‪-‬غموض المفهوم‬
‫ثانياً‪-‬تحور المفهوم‬
‫‪ ‬الرأي القانوني‬
‫‪ o‬التحليل‬
‫‪ o‬الخالصة‬
‫المطلب الثاني‬
‫ضرورة ضبط الرتدادات‬

‫الفرع األول‬
‫الشخصية القانونية‬
‫أوالً‪-‬فكرة الشخصية واإلنسان‬
‫ثانياً‪-‬فكرة الشخصية والذكاء‬
‫الفرع الثاني‬
‫المسؤولية القانونية‬
‫أوالً‪-‬االستقاللية والمسؤولية‬
‫ثانياً‪-‬الذكاء والمسؤولية‬
‫‪ ‬الرأي القانوني‬
‫‪ o‬التحليل‬
‫‪ o‬الخالصة‬
‫الخاتمة‬