ضمان در هوش مصنوعی

نوع مقاله: مقاله علمی - پژوهشی

نویسنده

استادیار گروه حقوق خصوصی پردیس فارابی دانشگاه تهران

چکیده

در طول تاریخ، حقوق مسئولیت مدنی با زیان‌هایی روبرو بوده که از طریق اشیا وارد شده است. برخی از این خسارات ناشی از فعل اشیایی مثل بنا، حیوان، خودرو بوده است. در تعیین مسئول ورود خسارت، مالک و گاه متصرف اشیا، نخستین کسانی هستند که در قبال زیان‌دیده مسئولیت دارند. ولی امروزه به دلیل تحولات فنی که در اشیا روی داده است، نباید از مسئولیت سازنده و طراح شیء غافل بود. دربارۀ اشیایی که دارای هوش مصنوعی هستند، ابعاد مسئولیت ورود زیانِ ناشی از آن بسیار پیچیده‌تر از حالت سنتی آن است و تنها وقتی می‌توان احکام سابق را بر آن بار کرد که هوش مصنوعی جزء ابزار به‌شمار آید. پس، هرگاه بتوان برای آن قائل به استقلال و اختیار تصمیم‌گیری شد، مسئولیت خود آن اشیا نیز مطرح می‌شود. اما در این خصوص، مشکلاتی مثل شناسایی تقصیر ماشین و نحوۀ جبران خسارت مطرح می‌شود و چاره‌ای جز اعطای شخصیت بر آن باقی نمی‌ماند.

کلیدواژه‌ها

موضوعات


عنوان مقاله [English]

Liability of Artificial Intelligence; the Reflection of Developments in the Liability Rules

نویسنده [English]

  • Abdollah Rajabi
Assistant Professor of Law,University of Tehran – Farabi Campus, Qom,Iran
چکیده [English]

In the history of the law of torts, there is damages arising out of things. Some of these damages are because of things’ actions, such as buildings collapses, animals' behaviors, and cars accidents and so on. At the first, who have liability for the victim’s injuries and damages are the proprietor and possessors; but in pursuit of technical developments of the era, we shouldn’t ignore liability of producers and designers of these products.
We all know that the technological progress of humankind is the cause of unbelievable innovations. One of this human incredible ingenuity is making of object acting similar to mankinds. For example, it can be a human-assisted robot, such as cleaning and cooking, or specializing in medicine, and the like. So there is a legal problem asking about legal situations of these creations.
Now, the smart object may not be a common issue in the community, but events show that we will have to confront with difficult issues in the near future. So, today we need to think about its legal dimensions and solve the problems arising from the personality, ownership, contract and responsibility of these digital age objects. Moreover, studying the emerging institutions sheds light on current issues in the light of which we can illuminate the dim dimensions of many current and traditional problems and illustrate the ways we have gone wrong.
The objects that are armed with a will, can have ownership on others objects and conclude a contract with persons and may harm others, either voluntarily or by the will of people realized in the object. For example, active home-based artificial intelligence can provide harm to guests or surgery or treatment robots can harm patients, or a driverless car may cause harms to pedestrian and create financial losses with accidents.
If the basis of liability is fault, the owner of the objects would be liable as much as it was at fault. A master is someone who has effective supervision or guidance on an object at the time of the crash, such as a car driver. In Iranian law, the responsibility of the owner is based on fault, whether living, inanimate, movable or immovable property. In addition to the owner and possessor, sometimes the creator and designer of the object is responsible for the caused damage.
With all of the foregoing, we may still be considering new and separate AI. But first, we need to know that AI has three features: it understands the world, analyzes the information received, and then acts on it.
Machines are planned elsewhere and do not have means to act in the sense of freedom of the human will; now, is it right to hold them responsible? Today, it appears that there is less of a means to perceive, think and act independently. In fact, most machines are not independent and cannot think and decide.
The object may be autonomous in performing certain tasks, so people associated with the object, such as the artificial intelligence manager or the author of the program and its software, will be responsible for compensating for the resulting damage. Apart from that, we may have a personality for artificial intelligence and recognize him or her as a right-doer; in this case, in addition to being a person's representative and subject to responsibility, the robot may be itself responsible for its actions. In this situation, the robot knows the true meaning of 'act' and truly is realized.
The machine has many different types of autonomy and power. Some tools are human instrument and others have the power to act. Among the latter category, some may be in control of their affairs, and some are still involved in the determinacy of algorithms. Artificial intelligence is the criterion of self-responsibility, that is, the robot is able to manage its financial affairs. In that case, civil liability can be borne. Otherwise, the person is responsible for its actions and if it is damaged by a third party, the person responsible may be the owner or the developer or the creator.
Given the fact that there is still theoretically independent of the robots, it is necessary in the present circumstances to consider it a tool and hold others responsible for its actions. However, the legislator is supposed to prescribe rules on the personality and responsibility of artificial intelligence, and this is impossible unless the unknown dimensions of the presence of these electronic persons in society have been explored by lawyers.

کلیدواژه‌ها [English]

  • Liability
  • legal person
  • Artificial Intelligence
  • machine fault
  • proprietor
  • product liability
1. فارسی

الف) کتاب‌ها

1. السان، مصطفی (۱۳۹۱)، حقوق تجارت الکترونیکی، چ 1، تهران: انتشارات سمت.

2. جعفری‌تبار، حسن (۱۳۷۵)، مسئولیت مدنی سازندگان و فروشندگان کالا، چ 1، تهران: نشر دادگستر.

3. ره‌پیک، حسن (۱۳۹۵)، حقوق مسئولیت مدنی و جبران‌ها، ویرایش دوم، تهران: انتشارات خرسندی.

4. صفایی، سید حسین و رحیمی، حبیب‌الله (۱۳۹۳)، مسئولیت مدنی (الزامات خارج از قرارداد)، چ 6، تهران: انتشارات سمت.

5. کاتوزیان، ناصر (۱۳۸۲)، الزام‌های خارج از قرارداد: ضمان قهری، چ 3، تهران: مؤسسۀ چاپ و انتشارات دانشگاه تهران.

6. کاتوزیان، ناصر (۱۳۸۱)، مسئولیت مدنی ناشی از عیب تولید، چ 1، تهران: مؤسسۀ چاپ و انتشارات دانشگاه تهران.

7. واربرتون، نایجل (۱۳۹۳)، تاریخچۀ کوتاهی از فلسفه، مترجم: مریم تقدیسی، چ 1، تهران: نشر ققنوس.

 

ب) مقاله‌ها

8. احمدزاده بزاز، سید عبدالمطلب و مهریار، محمد (1396)، «مطالعۀ تطبیقی مسئولیت مدنی ناشی از مالکیت بر اشیاء و عوامل رفع آن در حقوق ایران و مصر»، مجلۀ حقوق تطبیقی، ۱۰۸، ج ۱۳، ش ۲.

9. باریکلو، علیرضا (1397)، «تحلیل مبنای حقوق مسئولیت مبتنی بر تولید»، مجلۀ حقوق خصوصی، دورۀ ۱۵، ش ۱.

10. حاجی‌ده‌آبادی، محمدعلی؛ بهزادی‌نیا، فاطمه؛ اسماعیلی، صالح (۱۳۹۳)، «درآمدی بر مسئولیت کیفری رباتیک از منظر قواعد فن‌آوری و حقوق اسلام»، فصلنامۀ پژوهش تطبیقی اسلام و غرب، دورۀ ۱، ش ۲.

11. رجبی، عبداله (1396)، «حقوق فکری محصولات پدیدآمده از غیر انسان»، مجلۀ حقوق خصوصی، دورۀ ۱۴، ش ۲.

12. محمدی، مهدی؛ ابدالی، مهرزاد؛ اکبرینه، پروین (1397)، «مبانی مسئولیت مدنی ناشی از فعل شیء (ساختمان و حیوان) در حقوق ایران و فرانسه بر اساس قانون مدنی ۲۰۱۶ فرانسه»، پژوهش‌های حقوق تطبیقی، دورۀ ۲۲، ش ۱.

13. یزدانیان، علیرضا (1396)، «طرح قاعدۀ مسئولیت مدنی ناشی از اشیاء در حقوق ایران و فرانسه»، فصلنامۀ مطالعات حقوق خصوصی، دورۀ ۴۷، ش ۲.

14. یزدانیان، علیرضا؛ مهدوی، سید محمدهادی؛ عباسیان، رضا؛ مصلی‌نژاد، نیوشا (1395)، «مطالعۀ تطبیقی اوصاف شیء در مسئولیت مدنی ناشی از اشیاء در حقوق ایران و فرانسه»، مطالعات حقوق تطبیقی، دورۀ ۷، ش ۱.

 

2. خارجی

A) Books

15. le Tourneau,  Philippe (1972), La Responsabilité Civile, Tome 1, Dalloz.

16. Mazeaud, Henri, Léon et Jean (1998), Leçons de Droit Civile, Tome II, Premier Volume,  9e édition, Par François Chabas, Montchrestien.

 

B) Articles

17. Balkin, Jack M., (2015), "The Path of Robotics Law", California Law Review, vol. 6, p. 45-60.

18. Bridy, Annemarie, (2012), "Coding Creativity: Copyright and the Artificially Intelligent Author", Stanford Technology Law Review, No. 5, p. 1-28.

19. Brożek, Bartosz & Bartosz Janik (2018), "Can artificial intelligences be moral agents", New Ideas in Psychology, p. 1- 6.

20. Cerka, Paulius, Jurgita Grigiene & Gintare Sirbikyte (2017), "Is it possible to grant legal personality to artificial intelligence software systems?", Computer Law & Security Review, 33, p. 685-699.

21. Cerka, Paulius, Jurgita Grigiene & Gintare Sirbikyte (2015), "Liability for damages caused by artificial intelligence", Computer Law & Security Review, 31, p. 376-389.

22. Calo, Ryan, 2015, "Robotics and the Lessons of Cyberlaw", California Law Review, Vol. 103, No. 3, p. 513-563.

23. Grimmelmann, James (2016), "There’s No Such Thing as a Computer-Authored Work—And It’s a Good Thing, Too", Columbia Journal of Law & the Arts, vol. 3, p. 403-416.

24. Johnson, Deborah G. & Mario Verdicchio (2018), "Why Robots should not be treated like Animals", Ethics and Information Technology, no. 20, p. 291-301.

25. Mackie, Tom (2018), "Proving Liability for highly and fully automated Vehicle Accidents in Australia", Computer Law & Security Law, 34, p. 1314-1332.

26. Müller, Melinda Florina (2016), "Liability Issues Concerning Self-Driving Vehicles", EJRR Special Issue on the Man and the Machine, n. 2.

27. Müller, Melinda Florina (2017), "Roboter als Wundertüten – eine zivilrechtliche Haftungsanalyse", PJA 2, p. 152.

28. Simmler, Monika & Nora Markwalder (2018), "Guilty Robots? - Rethinking the Nature of Culpability and Legal Personhood in an age of Artificial Intelligence", Criminal Law Forum, Springer Nature.

29. Solum, Lawrence B. (1992), "Legal Personhood for Artificial Intelligences", North Carolina Law Review, vol. 70, no. 4, p. 1231-1287.

30. Vladeck, David C. (2014), "Machines without Principales: Liability Rules and Artificial Intelligence", Wash L Rev, n. 89, p. 117-150.

31. Wildhaber, Isabelle & Melinda Florina Müller (2017), "Roboterrecht – eine Einleitung", PJA 2, p. 135-140.