نوع مقاله : علمی-پژوهشی

نویسندگان

• محمد علی عاشوری کیسمی ¹
• مریم پرویزی ²

¹ دکتری فلسفه، دانشکده ادبیات فارسی و زبان‌های خارجی، دانشگاه علامه طباطبایی، تهران، ایران

² دکتری فلسفه تطبیقی، دانشکده ادبیات فارسی و زبان‌های خارجی، دانشگاه علامه طباطبایی، تهران، ایران

چکیده

هدف از مقاله حاضر بررسی عاملیت اخلاقی هوش مصنوعی عام است. در بسیاری از پژوهش‌ها، عاملیت اخلاقی هوش مصنوعی در چهار دسته ۱- عامل تأثیر اخلاقی، ۲- عامل تأثیر اخلاقی ضمنی، ۳- عامل تأثیر اخلاقی آشکار و ۴- عامل اخلاقی کامل، تقسیم‌بندی می‌شود. در این مقاله با استفاده از روش تحلیلی-انتقادی سطح چهارم این دسته‌بندی یعنی عامل اخلاقی کامل در هوش مصنوعی عام موردبررسی قرار خواهد گرفت. در صورت امکان‌پذیر بودن هوش مصنوعی عام، چنین هوشی توانایی‌های فراوانی به دست می‌آورد، و لذا نگرانی‌های اخلاقی بسیاری وجود خواهد داشت. یکی از مهم‌ترین دلایل اهمیت مقاله حاضر این است که این دسته‌بندی عاملیت اخلاقی به تکرار مورداستفاده پژوهشگران قرارگرفته و نیاز به یک بررسی مجدد احساس می‌شود. نتایج بررسی حاضر نشان می‌دهد که اگر هوش مصنوعی عام امکان‌پذیر باشد باید آن را در دسته‌ عامل اخلاقی کامل قرار داد. البته چنین عامل اخلاقی کاملی دو ویژگی دارد: اول، عاملِ اخلاقیِ هوشِ مصنوعیِ عام می‌تواند اصولِ اخلاقیِ انسان را یاد بگیرد و یا اصول اخلاقی دیگری از آن استنتاج کند؛ اما نباید تصور کرد که اصول اخلاقی انسان را اصول اخلاقی خود بداند؛ و دوم، عامل اخلاقی هوش مصنوعی عام می‌تواند اهداف و اصول اخلاقی خود را شکل دهد و این اصول ممکن است متفاوت/بر ضد اصول اخلاقی انسان‌ها باشد.

کلیدواژه‌ها

• هوش مصنوعی عام
• اخلاق هوش مصنوعی
• عاملیت اخلاقی
• قضیه متعامد
• هوش مصنوعی نورومورفیک
• هوش مصنوعی

عنوان مقاله [English]

Investigation of the Ethical Agency of Artificial General Intelligence

نویسندگان [English]

• Mohammad Ali Ashouri Kisomi ¹
• Maryam Parvizi ²

¹ PhD in Philosophy, Faculty of Persian Literature and Foreign Languages, Allameh Tabataba’I University, Tehran, Iran

² PhD in Comparative Philosophy, Faculty of Persian Literature and Foreign Languages, Allameh Tabataba’I University, Tehran, Iran

چکیده [English]

This paper examines the ethical agency of artificial general intelligence (AGI). In many studies, the ethical agency of AGI is divided into four categories: 1) Ethical-impact agents, 2) Implicit ethical agents, 3) Explicit ethical agents, and 4) Full ethical agents. This paper will deploy a critical-analytical method to examine the fourth category, namely full ethical agents in AGI. If AGI is possible, such intelligence would have many capabilities, and therefore, there would be many ethical concerns. This categorization of ethical agency has been repeatedly used by researchers, and there is a need for re-examination. The results of this study show that if AGI is possible, it should be placed in the category of a full ethical agent. However, such a full ethical agent has two characteristics: first, this agent can learn human ethical principles or infer other ethical principles from them; however, it should not be assumed that it considers human ethical principles to be its ethical principles; and second, this agent can form its own goals and ethical principles, and these principles may be different from or contrary to human ethical principles.

کلیدواژه‌ها [English]

• Artificial General Intelligence
• Ethics of AI
• Ethical Agency
• Orthogonality Thesis
• Neuromorphic Artificial Intelligence
• Artificial Intelligence