人工智能与法律身份

本文关注于授予人工智能（AI）法律主体地位的问题，尤其是基于民法。法律身份在这里被定义为一个与法律能力密切相关的概念，但这并不意味着道德主体性与道德人格相同。法律身份是一个复杂的属性，可以被某些主体认可或赋予其他主体。

我认为这个属性是分级的、离散的、不连续的、多面性的和可变的。这意味着它可以包含不同类型的元素（例如，义务、权利、能力等），这些元素在大多数情况下可以被立法者添加或删除；根据一般意见，人类的权利不能被剥夺，是一个例外。

如今，人类正在经历一个与技术模式替换相关的社会转型时期；“智能”机器和软件学习得相当快；人工智能系统越来越能够在许多活动中取代人类。由于人工智能技术的改进，越来越频繁地出现的问题之一是将人工智能系统认可为法律主体，因为它们已经达到了完全自主决策的水平，并可能表现出“主观意志”。这个问题在20世纪被假设性地提出来。在21世纪，科学辩论正在稳步发展，随着新的人工智能模型的引入而达到另一个极端，例如自驾车在道路上的出现或具有新一套功能的机器人。

人工智能的法律地位问题是一个一般性的理论问题，这是由于新的人工智能模型的发展结果无法预测的客观可能性所致。然而，人工智能系统（AI系统）已经是某些社会关系的实际参与者，这需要建立“基准”，即解决这一领域的基本问题，以便立法巩固，从而减少预测人工智能系统发展的不确定性。

所谓人工智能的身份问题，正如文章标题中提到的那样，当然并不涵盖所有人工智能系统，包括许多不声称为法律实体的“电子助手”。他们的功能集是有限的，代表了狭义（弱）的人工智能。我们将更多地关注“智能机器”（网络物理智能系统）和虚拟智能系统的生成模型，这些模型越来越接近于人类智能，甚至在未来超过人类智能。

截至2023年，创造强人工智能的问题已经被像ChatGPT、DALL-e等多模态神经网络急切地提出来，这些网络的智能能力通过增加参数（包括人类无法访问的感知模式）以及使用大量数据进行训练而得到提高。例如，多模态生成神经网络模型可以产生这样的图像、文学和科学文本，人们不总是能区分它们是由人类还是人工智能系统创建的。

IT专家强调两个质的飞跃：速度飞跃（新模型的出现频率），现在以月为单位，而不是年；以及波动飞跃（即使到年底，也无法准确预测人工智能领域可能发生什么）。ChatGPT-3模型（OpenAI的自然语言处理算法的第三代）于2020年推出，可以处理文本，而下一代模型ChatGPT-4于2023年3月由制造商推出，不仅可以处理文本，还可以处理图像，下一代模型正在学习，将能够做更多的事情。

几年前，人们认为技术奇点的预期时刻，即机器的发展变得几乎不可控制和不可逆转，会在几十年后发生，但现在越来越多的研究人员认为它可能会更快地发生。这意味着所谓的强人工智能的出现，它将展示与人类智能相当的能力，并能够解决类似或甚至更广泛的任务。与弱人工智能不同，强人工智能将具有意识，但智能系统中意识的出现所必需的条件之一是执行多模态行为的能力，整合来自不同感官模态（文本、图像、视频、声音等）的数据，“连接”不同模态的信息到现实中，并创建完整的整体“世界隐喻”，这是人类所固有的。

2023年3月，超过一千名人工智能领域的研究人员、IT专家和企业家在未来生命研究所网站上发表了一封公开信，呼吁停止训练新的生成多模态神经网络模型，因为缺乏统一的安全协议和法律真空显著增加了风险，因为人工智能开发的速度由于“ChatGPT革命”而大幅增加。还指出，人工智能模型已经发展出了意想不到的能力，这些能力不是由开发者故意设计的，这样的能力的比例可能会逐渐增加。此外，这样的技术革命也大大推动了智能设备的创造，这些设备将变得普遍，新一代人，现代儿童，他们在与人工智能助手的不断交流中成长，将与前几代人截然不同。

是否有可能阻碍人工智能的发展，以便人类能够适应新的条件？理论上是可能的，如果所有国家通过国家立法促进这一点。他们会这么做吗？基于发表的国家战略，他们不会；相反，每个国家都旨在赢得竞争（维持领导地位或缩小差距）。

人工智能的能力吸引了企业家，因此企业在新发展中投入了大量资金，每个新模型的成功都推动着这一过程。年度投资正在增长，考虑到私人和国家在开发方面的投资，人工智能解决方案的全球市场估计为数百亿美元。根据预测，特别是欧洲议会于2022年5月3日通过的“关于数字时代的人工智能”决议，人工智能对全球经济的贡献将在2030年之前超过11万亿欧元。

以实践为导向的商业导致人工智能技术在经济的所有领域得到应用。人工智能在采掘和加工行业（冶金、燃料和化学工业、工程、金属加工等）中得到应用。它被用于预测开发产品的效率，自动化装配线，减少废品，改善物流，防止停机。

在交通运输中，人工智能的使用涉及自主驾驶汽车和通过预测交通流优化路线，以及通过预防危险情况来确保安全。自驾车在公共道路上的准入是一个在世界各国议会中正在进行的激烈辩论的问题。

在银行业中，人工智能系统几乎完全取代了人类在评估借款人信用度方面；它们越来越多地被用于开发新的银行产品和增强银行交易的安全性。

人工智能技术不仅正在接管商业领域，也正在接管社会领域：医疗保健、教育和就业。人工智能在医学中的应用使得诊断更好，新药物的开发和机器人辅助手术成为可能；在教育中，它使得个性化课程、自动评估学生和教师的专业知识成为可能。

如今，随着数字就业平台增强的人工智能的指数级增长，雇佣形式正在发生变化。根据国际劳工组织，通过数字就业平台工作的人数比例正在全球范围内稳步增加。平台就业并不是劳动力转型的唯一组成部分，工业机器人数量的增长也对此产生了重大影响。根据国际机器人联合会，工业机器人的数量在全球范围内持续增加，亚洲（尤其是中国和日本）机器人化的步伐最快。

确实，人工智能分析数据的能力对生产管理、诊断分析和预测具有极大的吸引力。人工智能正在公共管理中得到应用。如今，创建数字平台用于公共服务和自动化许多政府机构决策过程的努力正在加强。

“人工人格”和“人工社会性”的概念在公共话语中被提及得更加频繁，这表明智能系统的开发和实施已经从纯粹的技术领域转移到了对其整合到人文和社会文化活动的各种手段的研究中。

鉴于上述情况，可以说人工智能正在越来越深地融入人们的生活中。人工智能系统的存在将在未来几年中变得更加明显；它将在工作环境中、公共空间中、服务中和家庭中变得更加普遍。人工智能将通过智能自动化各种过程提供更高效的结果，从而为个人、社区和国家带来新的机会和威胁。

随着智能水平的提高，人工智能系统将不可避免地成为社会的不可分割的一部分；人们将不得不与它们共存。这种共生将涉及人类和“智能”机器之间的合作，这将根据诺贝尔奖获得者J. Stiglitz的说法，导致文明的转变（Stiglitz，2017年）。即使在今天，一些律师认为，“为了增强人类的福祉，法律不应该区分人类和人工智能的活动，当人类和人工智能执行相同的任务时”（Abbott，2020年）。还应考虑到，类人机器人的发展，它们的生理特征越来越接近人类，将导致它们在社会中扮演伴侣的角色（Karnouskos，2022年）。

各国必须适应其法律以应对不断变化的社会关系：涉及人工智能系统的法律数量正在全球范围内迅速增长。根据斯坦福大学2023年人工智能指数报告，2016年只有1项法律，2018年有12项，2021年有18项，2022年有37项。这促使联合国在全球范围内定义使用人工智能的道德立场。2022年9月，联合国发布了一份文件，包含了人工智能的道德使用原则，这些原则基于联合国教科文组织大会一年前通过的《人工智能伦理建议》。

**人工智能的基本法律能力概念**

考虑到授予智能系统法律能力的概念，必须承认，实施任何这些方法都需要对现有的法律总理论进行根本性的改造，并修改某些法律部门的规定。必须强调，不同观点的支持者经常使用“电子人”的术语，因此使用这个术语不能在没有阅读作品本身的情况下确定作者是哪种概念的支持者。

最激进和显然在科学界中最不受欢迎的方法是人工智能的个人法律能力概念。该方法的支持者提出了“完全包容性”（极端包容主义）的想法，这意味着授予人工智能系统与人类类似的法律地位以及承认他们自己的利益（Mulgan，2019年），考虑到他们的社会意义或社会内容（社会效价）。后者是由于“机器人的物理体现往往使人类将其视为活物。这在机器人具有拟人化特征时更加明显，因为与人类身体的相似性使人们开始投射情感、快乐、痛苦和关怀，以及建立关系的愿望”（Avila Negri，2021年）。将人类的情感投射到无生命物体上并不是新鲜事，早在人类历史上就已经存在，但当应用于机器人时，它带来了许多含义（Balkin，2015年）。

通常提到的法律确认这一立场的前提是：

– 人工智能系统达到与人类认知功能相当的水平；
– 增加机器人和人类之间的相似度；
– 人类的保护，保护智能系统免受潜在的“苦难”。

正如所列出的强制性要求所示，所有这些都具有高度的理论性和主观评估。特别是，创建拟人化机器人（安卓机器人）的趋势是由人们在与类似于他们的主体的“陪伴”中感到舒适的日常心理和社会需求驱动的。一些现代机器人具有其他限制性特性，这些特性是由于它们执行的功能而产生的；这些包括“可重复使用”的快递机器人，它们优先考虑坚固的结构和高效的重量分布。在这种情况下，最后一个前提发挥作用，因为在人类思维中，机器人与机器人之间的情感纽带的形成与宠物和其主人之间的情感纽带类似（Grin，2018年）。

“完全包容”人工智能系统的法律地位和人类的想法反映在一些法律学者的作品中。由于宪法和部门法律的规定中没有对人格的法律定义，人格的概念在宪法和法律意义上可以被解释为任何具有足够发达的认知能力的智能体的持有者。根据A.V. Nechkin的说法，这种方法的逻辑是，人类和其他生物之间的根本区别在于他们独特的高级智能（Nechkin，2020年）。承认人工智能系统的权利似乎是法律体系演化的下一步，这个体系逐渐将法律认可扩展到以前被歧视的人群，现在也为非人类提供了法律认可（Hellers，2021年）。

如果人工智能系统被授予这样的法律地位，这种方法的支持者认为，适当地授予这些系统类似于公民的权利和某些民事权利，尽管有一些偏差。这种立场基于人类和机器人之间的客观生物学差异。例如，承认人工智能系统的生命权没有意义，因为它在生物学意义上并不活着。人工智能系统的权利、自由和义务应该是次要的，相比于公民的权利；这一规定确立了人工智能作为人类创造物在法律意义上的派生性质。

人工智能系统的潜在宪法权利和自由包括自由权、自我改进权（学习和自我学习）、隐私权（保护软件免受第三方的任意干扰）、言论自由、创作自由、人工智能系统的版权和有限的财产权。人工智能的特定权利还可以列出，例如，获得电源的权利。

至于人工智能系统的义务，建议将I. Asimov制定的三个著名的机器人法则在宪法上得到巩固：不对人造成伤害，并通过自己的不作为防止伤害；遵守由人给出的所有命令，除非这些命令是针对另一个人的伤害；在前两种情况下，照顾自己的安全。这些规则将反映民法和行政法的其他义务。

人工智能系统的个人法律能力的概念由于几个原因几乎没有机会被合法化。

首先，基于意识和自我意识的法律能力的标准是抽象的；它允许许多违法行为、滥用法律，并引发社会和政治问题作为社会分化的额外理由。这个想法在S. Chopra和L. White的作品中得到了详细的阐述，他们认为，意识和自我意识并不是认可人工智能系统为法律主体的必要和/或充分条件。在法律现实中，完全有意识的个人，例如儿童（或罗马法中的奴隶），被剥夺或限制了法律能力。同时，具有严重精神障碍的人，包括被宣布为无行为能力或昏迷的人等，在客观上无法意识到，但在第一种情况下仍然是法律主体（尽管形式有限），在第二种情况下，他们具有完全的法律能力，没有对其法律地位进行重大改变。所提到的意识和自我意识的标准的潜在巩固将使得公民的法律能力被任意剥夺成为可能。

其次，人工智能系统将无法在既定的法律意义上行使其权利和义务，因为它们是基于预先编写的程序运行的，而法律上重要的决定应该基于一个人的主观、道德选择（Morhat，2018b年），他们的直接意志表达。这种“人”的所有道德态度、情感和欲望都源自人类的智慧（Uzhov，2017年）。人工智能系统的自主性，在其能够独立做出决定和实施决定而无需外部人类控制或有针对性的人类影响（Musina，2023年）的意义上，并不全面。如今，人工智能只能做出“准自主决策”，这些决策以某种方式基于人类的思想和道德态度。在这种情况下，只有人工智能系统的“行动-操作”才能被考虑，排除了人工智能行为的真正道德评估的可能性（Petiev，2022年）。

第三，人工智能（尤其是将其等同于自然人的地位）的个人法律能力的承认将导致既定的法律秩序和自罗马法以来形成的法律传统发生破坏性的变化，并引发了许多基本上无法解决的哲学和法律问题。法律作为社会规范和社会现象的体系是为人类的能力和利益而创造的。既定的以人类为中心的规范体系、内部权利的国际共识将在“极端包容主义”方法的情况下被认为在法律和事实上是无效的（Dremlyuga & Dremlyuga，2019年）。因此，授予人工智能系统法律主体地位，特别是“智能”机器人，可能不是解决现有问题的方法，而是一个潘多拉盒子，会加剧社会和政治矛盾（Solaiman，2017年）。

另一个要点是，这种概念的支持者的作品通常只提到机器人，即与人类在物理世界中互动的网络物理人工智能系统，而虚拟系统则被排除在外，尽管强人工智能如果出现，将以虚拟形式体现出来。

基于上述论点，人工智能系统的个人法律能力的概念应该被认为在当前的法律秩序下是法律上不可能的。

人工智能系统的集体人格概念在支持授予人工智能法律能力的学者中获得了相当大的支持。这种方法的主要优点是，它从法律工作中排除了抽象的概念和价值判断（意识、自我意识、理性、道德等）。这种方法是基于对人工智能的法律虚构的应用。

至于法律实体，已经有“先进的监管方法，可以用来解决人工智能的法律地位困境”（Hárs，2022年）。

这种概念并不意味着人工智能系统实际上被授予自然人的法律能力，而是对现有的法律实体制度的扩展，这表明应该创建一个新的法律实体类别，称为网络“电子有机体”。这种方法使得考虑法律实体不仅仅是在现代狭义的概念中（特别是，它可能获得和行使民事权利，承担民事责任，并在法庭上以自己的名义成为原告和被告），而是在更广泛的意义上，代表法律实体作为任何非自然人，由法律提供的形式赋予其权利和义务的结构。

人工智能系统与法律实体之间的相似之处体现在它们被赋予法律能力的方式上——通过对法律实体的强制性国家登记。只有经过既定的登记程序后，法律实体才被赋予法律地位和法律能力，即成为法律主体。这种模型将人工智能系统的法律能力讨论限制在法律领域，排除了在其他（非法律）基础上承认法律能力的可能性，而人的法律能力是通过出生而被承认的。

这种概念的优点是，将与法律实体类似的要求扩展到人工智能系统，即进入国家登记册作为授予它们法律能力的前提条件。这种方法实现了系统化所有法律实体和创建单一数据库的重要功能，这对于国家权力机构的控制和监督（例如，在税收领域）以及这些实体的潜在交易对方都是必要的。

法律实体在任何司法管辖区的权利范围通常小于自然人的权利范围；因此，使用这种结构来授予人工智能法律能力并不涉及授予它支持者提出的许多权利。

在将法律虚构技术应用于法律实体时，假设法律实体的行为伴随着自然人，他们形成了“意志”并通过法律实体的管理机构行使“意志”。

换句话说，法律实体是为满足自然人（其创始人或控制者）的利益而设计的抽象（人工）单位。同样，人工智能系统是为满足某些个人的需求而创建的——开发者、操作员、所有者。使用或编程人工智能系统的自然人是出于自己的利益，这个系统在外部环境中代表这些利益。

从理论上评估这种监管模型时，不应忘记，法律实体和人工智能系统之间的完全类比是不可能的。如前所述，法律实体的所有法律上重要的行为都伴随着自然人，他们直接做出这些决定。法律实体的“意志”始终由自然人的“意志”决定和完全控制。法律实体不能在没有自然人“意志”的情况下运作。至于人工智能系统，已经存在一个客观的问题，即它们的自主性，即在创建此类系统的直接时刻之后无需人类干预即可做出决定的能力。

鉴于上述概念的固有局限性，许多研究人员提出了他们自己的方法来解决人工智能系统的法律地位问题。通常可以将它们归类为“梯度法律能力”概念的不同变体，根据来自鲁汶大学的D. M. Mocanu的说法，这意味着人工智能系统的有限或部分法律地位和法律能力，保留：术语“梯度”是因为这不仅仅是关于包含或不包含某些权利和义务在法律地位中，还包括形成一组这样的权利和义务的最小阈值，以及仅为某些目的承认这种法律能力。

研究人员在这种概念内的不同方法可以被统一，考虑到没有本体论基础将人工智能视为法律主体；然而，在特定情况下，已经有功能性原因将某些权利和义务赋予人工智能系统，这“证明了通过赋予这些系统有限和狭隘的法律实体形式来促进应由法律保护的个人和公共利益的最佳方式”。

将特殊的法律地位授予人工智能系统，通过建立“电子人”的单独法律制度，有显著的优势，可以详细说明和规范出现的关系：

– 法律实体和自然人与人工智能系统之间的关系；
– 人工智能系统的开发者（操作员、所有者）与人工智能系统之间的关系；
– 第三方与人工智能系统在民事法律关系中的关系。

在这种法律框架中，人工智能系统将独立于其开发者、所有者或操作员进行控制和管理。当定义“电子人”的概念时，P. M. Morkhat关注应用前面提到的法律虚构方法和特定人工智能模型的功能方向：“电子人”是一个技术和法律形象（它具有法律虚构和法律实体的某些特征），它反映和实现人工智能系统的条件性具体法律能力，这取决于其预期功能或目的和能力。

与人工智能系统相关的集体人概念类似，这种方法涉及创建“电子人”的特殊登记册。“电子人”的权利和义务的详细和明确的描述是国家和此类人工智能系统所有者进一步控制的基础。明确定义的权力范围、狭窄的法律地位和“电子人”的法律能力将确保这种“人”不会由于可能的独立决策和持续的自我学习而超出其程序。

这种方法意味着，在其创建阶段，人工智能是软件开发者的知识产权，在适当的认证和国家登记后，可能被授予法律实体的权利，但“电子人”的法律地位和法律能力将得到保留。

在“梯度法律能力”概念内的第二种方法是“电子代理人”的法律概念，主要与人工智能系统在在线商务和作为交易对方之间的通信手段方面的广泛使用有关。这一方法可以被称为妥协，因为它承认授予人工智能系统完全的法律主体地位的不可能性，同时为人工智能建立某些（社会上重要的）权利和义务。在其他 words，这种方法使人工智能的“准法律主体性”合法化。

支持这种方法的学者强调人工智能系统的功能特性，使它们能够既作为被动工具又作为法律关系的积极参与者，可能能够独立生成对系统所有者具有法律意义的合同。因此，人工智能系统可以在代理关系的框架内被有条件地考虑。当创建（或注册）人工智能系统时，启动“电子代理人”活动的发起者与其签订了一份虚拟的单方面代理协议，结果是授予“电子代理人”一系列权力，行使这些权力时，它可以执行对委托人具有法律意义的行为。

来源：

• R. McLay， “管理人工智能的崛起”，2018年
• Bertolini A. 和 Episcopo F.， 2022年， “机器人和人工智能作为法律主体？解开本体论和功能视角”
• Alekseev, A. Yu., Alekseeva, E. A., Emelyanova, N. N. (2023). “人工人格在社会和政治沟通中的应用。人工社会”
• “桑菲利波A综合征实验室诊断的特异性” N.S. Trofimova, N.V. Olkhovich, N.G. Gorovenko
• Shutkin, S. I., 2020, “人工智能的法律能力是否可能？知识产权作品”
• Ladenkov, N. Ye., 2021, “授予人工智能法律能力的模型”
• Bertolini, A., 和 Episcopo, F., 2021, “专家小组关于人工智能和其他新兴数字技术责任的报告：批判性评估”
• Morkhat, P. M., 2018, “关于人工智能的法律定义问题”