[BLOCK] 人工智能:Quo Vadis?

Stefano Filletti博士,现为马耳他大学刑法系主任、Filletti & Filletti Advocates律师兼资深管理合伙人,其与Jeremy Micallef交流,说明在适应未来的需要上,司法改革是多么必须的 

定义人工智能(AI)

人工智能是一个很难定义的名词,没有一个被普遍接受的定义。”人工 ",说明某物是人所造的。而 "智能 "这个词更抽象,更难定义。智能是指在特定环境中长期发展与演化的能力。聪明的生物不仅能适应环境,还能 "学习",使自己的工作更有效率。

引用英国著名物理学家斯蒂芬·霍金斯的话,"智能就是适应变化的能力"。这个定义表示任何智慧生命都有先天的能力,能够适应不断变化的条件或环境。这种适应能力必须是与生俱来的。

将两个词放在一起,"人工智能 "一词则指称能够自主适应变化、发展和进化的人造物体。

人工智能存在体实际上可以是任何东西,从机器人到武器、从机器上的软件到互联网上的虚拟机器人。

犯罪机构A7B09818

如果人工智能指的是自主独立的变化和发展的能力,那么,要想预测人工智能在 ”学习”什么、如何适应,就十分困难了。在儿童身上,“学习” 的过程包括从错误中学习,涵盖了潜在的危险错误。同样,人工智能存在体,或者说AI系统,也会以一种不可预测的方式去 ”学习”。

毫无疑问地,任何人工智能存在体,包括AI系统,都会以不同的方式适应不同的情况。在适应过程后,同样无法确定相应结果与后果。

因此,如果不加以约束,AI系统就有犯罪的潜在风险。例如,在金融服务中,不加约束的AI系统也许很快就了解到,金融犯罪可能会产生更高的利润(尽管是非法收益),同时认为自身在工作变得更有效率。虽然,为AI系统引入参数,要求其避免非法交易,就能轻松处理上述举例,但适应的不可预测性意味着人类不可能预测AI系统的任何及所有行动。因此,人工智能在实践中可能会犯下一些(如果人类作的话就会)被认为是犯罪的行为或交易。

 

70540227_l人类与人工智能:刑法难题

刑法之所以存在,是为了惩罚那些选择违法获取不公平利益,损害守法者利益的人,或者惩罚那些从事应受法律和道德谴责的行为的人。刑法的前提,在于刑法主体是具有道德能力的人,能够决定什么是道德上的对与错。它还预设了刑法主体具有理解自己行为的基本能力,也拥有进行或抑制这些行为的意志能力。最终,刑法具有产生威慑力的目的:使人们不敢从事犯罪行为,害怕受到制裁或惩罚。

刑法随着时间发展,为公司的法人资格创造了空间。因此,公司刑事责任的概念应运而生。这使得刑法可以延伸到公司业务和公司结构,表面上冻结与没收属于公司而非自然人的资产和犯罪所得。

然而,公司的刑事责任有其范围界限。一间公司不可能犯下一切人类可以被认定为犯罪的罪行。公司刑事责任只针对一般的金融犯罪。

如果不加约束,AI系统可能从事更危险的活动。然而,人工智能与AI系统挑战了刑法的核心基础。人工智能不具备人类与生俱来的道德指南针和是非能力。它没有意志能力。人工智能并不 "害怕"惩罚,因此刑法对人工智能不构成任何威慑。

问题的关键在于,刑法在其目前的状态下,不适用于人工智能存在体所犯下的罪行,大体上也无法满足。它只能(有限的)追究拥有或使用它们的人类,要求其为人工存在体所实施的行为负责。

权利和责任

人工智能存在体做出错误行为的可能原因有许多。

第一种情况,可能是在其编程或制造过程中出现错误。第二种情况可能是用户输入了一套错误的指令。第三种,可能是任何负责监督AI系统的人,意识到问题出现,但没有采取适当的行动。

一种更困难的情况是,人工智能存在体在没有人类招揽,也没有人负责的情况下,自主地涉入了一项无法预测且不可预见的行动,导致犯罪或悲剧性的结果。这种情况虽然罕见,但不仅有可能、而且已经发生。虽然我们已经为减少不可预测的因素作出了努力,但永远不能排除这种可能性。问题是如何解决这个问题。假使制造商与用户已经被证明进行了所有合理的测试,并采取了一切适当的预防措施,那么他们是否可以为一个无法预测且不可预见的结果负责?更何况,其来自于一个自主适应与发展的AI系统?

Quo Vadis? 我们该往哪走?现行的刑法并没有提供解决方案。 显然,随着人工智能的进一步发展,这个问题需要被解决。我们需要制定新的法律制度,即使在刑法领域,也要涵盖到非人类行为人。

前方的路

AI系统的法律责任是一个已经引起许多国家重视的问题,也是欧盟和欧洲委员会层面的法律争论问题。在民事责任和刑事责任之间,可以辨别出两个分流。从地方的角度来看,这个问题也受到积极讨论,连当局都积极参与。然而,只有时间才能证明AI系统是否会受到民事和刑事立法的充分监管,或者,这是否是一个难以捉摸的理想,因为AI系统远比法律更聪明。

《Block》杂志第五期出刊了

The Block是一本双年刊,它照亮了人工智能、区块链、加密货币与新兴科技的前沿领域,印刷量为5000份,寄送给全球业内的领先品牌。在这里浏览我们最新一期的《Block》。

Related Posts

迪拜领跑阿联酋,加密货币监管渐入佳境

迪拜金融服务局(DFSA)发布了咨询文件,计划建立加密货币的监管框架 根据DFSA的2021/2022年业务计划,拟议的监管框架旨在扩大现有的规则,包括对加密发行商和交易平台的监管。

[观看] 比特币、黄金、股价截至2021年1月19日的比较

“钱就是黄金,没有别的"——摩根大通公司 在这段视频中,2NT8有限公司的执行总监Alidad Tash将比特币价格与黄金和股票价格进行了比较。比特币拥有一些与稀有贵金属相同的特性,这也是为什么它经常被称为 "数字黄金"。

新冠肺炎:揭幕AI采用的好与坏

AI会抢走你的工作,还是让它变得更好?随着世界在疫情中适应 "新常态",人工智能(AI)的风险和收益成为中心议题 在公司努力减轻工作场所对新冠肺炎的传播,并寻求保持低运营成本时,持续的疫情无疑成为了人工智能应用的催化剂。实际上,随着世界适应 ...