黑客帝国哲学----Artificial Ethic

The significance of The Matrix as a movie with deep philosophical overtones is well recognized. Whenever the movie is discussed in philosophy classes, comparisons are made with Descartes’ Meditations, particularly the dream argument and the evil genius scenario, both of which are intended to generate skeptical doubt. How do we know, for example, that we are awake now, rather than merely dreaming? How do we know that our thoughts are not being manipulated, and that our perceptions of ‘reality’ are accurate? The Matrix makes these doubts stand out vividly.

黑客帝国作为一部有很深哲学暗示的电影,其重要性已被公认.无论这部电影是拿到哲学课程上讨论,都可以比照笛卡尔的沉思集,特别是梦境论和邪恶天才假设,这些都产生了怀疑论.我们怎么知道自己是醒着,而非做梦呢?我们怎么知道自己不被操纵呢?怎么知道我们"现实"的概念是错误的呢?黑客帝国把这些问题很生动的提了出来.

However, The Matrix raises many other interesting philosophical issues, and ones that are worthy of further discussion. This essay explores some of the moral issues raised in The Matrix. The first is the issue of the moral status of the created beings, the ‘artificial’ intelligences, which figure into the universe of The Matrix. The second is the issue of whether or not one can do anything wrong in circumstances where one’s experiences are non-veridical; that is, where one’s experiences fail to reflect reality.

然而,黑客帝国还有很多其他有趣的哲学问题,都是很值得深入讨论的.这篇文章就要讨论一下黑客帝国提出的道德问题.第一个问题就是被创造物的道德状况,人工智能,正合适黑客帝国的领域.第二个就是一个人是否能在虚拟体验下做错事;也就是说当这个人的体验无法反应现实的情况下.

I. The Moral Status of Programs


There is a reality to the Matrix. The substance of that reality may differ dramatically from the substance we label ‘real’ — the ‘real’ world is the desert reality that Morpheus reveals to Neo. But it is clear that, out of the grip of the Matrix, though still having certain dream-like experiences, Neo and his enlightened friends are dealing with actual sentient programs, and making decisions that have actual effects for themselves as well as the machines and the programs. What is the moral status of the sentient programs that populate the Matrix, or, for that matter, the moral status of the machines themselves? The universe of The Matrix is populated with beings that have been created — created by programmers or created by the machine universe itself. The agents, such as Smith, Neo’s pursuer, are prime examples. These beings come into and go out of existence without comment on the part of whoever controls the switches — and without any moral debate on the part of the humans who also would like to see the agents destroyed. There seems to be an implicit view that their existence is less significant, their lives of less moral import, than the lives of ‘naturally’ existing creatures such as ourselves. An obvious explanation for this attitude is that humans are long accustomed to thinking of themselves as being at the center of the universe. The geographic point changed with Copernicus. However, our view of our dominant place in the moral universe has stayed fixed. But, once again, science — and particularly, now, cognitive science holds the potential for challenging this certainty. And science fiction such as The Matrix, which explores differing directions for these potentialities, also brings challenges to this worldview. What The Matrix offers is a vivid thought experiment. It is a thought experiment which makes us ask the sort of ‘what if?’ question that leads to a change in self conception. It forces us to see where our well accepted moral principles would take us within one possible world.

I. 程序的道德情况

Matrix是真实的.但这个真实的实质和我们定义的"真实"--也就是Morpheus给Neo看的真实--不同.但是很清楚,出了Matrix一样有不同寻常的体验,Neo和他那些同伴要对付有知觉的程序,作出对自己,程序,机器都有影响的决定.Matrix中程序的道德状况是怎样的呢?或是机器本身的道德处境如何呢?Matrix的世界充满了被创造的产物--被程序员或是机器本身创造.特工,像是Smith,Neo的追捕者,就是一个例子.这些个体在这个存在中自由的出现和消失而不管控制它们的是谁--也没有人类看到其他人被杀死而产生的道德问题.似乎暗示他们的存在是不重要的,比起类似人类的"自然"生物,他们是没有道德问题的.一个很明显的解释就是人类不再把自己看作世界的中心了.哥白尼改变了地质的学说.然而,我们在精神上把自己认作宇宙主宰的习惯却没有改变.现在的认知科学正在挑战这些我们确定的东西.像是黑客帝国这样的科幻作品正在探索这些可能性,也给这种世界观带来了挑战.黑客帝国提出的是一个生动的实验.这是一个让我们问"如果"的思想实验,会带来对于自我概念的挑战.这逼迫我们带着这种道德法则进入一个可能世界.

We know that killing human beings is wrong. It is wrong because human beings have moral standing. Human beings are widely believed to have this standing in virtue of consciousness and sentience. For example, a rock has no moral standing whatsoever. Kicking a rock does not harm it, and no moral rights are violated. It is an inanimate, non-conscious object incapable of either thought or sensation. Animals, however, are generally taken to have some moral standing in virtue of their sentience. Kicking an animal for no compelling reason is generally taken to be immoral. Human beings have greater standing in virtue of their higher rational capacities. They can experience more varied and complex harms, and a wider range of emotional responses – such as resentment – in virtue of their rationality. How one came into existence is not taken to be morally significant. Some people are the products of natural conception, and some are the result of conception in the laboratory. This makes no difference to the possession of those qualities we take to be morally significant – consciousness and rationality. And, surely, the substance from which someone is created is completely irrelevant to the issue of moral status. If a person’s consciousness could somehow be transferred to a metallic or plastic robotic body, the end result would still be a person.

我们知道杀人是不对的.因为人类有道德标准.人类普遍认为这种标准来自人类的知觉和意识.比如,无论如何一块石头是没有道德标准的.踢石头并不伤害它,没有违反任何道德权利.这是死气沉沉,没有意识和知觉的个体.动物,然而,被认为是有基于知觉的道德标准.没有原因的伤害动物被认为是不道德的.人类的理性容量有着更高的标准.我们可以体验到更多更复杂的伤害,和更为广阔的情感回应--比如怨恨--基于理性.一个人如何存在是没有道德重要性的.一些人是自然概念的结果,一些是实验概念的结果.占有无道德重要性的东西是没有错误的--意识和理性.一个人是否被创造和道德情况是无关的.如果一个人的意识可以放入金属或塑料的身体里,结果他仍然是个人.

It would seem, then, that the fact that one is created, or artificial, is in no way relevant to one’s moral standing. And, if this is the case, then the world of The Matrix presents underappreciated moral complexities. Agents such as Smith, while not very pleasant, would arguably have moral standing, moral rights. Of course, Neo has the right to defend himself — Smith is not, after all, an innocent. Indeed, if the religious theme is pursued, he is an agent of darkness. But any innocent creations of the machines — beings brought into existence to populate the Matrix — also would have moral rights. Just as it would be wrong to flip a switch and kill an innocent human being, no matter how that human being came into existence, it would be wrong to flip a switch and kill a sentient program. As long, of course, as that program possessed the qualities we regard as morally relevant. And this is where one of the primary issues raised by the possibility of artificial intelligence becomes important to the question at hand. Do these programs possess consciousness? Since we are considering the world of The Matrix, let’s look at what evidence seems to exist in the movie. While we don’t have much information about the machines themselves, their agents are on ample display.

看起来一个人是被创造的,和这个人的道德标准无关.这样的话,黑客帝国就呈现了一个未得到正确评价的道德复杂性.像是Smith这样的特工,是有道德标准和权力的.当然,Neo也有权利自卫,Smith并不是无辜的.是的,加上宗教主题,他就是黑暗的代理人.但是机器任何的无辜创造都有道德权力.就像按开关杀死一个无辜的人一样,无论这个人的存在形式是如何的,同理,杀死一个有知觉的程序一样是错误的.当然,只在这程序拥有我们看作为道德属性的情况下.这就是人工智能的首要问题.这些程序有知觉吗?因为我们在看Matrix的世界,我们就从电影中的线索来看.我们对机器本身的信息不多,不过它们的特工足够看问题了.

从动作片角度讲,黑是我见过最垃圾的一部,不如直接看动画片�

在哲学帖子里"从动作片角度讲",楼主是攻壳吧里来的?

12楼是火星人 鉴定完毕

Smith, of course, and his colleagues seem remarkably without affect. Yet, at critical points they do display emotions: anger, fear, and surprise. They seem able to plan and to carry through on a plan. Smith also displays a capacity for sadistic pleasure — at one point he displays this, when he forces Neo’s mouth shut. Smith also displays extreme fear near the end of the movie, when Neo leaps through him. The agents display many, if not all, of the responses we associate with consciousness and sentience. But this brings us to another skeptical challenge posed in The Matrix. How can we be sure they do posses minds, and are not mere automata, albeit highly complex ones? Though the movie invites this reflection, it is important to see where this challenge can take us. The "how can I be sure?" question can extend beyond the agents to our fellow human beings. Since a person’s conscious experiences are essentially private, one cannot be directly aware of another’s experiences. We might try, as St. Augustine suggested, to solve this problem by appeal to analogy: I do directly experience my own mental states — I know that I am a conscious, aware, being. I also know on the basis of observation that I am structurally similar to other human beings. Thus, I reason by analogy, that they must experience mental states as well. And, indeed, The Matrix invites such a comparison when the agents display behavior consistent with the experience of certain psychological states.