Algorithm 版 (精华区)

发信人: ssos (存在与虚无), 信区: Algorithm
标  题: Can machine think? -------by Alan Turing(4)
发信站: 哈工大紫丁香 (2001年06月14日15:56:32 星期四), 站内信件

6 Contrary Views on the Main Question
We may now consider the ground to have been cleared and we are ready to proceed
to the debate on our question, 'Can machines think?' and the variant of it
quoted at the end of the last section. We cannot altogether abandon the origi
nal
form of the problem, for opinions will differ as to the appropriateness of the
substitution and we must at least listen to what has to be said in this
connection.
It will simplify matters for the reader if I explain first my own beliefs in
the
matter. Consider first the more accurate form of the question. I believe that
 in
about fifty years time it will be possible to programme computers with a stor
age
capacity of about 109 to make them play the imitation game so well that an
average interrogator will not have more than 70 per cent chance of making the
right identification after five minutes of questioning. The original question,
'Can machines think?' I believe to be too meaningless to deserve discussion.
Nevertheless I believe that at the end of the century the use of words and
general educated opinion will have altered so much that one will be able to
speak of machines thinking without expecting to be contradicted. I believe
further that no useful purpose is served by concealing these beliefs. The
popular view that scientists proceed inexorably from well-established fact to
well-established fact, never being influenced by any unproved conjecture, is
quite mistaken. Provided it is made clear which are proved facts and which are
conjectures, no harm can result. Conjectures are of great importance since they
suggest useful lines of research.
{p.443} I now proceed to consider opinions opposed to my own.
(1) The Theological Objection  Thinking is a function of man's immortal soul.
God has given an immortal soul to every man and woman, but not to any other
animal or to machines. Hence no animal or machine can think.
I am unable to accept any part of this, but will attempt to reply in theologi
cal
terms. I should find the argument more convincing if animals were classed with
men, for there is a greater difference, to my mind, between the typical animate
and the inanimate than there is between man and the other animals. The arbitr
ary
character of the orthodox view becomes clearer if we consider how it might
appear to a member of some other religious community. How do Christians regard
the Moslem view that women have no souls? But let us leave this point aside and
return to the main argument. It appears to me that the argument quoted above
implies a serious restriction of the omnipotence of the Almighty. It is admit
ted
that there are certain things that He cannot do such as making one equal to
two(1), but should we not believe that He has freedom to confer a soul on an
elephant if He sees fit? We might expect that He would only exercise this power
in conjunction with a mutation which provided the elephant with an appropriat
ely
improved brain to minister to the needs of this soul. An argument of exactly
similar form may be made for the case of machines. It may seem different beca
use
it is more difficult to "swallow". But this really only means that we think it
would be less likely that He would consider the circumstances suitable for
conferring a soul. The circumstances in question are discussed in the rest of
this paper. In attempting to construct such machines we should not be
irreverently usurping His power of creating souls, any more than we are in the
procreation of children: rather we are, in either case, instruments of His will
providing mansions for the souls that He creates.
However, this is mere speculation. I am not very impressed with theological
arguments whatever they may be used to support. Such arguments have often been
found unsatisfactory in the past. In the time of Galileo it was argued that the
texts, "And the sun stood still . . . and hasted not to go down about a whole
day" (Joshua x. 13) and "He laid the foundations of the earth, {p.444} that it
should not move at any time" (Psalm cv. 5) were an adequate refutation of the
Copernican theory. With our present knowledge such an argument appears futile.
When that knowledge was not available it made a quite different impression.
(2) The 'Heads in the Sand' Objection  "The consequences of machines thinking
would be too dreadful. Let us hope and believe that they cannot do so."
This argument is seldom expressed quite so openly as in the form above. But it
affects most of us who think about it at all. We like to believe that Man is in
some subtle way superior to the rest of creation. It is best if be can be shown
to be necessarily superior, for then there is no danger of him losing his
commanding position. The popularity of the theological argument is clearly
connected with this feeling. It is likely to be quite strong in intellectual
people, since they value the power of thinking more highly than others, and are
more inclined to base their belief in the superiority of Man on this power.
I do not think that this argument is sufficiently substantial to require
refutation. Consolation would be more appropriate: perhaps this should be sou
ght
in the transmigration of souls.
(3) The Mathematical Objection  There are a number of results of mathematical
logic which can be used to show that there are limitations to the powers of
discrete-state machines. The best known of these results is known as G鰀el's
theorem(2),and shows that in any sufficiently powerful logical system stateme
nts
can be formulated which can neither be proved nor disproved within the system,
unless possibly the system itself is inconsistent. There are other, in some
respects similar, results due to Church, Kleene, Rosser, and Turing. The latter
result is the most convenient to consider, since it refers directly to machin
es,
whereas the others can only be used in a comparatively indirect argument: for
instance if G鰀el's theorem is to be used we need in addition to have some me
ans
of describing logical systems in terms of machines, and machines in terms of
logical systems. The result in question refers to a type of machine which is
essentially a digital computer with an infinite capacity. It states that there
are certain things that such a machine cannot do. If it is rigged up to give
answers to questions as in the imitation game, there will be some questions to
which it will either give a wrong answer, or fail to give an answer at all
however much time is allowed for a reply. There may, of course, be many such
questions, and questions which cannot be answered by one machine may be
satisfactorily {p.445} answered by another. We are of course supposing for the
present that the questions are of the kind to which an answer 'Yes' or 'No' is
appropriate, rather than questions such as 'What do you think of Picasso?' The
questions that we know the machines must fail on are of this type, "Consider
the
machine specified as follows. . . . Will this machine ever answer 'Yes' to any
question?" The dots are to be replaced by a description of some machine in a
standard form, which could be something like that used in ?5. When the machine
described bears a certain comparatively simple relation to the machine which is
under interrogation, it can be shown that the answer is either wrong or not
forthcoming. This is the mathematical result: it is argued that it proves a
disability of machines to which the human intellect is not subject.
The short answer to this argument is that although it is established that there
are limitations to the powers of any particular machine, it has only been
stated, without any sort of proof, that no such limitations apply to the human
intellect. But I do not think this view can be dismissed quite so lightly.
Whenever one of these machines is asked the appropriate critical question, and
gives a definite answer, we know that this answer must be wrong, and this gives
us a certain feeling of superiority. Is this feeling illusory? It is no doubt
quite genuine, but I do not think too much importance should be attached to it.
We too often give wrong answers to questions ourselves to be justified in being
very pleased at such evidence of fallibility on the part of the machines.
Further, our superiority can only be felt on such an occasion in relation to
the
one machine over which we have scored our petty triumph. There w6uld be no
question of triumphing simultaneously over all machines. In short, then, there
might be men cleverer than any given machine, but then again there might be
other machines cleverer again, and so on.
Those who hold to the mathematical argument would, I think, mostly be willing
 to
accept the imitation game as a basis for discussion. Those who believe in the
two previous objections would probably not be interested in any criteria.
(4) The Argument from Consciousness  This argument is very well expressed in
Professor Jefferson's Lister Oration for 1949, from which I quote.
"Not until a machine can write a Bonnet or compose a concerto because of
thoughts and emotions felt, and not by the chance fall of symbols, could we
agree that machine equals brain-that is, not only write it but know that it had
written it. No mechanism could feel (and not merely {p.446} artificially sign
al,
an easy contrivance) pleasure at its successes, grief when its valves fuse, be
warmed by flattery, be made miserable by its mistakes, be charmed by sex, be
angry or depressed when it cannot get what it wants."
This argument appears to be a denial of the validity of our test. According to
the most extreme form of this view the only way by which one could be sure that
a machine thinks is to be the machine and to feel oneself thinking. One could
then describe these feelings to the world, but of course no one would be
justified in taking any notice. Likewise according to this view the only way to
know that a man thinks is to be that particular man. It is in fact the solips
ist
point of view. It may be the most logical view to hold but it makes
communication of ideas difficult. A is liable to believe 'A thinks but B does
not' whilst B believes 'B thinks but A does not'. Instead of arguing continua
lly
over this point it is usual to have the polite convention that everyone thinks.
I am sure that Professor Jefferson does not wish to adopt the extreme and
solipsist point of view. Probably he would be quite willing to accept the
imitation game as a test. The game (with the player B omitted) is frequently
used in practice under the name of viva voce to discover whether some one rea
lly
understands something or has 'learnt it parrot fashion'. Let us listen in to a
part of such a viva voce:
    Interrogator: In the first line of your sonnet which reads 'Shall I compare
    thee to a summer's day', would not 'a spring day' do as
    well or better?
    Witness: It wouldn't scan.
    Interrogator: How about 'a winter's day' That would scan all right.
    Witness: Yes, but nobody wants to be compared to a winter's day.
    Interrogator: Would you say Mr. Pickwick reminded you of Christmas?
    Witness: In a way.
    Interrogator: Yet Christmas is a winter's day, and I do not think Mr.
    Pickwick would mind the comparison.
    Witness: I don't think you're serious. By a winter's day one means a
    typical winter's day, rather than a special one like Christmas.
And so on. What would Professor Jefferson say if the sonnet-writing machine was
able to answer like this in the viva voce? I do not know whether he would reg
ard
the machine as 'merely {p.447} artificially signalling' these answers, but if
the answers were as satisfactory and sustained as in the above passage I do not
think he would describe it as 'an easy contrivance'. This phrase is, I think,
intended to cover such devices as the inclusion in the machine of a record of
someone reading a sonnet, with appropriate switching to turn it on from time to
time.
In short then, I think that most of those who support the argument from
consciousness could be persuaded to abandon it rather than be forced into the
solipsist position. They will then probably be willing to accept our test.
I do not wish to give the impression that I think there is no mystery about
consciousness. There is, for instance, something of a paradox connected with
any
attempt to localise it. But I do not think these mysteries necessarily need to
be solved before we can answer the question with which we are concerned in this
paper.

--

   
<<社会契约论>>是一本好书,应当多读几遍
风味的肘子味道不错,我还想再吃它      

※ 来源:·哈工大紫丁香 bbs.hit.edu.cn·[FROM: 202.118.230.220]