机器人会威胁人类吗？
随着人工智能的不断发展，一些科学家担心：在不久的未来，人工智能技术会超越人类的智慧，甚至会反过来控制或毁灭人类。对这一灾难性的预测来自一群世界上公认“最聪明的人”，包括微软创始人比尔·盖茨、英国科学家史蒂芬·霍金以及美国的“科技狂人”伊隆·马斯克。甚至有学者认为，人工智能超过人类的时间点——“奇点”已经逼近，很可能就在十几年后。这一切真的会发生吗？
人类面临的危险：机器人比人类还聪明
什么样的机器人才是有危险的人工智能？英国密码专家、计算机先驱阿兰·图灵设计了一个甄别实验：一台计算机和一个人做竞赛，说服一个看不到它们的观察者，使其相信自己才是真正的人类。当机器人至少把半数观察者蒙骗了，才算通过了测试。目前，尚无一台计算机接近于通过测试。但图灵也指出，当超级智能机器人通过图灵测试时，人类的报应就来到了。
人类所担心的智能机器人是能够像人一样思考、行动。这里行动应广义地理解为采取行动，或制定行动的决策，而不是肢体动作，而且它们具有知觉和自我意识。
, 百拇医药
人工智能对人类的毁灭能力是什么？牛津大学人类未来研究所的研究人员给出了解释，人工智能不是像核武器一样消灭人类，而是会逐步取代人类，真正可怕的是它们的智力。它们将比人类更聪明、更擅长社交、更有工作能力，假如一个超级机器人走进一个酒吧，它比人类更能吸引男人、女人，那时它们才真的可怕。
比尔·盖茨说：“如果我们能够很好地驾驭机器人，机器能够为人类造福，但如果若干年后机器发展得超过人类的智能，那么它们就将成为人类的心头大患。”
机器人会比人类还聪明吗？
机器的智商能有多高？机器是否会产生自我意识？机器人会比人类还聪明吗？一些科学家认为，机器人的智商超过人类是迟早的事情，甚至还有美国学者明确提出了人工智能超过人类的时间点。
首位用“奇点”这一术语描述这种技术大变革的人是美国数学家、科幻小说家弗诺·文奇，此后，高科技企业家雷·库兹韦尔在其著作《奇点迫近》一书中进一步提升了这一概念。库兹韦尔认为，技术的指数级发展将不可避免地导致超人类智能的出现。库兹韦尔对自己的预测很有信心，他甚至将到达“奇点”的时间定为2029年。到了2029年，电脑不仅能够理解我们的语言，甚至能够和我们开玩笑。库兹韦尔是世界上最著名的未来学家和人工智能专家之一。在此之前，他曾准确预测科学技术的发展趋势。1990年，库兹韦尔预测称电脑将在1998年之前打败国际象棋冠军。1997年，IBM公司研制的电脑“深蓝”成功击败国际象棋冠军加里·卡斯帕罗夫。在互联网仍只是一个由少数学者使用的微小网络时，库兹韦尔就预言互联网将在不久后把整个世界连接在一起。库兹韦尔表示电脑的智商将在10多年内超过人类，也就是说，电脑在图灵测试中表现出的智能行为将与人类一模一样。
, http://www.100md.com
麻省理工学院的机器人学教授罗德尼·布鲁克斯说：“在越过‘奇点’后，我们和我们的世界将与现在大不一样，对什么是人、什么是机器人的定义也将变得不同。”一些未来学家称，正如黑洞中心存在着一个让一切已知物理定律都失效的“奇点”一样，信息技术也正在朝着这样一个“奇点”迈进。届时，人工智能机器将比其制造者——人更加聪明。这些未来学家认为，过了这个点，一切都将以现在不可预测、无法想象的速度和形式发展了。人工智能奇点研究所的创办人之一伊利泽·尤德库斯基目前正在研究所谓的“友好人工智能”。他说，他最担心的是，一些科技怪才会发明一种能够自我进化但却没有道德感的机器人，这将给人类带来灾难。
马丁是世界上最杰出的天文学家之一，他认为虽然地球已经存在了4500万个世纪，但本世纪非常特殊。在几乎整个地球历史里，威胁都来自自然界，但从现在开始，最大的危险来自我们自身——尤其是人工智能。马丁认为，人类大脑的大小和处理能力受到了化学和新陈代谢的限制。也许人类已经非常接近这些极限了。但基于硅的电脑却没有这样的限制。人工智能不受到地球生物圈限制这一事实使得它成为更加致命的威胁。当这些机器制造者具有最大的建造能力时，太阳系内和星际空间将成为它们的理想舞台。而这个领域的创新正快速地向前发展。
, 百拇医药
机器人会毁灭人类吗？
一些科学家担心：人工智能正在以令人害怕的步伐发展，它将导致人类走向最终的灭亡。
就在不久前，著名科学家史蒂芬·霍金再次发出警告——未来100年内，人工智能将比人类更为聪明，机器人将控制人类。霍金曾与特斯拉CEO伊隆·马斯克共同发表公开信，他们认为人工智能的发展应该受到控制。信中称，如果智能机器无法保障安全，人类可能陷入黑暗的未来。一方面人工智能让人类越来越缺乏思考，另一方面其自身则有可能越来越聪明，从而威胁到人类的生存。
马斯克也提出警告，最少只需5年，智能机器可能就会带来极端危险。他认为，人工智能就像“召唤恶魔”。马斯克在麻省理工学院发表演讲时，将人工智能描述为人类“最大的生存威胁”。他说：“我认为我们对人工智能应该保持高度警惕。如果让我猜测人类生存的最大威胁，那可能就是人工智能。”
牛津大学哲学教授尼克·博斯特伦与詹姆斯·巴拉特认为，“现在我们人类就像一群摆弄着一颗危险炸弹的无知孩童。即便是出于好意而创造的人工智能，它仍有犯下种族灭绝罪行的倾向。如果没有小心谨慎的制衡指令，一个有着自我意识、不断自我完善并追寻目标的系统将发展到在我们看来非常荒谬的程度，以完成它的目标”。
, 百拇医药
链接1：
机器人会叛乱吗？
在一些科幻电影中，机器人会起义对抗它们的制造者——人类，甚至最终将人类赶尽杀绝。虽然这只是科幻电影中的故事情节，但并不意味着未来随着机器人技术进步，它们不会与人类产生对抗和冲突。数以千计的无人驾驶飞机和机器人已部署在许多国家，尤其是美国驻伊拉克和阿富汗战场。也许有一天，武装机器人真的会改变现代战争的法则和方法;也许有一天，真的会出现科幻电影《终结者》中控制战争的“天网”机器人系统。
不论如何，科学家认为未来对于人工智能的制造，一定要将不得伤害人类设定为其最重要的行事规则。美国科幻小说家艾萨克·阿西莫夫在他的机器人相关小说中为机器人设定了行为准则(也就是机器人三定律)——
法则一，也是最为重要的一条法则：机器人不得伤害人类，也不得因不作为而使人类受到伤害;
, 百拇医药
法则二，机器人必须服从人类的命令，除非违背第一法则;
法则三，在不违背第一及第二法则的前提下，机器人必须保护自己。
机器人会成为我们的朋友？
对于马斯克、霍金等人的言论，谷歌董事长施密特率先发起反驳。施密特的身份很特殊，作为谷歌的董事长，他曾亲身参与许多世界上最复杂的人工智能系统的研发，从自动驾驶汽车到谷歌的预测性搜索引擎等。施密特认为，所有对机器将抢走人类工作、占领世界的恐惧都毫无根据，并且希望人们能够意识到：机器人会成为我们的朋友。施密特说：“对于人工智能的担忧，都是正常的。但是回顾历史你会发现，这些绝对是错误的。历史的经验已经证明，过去的经济繁荣时期，大多数是因为采用新技术而引发的。”
科技取得突飞猛进的成果时，总是让人感到害怕，但真正重要的是掌握技术的人。总之，对于新技术的发展，难免会存在争论，但科学的进步总归是为人类带来更美好的未来。但是有一点却不能忽视，随着科学技术的进步，自动化的人工智能会越来越多地出现在我们的工作、生活中，机器代替人类工作很有可能在不远的将来成为现实。
, http://www.100md.com
链接2：
人工智能将冲击现有社会体系
人工智能对人类工作、生活方式的改变，可能影响到现有的法律体系、道德标准以及利益分配的模式等等。而人类做出改变的速度未必能跟得上人工智能的发展速度，这就会对社会现有的体制造成冲击，从而引发混乱。科学家预测：在技术上，具有人工智能的机器人将使得人类全部失业。只要对掌握某项技能的人复制100次，就能复制出100个具有此能力的机器人，那么在100个行业里就会拥有1万名高级员工，这也许1个星期就能训练完成，只要愿意还可以复制得更多。这样一来，人工智能几乎可以代替任何人，包括各类专业人员。那个时候人类会是沉溺于机器人世界所带来的休闲呢？还是处于一种前所未有的恐惧呢？
【责任编辑】蒲 晖, http://www.100md.com(础德)
人类面临的危险：机器人比人类还聪明
什么样的机器人才是有危险的人工智能？英国密码专家、计算机先驱阿兰·图灵设计了一个甄别实验：一台计算机和一个人做竞赛，说服一个看不到它们的观察者，使其相信自己才是真正的人类。当机器人至少把半数观察者蒙骗了，才算通过了测试。目前，尚无一台计算机接近于通过测试。但图灵也指出，当超级智能机器人通过图灵测试时，人类的报应就来到了。
人类所担心的智能机器人是能够像人一样思考、行动。这里行动应广义地理解为采取行动，或制定行动的决策，而不是肢体动作，而且它们具有知觉和自我意识。
, 百拇医药
人工智能对人类的毁灭能力是什么？牛津大学人类未来研究所的研究人员给出了解释，人工智能不是像核武器一样消灭人类，而是会逐步取代人类，真正可怕的是它们的智力。它们将比人类更聪明、更擅长社交、更有工作能力，假如一个超级机器人走进一个酒吧，它比人类更能吸引男人、女人，那时它们才真的可怕。
比尔·盖茨说：“如果我们能够很好地驾驭机器人，机器能够为人类造福，但如果若干年后机器发展得超过人类的智能，那么它们就将成为人类的心头大患。”
机器人会比人类还聪明吗？
机器的智商能有多高？机器是否会产生自我意识？机器人会比人类还聪明吗？一些科学家认为，机器人的智商超过人类是迟早的事情，甚至还有美国学者明确提出了人工智能超过人类的时间点。
首位用“奇点”这一术语描述这种技术大变革的人是美国数学家、科幻小说家弗诺·文奇，此后，高科技企业家雷·库兹韦尔在其著作《奇点迫近》一书中进一步提升了这一概念。库兹韦尔认为，技术的指数级发展将不可避免地导致超人类智能的出现。库兹韦尔对自己的预测很有信心，他甚至将到达“奇点”的时间定为2029年。到了2029年，电脑不仅能够理解我们的语言，甚至能够和我们开玩笑。库兹韦尔是世界上最著名的未来学家和人工智能专家之一。在此之前，他曾准确预测科学技术的发展趋势。1990年，库兹韦尔预测称电脑将在1998年之前打败国际象棋冠军。1997年，IBM公司研制的电脑“深蓝”成功击败国际象棋冠军加里·卡斯帕罗夫。在互联网仍只是一个由少数学者使用的微小网络时，库兹韦尔就预言互联网将在不久后把整个世界连接在一起。库兹韦尔表示电脑的智商将在10多年内超过人类，也就是说，电脑在图灵测试中表现出的智能行为将与人类一模一样。
, http://www.100md.com
麻省理工学院的机器人学教授罗德尼·布鲁克斯说：“在越过‘奇点’后，我们和我们的世界将与现在大不一样，对什么是人、什么是机器人的定义也将变得不同。”一些未来学家称，正如黑洞中心存在着一个让一切已知物理定律都失效的“奇点”一样，信息技术也正在朝着这样一个“奇点”迈进。届时，人工智能机器将比其制造者——人更加聪明。这些未来学家认为，过了这个点，一切都将以现在不可预测、无法想象的速度和形式发展了。人工智能奇点研究所的创办人之一伊利泽·尤德库斯基目前正在研究所谓的“友好人工智能”。他说，他最担心的是，一些科技怪才会发明一种能够自我进化但却没有道德感的机器人，这将给人类带来灾难。
马丁是世界上最杰出的天文学家之一，他认为虽然地球已经存在了4500万个世纪，但本世纪非常特殊。在几乎整个地球历史里，威胁都来自自然界，但从现在开始，最大的危险来自我们自身——尤其是人工智能。马丁认为，人类大脑的大小和处理能力受到了化学和新陈代谢的限制。也许人类已经非常接近这些极限了。但基于硅的电脑却没有这样的限制。人工智能不受到地球生物圈限制这一事实使得它成为更加致命的威胁。当这些机器制造者具有最大的建造能力时，太阳系内和星际空间将成为它们的理想舞台。而这个领域的创新正快速地向前发展。
, 百拇医药
机器人会毁灭人类吗？
一些科学家担心：人工智能正在以令人害怕的步伐发展，它将导致人类走向最终的灭亡。
就在不久前，著名科学家史蒂芬·霍金再次发出警告——未来100年内，人工智能将比人类更为聪明，机器人将控制人类。霍金曾与特斯拉CEO伊隆·马斯克共同发表公开信，他们认为人工智能的发展应该受到控制。信中称，如果智能机器无法保障安全，人类可能陷入黑暗的未来。一方面人工智能让人类越来越缺乏思考，另一方面其自身则有可能越来越聪明，从而威胁到人类的生存。
马斯克也提出警告，最少只需5年，智能机器可能就会带来极端危险。他认为，人工智能就像“召唤恶魔”。马斯克在麻省理工学院发表演讲时，将人工智能描述为人类“最大的生存威胁”。他说：“我认为我们对人工智能应该保持高度警惕。如果让我猜测人类生存的最大威胁，那可能就是人工智能。”
牛津大学哲学教授尼克·博斯特伦与詹姆斯·巴拉特认为，“现在我们人类就像一群摆弄着一颗危险炸弹的无知孩童。即便是出于好意而创造的人工智能，它仍有犯下种族灭绝罪行的倾向。如果没有小心谨慎的制衡指令，一个有着自我意识、不断自我完善并追寻目标的系统将发展到在我们看来非常荒谬的程度，以完成它的目标”。
, 百拇医药
链接1：
机器人会叛乱吗？
在一些科幻电影中，机器人会起义对抗它们的制造者——人类，甚至最终将人类赶尽杀绝。虽然这只是科幻电影中的故事情节，但并不意味着未来随着机器人技术进步，它们不会与人类产生对抗和冲突。数以千计的无人驾驶飞机和机器人已部署在许多国家，尤其是美国驻伊拉克和阿富汗战场。也许有一天，武装机器人真的会改变现代战争的法则和方法;也许有一天，真的会出现科幻电影《终结者》中控制战争的“天网”机器人系统。
不论如何，科学家认为未来对于人工智能的制造，一定要将不得伤害人类设定为其最重要的行事规则。美国科幻小说家艾萨克·阿西莫夫在他的机器人相关小说中为机器人设定了行为准则(也就是机器人三定律)——
法则一，也是最为重要的一条法则：机器人不得伤害人类，也不得因不作为而使人类受到伤害;
, 百拇医药
法则二，机器人必须服从人类的命令，除非违背第一法则;
法则三，在不违背第一及第二法则的前提下，机器人必须保护自己。
机器人会成为我们的朋友？
对于马斯克、霍金等人的言论，谷歌董事长施密特率先发起反驳。施密特的身份很特殊，作为谷歌的董事长，他曾亲身参与许多世界上最复杂的人工智能系统的研发，从自动驾驶汽车到谷歌的预测性搜索引擎等。施密特认为，所有对机器将抢走人类工作、占领世界的恐惧都毫无根据，并且希望人们能够意识到：机器人会成为我们的朋友。施密特说：“对于人工智能的担忧，都是正常的。但是回顾历史你会发现，这些绝对是错误的。历史的经验已经证明，过去的经济繁荣时期，大多数是因为采用新技术而引发的。”
科技取得突飞猛进的成果时，总是让人感到害怕，但真正重要的是掌握技术的人。总之，对于新技术的发展，难免会存在争论，但科学的进步总归是为人类带来更美好的未来。但是有一点却不能忽视，随着科学技术的进步，自动化的人工智能会越来越多地出现在我们的工作、生活中，机器代替人类工作很有可能在不远的将来成为现实。
, http://www.100md.com
链接2：
人工智能将冲击现有社会体系
人工智能对人类工作、生活方式的改变，可能影响到现有的法律体系、道德标准以及利益分配的模式等等。而人类做出改变的速度未必能跟得上人工智能的发展速度，这就会对社会现有的体制造成冲击，从而引发混乱。科学家预测：在技术上，具有人工智能的机器人将使得人类全部失业。只要对掌握某项技能的人复制100次，就能复制出100个具有此能力的机器人，那么在100个行业里就会拥有1万名高级员工，这也许1个星期就能训练完成，只要愿意还可以复制得更多。这样一来，人工智能几乎可以代替任何人，包括各类专业人员。那个时候人类会是沉溺于机器人世界所带来的休闲呢？还是处于一种前所未有的恐惧呢？
【责任编辑】蒲 晖, http://www.100md.com(础德)