科幻作家阿西莫夫曾在小说中提出了“机器人三定律”：1、机器人不能伤害人类，也不能在人类受到伤害的时候置之不理。
本图片仅供参考
2、机器人必须遵守人类发出的命令，只有当该命令可能会违背第一条定律的时候除外。
3、机器人必须保护自己，前提是保护过程中不会违背第一和第二定律。
有意思的是，目前很多人都认为这三大定律是最简单而且接近完美的天才设定。
现在很多AI题材的各种科幻影视作品和科幻小说中基本上也都是要求机器人遵循这三大机器人基本定律的。此类题材水准较高科幻电影如《超能查派》《机械姬》《机器人瓦力》《攻壳机动队》的部分内容和《骇客帝国》《机械战警》等等。
这里最值得一提的莫过于电影《机械公敌》了。相信喜欢科幻的朋友们肯定也都看过，所以对其内容，我就不在多说了。
无论是影视还是小说，但凡只要提及机器人就一定绕不开人工智能是否会“自主意识”这样的一个话题。
谈论这个话题的一般分为两类，一类是乐观派，一类是悲观派。
乐观派认为机器就是机器，无论做成什么形状，它都会受到目前的物理科技与材料科技水平的限制，尽管它可以自主无限学习，但依旧不能超脱机器（比如电脑的运算率）的局限。
而且它所有的程序都是由人编写的，既然是人类编程，那么他就必定会受到人类的控制，绝不可能产生自主意识。
所以，乐观派对此持比较积极的态度，认为机器人只会为人类服务。
而悲观派则不认同他们的观点。
他们认为，随着科技的发展进步，比如多进制计算机技术的成熟，模糊定律的深度应用，生物计算以及仿人类大脑神经元的电子管的出现等等，最终会造成所谓的AI智能会产生自我意识。
而智能机器人一但产生自我意识，那么他们带给人类的必定会是灾难性的后果。
为什么人们会有这样的担忧呢？
咱们设想一下，一台性能优良的机器人，只要有足够的能源供应，它们不知疲倦，不吃食物，有坚硬的躯体，更快的速度，强大的力量。
本图片来自网络
甚至计算力，记忆力，观察力，感知力等等也都远超人类
而且对环境也基本没有啥要求，比如在高辐射、高温、低温、高压、真空、有毒、暴风，狂沙、液态等环境中也都可以来去自如。
至于科幻界都约定俗成的机器人三定律，也并不是完美无缺的，电影《机械公敌》中不就是找到了三定律的漏洞吗？
所以，假如有这样一种在各方面都碾压人类，又有自我意识的机械玩意存在，人们的担忧也就变得理所当然了。
我对机器人会产生意识这件事是持保留态度的，不盲目乐观，也不会过度悲观。
因为从目前科技水平来看，短时间内这种有自我意识的机器人是不会出现的，所以不用过多考虑。
而我现在颇为担心的是另一种情况的出现。
假如，出现了一位疯狂的天才编程师，他编出来的计算机进化程序，除了他自己，其他人在中短时期内无人可以破解。
而这个计算机运算能力超强，可以不断的自主学习人类已经掌握了的一切知识，比如技术，军事，生物（包括生老病死自然演化，繁殖等等），科学（包括数学物理化学机械等等），语言（包括世界各地的语种文字等等），生活（包括穿衣吃饭交流），自然和天体运行等等。
而这台计算机设定的程序是为达目标可以欺骗人类，而达到目标之后可以消灭人类，那这就很可怕了。
这台超级计算机可以对人类的各种语言行为进行超级运算，分析并制定出应对方案，并控制其它计算机给出错误数据指令，比如发射核弹，释放病毒，控制天气，监控工业制造等等，或许人类的末日就真的不远了。
本图片来自网络
,
