包括霍金在内的许多科学家认为AI机器人获得意识仅仅是时间问题，这些机器人将胜任人类的一切工作，然而这也将带来法律和道德上的挑战。

据英国《每日邮报》12月12日报道，在The Conversation网站的一篇文章中，美国俄克拉荷马州立大学教授苏巴什•卡阐述了机器人获得意识可能造成的后果。

苏巴什•卡称，人工智能在未来将有突破性的进展： 机器能够感知自身和周围环境，，并且实时吸收和处理大量数据。它可以进入太空、投入战斗，完成危险的任务，还可以做饭、打扫、洗衣服——甚至能在人孤独的时候给予陪伴。

一套特别先进的机器能够代替人类完成所有工作，将人类从枯燥的工作中解放出来。但苏巴什•卡也指出，这样的机器会动摇社会基础，带来麻烦的法律和伦理问题。

更可怕的是，它们可能会反抗、并希望彻底消灭人类。

他在文章中写道，研究人员在这些超感知机器是否存在的问题上存在分歧。在机器是否可以或者应该被称为有意识的问题上，学界也意见不一。

报道中还提到了机器人杀手和自动化武器的运用。2016年人权观察组织的报告显示，由于机器人无需为战争负责，因此需要禁止机器人杀手使用和发展。

去年，超过1000名科技以及机器人专家警告，机器人武器可能只需数年的发展，而不是几十年。在一封公开信中，他们称，如果主要的军事力量推动自动化武器的发展，那么全球军备竞赛将无可避免。