几年前，一个名叫AlphaGo的围棋电脑程序，曾经轰动一时：2016年3月，这位“阿尔法狗”选手与围棋世界冠军、职业九段棋手李世石进行围棋人机大战，以4比1的总比分获胜；2017年5月，在中国乌镇围棋峰会上，它与排名世界第一的世界围棋冠军柯洁对战，以3比0的总比分获胜。
世界围棋界被撼动了，公认AlphaGo的棋力已经超过人类职业围棋顶尖水平。身后研发制作的英国人工智能公司Deepmind在被谷歌收购2年后，便誉满天下，帮谷歌与“人工智能全球最强企业”紧紧绑定在了一起。自此，人工智能真正走进大众视野，引发全球关注。
人工智能（Artificial Intelligence），英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能是一门极富挑战性的科学，从事这项工作的人必须懂得计算机知识，心理学和哲学。
新生事物总要褪去神奇的光环，显露出另一面。近些年，关于人工智能给人类带来的威胁和伦理道德问题成为社会热议。人工智能不只会下棋，还会“杀人”。美国、以色列、韩国、俄罗斯和英国等国都在发展智能机器人武器系统。微软公司总裁史密斯曾明确表示，“杀手机器人”的出现未来将无法避免，人类社会应该有一个新的“数字《日内瓦公约》”，也就是一套道德标准来约束与引导人工智能（AI）的发展。
史密斯的判断并不是危言耸听，并且人工智能引发的道德问题也不仅仅存在于武器系统方面，而是辐射到了公众社交生活的各个层面。只不过由于对AI的变革与创新能量存在着猎奇心态与“晕轮效应”，人们往往忽视了AI道德的重要性。
2019年ZAO（隶属于陌陌公司的一款产品）推出“AI换脸APP”，用户只需要一张正脸照，就可以替换为影视作品的人物，生成以自己为主角的视频片段。这款APP一夜之间火爆全网，可是，成功换脸赢得了片刻的刺激与兴奋之后，所有的用户都会因绑在自己身上的ZAO协议而不安。
这个换脸协议暗藏杀机，对公民个人信息安全构成了威胁。协议提出，“在您上传及/或发布用户内容以前，您同意或者确保实际权利人同意授予ZAO及其关联公司以及ZAO用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”。虽然被媒体批评后，ZAO修改用户协议，但依然保留“您同意对用户内容进行网络信息传播的权利”。
ZAO这款基于AI技术的换脸App不但公开收集公民个人信息，而且还在协议中提出“全球范围内完全免费、不可撤销、永久、可转授权和可再许可”，这种明目张胆的违法行为令人震惊。同时，也对立法规范企业收集公民个人信息，依法遏制企业过度收集公民个人信息的冲动，提出了更加迫切的要求。
类似的软件不在少数，Deep Nude 推出一款“一键脱衣”软件，用户只需在该程序上添加一张照片，APP便可以自动“脱掉”女性身上的衣服。还比如斯坦福大学运用AI算法，通过照片便可识别谁是同性恋。不法分子能够通过AI技术伪造录制场景，保险公司利用平台数据预测事故发生率从而拒绝用户投保等等。
尽管AI违背或者践踏道德只是少数技术操作者的行为，但这种错误又极易被更多人所模仿，而且借助网络传播的力量无限放大，最终造成的社会危害程度无法估量。
要说人工智能最典型的代表就是智能机器人，将它用于科研、教育、医疗、现代化生产等领域，能为人类带来巨大利益，但它不是绝对安全的，人类必须时刻保持警惕。人类学家胡家奇说过，“人工智能已经具备深度学习的能力，已经达到相当高的层级。”“智能机器人的自我意识觉醒之日，就是一切人类制定的规则被颠覆之时。”“自然界，从来就是高智商的物种鄙视低智商的物种，甚至把低智商的物种进行烹炸煮烤，当成食物或者当成玩偶。当智能机器人超过人类的那一刻起，人类也就完蛋了。”
人类不得不正视，发展人工智能，需要有边界。AI只是辅助，不能代替人类做决定。如果逾越了，那是人类驾驭机器?还是机器主宰人类?想想就不寒而栗。所以在发展人工智能的时候，切记不能盲目、急功近利，更不能使其沦为犯罪工具；一定要有哲学思维和道德标准，要有发展底线，一定要站在全人类幸福安全的高度去考虑。