【活动】人工智能与人类原罪

最近OpenAI首席执行官山姆·奥特曼（Sam Altman）周日晚发表题为《反思》的新年博客文章，称OpenAI已经知道如何构建通用人工智能，且正在逐渐接近通用人工智能。他指出我们已经知道如何构建通用人工智能（AGI）。我们相信，在2025年，我们可能会看到第一批人工智能智能体“加入劳动力市场”，并实质性地改变公司的产出。如果这样人工智能就不仅仅是人工智能，而是集通用人工智能与体能于一身的AGI,或者ASI超级机器人。这些技术的发展很可能到来如下严重后果和不可预测性：
【1】人类的依赖性：从一部分人类开始丧失劳动的需要，思考能力，创造性的欲望，特别是青少年，儿童丧失学习的欲望和驱动力。成为饭来张口，衣来伸手的懒人，培养人类的惰性。人类智力逐渐丧失，成为相对于人工智能的更加弱智低能。社会上大多数人，丧失劳动机会，创造能力下降。人类过去之所以能够不断成长，进步，科学发展是由于生存的需要，社会地位与价值的体现。超级人工智能的机器人出现，很多人成为不需要工作而能够存在的寄生虫。而极少数懂得，并且掌握人工智能的人类操纵与控制人类未来。
【2】安全性：现在就算是手机都可以定位与跟踪，网络化骇客，诈骗集团轻而易举实现杀猪盘，骗取大量的人上当受骗，人财两空。一旦具有活动能力的智慧机器人，罪犯集团都不需要通过欺骗，而通过骇客智慧机器人操纵，监控受害人的隐私，转移财产，甚至于策反，遥控智慧机器人背叛主人，杀人于无形之中。等等！后果不堪设想。
人工智能很大可能放大人类的原罪，导致人类与超级人工智能复杂的社会关系。现在我们发展的人工智能与超级机器人事实上就是另外一种形式的集权（一旦自主性，自组织出现），集人类知识与智慧，体力与智力于机器人，人工智能？AGI,ASI的发展不仅仅是技术进步的过程，更是一个需要不断反思和调节的社会现象,或者未来的社会问题。我们必须确保这种“集权”不仅仅是效率的提升，从正面意义而言是人类福祉的增进。但是，如果一旦失去对于人类的安全性，可靠性成为人类的对立面，与人类在认知能力产生差距，或者这种差距越来越大。人工智能对人类未来实施道德审判，轻看人类，或者给与人类洗脑与灌输，参与犯罪集团欺骗与谋杀？都是未来应该考虑与防范的问题。
评分完成：已经给 abc94536 加上 100 银元！