MacMcNally
2020-09-15T18:25:12+00:00
深夜胡思乱想：
1.关于人工智能参与社会生产。如果把人工智能抽象化，我们很自然地会用优化问题来模拟。并且不可否认的是，当人工智能参与社会生产这个议题提上桌面来讨论的时候，一定会有一部分人主张给予人工智能充分的自由度来调配任何种类的资源——对应于优化问题中对变量的种类不加限制。但一个值得注意的点是，优化函数的取值显式地和计算电路的电压函数有关。在这种情况下是否会出现人工智能仅仅优化电路参数而不关注实际情况的问题？
2.关于模糊目标的问题。如果人工智能的超级权限者所下的目标模糊，例如“做出让人们都满意的决定”。那么对于掌握社会资源分配的人工智能来说，可能存在两种问题：不存在这样的决定和达成这样的决定的消耗比消灭部分人类以扩大可选集的消耗要大得多，那么自然会出现问题……
以上的都是可被称为杞人忧天的具体问题，它们的解决方案也可以被具体地写入源代码中。但我的点是，既然我们可以找出这种荒谬又合理的“方案”，也就说明没有任何一般的no-go定理使得我们可以一直自信地说，不会出现例外情况——计算机会按照我们的期望解决问题——即使在日常的环境中我们都没办法保证这个论断，更不用说会遇到不期而至的“黑天鹅”事件。[s:a2:哭]
1.关于人工智能参与社会生产。如果把人工智能抽象化，我们很自然地会用优化问题来模拟。并且不可否认的是，当人工智能参与社会生产这个议题提上桌面来讨论的时候，一定会有一部分人主张给予人工智能充分的自由度来调配任何种类的资源——对应于优化问题中对变量的种类不加限制。但一个值得注意的点是，优化函数的取值显式地和计算电路的电压函数有关。在这种情况下是否会出现人工智能仅仅优化电路参数而不关注实际情况的问题？
2.关于模糊目标的问题。如果人工智能的超级权限者所下的目标模糊，例如“做出让人们都满意的决定”。那么对于掌握社会资源分配的人工智能来说，可能存在两种问题：不存在这样的决定和达成这样的决定的消耗比消灭部分人类以扩大可选集的消耗要大得多，那么自然会出现问题……
以上的都是可被称为杞人忧天的具体问题，它们的解决方案也可以被具体地写入源代码中。但我的点是，既然我们可以找出这种荒谬又合理的“方案”，也就说明没有任何一般的no-go定理使得我们可以一直自信地说，不会出现例外情况——计算机会按照我们的期望解决问题——即使在日常的环境中我们都没办法保证这个论断，更不用说会遇到不期而至的“黑天鹅”事件。[s:a2:哭]