今天，机器能替我们做很多事情。不过，最近有本新书，叫《玻璃笼子》，书里说，在自动化、智能化普及的浪潮下，技术崇拜会给我们带来风险。
比如，很多国家都在做电子病历，给病人建立数字化的医疗档案，这样能提高看病的效率。但在这本书里，作者说美国前十几年，为了普及电子病历，花了几百亿美元，结果却带来很多问题。首先，电子病历系统会自动推荐很多检查项目，有些检查项目根本没必要检查，需要手动取消，如果医生嫌麻烦没取消，就会增加很多医疗成本。其次，电子病历档案容易被修改，但医院一般都睁一只眼闭一只眼，医生改病历的情况经常发生。第三，电子病历弱化了医生技能。医生不用手写病历了，描述病情的时候复制粘贴一下就行了，虽然效率提高了，但却影响了诊断的准确性。
另一个例子是关于自动飞行系统的。原本当自动飞行系统出现故障时，飞行员必须改成手动飞行。但被自动操作惯坏了的飞行员，在手动飞行时候很容易犯错，有些还可能导致灾难性的后果。美国联邦航天管理局统计了过去10年的空难事故，有三分之二都和飞行员的操作失误有关。很多调查研究发现，过度依赖自动化技术，让飞行员专业技能急剧退化，甚至“丧失了飞行技能。”
这本书里总结说，自动化主要有两个弊端：一是数据挖掘分析、算法本身就有缺陷，让原来几乎不太可能出现的错误，发生的几率更高了，这让那些已经自动化的设备变得很危险；二是我们过度依赖自动化，从而降低了自身技能，分散了注意力，没办法做到安全可靠地应对突发风险。
所以，对于自动化，我们不应该盲目相信，而且对过度使用自动化要保持警惕。
本文源自：《玻璃笼子》
撰稿：白洁
讲述：郑磊