来源：世界经理人
昨天思考AI应用时突然有个想法，让我既兴奋又焦虑。于是，连续打了5个电话：请教了清华的王院长、华理的讲习教授冯老师、著名信息专家果总，以及在商飞和宝钢研发一线的两位小老弟。
在未来的工厂里，各种信息和自动化系统的数据都是打通的。我直接问DS：今天的产量正常吗？质量正常吗？能耗正常吗？ 如果出现异常或者指标不理想，AI能帮助人类找到原因吗？果总告诉我，这种事有人做了，叫做CHatBI。但目前看来，效果不是太理想。于是，我的兴趣更大了：以后会不会变得成熟呢？
我为什么对这个问题特别感兴趣呢？因为这类问题看起来简单，把事情做好却很难。长期看，如果AI能方便地分析这些问题，会蕴含着巨大的潜力。这类问题很可能是AI特别擅长的地方，也同时也可能是人类智慧最后的防线之一。
我们先解释一下，这类问题为什么看起来简单，做起来难。
我们关心的异常是需要人类关心和介入的事情。打个比方，孩子平时都考90分，这次只考了70分，算不算异常呢？如果确实是成绩迅速下滑，可能需要老师家长迅速介入。但也可能是其他的原因。比如，这次题目难了。那么，如何判断孩子的成绩是不是正常呢？办法之一就是看其他孩子的成绩。如果孩子排名发生重大变化时，才是真正的异常。有时候，排名的变化也未必是需要关注的异常：孩子考试时恰好生病了，成绩下降就是情理之中的事情。由此可见：分析是不是异常时，不仅要关注数据本身，也要关注相关的数据。数据分析的难点就在于此，这就需要完整的信息。前面的问题提到“信息化和自动化系统的信息打通”，就是为了这个目的：常规问题往往需要打通，才能找到原因。
在工厂的实际中，这类问题可能麻烦得多。为相关的因素更多。比如，某个产品的合格率下降了，可能是用户对质量要求高导致的；某个工序的能耗上升了，可能是前工序改变导致的。人们在分析和考核这些事情的时候，必须结合历史的数据、结合前后工序的变化、结合用户的要求、结合原料的特点，才能给出合理的结论。现实中，更麻烦的问题是：可能有些因素人类是想不到的。
后半个问题（也就是根因分析）更麻烦。当生产过程出现异常或者指标不理想时，我们经常希望用数据分析找出其中的原因。这样的工作就叫“根因分析”。根因分析最基本的做法是分析相关性，包括做通过回归分析看变量的重要性。在工业数据分析过程中，一个常见的麻烦就是相关不等于因果相关系数大的不一定有因果关系，有因果关系变量相关性可能很低。数据分析的过程，本质上是识别假象、辨别真伪的过程。导致假象和干扰的原因包括：系统导致的相关性、各种因素导致的数据误差、不可见因素的影响。判断假象的办法往往是通过分析结论的“可重复性”来识别的。所谓“可重复性”，就是某种逻辑针对各种场景可否再现。所谓的选择场景，其实就是选择数据来源。现实中的麻烦是：这些数据的分布非常散、也不符合经典的概率分布。这样，传统的统计概率理论往往是不合适的，我们在实践中找到一些很怪的办法来解决。由于数据精度的原因，我们往往不能得到特别高精度的结果；但又必须依赖一定的精度做出判断。可以说，数据分析的过程，就像探案推理、也像科学研究。另外，根据我的经验，可以非常肯定地说：如果数据条件不合理，问题很可能是无法解决的。即便能够解决问题，也需要许多的辅助手段：比如，从原理上判断，哪种假设可能更合理；通过设计实验来判断原因；分析数据采集的合理性。所以，分析过程涉及到数据分析的知识、涉及到专业领域知识，需要猜测、需要凑数据、需要做实验。这类分析几乎都是在数据条件不理想的情况下进行的，故而得到的结论往往是“概率性”的。
很多年前我就想：如果计算机能够帮助我们思考就好了。但是，我做了很多年，发现很难：知识过于碎片化，难以整合在一起。
当然，某些简单、特殊的问题是相对容易做的。比如，发现异常、尤其是常规性的、经常发现的异常。具体的做法就是：把人类确定异常的逻辑写出来变成程序——这个工作开始可能做不好，但可以再应用过程中逐渐完善、不断地修订程序。这样，就可以让计算机帮助我们发现异常了。我的一个朋友，多年前就是用这个办法让计算机帮助选股票的，并取得了一定的成功。借助AI，这件事情可以更方面地做：其本质就是让AI自动地生成程序。按照这种逻辑做事时，人们需要给AI提供知识：这些知识其实就是要求和规则——在问问题的时候提出要求与规则。
我感觉，根因分析应该也可以按照这条路子去走。所谓“碎片化知识”，就是人类提出问题时给出的约束和要求。人类自己用这些知识的时候，经常顾此失彼：今天想到这个、明天想到那个。AI的优势，就是能够全部记住这些知识，并在应用的过程中整合这些碎片化知识，在此基础上发挥计算的优势。
我感觉，这种做法是可能的。比如，AI给病人看病，是相当靠谱的。给病人找出病因其实就是一种根因分析。但是，AI看病时一种特例，与AI解决工业问题有些不一样：人与人之间的差别，与工厂与工厂之间的差别小得多。这就为知识的共享创造了条件。而且，大量的医学知识属于科学知识，是公开的、许多参数都是标准化的。与之相比，工厂中的知识则不是公开的，个性化极强。所以，在企业从事相关工作的难度比AI医疗要难；从某种意义上说，每个工厂都是在独立地奋斗。
下面再谈一个问题：这类技术为什么重要。我一直认为，工业的技术进步是持续改进的结果；现代化高科技，都是持续改进的结果。从某种意义上说，高科技的竞争，是持续改进的效率的竞争。如果这类技术成熟了，企业的持续改进能力就会极大地提高。另外，我一直认为AI主要作用在创新和研发，也有人认为AI4S（AI用于科学研究）是未来的发展方向。而我刚才说的这些工作，大体上都属于这种范畴。所以，在这个范畴，AI发展潜力是重大的。
我还认为，与AI的互动可能是人类智慧最后的防线之一。
李政道先生曾经说：做学问、先学问；只作答，非学问。意思是说：做学问的人首先是要学会问问题。如果只知道问题的答案，并不是真正的学问。一般来说，发现一个好的问题，往往需要有更大的视野。在AI时代，这个观点显得更有远见。人类智慧最后的防线可能就是“问问题”，而不是“回答问题”。与AI相比，人类在发现问题方面有一定的优势：人类能可以通过交谈，获得网上没有的信息；人有一些私有的、个性化的、难以用于语言和数据表达的知识；人类可以通过与物理世界的交互（实践、实验）获得AI不具备的数据；人类具有更多支配资源的权限。
人类与AI的分工，或许就是人类提出问题，AI回答问题、解决问题。
有一天，我与宁波的朋友蔡大夫聊天，谈到AI给出的医疗建议非常好。既然如此，未来医生的价值何在。我很早就知道，蔡大夫善于与患者交流，往往能在谈话中获得更多有利于诊断的信息。蔡大夫认为：中医的本质优势可能是“全科医生”：既是医生，又是心理和营养师。一个好的医生，需要对患者全面的了解。他问患者时，问题特别广。于是我想到：医生未来的价值很可能在“问问题”，蔡大夫非常赞同。
“问问题”一般需要开放性的知识，并且能够获得难以AI难以获得的个性化信息（比如病人的感受）。AI时代的人类如果不会问问题，可能真的就变成废物了。