深度神经网络这个“黑盒子”已经不太黑，人脑才是更大的“黑盒子”。9月18日下午，由中科院上海分院、中国神经科学学会、上海神经科学学会、上海脑科学与类脑研究中心承办的2018世界人工智能大会脑与智能科技论坛举行，多位知名ai企业创始人和科学家参加了圆桌交流，“金句”频出。
科学家试图对深度学习做出解释
深度神经网络学习，是像“黑盒子”般摸不清道不明吗？圆桌交流主持人、科大讯飞执行总裁胡郁抛出了第一个问题。
中科院上海微系统与信息技术研究所仿生视觉系统实验室主任张晓林说，现在的神经网络就是一个拟合，用大量的小型神经元素来拟合任何一条曲线。从这个角度来说，“黑盒子”很正常，因为很多神经网络结构不一样，大脑的语言中枢、视觉中枢和决策中枢也都不在一个位置。
“对于这个‘黑盒子’，我们不需要了解它的算法是怎样的。”上海联影医疗科技有限公司联席总裁张强说，从影像应用的角度，这就相当于从榔头进步到了电钻，并不需要看清电钻里面的马达怎么做，只需要了解电钻的性能是什么，要不要换钻头。
ucloud创始人季昕华说，不管是宇宙定律还是人脑，对我们来说都是“黑盒子”，但并不影响我们去发现规律。相比深度神经网络学习，人脑是更大的“黑盒子”，我们通过足够的输入、输出找到规则、原理，甚至能找到其中的理论，这是非常有价值的。
“我要纠正一个概念，‘黑盒子’现在已经不是太‘黑’了。”上海交通大学教授、香港中文大学讲席教授徐雷介绍，在过去的几年中，至少有3-4个方向，已试图对深度学习有了一些解释。比如，以色列的科学家从信息论的角度，来解释信息在深度神经网络怎么传递的过程，甚至有图式。还有物理学家试图从量子力学的角度，来描述这样一个过程。
脑科学，会引发更深层次人工智能进步
人工智能在未来会有何新趋势？有哪些安全问题需要引起重视？
中科寒武纪科技副总裁、上海寒武纪信息科技董事长罗韬认为，这一波人工智能背后很大的推动力，是芯片和计算技术的发展。如果一个算法需几个月时间才能完成一次验证，很少会有人愿意接受这样的迭代过程。由于芯片技术的摩尔定律，发展速度会越来越慢，不久的将来人工智能的发展可能会又一次被硬件所拖累，这就需要为人工智能设计专业的架构。寒武纪在客户手机上搭载的芯片已达到4核芯片的25倍以上，未来，在计算机体系结构设计专用的芯片会是一种趋势。
在张晓林看来，大脑是人工智能在自然界中唯一的参照物，它对于人工智能的借鉴作用不言而喻。因此，脑科学的发展，将来必定会引发下一波或更深层次的人工智能进步。
北京主线科技有限公司创始人兼ceo张天雷说，他们在港区做的无人驾驶车已开始运行，原来的驾驶员作为安全员来辅助系统。未来十年时间，可能都是人机共驾，机器更多是帮助人更好地完成事情。
至于人工智能可能会带来的问题，季昕华认为，人类发展到现在，一直都是碳生物的世界，接下来可能成为碳生物和硅生物共存的世界，需要给硅生物定义规则，这样才能使碳生物和硅生物共同发展。(作者 黄海华)