《建立像人一样思考与学习的机器》

  冷启动
    物理直觉
    心理直觉
  学习与快速建模
    组合性
    因果性
    元学习
  快速思考
    结构化生成模型中的近似推理
    基于模型的与无模型的强化学习

冷启动

物理直觉
心理直觉

物理直觉

现状：还没有研究
存在问题：需要大量训练，仅适应单一任务与小范围场景，缺乏灵活性
产生原因：脱离了对物理的模拟进行预测
解决方法：神经网络训练、模拟器预装
创新点：深度学习中集成物理直觉
下一步：很难

心理直觉

现状：成因还有争议
存在问题：难以对主体行为进行推理
产生原因：机器不理解心理直觉
解决方法：简单推论的几何叠加、行为选项的生成模型
创新点：深度学习中集成心理直觉
下一步：膨胀、现有心理概念与深度网络之间关系不明确

学习与快速建模

组合性
因果性
元学习

组合性

现状：在 AI 和认知科学中有广泛影响，深度网络中已天然包含组合性概念
存在问题：
产生原因：
解决方法：
创新点：
下一步：希望深度网络中的组合性更丰富

因果性

现状：深度网络已有相关改进，取得了一定成果
存在问题：但还存在各自的问题
产生原因：缺少因果性，模型个体与关系难以协调一致，导致错误认识
解决方法：用因果性将物理直觉、心理直觉和组合性联接起来
创新点：近来对深度网络的不少改进可以归结为对因果的近似
下一步：深度网络作为结构化生成模型的底层支撑概率推理、在元素齐全时深度网络作为因果生成模型

元学习

现状：已有一些实现，如 BPL
存在问题：仍不如人类快速灵活，且需要远多于人类的训练
产生原因：元学习的高效与知识的表示形式密不可分
解决方法：需要先实现更有组合性、因果性的知识表示形式
创新点：
下一步：经验与知识表示之间的交互

快速思考

结构化生成模型中的近似推理
基于模型的与无模型的强化学习

结构化生成模型中的近似推理

现状：贝叶斯推理与蒙特卡罗方法
存在问题：慢，不实用
产生原因：计算量大、渐近寻找
解决方法：前馈映射分摊计算
创新点：推理计算具有相关性
下一步：用神经网络做概率生成模型中的推理

基于模型的与无模型的强化学习

现状：DQN
存在问题：不全面
产生原因：人类除了快速反应的无模型学习以外，还有基于模型的学习可适应新环境
解决方法：基于模型的系统模拟训练数据供给无模型系统
创新点：可以离线计算并提前缓存
下一步：探索内在动机的应用