一个基于 TensorFlow 的可微分神经计算机实现。
可微分神经计算机是一种循环 神经网络。在每个时间步中,它的状态包括当前的内存内容(以及辅助信息,如内存使用情况),并将时间 t 的输入映射到时间 t 的输出。它实现为一组 RNNCore 模块,这些模块允许将不同的模块连接起来,以进行架构上的变化实验。
access 模块是主要的 DNC 逻辑发生的地方;因为这是写入和读取内存的地方。在每个时间步长中, access 模块的输入是从 controller 传递的向量,其输出是从内存中读取的内容。它使用了两个其他 RNNCore: TemporalLinkage 用于跟踪内存写入的顺序,以及 Freeness 用于跟踪哪些内存位置已被写入但尚未"释放"。这两者都定义在 addressing.py 中。
controller 模块负责“控制”内存访问。通常,它只是一个前馈或(可能是深度)的 LSTM 网络,其输入是当前循环网络的输入,与上一个时间步的访问模块的读取内存输出连接在一起。
暂无开放 Issues,或尚未同步最近议题。