我已经尝试并搜索了，发现RNN给出了更好的结果。要使用哪个：LSTMS或GRU或传统RNN或CNN？
您提到的架构确实是shadecture的家庭。绩效取决于细节，当然也取决于任务。此外，这两种样式通常是通过各种方式组合的，因此它并不是真正的"或者"选择。
尽管如此，在撰写时，类似CNN的Bert和RNN般的Elmo架构很受欢迎。预先训练的模型和代码都可用于两者，并且它们在包括分类在内的各种任务中都表现良好。为什么不尝试两者？
这些体系结构可以被视为"香草"，因为有许多高级体系结构取决于这些，这是一个称为ulmfit的新架构。实际上给出了一些最新的结果，从而可以使用Fast.ai库易于理解和实现。伯特也是一个很好的，但我认为理解更为复杂。