缩放运行Python的Node js服务器



我已经使用express在背景上在GPU上运行的python程序创建了一个节点服务器,以处理输入/请求。我能够在浏览器上显示输出。我如何使我的节点服务器可出售以处理许多并发。我应该使用队列处理请求吗?如果是,我该如何开始?我需要一个明确的方法。

node.js默认设置为高性能,因为它的异步事件循环。

但是,对于多核系统,您可以查看群集模块以扩展API:https://nodejs.org/api/cluster/cluster.html

请注意,您的node.js后端理想情况下应无状态。

最新更新