当前位置:编程学习 > > 正文

pythonweb和nodejs(Node与Python 双向通信的实现代码)

时间:2021-10-05 00:24:13类别:编程学习

pythonweb和nodejs

Node与Python 双向通信的实现代码

第三方数据供应商把数据和Python封装到一起,只能通过调用 Python方法来实现数据查询,如果可以通过Node 简单封装下实现 Python 方法调用可以快速上线并节省开发成本。

最简单粗暴的通信方式是 Nodejs调用一下 Python 脚本,然后获取子进程的输出,但是由于每次 Python 启动并加载数据包的过程比较漫长,所以对该过程优化。

进程通信

index.py

  • # 封装的 Python 包, 体积巨大
    from mb import MB
    # 从数据包中查询
    mbe.get('1.0.1.0')
    
    
  • index.js

  • const { spawn } = require('child_process');
    const ls = spawn('python3', ['index.py']);
    
    ls.stdout.on('data', (data) => {
      console.log(`stdout: ${data}`);
    });
    
    ls.stderr.on('data', (data) => {
      console.error(`stderr: ${data}`);
    });
    
    ls.on('close', (code) => {
      console.log(`child process exited with code $[code]`);
    });
    
    
    
  • 通过child_process.spawn来派生 Python 子进程,监听 stdout 输出。上述方式也是官方文档中的示例,目前该示例存在两个问题:

    进程双向通信

    保证一次数据加载,多次使用的前提是 Python 进程启动后不能退出。Python 进程之所以退出是因为无事可做,所以常见的手段有循环,sleep,监听端口,这些手段可以翻译成同步阻塞任务,同步非阻塞任务,其中代价最小的就是同步非阻塞任务,然后可以想到 Linux 的 select,epoll,简单搜索了下 Python 的 epoll,好像还有原生的包。

    index.py - 通过 epoll 监听 stdin

  • import sys
    import fcntl
    import select
    from mb import MB
    import json
    
    mbe = MB('./data')
    
    # epoll 模型
    fd = sys.stdin.fileno()
    epoll = select.epoll()
    epoll.register(fd, select.EPOLLIN)
    
    try:
        while True:
            events = epoll.poll(10) # 同步非阻塞
            data = ''
            for fileno, event in events:
                data += sys.stdin.readline() # 通过标准输入获取数据
                if data == '' or data == '\n':
                    continue
                items = xxx # 数处理过程
                for item in items:
                    result = mbe.get(item)
                    sys.stdout.write(json.dumps(result, ensure_ascii=False) +'\n') # 写入到标准输出
                    sys.stdout.flush() # 缓冲区刷新
    finally:
        epoll.unregister(fd)
        epoll.close()
    
    
    
  • index.js - 通过 stdin 发送数据

  • const child_process = require('child_process');
    const child = child_process.spawn('python3', ['./base.py']);
    
    let callbacks =  [], 
        chunks=Buffer.alloc(0), 
        chunkArr = [], 
        data = '', 
        onwork = false; // buffer 无法动态扩容
        
    child.stdout.on('data', (chunk) => {
        chunkArr.push(chunk)
        if (onwork) return;
        onwork = true;
        while(chunkArr.length) {
            chunks = Buffer.concat([chunks, chunkArr.pop()]);
            const length = chunks.length;
            let trunkAt = -1;
            for(const [k, d] of chunks.entries()) {
                if (d == '0x0a') { // 0a 结尾
                    data += chunks.slice(trunkAt+1, trunkAt=k);
                    const cb = callbacks.shift();
                    cb(null, data === 'null' ? null : data )
                    data = '';
                }
            }
            if (trunkAt < length) {
                chunks = chunks.slice(trunkAt+1)
            }
        }
        onwork = false;
    })
    
    setInterval(() => {
        if (callbacks.length) child.stdin.write(`\n`); // Nodejs端的标准输入输出没有flush方法,只能 hack, 写入后python无法及时获取到最新
    }, 500)
    
    exports.getMsg = function getMsg(ip, cb) {
        callbacks.push(cb)
        child.stdin.write(`${ip}\n`); // 把数据写入到子进程的标准输入
    }
    
    
    
  • Python 与 Nodejs 通过 stdio 实现通信; Python 通过 epoll 监听 stdin 实现驻留内存,长时间运行。

    存在问题

    总结

    虽然可以实现 Nodejs 和 Python 的双向通信,然后由于上述种种问题,在这里并不推荐使用这种方式,通过 HTTP 或 Socket 方式比这个香多了。

    到此这篇关于Nodejs与Python 双向通信的实现代码的文章就介绍到这了,更多相关Nodejs与Python双向通信内容请搜索开心学习网以前的文章或继续浏览下面的相关文章希望大家以后多多支持开心学习网!

    上一篇下一篇

    猜您喜欢

    热门推荐