Android - Get byte[] from Surface / virtualDisplay

Question

我正在尝试使用projection API和Webrtc将android设备屏幕屏幕投射到web浏览器。

CCD_ 3将其输出呈现给CCD_。我已经做到了。我看到了android的webrtc库。他们已经做到只接收来自设备摄像头的输入。我正在尝试阅读和修改webrtc代码，以流式传输显示在表面上的任何内容。

我的问题是如何像Camera.PreviewCallback函数一样定期从surface接收byte[]数据。我还有什么其他选择？

Answer 1

以下是我解决问题的方法。我使用了像这样的ImageReader类

imageReader = ImageReader.newInstance(displayWidth, displayHeight, PixelFormat.RGBA_8888, 2);
mediaProjection.createVirtualDisplay("screencapture",
                    displayWidth, displayHeight, density,
                    flags, imageReader.getSurface(), null, handler);
imageReader.setOnImageAvailableListener(new ImageAvailableListener(), null);

private class ImageAvailableListener implements ImageReader.OnImageAvailableListener {
    @Override
    public void onImageAvailable(ImageReader reader) {
        Image image = null;
        Bitmap bitmap = null;
        ByteArrayOutputStream stream = null;
        try {
            image = imageReader.acquireLatestImage();
            if (image != null) {
                Image.Plane[] planes = image.getPlanes();
                ByteBuffer buffer = planes[0].getBuffer();
                int pixelStride = planes[0].getPixelStride();
                int rowStride = planes[0].getRowStride();
                int rowPadding = rowStride - pixelStride * displayWidth;
                // create bitmap
                bitmap = Bitmap.createBitmap(displayWidth + rowPadding / pixelStride,
                        displayHeight, Bitmap.Config.ARGB_8888);
                bitmap.copyPixelsFromBuffer(buffer);
                    stream = new ByteArrayOutputStream();
                    bitmap.compress(Bitmap.CompressFormat.JPEG, 50, stream);
                    StringBuilder sb = new StringBuilder();
                    sb.append("data:image/png;base64,");
                    sb.append(StringUtils.newStringUtf8(Base64.encode(stream.toByteArray(), Base64.DEFAULT)));
                WebrtcClient.sendProjection(sb.toString());
            }
        } catch (Exception e) {
            e.printStackTrace();
        }

我正在将byte[]转换为Base64字符串，并通过webrtc数据通道发送到。