简单的聊聊网络请求中的内存拷贝

栏目: 服务器 · 发布时间: 5年前

内容简介:掘金是自己刚发现不久的平台,原本一些学习笔记都是记录在有道,因为正好两边都支持markdown,现在打算把一些整理后的笔记分享出来。这篇主要来简单的聊聊网络请求中的内存拷贝。该数据传输模型正是传统的IO进行网络通讯时所采用的方式,数据在用户空间(JVM内存)与内核空间进行多次拷贝和上下文切换,对于没有对数据进行业务处理的时候,这样拷贝显得很没有必要。该数据传输模型是的NIO进行网络通讯时所采用的方式,它依赖于操作系统是否支持这种对于内核的操作(图中第4个过程),这个模型对比第一种减少了两次不必要的用户空间和

掘金是自己刚发现不久的平台,原本一些学习笔记都是记录在有道,因为正好两边都支持markdown,现在打算把一些整理后的笔记分享出来。这篇主要来简单的聊聊网络请求中的内存拷贝。

网络请求中数据传输过程图

数据传输类型一(read)

简单的聊聊网络请求中的内存拷贝

该数据传输模型正是传统的IO进行网络通讯时所采用的方式,数据在用户空间(JVM内存)与内核空间进行多次拷贝和上下文切换,对于没有对数据进行业务处理的时候,这样拷贝显得很没有必要。

数据传输类型二(sendFile)

简单的聊聊网络请求中的内存拷贝

该数据传输模型是的NIO进行网络通讯时所采用的方式,它依赖于操作系统是否支持这种对于内核的操作(图中第4个过程),这个模型对比第一种减少了两次不必要的用户空间和内核之间的数据拷贝过程。

数据传输类型三(支持聚集的sendFile)

简单的聊聊网络请求中的内存拷贝

从中我们可以发现这种真正实现了 零拷贝 ,这种传输模型它依赖于操作系统是否支持这种对于内核的操作(图中4过程),图中4过程看着很难理解,下面把四过程里面的奥秘分解下。

简单的聊聊网络请求中的内存拷贝

四过程其实是将内核中文件信息(文件地址、大小等信息)appendStr到Sokcet Buffer中,这样Sokcet Buffer中存有很少的信息,然后在协议引擎传输之前使用Gather将两个Buffer聚集。

数据传输类型四(mmap,本文先不介绍)

代码实现

模型一(BIO)

/**
 * @Author CoderJiA
 * @Description TransferModel1Client
 * @Date 23/2/19 下午3:01
 **/
public class TransferModel1Client {

    private static final String HOST = "localhost";
    private static final int PORT = 8899;
    private static final String FILE_PATH = "/Users/coderjia/Documents/gradle-5.2.1-all.zip";
    private static final int MB = 1024 * 1024;

    public static void main(String[] args) throws Exception{
        Socket socket = new Socket(HOST, PORT);
        InputStream input = new FileInputStream(FILE_PATH);
        DataOutputStream output = new DataOutputStream(socket.getOutputStream());
        byte[] bytes = new byte[MB];
        long start = System.currentTimeMillis();
        int len;
        while ((len = input.read(bytes)) != -1) {
            output.write(bytes, 0, len);
        }
        long end = System.currentTimeMillis();
        System.out.println("耗时:" + (end - start) + "ms");
        output.close();
        input.close();
        socket.close();
    }
}
复制代码
/**
 * @Author CoderJiA
 * @Description TransferModel1Server
 * @Date 23/2/19 下午3:01
 **/
public class TransferModel1Server {

    private static final int PORT = 8899;
    private static final int MB = 1024 * 1024;

    public static void main(String[] args) throws Exception{
        ServerSocket serverSocket = new ServerSocket(PORT);
        for (;;) {
            Socket socket = serverSocket.accept();
            DataInputStream input = new DataInputStream(socket.getInputStream());
            byte[] bytes = new byte[MB];
            for (;;) {
                int readSize = input.read(bytes, 0, MB);
                if (-1 == readSize) {
                    break;
                }
            }
        }
    }
}
复制代码

模型二(NIO)

/**
 * @Author CoderJiA
 * @Description TransferModel2Client
 * @Date 23/2/19 下午3:36
 **/
public class TransferModel2Client {

    private static final String HOST = "localhost";
    private static final int PORT = 8899;
    private static final String FILE_PATH = "/Users/coderjia/Documents/gradle-5.2.1-all.zip";

    public static void main(String[] args) throws Exception {
        SocketChannel socketChannel = SocketChannel.open();
        socketChannel.connect(new InetSocketAddress(HOST, PORT));
        socketChannel.configureBlocking(true);
        FileChannel fileChannel = new FileInputStream(FILE_PATH).getChannel();
        long start = System.currentTimeMillis();
        fileChannel.transferTo(0, fileChannel.size(), socketChannel);
        long end = System.currentTimeMillis();
        System.out.println("耗时:" + (end - start) + "ms");
        fileChannel.close();
    }

}
复制代码
/**
 * @Author CoderJiA
 * @Description TransferModel2Server
 * @Date 23/2/19 下午3:36
 **/
public class TransferModel2Server {

    private static final int PORT = 8899;
    private static final int MB = 1024 * 1024;

    public static void main(String[] args) throws Exception {

        InetSocketAddress address = new InetSocketAddress(PORT);

        ServerSocketChannel serverSocketChannel = ServerSocketChannel.open();
        ServerSocket serverSocket = serverSocketChannel.socket();
        serverSocket.setReuseAddress(true);
        serverSocket.bind(address);

        ByteBuffer byteBuffer = ByteBuffer.allocate(MB);
        for (;;) {
            SocketChannel socketChannel = serverSocketChannel.accept();
            socketChannel.configureBlocking(true);
            int readSize = 0;
            while (-1 != readSize) {
                readSize = socketChannel.read(byteBuffer);
                byteBuffer.rewind();
            }

        }

    }
}
复制代码
fileChannel.transferTo(0, fileChannel.size(), socketChannel)

transferto方法的文档注释:This method is potentially much more efficient than a simple loop that reads from this channel and writes to the target channel.Many operating systems can transfer bytes directly from the filesystem cache to the target channel without actually copying them.

这句话简单的理解就是:该方法比传统的简单轮询(指的就是IO中的拷贝过程)更加高效,tranferto的拷贝方式依赖于底层操作系统,目前很多操作系统支持像模型二拷贝过程。在内核版本2.4中,修改了套接字缓冲区描述符以适应这些要求——在 Linux 下称为零拷贝。 这种方法不仅减少了多个上下文切换,还完全消除了处理器的数据复制操作。


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

维多利亚时代的互联网

维多利亚时代的互联网

[英] 汤姆·斯丹迪奇 / 多绥婷 / 后浪丨江西人民出版社 / 2017-8 / 38.00元

人类历史上的第一次大连接 回顾互联网的前世 预言互联网的未来 ……………… ※编辑推荐※ ☆《财富》杂志推荐的75本商务人士必读书之一 ☆ 回顾互联网的前世,颠覆你的思维,升级你对互联网的认知 ☆ 人类历史上一次全球大连接是维多利亚时期的电报时代,那时候也有疯狂的资本、 巨大的泡沫、网络新型犯罪、网络亚文化崛起……现在的互联网时代就是电报时代的重演;回顾那......一起来看看 《维多利亚时代的互联网》 这本书的介绍吧!

MD5 加密
MD5 加密

MD5 加密工具

XML 在线格式化
XML 在线格式化

在线 XML 格式化压缩工具

RGB HSV 转换
RGB HSV 转换

RGB HSV 互转工具