Netty初体验-1-NIO基础补漏

时间:2024-10-26 20:35:47

文章目录

  • 学习netty之前先学习NIO基础
    • NIO基础
      • 1.三大组件(Channel,Buffer,Selector)
      • 2. ByteBuffer
      • 3.文件编程
      • 4.网络编程
        • 网络编程小结:
          • 非阻塞 VS 阻塞
          • 1.1 阻塞
          • 1.2 非阻塞
          • 1.3 多路复用
          • selector何时不阻塞
          • 监听channel事件
          • 更进一步优化
      • 5. NIO vs BIO
        • 5.1 stream VS channel
        • 5.2 IO模型(下面的几个IO概念可能不清晰,有个大概,如果要详细看可以百度认真了解IO概念)
        • 5.3零拷贝(针对java里面不用拷贝)
          • 传统IO问题
          • NIO优化
          • 进一步优化
          • 进一步优化(linux2.4)
        • 5.4 AIO
          • 文件AIO
          • 网络AIO

学习netty之前先学习NIO基础

NIO基础

1.三大组件(Channel,Buffer,Selector)

  • 1.1 Channel (读写双向管道)和 Buffer(可以将Channel的数据读入Buffer,也可将buffer的数据写入channel)
    • 常见的Channel有
      • 1.FileChannel (使用)
      • 2.DatagramChannel (使用UDP网络时候)
      • 3.SocketChannel (使用TCP的时候,服务器和客户端都可以用)
      • 4.ServerSocketChannel (使用TCP的时候,专用于服务器的时候)
    • 常见的Buffer缓冲区
      • ByteBuffer(常用)
        • MappedByteBuffer
        • DirectByteBuffer
        • HeapByteBuffer
      • ShortBuffer
      • IntBuffer
      • LongBuffer
      • FloatBuffer
      • DoubleBuffer
      • CharBuffer
  • 1.2 Selector
    • 多线程版本设计,一个客户端一个socket线程,多了的话,可能造成内存溢出。缺点内存占用高;线程上下文切换成本高;只适合连接数少的场景。
    • 线程池版本的设计,缺点:阻塞模式下,线程仅能处理一个socket连接;仅适合短链接的场景。(适合http请求)
    • Selector版本的设计。selector的作用就是配合一个线程来管理多个channel,获取这些channel上发生的事件,这些channel工作在非阻塞模式下,不会让线程吊死在一个channel上,适合连接数多,流量低的场景(low traffic);调用selector的select()方法会阻塞直到发生了读写就绪事件,一旦这些事件发生,selector方法就会返回这些事件交给thread处理。

2. ByteBuffer

    1. ByteBuffer案例:
package com.dapeng.netty;

import lombok.extern.slf4j.Slf4j;

import java.io.FileInputStream;
import java.io.IOException;
import java.nio.ByteBuffer;
import java.nio.channels.FileChannel;

@Slf4j
public class TestByteBuffer {
    public static void main(String[] args) {
//        FileChannel
//        1.输入输出流 2.RandomAccessFIle
        try (FileChannel channel = new FileInputStream("data.txt").getChannel()) {
//            准备缓冲区
            ByteBuffer buffer = ByteBuffer.allocate(10);// 初始化容量为10byte
            while (true){
//                从channel读取,向缓冲区buffer写入
                int len = channel.read(buffer);// 当返回-1表示读取完成
                log.debug("读取到的字节数为:{}",len);
                if (len == -1){
                    break;
                }
//                打印buffer内容
                buffer.flip();// 切换读模式
                while (buffer.hasRemaining()){
                    byte b = buffer.get();// get()默认读取一个
                    log.debug("读取到的实际字节:{}",(char)b);
                }
                // 再切入到写模式,上面可能要写入
                buffer.clear(); // 切换到写

            }
        } catch (IOException e) {
        }
    }
}

  • 2.ByteBuffer正确使用姿势
    • 2.1向buffer写入数据的时候,例如调用channel.read(buffer)。
    • 2.2 调用buffer.filp(); 切换为读模式
    • 2.3 从buffer读取数据,例如调用buffer.get();获取单个字节
    • 2.4 调用buffer.clear(),或者compact() 切换至 写模式
    • 2.5 重复1-4步骤。
  • 3.ByteBuffer结构
    • 3.1ByteBuffer有一下几个重要属性:
      • Capacity(容量)
      • Position(当前位置)
      • LImit(写入限制)
        如下图所示:
    • 3.2 读写切换
      • 1.刚开始为写模式:在这里插入图片描述
        在这里插入图片描述
      • 2 切换读的时候,调用filp()
        在这里插入图片描述
      • 3.读取完后,如图: 在这里插入图片描述
        1. 切换回来为写模式,调用clear()方法。
          在这里插入图片描述
      • 5.特殊的compact的方法,在读取一部分或者因为默写情况未读完,则需要在未读的数据后面追加写入。从未读完的那里开始,重新写入。
        在这里插入图片描述
        读写实例:
        (以下所有代码需要用到该类)首先拿到工具类:
package com.dapeng.netty.utils;

import java.nio.ByteBuffer;
import static io.netty.util.internal.StringUtil.NEWLINE;
import static io.netty.util.internal.MathUtil.isOutOfBounds;
import io.netty.util.internal.StringUtil;

public class ByteBufferUtil {

    private static final char[] BYTE2CHAR = new char[256];
    private static final char[] HEXDUMP_TABLE = new char[256 * 4];
    private static final String[] HEXPADDING = new String[16];
    private static final String[] HEXDUMP_ROWPREFIXES = new String[65536 >>> 4];
    private static final String[] BYTE2HEX = new String[256];
    private static final String[] BYTEPADDING = new String[16];

    static {
        final char[] DIGITS = "0123456789abcdef".toCharArray();
        for (int i = 0; i < 256; i++) {
            HEXDUMP_TABLE[i << 1] = DIGITS[i >>> 4 & 0x0F];
            HEXDUMP_TABLE[(i << 1) + 1] = DIGITS[i & 0x0F];
        }

        int i;

        // Generate the lookup table for hex dump paddings
        for (i = 0; i < HEXPADDING.length; i++) {
            int padding = HEXPADDING.length - i;
            StringBuilder buf = new StringBuilder(padding * 3);
            for (int j = 0; j < padding; j++) {
                buf.append("   ");
            }
            HEXPADDING[i] = buf.toString();
        }

        // Generate the lookup table for the start-offset header in each row (up to 64KiB).
        for (i = 0; i < HEXDUMP_ROWPREFIXES.length; i++) {
            StringBuilder buf = new StringBuilder(12);
            buf.append(NEWLINE);
            buf.append(Long.toHexString(i << 4 & 0xFFFFFFFFL | 0x100000000L));
            buf.setCharAt(buf.length() - 9, '|');
            buf.append('|');
            HEXDUMP_ROWPREFIXES[i] = buf.toString();
        }

        // Generate the lookup table for byte-to-hex-dump conversion
        for (i = 0; i < BYTE2HEX.length; i++) {
            BYTE2HEX[i] = ' ' + StringUtil.byteToHexStringPadded(i);
        }

        // Generate the lookup table for byte dump paddings
        for (i = 0; i < BYTEPADDING.length; i++) {
            int padding = BYTEPADDING.length - i;
            StringBuilder buf = new StringBuilder(padding);
            for (int j = 0; j < padding; j++) {
                buf.append(' ');
            }
            BYTEPADDING[i] = buf.toString();
        }

        // Generate the lookup table for byte-to-char conversion
        for (i = 0; i < BYTE2CHAR.length; i++) {
            if (i <= 0x1f || i >= 0x7f) {
                BYTE2CHAR[i] = '.';
            } else {
                BYTE2CHAR[i] = (char) i;
            }
        }
    }

    /**
     * 打印所有内容
     * @param buffer
     */
    public static void debugAll(ByteBuffer buffer) {
        int oldlimit = buffer.limit();
        buffer.limit(buffer.capacity());
        StringBuilder origin = new StringBuilder(256);
        appendPrettyHexDump(origin, buffer, 0, buffer.capacity());
        System.out.println("+--------+-------------------- all ------------------------+----------------+");
        System.out.printf("position: [%d], limit: [%d]\n", buffer.position(), oldlimit);
        System.out.println(origin);
        buffer.limit(oldlimit);
    }

    /**
     * 打印可读取内容
     * @param buffer
     */
    public static void debugRead(ByteBuffer buffer) {
        StringBuilder builder = new StringBuilder(256);
        appendPrettyHexDump(builder, buffer, buffer.position(), buffer.limit() - buffer.position());
        System.out.println("+--------+-------------------- read -----------------------+----------------+");
        System.out.printf("position: [%d], limit: [%d]\n", buffer.position(), buffer.limit());
        System.out.println(builder);
    }

    private static void appendPrettyHexDump(StringBuilder dump, ByteBuffer buf, int offset, int length) {
        if (isOutOfBounds(offset, length, buf.capacity())) {
            throw new IndexOutOfBoundsException(
                    "expected: " + "0 <= offset(" + offset + ") <= offset + length(" + length
                            + ") <= " + "buf.capacity(" + buf.capacity() + ')');
        }
        if (length == 0) {
            return;
        }
        dump.append(
                "         +-------------------------------------------------+" +
                        NEWLINE + "         |  0  1  2  3  4  5  6  7  8  9  a  b  c  d  e  f |" +
                        NEWLINE + "+--------+-------------------------------------------------+----------------+");

        final int startIndex = offset;
        final int fullRows = length >>> 4;
        final int remainder = length & 0xF;

        // Dump the rows which have 16 bytes.
        for (int row = 0; row < fullRows; row++) {
            int rowStartIndex = (row << 4) + startIndex;

            // Per-row prefix.
            appendHexDumpRowPrefix(dump, row, rowStartIndex);

            // Hex dump
            int rowEndIndex = rowStartIndex + 16;
            for (int j = rowStartIndex; j < rowEndIndex; j++) {
                dump.append(BYTE2HEX[getUnsignedByte(buf, j)]);
            }
            dump.append(" |");

            // ASCII dump
            for (int j = rowStartIndex; j < rowEndIndex; j++) {
                dump.append(BYTE2CHAR[getUnsignedByte(buf, j)]);
            }
            dump.append('|');
        }

        // Dump the last row which has less than 16 bytes.
        if (remainder != 0) {
            int rowStartIndex = (fullRows << 4) + startIndex;
            appendHexDumpRowPrefix(dump, fullRows, rowStartIndex);

            // Hex dump
            int rowEndIndex = rowStartIndex + remainder;
            for (int j = rowStartIndex; j < rowEndIndex; j++) {
                dump.append(BYTE2HEX[getUnsignedByte(buf, j)]);
            }
            dump.append(HEXPADDING[remainder]);
            dump.append(" |");

            // Ascii dump
            for (int j = rowStartIndex; j < rowEndIndex; j++) {
                dump.append(BYTE2CHAR[getUnsignedByte(buf, j)]);
            }
            dump.append(BYTEPADDING[remainder]);
            dump.append('|');
        }

        dump.append(NEWLINE +
                "+--------+-------------------------------------------------+----------------+");
    }

    private static void appendHexDumpRowPrefix(StringBuilder dump, int row, int rowStartIndex) {
        if (row < HEXDUMP_ROWPREFIXES.length) {
            dump.append(HEXDUMP_ROWPREFIXES[row]);
        } else {
            dump.append(NEWLINE);
            dump.append(Long.toHexString(rowStartIndex & 0xFFFFFFFFL | 0x100000000L));
            dump.setCharAt(dump.length() - 9, '|');
            dump.append('|');
        }
    }

    public static short getUnsignedByte(ByteBuffer buffer, int index) {
        return (short) (buffer.get(index) & 0xFF);
    }

}

  • 案例1
package com.dapeng.netty;

import java.nio.ByteBuffer;

import static com.dapeng.netty.utils.ByteBufferUtil.debugAll;

public class TestByteBufferReadWrite {
   public static void main(String[] args) {
       ByteBuffer buffer = ByteBuffer.allocate(10);
       buffer.put((byte) 0x61); // 'a'
       debugAll(buffer); // 打印当前buffer里面的内容。
       buffer.put(new byte[]{ 0x62, 0x63, 0x64});
       debugAll(buffer);
       // 切换读模式
       buffer.flip();
       System.out.println("读模式" + buffer.get());
       debugAll(buffer);
       // 切换到compact模式
       buffer.compact();
       debugAll(buffer);// 切换到compact后,会往前追加未读的数据,并且会残留最后一位数据,下次写的时候直接覆盖。
       buffer.put(new byte[]{ 0x65, 0x6f});// 继续写
       debugAll(buffer);
   }
}
  • 4.ByteBuffer常见的方法
    • 4.1 Allocate()
package com.dapeng.netty;

import java.nio.ByteBuffer;

public class TestByteBufferAllocate {
    public static void main(String[] args) {
        System.out.println(ByteBuffer.allocate(16).getClass());
        System.out.println(ByteBuffer.allocateDirect(16).getClass());

//       class java.nio.HeapByteBuffer  - java 堆内存,读写效率较低,受到GC影响
//       class java.nio.DirectByteBuffer  - 直接内存,读写效率高(少一次拷贝),不会收到GC影响,分配效率低,使用过不当会造成内存泄露。
    }
}
  • 4.2 从buffer写入数据
    • 调用channel的read方法。
    • 调用buffer的put方法。
	int readBytes = channel.read(buf)