BIO為什么慢?
主線程需要accept,等待獲取client連接,進行阻塞
當(dāng)主線程獲取到client連接之后,需要創(chuàng)建一個新的進程,來處理這個client內(nèi)容,所以又需要從用戶態(tài)切換到內(nèi)核態(tài),線程創(chuàng)建成功之后,切換回到用戶態(tài)。當(dāng)有大量連接的時候,就需要更多的(用戶態(tài)->內(nèi)核態(tài)->用戶態(tài))切換過程。linux中,線程==進程,在內(nèi)核中開辟更多的進程(遺留:linux中開辟一個進程需要的內(nèi)存是多大?>4M?),意味著更多的內(nèi)存資源消耗
新線程通過client.read方法等待客戶端返回,又要進行阻塞
綜合,BIO慢在阻塞。
NIO
NIO比BIO好在什么地方?
單線程,不需要每個連接創(chuàng)建一個線程。可以創(chuàng)建連接,和連接讀取數(shù)據(jù)在同一個線程里面實現(xiàn)
不阻塞(對fd#文件描述符設(shè)置了不阻塞)--這個是單線程的基礎(chǔ)
線程少,占用的資源就少
NIO為什么還是慢?
雖然NIO沒有阻塞了,但是還是不斷的向內(nèi)核調(diào)用(獲取連接+獲取連接的數(shù)據(jù))
C10K問題,當(dāng)有10K連接的時候,每次循環(huán)調(diào)用的時候都是O(n)的復(fù)雜度,訪問大量的文件描述符。。但是每次基本上只有幾個會有返回,大量無意義的調(diào)用,資源浪費
ServerSocketChannel ss = ServerSocketChannel.open(); //開啟監(jiān)聽
ss.bind(new InetSocketAddress(9090));
ss.configureBlocking(false); //NONBLOCKING!!!
client.configureBlocking(false); //NONBLOCKING!!!
多路復(fù)用器
select和poll
兩者基本上一致。但是有一些差異。
select是基于posix協(xié)議實現(xiàn)的,所以對于絕大多數(shù)操作系統(tǒng)來說,是支持的,而poll貌似沒有
select出現(xiàn)的比較早,有一個最大文件描述符數(shù)量的限制,同時獲取的文件描述符不能超過1024 --linux普通用戶默認情況下
linux poll的底層實現(xiàn)過程--粗略
// 創(chuàng)建socket連接,并且返回對應(yīng)的fd4
socket(AF_INET6, SOCK_STREAM, IPPROTO_IP) = 4
// 非阻塞
fcntl(4, F_SETFL, O_RDWR|O_NONBLOCK) = 0
// 綁定9090端口
bind(4, {sa_family=AF_INET6, sin6_port=htons(9090), inet_pton(AF_INET6, "::", &sin6_addr), sin6_flowinfo=0, sin6_scope_id=0}, 28) = 0
// 監(jiān)聽9090端口
listen(4, 50)
// 將所有的fds發(fā)送給內(nèi)核,讓內(nèi)核便利,查看他們的狀態(tài)變化
poll([{fd=5, events=POLLIN}, {fd=4, events=POLLIN}], 2, -1) = 1 ([{fd=4, revents=POLLIN}])
// 拿到了連接clinet->fd7,調(diào)用的方法是accept
accept(4, {sa_family=AF_INET6, sin6_port=htons(40150), inet_pton(AF_INET6, "::ffff:10.1.248.219", &sin6_addr), sin6_flowinfo=0, sin6_scope_id=0}, [28]) = 7
// client設(shè)置成非阻塞
fcntl(7, F_SETFL, O_RDWR|O_NONBLOCK) = 0
// client有返回
poll([{fd=5, events=POLLIN}, {fd=4, events=POLLIN}, {fd=7, events=POLLIN}], 3, -1) = 1 ([{fd=7, revents=POLLIN}])
epoll
內(nèi)核多處理了一步
原先、伴隨著客戶端的連接/傳輸,服務(wù)端的網(wǎng)卡接受到信號,出發(fā)內(nèi)核的中斷,并且將fd更新狀態(tài)-----這個是內(nèi)核一定要做的
現(xiàn)在是在內(nèi)核中,申請一塊內(nèi)存空間,程序在紅黑樹中放過一些FD,那么伴隨內(nèi)核基于中斷處理完fd的buffer,狀態(tài)呀,之后,繼續(xù)把有狀態(tài)的fd,copy到鏈表中
epoll對應(yīng)文件描述符的數(shù)量也有限制
cat /proc/sys/fs/epoll/max_user_watches
linux epoll的底層實現(xiàn)過程--粗略
// 創(chuàng)建socket連接,并且返回對應(yīng)的fd7
socket(AF_INET6, SOCK_STREAM, IPPROTO_IP) = 7
fcntl(7, F_SETFL, O_RDWR|O_NONBLOCK) = 0
bind(7, {sa_family=AF_INET6, sin6_port=htons(9090), inet_pton(AF_INET6, "::", &sin6_addr), sin6_flowinfo=0, sin6_scope_id=0}, 28) = 0
listen(7, 50)
// 創(chuàng)建了epoll,fd10
epoll_create(256) = 10
// epoll注冊了fd7
// NOTE!!!注意的是,java并不是register的時候就調(diào)用這個方法,而是什么時候調(diào)用epoll_wait方法,會在調(diào)用之前將這個epoll_ctl()方法調(diào)用起來
epoll_ctl(10, EPOLL_CTL_ADD, 7, {EPOLLIN, {u32=7, u64=14699916309504720903}}) = 0
// fd7狀態(tài)發(fā)生變化
epoll_wait(10, [{EPOLLIN, {u32=7, u64=14699916309504720903}}], 8192, -1) = 1
// fd7返回了一個連接client,fd11
accept(7, {sa_family=AF_INET6, sin6_port=htons(43888), inet_pton(AF_INET6, "::ffff:10.1.248.219", &sin6_addr), sin6_flowinfo=0, sin6_scope_id=0}, [28]) = 11
// client fd11設(shè)置成非阻塞
fcntl(11, F_SETFL, O_RDWR|O_NONBLOCK) = 0
// 注冊fd11
epoll_ctl(10, EPOLL_CTL_ADD, 11, {EPOLLIN, {u32=11, u64=13609526217307848715}}) = 0
// fd11狀態(tài)發(fā)生變化
epoll_wait(10, [{EPOLLIN, {u32=11, u64=13609526217307848715}}], 8192, -1) = 1
// fd11在epoll中被刪除
epoll_ctl(10, EPOLL_CTL_DEL, 11, 0x7f3bd27d1470) = -1 ENOENT (No such file or directory)