BIO為什么慢?
主線程需要accept,等待獲取client連接,進(jìn)行阻塞
當(dāng)主線程獲取到client連接之后,需要?jiǎng)?chuàng)建一個(gè)新的進(jìn)程,來(lái)處理這個(gè)client內(nèi)容,所以又需要從用戶態(tài)切換到內(nèi)核態(tài),線程創(chuàng)建成功之后,切換回到用戶態(tài)。當(dāng)有大量連接的時(shí)候,就需要更多的(用戶態(tài)->內(nèi)核態(tài)->用戶態(tài))切換過(guò)程。linux中,線程==進(jìn)程,在內(nèi)核中開(kāi)辟更多的進(jìn)程(遺留:linux中開(kāi)辟一個(gè)進(jìn)程需要的內(nèi)存是多大?>4M?),意味著更多的內(nèi)存資源消耗
新線程通過(guò)client.read方法等待客戶端返回,又要進(jìn)行阻塞
綜合,BIO慢在阻塞。
NIO
NIO比BIO好在什么地方?
單線程,不需要每個(gè)連接創(chuàng)建一個(gè)線程??梢詣?chuàng)建連接,和連接讀取數(shù)據(jù)在同一個(gè)線程里面實(shí)現(xiàn)
不阻塞(對(duì)fd#文件描述符設(shè)置了不阻塞)--這個(gè)是單線程的基礎(chǔ)
線程少,占用的資源就少
NIO為什么還是慢?
雖然NIO沒(méi)有阻塞了,但是還是不斷的向內(nèi)核調(diào)用(獲取連接+獲取連接的數(shù)據(jù))
C10K問(wèn)題,當(dāng)有10K連接的時(shí)候,每次循環(huán)調(diào)用的時(shí)候都是O(n)的復(fù)雜度,訪問(wèn)大量的文件描述符。。但是每次基本上只有幾個(gè)會(huì)有返回,大量無(wú)意義的調(diào)用,資源浪費(fèi)
ServerSocketChannel ss = ServerSocketChannel.open(); //開(kāi)啟監(jiān)聽(tīng)
ss.bind(new InetSocketAddress(9090));
ss.configureBlocking(false); //NONBLOCKING!!!
client.configureBlocking(false); //NONBLOCKING!!!
多路復(fù)用器
select和poll
兩者基本上一致。但是有一些差異。
select是基于posix協(xié)議實(shí)現(xiàn)的,所以對(duì)于絕大多數(shù)操作系統(tǒng)來(lái)說(shuō),是支持的,而poll貌似沒(méi)有
select出現(xiàn)的比較早,有一個(gè)最大文件描述符數(shù)量的限制,同時(shí)獲取的文件描述符不能超過(guò)1024 --linux普通用戶默認(rèn)情況下
linux poll的底層實(shí)現(xiàn)過(guò)程--粗略
// 創(chuàng)建socket連接,并且返回對(duì)應(yīng)的fd4
socket(AF_INET6, SOCK_STREAM, IPPROTO_IP) = 4
// 非阻塞
fcntl(4, F_SETFL, O_RDWR|O_NONBLOCK) = 0
// 綁定9090端口
bind(4, {sa_family=AF_INET6, sin6_port=htons(9090), inet_pton(AF_INET6, "::", &sin6_addr), sin6_flowinfo=0, sin6_scope_id=0}, 28) = 0
// 監(jiān)聽(tīng)9090端口
listen(4, 50)
// 將所有的fds發(fā)送給內(nèi)核,讓內(nèi)核便利,查看他們的狀態(tài)變化
poll([{fd=5, events=POLLIN}, {fd=4, events=POLLIN}], 2, -1) = 1 ([{fd=4, revents=POLLIN}])
// 拿到了連接clinet->fd7,調(diào)用的方法是accept
accept(4, {sa_family=AF_INET6, sin6_port=htons(40150), inet_pton(AF_INET6, "::ffff:10.1.248.219", &sin6_addr), sin6_flowinfo=0, sin6_scope_id=0}, [28]) = 7
// client設(shè)置成非阻塞
fcntl(7, F_SETFL, O_RDWR|O_NONBLOCK) = 0
// client有返回
poll([{fd=5, events=POLLIN}, {fd=4, events=POLLIN}, {fd=7, events=POLLIN}], 3, -1) = 1 ([{fd=7, revents=POLLIN}])
epoll
內(nèi)核多處理了一步
原先、伴隨著客戶端的連接/傳輸,服務(wù)端的網(wǎng)卡接受到信號(hào),出發(fā)內(nèi)核的中斷,并且將fd更新?tīng)顟B(tài)-----這個(gè)是內(nèi)核一定要做的
現(xiàn)在是在內(nèi)核中,申請(qǐng)一塊內(nèi)存空間,程序在紅黑樹(shù)中放過(guò)一些FD,那么伴隨內(nèi)核基于中斷處理完fd的buffer,狀態(tài)呀,之后,繼續(xù)把有狀態(tài)的fd,copy到鏈表中
epoll對(duì)應(yīng)文件描述符的數(shù)量也有限制
cat /proc/sys/fs/epoll/max_user_watches
linux epoll的底層實(shí)現(xiàn)過(guò)程--粗略
// 創(chuàng)建socket連接,并且返回對(duì)應(yīng)的fd7
socket(AF_INET6, SOCK_STREAM, IPPROTO_IP) = 7
fcntl(7, F_SETFL, O_RDWR|O_NONBLOCK) = 0
bind(7, {sa_family=AF_INET6, sin6_port=htons(9090), inet_pton(AF_INET6, "::", &sin6_addr), sin6_flowinfo=0, sin6_scope_id=0}, 28) = 0
listen(7, 50)
// 創(chuàng)建了epoll,fd10
epoll_create(256) = 10
// epoll注冊(cè)了fd7
// NOTE!!!注意的是,java并不是register的時(shí)候就調(diào)用這個(gè)方法,而是什么時(shí)候調(diào)用epoll_wait方法,會(huì)在調(diào)用之前將這個(gè)epoll_ctl()方法調(diào)用起來(lái)
epoll_ctl(10, EPOLL_CTL_ADD, 7, {EPOLLIN, {u32=7, u64=14699916309504720903}}) = 0
// fd7狀態(tài)發(fā)生變化
epoll_wait(10, [{EPOLLIN, {u32=7, u64=14699916309504720903}}], 8192, -1) = 1
// fd7返回了一個(gè)連接client,fd11
accept(7, {sa_family=AF_INET6, sin6_port=htons(43888), inet_pton(AF_INET6, "::ffff:10.1.248.219", &sin6_addr), sin6_flowinfo=0, sin6_scope_id=0}, [28]) = 11
// client fd11設(shè)置成非阻塞
fcntl(11, F_SETFL, O_RDWR|O_NONBLOCK) = 0
// 注冊(cè)fd11
epoll_ctl(10, EPOLL_CTL_ADD, 11, {EPOLLIN, {u32=11, u64=13609526217307848715}}) = 0
// fd11狀態(tài)發(fā)生變化
epoll_wait(10, [{EPOLLIN, {u32=11, u64=13609526217307848715}}], 8192, -1) = 1
// fd11在epoll中被刪除
epoll_ctl(10, EPOLL_CTL_DEL, 11, 0x7f3bd27d1470) = -1 ENOENT (No such file or directory)