從一個(gè)單元測(cè)試用例來說說編程中的編碼問題
編碼簡(jiǎn)述以及Windows默認(rèn)配置
一提到編碼大家最熟悉的莫過于ASCII
(American Standard Code for Information Interchange), 其采用7個(gè)bit
表示128個(gè)字符,包含了常見的英文字符、數(shù)字,控制字符等。但是ASCII
不包含中文,日文等文字的編碼,便出現(xiàn)了針對(duì)中文的編碼GB2312
,GBK
等編碼,針對(duì)日文的Shift_JIS
編碼,他們都兼容ASCII
編碼,微軟]稱為ANSI
(American National Standards Institute)編碼。但是有個(gè)問題,就是各個(gè)編碼之間不兼容,比如我們都知道一個(gè)字符的編碼說到底都是二進(jìn)制表示,那么0xB182
?在GB2312
中編碼為偙
,但是在Shift_JIS
編碼中為こ
。說到這里讀者是不是會(huì)有兩個(gè)問題:- 上述的編碼并不涵蓋世界上所有語言的字符。于是這個(gè)時(shí)候出現(xiàn)了
Unicode
編碼方案,而對(duì)應(yīng)的編碼方式主要有UTF-8
,?UTF-16
,?UTF-32
. - 上述例子中編碼值
0xB182
在GB2312
和Shift_JIS
編碼方式中有不同的字符表示。這對(duì)于對(duì)于程序員來說處理起來不是很友好了,比如0xB182
這個(gè)字符保存的文本,在你的操作系統(tǒng)中用notepad
打開會(huì)顯示什么字符呢?這個(gè)時(shí)候你也許會(huì)發(fā)現(xiàn),怎么在不同人的機(jī)器上會(huì)顯示不同的字符樣式呢?
偙
:同一個(gè)文件在另一個(gè)Windows系統(tǒng)上打開可能顯示字符
こ
:然后同一個(gè)文件在另一個(gè)Windows系統(tǒng)上也可能顯示亂碼。
Notepad在解析的時(shí)候,是根據(jù)當(dāng)前的Windows的默認(rèn)配置的區(qū)域有關(guān)系,在
控制面板\時(shí)鐘和區(qū)域->區(qū)域->管理->更改系統(tǒng)區(qū)域設(shè)置
?(修改后會(huì)提示重啟生效)這個(gè)配置關(guān)聯(lián)著一個(gè)相應(yīng)的
Code Page
, 這個(gè)就表明使用的編碼方式。比如我本機(jī)配置的是中文(簡(jiǎn)體,中國(guó))
,那么通過命令行chcp
得到代碼頁為936
,通過微軟的MSDN
可以查詢到為GB2312
(ANSI/OEM Simplified Chinese (PRC, Singapore); Chinese Simplified (GB2312)
)。根據(jù)我當(dāng)前的配置
Code Page
為936
,那邊便在GB2312
相應(yīng)字符集中找到對(duì)應(yīng)的字符偙
進(jìn)行顯示啦。如果
Code Page
為932
(ANSI/OEM Japanese; Japanese (Shift-JIS)
),那邊便從Shift-JIS
相應(yīng)的字符相應(yīng)的字符集中找到字符こ
進(jìn)行顯示。如果
Code Page
為437
?(OEM United States
), 把每個(gè)字節(jié)當(dāng)成一個(gè)單獨(dú)的字符為?±
亂碼樣式。一個(gè)單元測(cè)試
有一定編碼經(jīng)驗(yàn)的同學(xué)一定聽說過URL Encoding,在RFC1738
中規(guī)定URL中的除了字母和數(shù)字[0-9a-zA-Z]
,特殊符號(hào)$-_. !*'(),
以及一些保留字可以不做編碼,對(duì)于其他的字符需要對(duì)其進(jìn)行編碼,比如漢字程序員
對(duì)應(yīng)三個(gè)字對(duì)應(yīng)的UTF-8
編碼為E7A88B
,E5BA8F
和E59198
(字節(jié)按照從低到高排序), 其對(duì)應(yīng)的UTF-8
的URL Encoding(Percent-Encoding)的編碼為程序員
。URL Encoding不是本章節(jié)的重點(diǎn),本章節(jié)的重點(diǎn)在于通過一個(gè)單元測(cè)試用例,來看一看Visual Studio
中字符串的編碼(本文基于Visual Studio 2015
)。那么先上一個(gè)基于gtest
的測(cè)試用例,測(cè)試用主要測(cè)試了原型為std::string UrlEncoding(const std::string