Linux內核漢字顯示技術

在闡述基于Linux核心的漢字顯示的技術細節(jié)之前，有必要介紹一下原有l(wèi)inux的工作機制。這里主要涉及到兩部分的知識，就是Linux下終端和幀緩沖的實現．

 控制臺（console）

 通常我們在linux下看到的控制臺(console)是由幾個設備完成的。分別是/dev/ttyN（其中tty0就是/dev/console， tty1，tty2就是不同的虛擬終端（virtual console））.通常使用熱鍵alt+Fn來在這些虛擬終端之間進行切換。所有的這些tty設備都是由 linux/drivers/char/console.c和vt.c對應。其中console.c負責繪制屏幕上的字符，vt.c負責管理不同的虛擬終 端，并且負責提供console.c需要繪制的內容。Vt.c把不同虛擬終端下需要交給console.c繪制的內容放到不同的緩存中去。Vt.c管理著 這樣一個緩沖區(qū)的數組，并且負責在其間切換，以指定哪一個緩沖區(qū)是被激活的。你所看到的虛擬終端就對應著被激活的緩沖區(qū)。Console.c同時也負責接 收終端的輸入，然后把接收到的輸入放到緩沖區(qū)。

 幀緩沖（framebuffer）

 Framebuffer是把顯存抽象后的一種設備，可以通過這個設備的讀寫直接對顯存進行操作。這種操作是抽象的，統(tǒng)一的。用戶不必關心物理顯存的位置、換頁機制等等具體細節(jié)。這些都是由Framebuffer設備驅動來完成的。

 Framebuffer對應的源文件在linux/drivers/video/目錄下。總的抽象設備文件為fbcon.c，在這個目錄下還有與各種顯卡驅動相關的源文件。在使用幀緩沖時，Linux是將顯卡置于圖形模式下的．

 試驗

 我們以一個簡單的例子來說明字符顯示的過程。我們假設是在虛擬終端1（/dev/tty1）下運行一個如下的簡單程序。

 main ( )

 {

 puts("hello, world.n");

 }

 puts函數向缺省輸出文件(/dev/tty1)發(fā)出寫的系統(tǒng)調用write(2)。系統(tǒng)調用到linux核心里面對應的核心函數是console.c 中的con_write()，con_write()最終會調用do_con_write( )。在do_con_write( )中負責把"hello, world.n"這個字符串放到tty1對應的緩沖區(qū)中去。

 do_con_write( )還負責處理控制字符和光標的位置。讓我們來看一下do_con_write()這個函數的聲明。

 static int do_con_write(struct tty_struct * tty, int

 from_user, const unsigned char *buf, int count) 其中tty是指向tty_struct結構的指針，這個結構里面存放著關于這個tty的所有信息（請參照 linux/include/linux/tty.h）。Tty_struct結構中定義了通用（或高層）tty的屬性（例如寬度和高度等）。

 在do_con_write( )函數中用到了tty_struct結構中的driver_data變量。

 driver_data是一個vt_struct指針。在vt_struct結構中包含這個tty的序列號（我們正使用tty1，所以這個序號為1）。Vt_struct結構中有一個vc結構的數組vc_cons，這個數組就是各虛擬終端的私有數據。

 static int do_con_write(struct tty_struct * tty, int

 from_user,const unsigned char *buf, int count)

 {

 struct vt_struct *vt = (struct vt_struct *)tty->

 driver_data;//我們用到了driver_data變量

 . . . . .

 currcons = vt->vc_num; file://我們在這里的vc_nums就是1

 . . . . .

 }

 要訪問虛擬終端的私有數據，需使用vc_cons〔currcons〕.d指針。這個指針指向的結構含有當前虛擬終端上光標的位置、緩沖區(qū)的起始地址、緩沖區(qū)大小等等。

 "hello, world.n"中的每一個字符都要經過conv_uni_to_pc( )

 這個函數轉換成８位的顯示字符。這要做的主要目的是使不同語言的國家能把１６位的UniCode碼映射到8位的顯示字符集上，目前還是主要針對歐洲國家的語言，映射結果為8位，不包含對雙字節(jié)（double byte）的范圍。

 這種UNICODE到顯示字符的映射關系可以由用戶自行定義。在缺省的映射表上，會把中文的字符映射到其他的字符上，這是我們不希望看到也是不需要的。所以我們有兩個選擇∶

 1不進行conv_uni_to_pc( )的轉換。

 2加載符合雙字節(jié)處理的映射關系，即對非控制字符進行1對1的不變映射。我們自己定制的符合這種映射關系的UNICODE碼表是direct.uni。

 要想查看/裝載當前系統(tǒng)的unicode映射表，可使外部命令loadunimap。

 經過conv_uni_to_pc( )轉換之后，"hello, world.n"中的字符被一個一個地填寫到tty1的緩沖區(qū)中。然后do_con_write( )調用下層的驅動，把緩沖區(qū)中的內容輸出到顯示器上（也就相當于把緩沖區(qū)的內容拷貝到VGA顯存中去）。

 sw->con_putcs(vc_cons〔currcons〕.d, (u16 *)draw_from, (u16

 *)draw_to-(u16 *)draw_from, y, draw_x);

 之所以要調用底層驅動，是因為存在不同的顯示設備，其對應VGA顯存的存取方式也不一樣。

 上面的Sw->con_putcs( )就會調用到fbcon.c中的fbcon_putcs()函數（con_putcs是一個函數的指針，在Framebuffer模式下指向 fbcon_putcs()函數）。也就是說在do_con_write( )函數中是直接調用了fbcon_putcs()函數來進行字符的繪制。比如說在256色模式下，真正負責輸出的函數是void fbcon_cfb8_putcs(struct vc_data *conp, struct display *p,const unsigned short *s, int count, int

 yy, int xx)

 顯示中文

 比如說我們試圖輸出一句中文∶putcs(你好n );（你好的內碼為0xc4,0xe3,0xba,0xc3）。這時候會怎么樣呢，有一點可以肯定，＂你好＂肯定不會出現在屏幕上，原因有∶核心中沒有漢字字庫，中文顯示就是無米之炊了．

 1在負責字符顯示的void fbcon_cfb8_putcs( )函數中，原有操作如下∶對于每個要顯示的字符，依次從虛擬終端緩沖區(qū)中以WORD為單位讀?。ǖ臀蛔止?jié)是ASCII碼，高8位是字符的屬性），由于漢字 是雙字節(jié)編碼方式，所以這種操作是不可能顯示出漢字的，只能顯示出xxxx_putcs()是一個一個VGA字符．

 要解決的問題∶

 確保在do_con_write( )時uni□pc轉換不會改變原有編碼。一個很直接的實現方式就是加載一個我們自己定制的UNICODE映射表，loadunimapdirect.uni，或者直接把direct.uni置為核心的缺省映射表。

 針對如上問題，我們要做的第一個嘗試方案是如下。

 首先需要在核心中加載漢字字庫，然后修改fbcon_cfb8_putcs()函數，在fbcon_cfb8_putcs( )中一次讀兩個WORD，檢查這兩個WORD的低位字節(jié)是否能拼成一個漢字，如果發(fā)現能拼成一個漢字，就算出這個漢字在漢字字庫中的偏移，然后把它當成一 個16 x 16的VGA字符來顯示。

 試驗的結果表明∶

 1能夠輸出漢字，但仍有許多不理想的地方，比如說，輸出以半個漢字開始的一串漢字，則這半個漢字后面的漢字都會是亂碼。這是半個漢字的問題。

 2光標移動會破壞漢字的顯示。表現為，光標移動過的漢字會變成亂碼。這是因為光標的更新是通過xxxx_putc( )函數來完成的。

 xxxx_putc( )函數與xxxx_putcs( )函數實現的功能類似，但是xxxx_putc()函數只刷新一個字符而不是一個字符串，因而xxxx_putc()的輸入參數是一個整數，而不是一個字 符串的地址。Xxxx_putc( )函數的聲明如下∶void fbcon_cfb8_putc(struct vc_data *conp, struct display *p, int c, int yy, int xx)

 下一個嘗試方案就是同時修改xxxx_putcs( )函數和xxxx_putc()函數。為了解決半個漢字的問題，每一次輸出之前，都從屏幕當前行的起始位置開始掃描，以確定要輸出的字符是否落在半個漢字 的位置上。如果是半個漢字的位置，則進行相應的調整，即從向前移動一

 個字節(jié)的位置開始輸出。

 這個方案有一個困難，即xxxx_putc( )函數不用緩沖區(qū)的地址，而是用一個整數作為參數。所以xxxx_putc( )無法直接利用相鄰的字符來判別該定符是否是漢字。

 解決方案是，利用xxxx_putc( )的光標位置參數（yy, xx），可以逆推出該字符在緩沖區(qū)中的位置。但仍有一些小麻煩，在Linux的虛擬終端下，用戶可能會上卷該屏幕（shift + pageup），導致光標的y座標和相應字符在緩沖區(qū)的行數不一致。相應的解決方案是，在逆推的過程中，考慮卷屏的參量。

 這樣一來，我們就又進了一步，得到了一個相對更好的版本。但仍有問題沒有解決。敲入turbonetcfg，會發(fā)現菜單的邊框字符也被當成漢字顯示。這是 因為，這種邊框字符是擴展字符，也使用了字符的第8位，因而被當作漢字來顯示。例如，單線一的制表符內碼為0xC4，當連成一條長線就是由一連串0xC4 組成，而0xC4C4正是漢字哪。于是水平的制表符被一連串的哪字替代了。要解決這個問題就非常不容易了，因為制表符的種類比較多，而且垂直制表符與其后 面字符的組合型式又多種多樣，因而很難判斷出相應位置的字符是不是制表符，從理論上說，無論采取什么樣的排除算法，都必然存在誤判的情況，因為總存在二義 性，沒有充足的條件來推斷出當前字符究竟是制表符還是漢字。

 我們一方面尋找更好的排除組合算法，一方面試圖尋找其它的解決方案。要想從根本上解決定個問題，必須利用其它的輔助信息，僅僅從緩沖區(qū)的字符來判斷是不夠的。

 經過一番努力，我們發(fā)現，在UNIX中使用擴展字符時，都要先輸出字符轉義序列（Escape sequence）來切換當前字符集。字符轉義序列是以控制字符Esc為首的控制命令，在UNIX的虛擬終端中完成終端控制命令，這種命令包括，移動光標 座標、卷屏、刪除、切換字符集等等。也就是說在輸出代表制表符的字符串之前，通常是要先輸出特定的字符轉義序列。在console.c里，有根據字符轉義 序列命令來記錄字符狀態(tài)的變量。結合該變量提供的信息，就可以非常干凈地把制表符與漢字區(qū)別開來。

 在如上思路的指引下，我們又產生了新的解決方案。經過改動得到了另一各版本．

 在這個新版本上，turbonetcfg在初次繪制的時候，制表符與漢字被清晰地區(qū)分開來，結果是非常正確的。但還有新的問題存在 ∶turbonetcfg在重繪的時候（如切換虛擬終端或是移動鼠標光標的時候），制表符還是變成了漢字，因為重繪完全依賴于緩沖區(qū)，而這時用來記錄字符 集狀態(tài)的變量并不反映當前字符集狀態(tài)。問題還是沒有最終解決。我們又回到了起點。∶( 看來問題的最終解決手段必須是把字符集的狀態(tài)伴隨每一個字符存在緩沖區(qū)中。讓我們來研究一下緩沖區(qū)的結構。

 每一個字符占用16bit的緩沖區(qū)，低8位是ASCII值，完全被利用，高8位包含前景顏色和背景顏色的屬性，也沒有多余的空間可以利用。因而只能另外開辟新的緩沖區(qū)。為了保持一致性，我們決定在原來的緩沖區(qū)后面添加相同大小的緩沖區(qū)，用來存放是否是漢字的信息。

 也許有讀者會問，我們只需要為每個字符添加一bit的信息來標志是否是漢字就足夠了，為什么還要開辟與原緩沖區(qū)大小相同的雙倍緩沖區(qū)，是不是太浪費呢？

 我們先放下這個問題，稍后再作回答。

 其實，如果再添加一bit來標志是當前字符是漢字的左半邊還是右半邊的話，就會省去掃描屏幕上當前整行字符串的工作，這樣一來，編程會更簡單。但是有讀者會問，即使是這樣，使用8bit總夠用了吧？為什么還要使用16bit呢？

 我們的作法是∶用低8位來存放漢字另外一半的內碼，用高8位中的2 bit來存放上面所講的輔助信息，高8位的剩余6位可以用來存放漢字或其它編碼方式（如BIG5或日文、韓文）的信息，從而使我們可以實現同屏顯示多種雙 字節(jié)語言的字符而不會有相互干擾。另外，在編程時，雙倍緩沖也比較容易計算。

 這樣我們就回答了如上的兩個問題。

 迄今為止，我們有了一套徹底解決漢字和制表符相互干擾、半個漢字的刷新、重繪等問題的方案。剩下的就是具體編程實現的問題了。

 但是，由于Framebuffer的驅動很多，修改每一個驅動的xxxx_putc()函數和xxxx_putcs( )函數會是一項不小的工作，而且，改動驅動程序后，每種驅動的測試也是很麻煩的，尤其是對于有硬件加速的顯卡，修改和測試會更不容易。

 那么，存不存在一種不需要修改顯卡驅動程序的方法呢？

 經過一番努力，我們發(fā)現，可以在調用xxxx_putcs( )或xxxx_putc()函數輸出漢字之前，修改vga字庫的指針使其指向所需顯示的漢字在漢字字庫中的位置，即把一個漢字當成兩個vga ASCII字符輸出。也就是說，在內核中存在兩個字庫，一個是原有的vga字符字庫，另一個是漢字字庫，當我們需要輸出漢字的時候，就把vga字庫的指針 指向漢字字庫的相應位置，漢字輸出完之后，再把該指針指向vga字庫的原有位置。

 這樣一來，我們只需要修改fbcon.c和console.c，其中console.c負責維護雙倍緩沖區(qū)，把每一個字符的信息存入附加的緩沖區(qū)；而fbcon.c負責利用雙倍緩沖區(qū)中附加的信息，調整vga字庫的指針，調用底層的顯示驅動程序。

 這里還有幾個需要注意的地方∶

 1． 由于屏幕重繪等原因，調用底層驅動xxxx_putc( )和xxxx_putcs()的地方有多處。我們作了兩個函數分別包裝這兩個調用，完成替換字庫、調用xxxx_putcs( )或xxxx_putc( )、恢復字庫等功能。

 2．為了實現向上滾屏（shift + pageup）時也能看到漢字，我們需要作另外的修改。

 Linux在設計虛擬終端的時候，提供了回顧被卷出屏幕以外的信息的功能，這就是用熱鍵來向上滾屏（shift + pageup）。當前被使用的虛擬終端擁有一個公共的緩沖區(qū)（soft back），用來存放被滾出屏幕以外的信息。當切換虛擬終端的時候，公共緩沖區(qū)的內容會被清除而被新的虛擬終端使用。向上滾屏的時候，顯示的是公共緩沖區(qū) 中的內容。因此，如果我們想在向上滾屏的時候看到漢字，公共緩沖區(qū)也必須加倍，以確保沒有信息丟失。當滾出屏幕的信息向公共緩沖區(qū)填寫的時候，必須把相應 的附加信息也填寫進公共緩沖區(qū)的附加區(qū)域。這就要求fbcon.c必須懂得利用公共緩沖區(qū)的附加信息。

 當然，有另外一種偷懶的方法，那就是不允許用戶向上滾屏，從而避免對公區(qū)緩沖區(qū)的處理。

 3.把不同的編碼方式（GB、BIG5、日文和韓文）寫成不同的module，以實現動態(tài)加載，從而使得擴展新的編碼方式不需要重新編譯核心。

 小結

 通過這次針對Linux核心的探索，我們發(fā)現，目前Linux的核心設計中，完全沒有考慮到雙字節(jié)編碼字符的顯示。我們在這種情況下摸索出一套解決核心下漢字顯示的方法，并編碼實現了該方案．

 遵循核心的GPL版權聲明，我們同時公布了實現這一技術的源代碼，當然，這些改動仍然是GPL的．如果能對研究核心的朋友有所幫助，減少一些大家對核心的神秘感，將是我們最大的收獲。

 但是對核心和中文化來說，這僅僅是一種嘗試，遠不是終點．這種改動多少帶有一些hack的色彩，不太可能融合進權威的核心里去．我們仍在積極探索圓滿解決 這一問題的方法，相信這一結果必然需要通過國內外Linux群體的共同努力才能實現．我們也非常歡迎大家和我們共同討論這一問題．

 測試

 本文實現的Kernel Patch文件（patch.kernel.chinese）可以從http://www.turbolinux.com.cn下載。Cd /usr/src/（該目錄下應有Linux核心源程序所在的目錄linux/） patch -p0 -b < patch.kernel.chinese make menuconfig 請選擇Console drivers選項中的

 〔*〕 Double Byte Character Display Support(EXPERIMENTAL)

 〔*〕 Double Byte GB encode (module only)

 〔*〕 VESA VGA graphics console

 Virtual Frame Buffer support (ONLY FOR TESTING!)

 8 bpp packed pixels support

 16 bpp packed pixels support

 VGA characters/attributes support

 〔*〕 Select compiled-in fonts

 〔*〕VGA 8x8 font

 〔*〕VGA 8x16 font

 make dep

 make bzImage

 make modules

 make install

 make modules_install

 然后用新的核心啟動。

 Insmod encode-gb.o

linux操作系統(tǒng)文章專題:linux操作系統(tǒng)詳解（linux不再難懂）