第三章汉字编码原理

• 在汉语拼音方案中规定了“阴平、阳平、上声、 去声”四种声调的调号，调号的位臵要标在一 个音节的主要元音的上面。比如， “āāǎàēéěèīíǐì” 等。虽然字库中做 好了带调号的主要元音的字模点阵，但是键盘 上却没有相应的键位，所以，采用通用键盘输 入汉字就无法输入调号，所以只好采用变通的 办法。 • 汉语拼音历史上标调的方法有三种：符号标调 法、数字标调法和字母标调法。
最早的汉字代码
• １８８０年清政府创办电报局，由丹麦人设计 的汉字电报码。它的方法是将电报用的汉字按 照笔画顺序由少到多排列成一个字表。 • 使用的字数不到一万，就以字的顺序号作该字 的代码。第一个字的代码就是０００１，第五 个字的代码就是０００５，第３８５个字的代 码就是０３８５。 • 电报码一直使用到今天，经过不断的修订完善 成为《标准电码本》。
全拼音码的特点
• ①码元为２６个拉丁字母； • ②与教学、社会应用的拼音规则完全一致，只 要会拼音的人就会编码，能够作到“见字识 码”； • ③因为是“按音编码”，怎么读就怎么输入， 便于思路的连续性，适于“想打”即写作者边 想边打的方式； • ④为不等长码，最长的如“装”“创”“双” 音节都是６码； • ⑤重码较多，有的音节多达上百个重码，多次 翻页，很不方便；
㈣标调拼音码
• 汉语是有声调的语言，汉语的声调是一 个重要的“音位”，具有重要的辨义功 能。有一种乐器叫做“雷琴”，可以只 用“音高”就能模拟汉语的句子。这个 例子足以说明汉语声调的重要性。
• 拼音码为了降低重码率，采用标调的办法，这 样的拼音码，我们称之为“标调拼音码”。 • 汉语的音节是有数的：不加声调只有４１２个， 加声调则有１３００个左右。 • 汉字共有６万个。收在《基本集》中的有６７ ６３个。 • 不加声调平均每个音节约有１５个重码，加上 重码分布的不平衡，个别的音节就有几十甚至 上百个； • 如果加上声调，平均每个音节只有不到４个重 码了。
• 一般的编码方案多采用２６个英文字母 作码元， • 也有的在这个基础上再增加１０个数目 字，使码元数增加到３６个的方案， • 还有的把字母键盘区的其它功能键也利 用上的。 • 这种需要增加码元数的方案多数是形码 方案。
３、确定编码规则
• 理想的规则是“字码意义对应” 、规则简单， 好学易记，没有复杂的条件限制或特例情况。 • 实际上最难做到。 • 比如按形排序，同笔画数的字很多，同笔画的 字当中，起笔相同的也不少，甚至笔顺相同的 也有。究竟谁先谁后，难以给出一个标准。 • 按音排序也有个同音字的先后问题。同音、同 调、同笔画数的汉字再按什么条件排先后，都 是难题。 • 人为地增加许多规定，势必增加用户的学习量。
• 例如，假设确定的汉字基本笔画为“横、 竖、撇、捺、点、折”这样的六种，并 且代号依次为“１、２、３、４、５、 ６”， • 这时，任何一个汉字都可以转换成用这 六个数字组成的“数字串”来表示了。 如：“中”２６１２，“国”２６１１ ２１５１等。
笔画笔形码的特点
• ①码元数少； • ②规则极其简单，几乎没有记忆量； • ③平均码长过长，因为汉字的平均笔画 约为１１－１２划，《基本集》中笔画 最多的“齄”有２３划。所以，单纯用 笔画编码由于码长过长而降低了实用价 值。 • ④由于有些字的笔顺缺乏统一和规范， 在具体编码时会出现二义性情况；
㈠笔画笔形码
• 以汉字的基本笔画特征为取码依据，参 考笔顺、部位特征等信息的编码方案统 称为“笔画笔形码”。
• 这类编码方案的基本方法是， • 首先确定汉字的基本笔画数，一般有 “五种”、“六种”或“八种”不等， • 然后确定这些基本笔画的固定顺序，给 每种笔画一个顺序代号。 • 按照写字时笔顺的先后就可以将一个汉 字转换成笔画代码的线性排列。
符号标调法
• １９１８年注音字母公布时采用小圆圈 标调，以一个拼音音节的四个角表示四 个不同的声调，叫做“四声点法”或叫 “点角法”。后来，改用现在的调号来 表示。
数字标调法
• 比如用１、２、３、４分别表示一声、二声、 三声、四声，将表示调号的数字放在一个音节 的末尾。 • 在实际使用当中，又有一些变通的处理办法。 比如， • 挑选出一个含字数最多的声调，作为“默认 值”，用“零位”表示，即用不加调号来表示 该调号。其余的分别加上数字调号，实际上等 于只增加了三个调号符号。 • 这样作可以缩短码长，减少击键次数。采用这 种方法的编码方案如山东烟台唐懋宽的“声数 码”就是其中较有代表性的一个。
〖上声〗
• 单元音连写，如闪ｓｈａａｎ，版ｂａ ａｎ、比ｂｉｉ； • 复韵母“ｉ”改“ｅ”、“ｕ”改 “ｏ”，如检ｊｅａｎ、广ｇｏａｎｇ、 百ｂａｅ、好ｈａｏ； • ｅｉ、ｏｕ、ｉｅ、ｕｏ四韵采用连写 法，如北ｂｅｅｉ、手ｓｈｏｏｕ、姐 ｊｉｅｅ、妥ｔｕｏｏ；
〖去声〗
• 韵尾改写：ｉ改为ｙ、ｕ改为ｗ、ｎ改 为ｎｎ、ｎｇ改为ｎｑ、ｌ改为ｌｌ或 ｈ，如在ｔｚａｙ、占ｊａｎｎ、胜ｓ ｈｅｎｑ； • 采用字母标调的汉字编码方案如山东青 岛丁天铎的“汉语辅助字编码方案”。
５、采用词语编码
• 应具有足够的词汇编码容量。词语码最 长不超过４码。 • 应该给用户提供足够的词库扩展空间和 扩展手段，使用户能够方便自如地根据 自己的需要增加用户词汇。
６、重码率低
• 一般用户可以实现“盲打”，即不用看 键盘（有一定的键盘基础的情况下）和 提示行就能够输入汉字。 • 只有能实现盲打，才能提高输入速度。
什么是理想的编码
• １、规则简单。 • 一般具有中等文化水平的人不需要经 过专门培训就可以通过“自学”完全掌 握。 • 如果能够利用人的常识和知识，如果这 种常识和知识中涉及或包括了关于汉字 的基本知识， • 编码规则应当简化到不需要特殊的规则 的地步。
２、码元数量少
• 一般不超过３６个，即２６个字母外加 １０个数字键。最好只使用２６个字母 键。 • 这样，对于人来说记忆量减少，对于机 器来说，在键盘管理方面较好处理。
㈢双拼音码
• 根据汉字传统的“反切”拼音的原理，采用一 声一韵的字母拼写形式，进一步将每字的码长 减少到两码。 • 双拼音码的特点是： • ①码元为２６个拉丁字母； • ②较复杂的声母、韵母替换规则，须经过一段 时间的学习才能掌握； • ③重码仍然与普通音码一样多； • ④由于码长短可以提高输入速度；
第四节汉字编码类型
１、流水码
• 流水码的特点是： • ①码元只有１０个阿拉伯数字； • ②一般多为等长四码，有效数字不足四 位的在前面加零补足四位； • ③字、码一一对应，没有重码； • ④字、码之间没有理据性，就是没经过 专门训练不能做到“见字识码”；
２、拼音码
• 是以汉字的读音属性为编码依据，采用 键盘上的拉丁字母做为码元的编码方法。 又分为 • “全拼音码”、 • “简化拼音码”、 • “双拼音码”三种。 • 一般不加声调。
形码
• ① 字“形”具有“音”和“义”都无法 比拟的唯一性。 • ② 字“形” 图形信息丰富，可供采用。 • ③ 字“形”不受不同口音、不同国家的 影响。
• 形码主要根据汉字的字形特征信息进行 编码。 • 汉字的形体分析有笔画、字根、结构方 式、部位特征等。 • 从不同的角度选择特征信息、设计编码 规则，就形成了不同类型的编码方案。
２、确定码元类型和数量
• 码元是用来作为汉字代码的元素。例如， • 电报码的码元就是０－９这十个阿拉伯数字。 • 码元的种类和数量与编码容量、以及码长、重 码数等指标直接相关。 • 比如电报码，采用十个数目字作码元，四位码 长的编码容量至多１００００个汉字，从００ ００到９９９９。超过１万字就是出现重码， 否则就必须增加码长。
㈡简化拼音码
• 主要为了解决码长过长的问题，减少击键次数， 提高输入速度，在拼写规则上加以简化处理， 将双字母声母“ＺＨ”“ＣＨ”“ＳＨ”以及 许多两字母以上的复韵母都各用一个字母代替。 比较常用的如前面介绍的ＣＣ－ＤＯＳ所配臵 的拼音码。 • 简化拼音码的特点，除了比全拼音码减少码长 外，其余与全拼音码都一样。但是，因为，增 加了字母替换规则，所以，就比全拼音码增加 了学习量。
第三章汉字编码原理
第三节 汉字编码原理
一、什么是汉字编码
• • • • • • 汉字外码：汉字的字母数字代码 计算机人机界面：键盘 字母 数字 控制符号 功能键位
二、汉字编码的历史发展
• 广义的汉字编码是从汉字字书的编撰算起的。 因为字典的编撰，离不开字的排序和检索。 • 字典是供人来 * 查阅，编码输入法是让机器到 字库中去查找。都是按照某种规则排列和检索 汉字*的。 • 可以说，早期的汉字排字检字法就是汉字编码 的早期形式。比如， • 笔画部首法、四角号码法、拼音查字法、笔形 查字法等。
４、编制码表
• 所谓码表就是“字”－“码”对照表。 • 按照确定的编码规则将《基本集》中的 全部汉字逐个给出正确的代码，形成一 个字码对照表。
５、编制软件、上机实现
• 这部分是软件人员的工作。软件人员根 据编码规则和码表， • 设计一个查字管理程序，经过调试，准 确无误，就可以投入使用。 • 至此，一个汉字编码系统就完成了从设 计到实现的整个过程。
四、汉字编码的技术参数指标
• 汉字编码是一个理论与实践性都很强的 课题，而最重要的是它的实践性，也即 在实际应用中的效果。 • 因为这是要解决汉字信息处理的第一个 “人机界面”，所以，几乎全部技术指 标都与“人”密切相关。
• 在“人服从机器”还是“机器服从人”这个问 题上，曾经有过一个认识过程。 • 开始为了使机器能够处理汉字，主要是从机器 出发的，重点考虑机器的特点和条件，较少考 虑人的特点和需要。 • 后来才将立脚点转移到“人”这方面来，将许 多困难都留给机器，使机器对人服务得友好、 周到，人的操作变得轻松、愉快。
３、码长短
• 每个汉字的代码不超过四码。如果采用 简码和不等长码处理的话， • 平均码长应当在３码以下。
４、编码容量具有可扩展性
• 汉字信息处理除了《基本集》的６７６ ３个汉字外，随着实际应用的发展，不 可避免地出现繁体汉字的问题以及大字 符集的问题。 • 理想的汉字编码应当在不增加或少增加 规则的基础上，就能够使编码容量扩展 到繁体汉字或更大的范围。
• 十个数字如果转换为二进制表示，则只 需四位二进制单位。这样，用“嘀 —— 嗒” 两种状态就可以传输汉字了。 • 电报码的特点是“字”－“码”一一对 应，没有重码。 • 缺点是难以记忆，非经过专门训练无法 使用。
三、编码原理
• １、确定编码对象 • 汉字的总字数有６万多，现代汉语常用的也有 １万左右。《信息交换用汉字编码字符集基本 集》根据各种统计数据确定收入汉字６７６３ 个。这些汉字就是一个编码对象的数量级。 • “大字符集” 包括大陆、台湾、日本、韩国所 使用的全部汉字的集合。有２0902字。 • 数量不同，有关参数也不同。
拼音编码的瓶颈
• 同音字繁多，影响输入 • 《新华字典》中，读SHI音的字有72个， • 《汉语词典》中，读YI音的字有164个。
• • • • • • • •
同音词也影响编码输入 Shi-shi的词就有如下的24条： 失实、失时、诗史、失事、 失势、施事、实施、时时、 事事、时事、时势、时世、 时式、史诗、史实、试试、 誓师、事实、适时、事势、 逝世、世事、视事、实时
７、服务功能
• 系统能提供方便周到的自学检索服务功 能。例如， • 对规则的训练指导、查询疑难字，容错 处理、允许模糊输入等等。
８、具有广泛Байду номын сангаас适应性
• 适合不同年龄层次、不同地域、不同文 化背景的人学习使用， • 同时，又能适应各种类型的输入，比如 • “照打”、“想打”、“听打”、“盲 打”等。
字母标调法
• 在具体做法上各有不同。这种方法在汉 语拼音方案的设计过程中就有人试验过， • 其中比较有代表性的例子是“国语罗马 字拼音方案”等。
“国罗”的声调表示法
• 〖阴平〗（包括轻声）用基本形式； • 〖阳平〗浊音半浊音声母（ｍｎｌｒ）用基本 形式； • “ｉ”、“ｕ”作韵头时改为ｙ、ｗ，如： • 黄ｈｗａｎｇ、元ｙｕａｎ、今ｊｙｎ， • 但是，单独作韵母时则用双字母表示，如： • 皮ｐｙｉ、湖ｈｗｕ； • 开口韵在元音后加“ｒ”，如 • 拔ｂｒａ、达ｄｒａ、啥ｓｈｒａ；