heshao2005 发表于 2018-9-20 07:10:52

Golang学习 - unicode/utf8 包

------------------------------------------------------------  

  
// 编码所需的基本数字
  
const (
  
RuneError = '\uFFFD'   // 错误的 Rune 或 Unicode 代理字符
  
RuneSelf= 0x80         // ASCII 字符范围
  
MaxRune   = '\U0010FFFF' // Unicode 码点的最大值
  
UTFMax    = 4            // 一个字符编码的最大长度
  
)
  

  
------------------------------------------------------------
  

  
// 将 r 转换为 UTF-8 编码写入 p 中(p 必须足够长,通常为 4 个字节)
  
// 如果 r 是无效的 Unicode 字符,则写入 RuneError
  
// 返回写入的字节数
  
func EncodeRune(p []byte, r rune) int
  

  
// 解码 p 中的第一个字符,返回解码后的字符和 p 中被解码的字节数
  
// 如果 p 为空,则返回(RuneError, 0)
  
// 如果 p 中的编码无效,则返回(RuneError, 1)
  
// 无效编码:UTF-8 编码不正确(比如长度不够)、结果超出 Unicode 范围、编码不是最短的。
  
// 关于最短编码:可以用四个字节编码一个单字节字符,但它不是最短的,比如:
  
// 不是最短的,应该使用

  
func DecodeRune(p []byte) (r rune,>  

  
// 功能同上,参数为字符串

  
func DecodeRuneInString(s string) (r rune,>  

  
// 解码 p 中的最后一个字符,返回解码后的字符,和 p 中被解码的字节数
  
// 如果 p 为空,则返回(RuneError, 0)
  
// 如果 p 中的编码无效,则返回(RuneError, 1)

  
func DecodeLastRune(p []byte) (r rune,>  

  
// 功能同上,参数为字符串

  
func DecodeLastRuneInString(s string) (r rune,>  

  
// FullRune 检测 p 中第一个字符的 UTF-8 编码是否完整(完整并不表示有效)。
  
// 一个无效的编码也被认为是完整字符,因为它将被转换为一个 RuneError 字符。
  
// 只有“编码有效但长度不够”的字符才被认为是不完整字符。
  
// 也就是说,只有截去一个有效字符的一个或多个尾部字节,该字符才算是不完整字符。
  
// 举例:
  
// "好"   是完整字符
  
// "好" 是完整字符(首字节无效,可转换为 RuneError 字符)
  
// "好" 是完整字符(首字节无效,可转换为 RuneError 字符)
  
// "好"[:2] 是不完整字符(编码有效但长度不够)
  
// "好"[:1] 是不完整字符(编码有效但长度不够)
  
func FullRune(p []byte) bool
  

  
// 功能同上,参数为字符串
  
func FullRuneInString(s string) bool
  

  
// 返回 p 中的字符个数
  
// 错误的 UTF8 编码和长度不足的 UTF8 编码将被当作单字节的 RuneError 处理
  
func RuneCount(p []byte) int
  

  
// 功能同上,参数为字符串
  
func RuneCountInString(s string) (n int)
  

  
// RuneLen 返回需要多少字节来编码字符 r,如果 r 是无效的字符,则返回 -1
  
func RuneLen(r rune) int
  

  
// 判断 b 是否为 UTF8 字符的首字节编码,最高位(bit)是不是 10 的字节就是首字节。
  
func RuneStart(b byte) bool
  

  
// Valid 判断 p 是否为完整有效的 UTF8 编码序列。
  
func Valid(p []byte) bool
  

  
// 功能同上,参数为字符串
  
func ValidString(s string) bool
  

  
// ValidRune 判断 r 能否被正确的转换为 UTF8 编码
  
// 超出 Unicode 范围的码点或 UTF-16 代理区中的码点是不能转换的
  
func ValidRune(r rune) bool
  

  
------------------------------
  

  
// 示例
  
func main() {
  
b := make([]byte, utf8.UTFMax)
  

  
n := utf8.EncodeRune(b, '好')
  
fmt.Printf("%v:%v\n", b, n) // :3
  

  
r, n := utf8.DecodeRune(b)
  
fmt.Printf("%c:%v\n", r, n) // 好:3
  

  
s := "大家好"
  
for i := 0; i < len(s); {
  
r, n = utf8.DecodeRuneInString(s)
  
fmt.Printf("%c:%v   ", r, n) // 大:3   家:3   好:3
  
i += n
  
}
  
fmt.Println()
  

  
for i := len(s); i > 0; {
  
r, n = utf8.DecodeLastRuneInString(s[:i])
  
fmt.Printf("%c:%v   ", r, n) // 好:3   家:3   大:3
  
i -= n
  
}
  
fmt.Println()
  

  
b = []byte("好")
  
fmt.Printf("%t, ", utf8.FullRune(b))   // true
  
fmt.Printf("%t, ", utf8.FullRune(b)) // true
  
fmt.Printf("%t, ", utf8.FullRune(b)) // true
  
fmt.Printf("%t, ", utf8.FullRune(b[:2])) // false
  
fmt.Printf("%t\n", utf8.FullRune(b[:1])) // false
  

  
b = []byte("大家好")
  
fmt.Println(utf8.RuneCount(b)) // 3
  

  
fmt.Printf("%d, ", utf8.RuneLen('A'))          // 1
  
fmt.Printf("%d, ", utf8.RuneLen('\u03A6'))   // 2
  
fmt.Printf("%d, ", utf8.RuneLen('好'))          // 3
  
fmt.Printf("%d, ", utf8.RuneLen('\U0010FFFF')) // 4
  
fmt.Printf("%d\n", utf8.RuneLen(0x1FFFFFFF))   // -1
  

  
fmt.Printf("%t, ", utf8.RuneStart("好")) // true
  
fmt.Printf("%t, ", utf8.RuneStart("好")) // false
  
fmt.Printf("%t\n", utf8.RuneStart("好")) // false
  

  
b = []byte("你好")
  
fmt.Printf("%t, ", utf8.Valid(b))   // true
  
fmt.Printf("%t, ", utf8.Valid(b)) // false
  
fmt.Printf("%t, ", utf8.Valid(b)) // false
  
fmt.Printf("%t, ", utf8.Valid(b[:2])) // false
  
fmt.Printf("%t, ", utf8.Valid(b[:1])) // false
  
fmt.Printf("%t\n", utf8.Valid(b)) // true
  

  
fmt.Printf("%t, ", utf8.ValidRune('好'))      // true
  
fmt.Printf("%t, ", utf8.ValidRune(0))          // true
  
fmt.Printf("%t, ", utf8.ValidRune(0xD800))   // false代理区字符
  
fmt.Printf("%t\n", utf8.ValidRune(0x10FFFFFF)) // false超出范围
  
}
  

  
------------------------------------------------------------
  

  

  

  



页: [1]
查看完整版本: Golang学习 - unicode/utf8 包