Помилки парсерів, розбіжності підписів вебхуків і збої SQL-запитів часто спричинені символами, які виглядають абсолютно однаково — або взагалі не відображаються — в емуляторах термінала та редакторах коду. Розглянемо змінну середовища, скопійовану з порталу документації або корпоративного чату, яка візуально нічим не відрізняється від api_key=prod:
Візуальне відображення: api_key=prod
String.length: 14 (очікувалося 12)
Довжина в байтах UTF-8: 19 байтів (очікувалося 12 байтів)
Перевірка цього рядка з 14 кодових одиниць через Інспектор символів Unicode виявляє три приховані аномалії всередині тексту, що здається звичайним ASCII: початковий маркер порядку байтів (<BOM>), кириличний омогліф замість латинської літери a та вбудований пробіл нульової ширини (<ZWSP>):
[
{
"index": 0,
"badge": "<BOM>",
"codePoint": "U+FEFF",
"name": "ZERO WIDTH NO-BREAK SPACE",
"category": "Cf (Format)",
"block": "Arabic Presentation Forms-B",
"utf8Hex": "EF BB BF",
"utf16BE": "FE FF",
"utf16LE": "FF FE",
"warning": "Invisible zero-width format character"
},
{
"index": 1,
"glyph": "а",
"codePoint": "U+0430",
"name": "CYRILLIC SMALL LETTER A",
"category": "Ll (Lowercase Letter)",
"block": "Cyrillic",
"utf8Hex": "D0 B0",
"utf16BE": "04 30",
"utf16LE": "30 04",
"warning": "Confusable homoglyph for Latin U+0061 ('a')"
},
{
"index": 2,
"glyph": "p",
"codePoint": "U+0070",
"name": "LATIN SMALL LETTER P",
"category": "Ll (Lowercase Letter)",
"block": "Basic Latin",
"utf8Hex": "70",
"utf16BE": "00 70",
"utf16LE": "70 00",
"warning": null
},
{
"index": 8,
"badge": "<ZWSP>",
"codePoint": "U+200B",
"name": "ZERO WIDTH SPACE",
"category": "Cf (Format)",
"block": "General Punctuation",
"utf8Hex": "E2 80 8B",
"utf16BE": "20 0B",
"utf16LE": "0B 20",
"warning": "Invisible zero-width format character"
}
]
Інспектор також наочно пояснює, чому складені емодзі показують абсолютно різну довжину в різних середовищах виконання. Аналіз одного видимого емодзі технолога 👨💻 виявляє три скалярні кодові точки, з'єднані через <ZWJ> (U+200D), які займають 5 кодових одиниць UTF-16 у JavaScript та 11 байтів у UTF-8:
Графемні кластери (UAX #29): 1 -> [ "👨💻" ]
Скалярні кодові точки: 3 -> U+1F468 (Man) + U+200D (<ZWJ>) + U+1F4BB (Laptop)
Кодові одиниці UTF-16: 5 -> D83D DC68 + 200D + D83D DCBB
Закодовані байти UTF-8: 11 -> F0 9F 91 A8 + E2 80 8D + F0 9F 92 BB