Błędy parserów, niezgodności podpisów webhooków oraz nieudane zapytania SQL często wynikają ze znaków, które w emulatorach terminali i edytorach kodu wyglądają identycznie — lub są całkowicie niewidoczne. Rozważmy zmienną środowiskową skopiowaną z portalu dokumentacji lub komunikatora, która wizualnie wygląda identycznie jak api_key=prod:
Wygląd wizualny: api_key=prod
String.length: 14 (oczekiwano 12)
Długość bajtów UTF-8: 19 bajtów (oczekiwano 12 bajtów)
Przepuszczenie tego 14-jednostkowego ciągu przez Inspektor Znaków Unicode ujawnia trzy odrębne anomalie ukryte wewnątrz pozornie zwykłego tekstu ASCII: początkowy znacznik kolejności bajtów (<BOM>), cyrylicki homoglif zastępujący łacińskie a oraz osadzoną spację o zerowej szerokości (<ZWSP>):
[
{
"index": 0,
"badge": "<BOM>",
"codePoint": "U+FEFF",
"name": "ZERO WIDTH NO-BREAK SPACE",
"category": "Cf (Format)",
"block": "Arabic Presentation Forms-B",
"utf8Hex": "EF BB BF",
"utf16BE": "FE FF",
"utf16LE": "FF FE",
"warning": "Invisible zero-width format character"
},
{
"index": 1,
"glyph": "а",
"codePoint": "U+0430",
"name": "CYRILLIC SMALL LETTER A",
"category": "Ll (Lowercase Letter)",
"block": "Cyrillic",
"utf8Hex": "D0 B0",
"utf16BE": "04 30",
"utf16LE": "30 04",
"warning": "Confusable homoglyph for Latin U+0061 ('a')"
},
{
"index": 2,
"glyph": "p",
"codePoint": "U+0070",
"name": "LATIN SMALL LETTER P",
"category": "Ll (Lowercase Letter)",
"block": "Basic Latin",
"utf8Hex": "70",
"utf16BE": "00 70",
"utf16LE": "70 00",
"warning": null
},
{
"index": 8,
"badge": "<ZWSP>",
"codePoint": "U+200B",
"name": "ZERO WIDTH SPACE",
"category": "Cf (Format)",
"block": "General Punctuation",
"utf8Hex": "E2 80 8B",
"utf16BE": "20 0B",
"utf16LE": "0B 20",
"warning": "Invisible zero-width format character"
}
]
Inspektor wyjaśnia również, dlaczego złożone emoji składające się z wielu punktów kodowych zwracają zupełnie różne długości w zależności od środowiska uruchomieniowego. Analiza pojedynczego widocznego emoji technologa 👨💻 odkrywa trzy skalarne punkty kodowe połączone znakiem <ZWJ> (U+200D), które zajmują 5 jednostek kodowych UTF-16 w JavaScript oraz 11 bajtów w kodowaniu UTF-8:
Klastry grafemów (UAX #29): 1 -> [ "👨💻" ]
Skalarne punkty Unicode: 3 -> U+1F468 (Man) + U+200D (<ZWJ>) + U+1F4BB (Laptop)
Jednostki UTF-16 (.length): 5 -> D83D DC68 + 200D + D83D DCBB
Zakodowane bajty UTF-8: 11 -> F0 9F 91 A8 + E2 80 8D + F0 9F 92 BB