Parserfouten, falende webhook-handtekeningen en mislukte SQL-zoekopdrachten worden vaak veroorzaakt door tekens die in terminal-emulators en code-editors identiek – of volledig onzichtbaar – worden weergegeven. Neem bijvoorbeeld een omgevingsvariabele die is gekopieerd uit een documentatieportaal of chatbericht en er visueel exact uitziet als api_key=prod:
Visuele weergave: api_key=prod
String.length: 14 (verwacht: 12)
UTF-8-bytelengte: 19 bytes (verwacht: 12 bytes)
Wanneer je deze string van 14 eenheden door de Unicode Teken Inspector haalt, komen er drie verschillende afwijkingen aan het licht die verborgen zitten in ogenschijnlijk platte ASCII-tekst: een voorafgaande Byte Order Mark (<BOM>), een Cyrillische homoglief die de Latijnse a vervangt, en een ingebedde Zero Width Space (<ZWSP>):
[
{
"index": 0,
"badge": "<BOM>",
"codePoint": "U+FEFF",
"name": "ZERO WIDTH NO-BREAK SPACE",
"category": "Cf (Format)",
"block": "Arabic Presentation Forms-B",
"utf8Hex": "EF BB BF",
"utf16BE": "FE FF",
"utf16LE": "FF FE",
"warning": "Invisible zero-width format character"
},
{
"index": 1,
"glyph": "а",
"codePoint": "U+0430",
"name": "CYRILLIC SMALL LETTER A",
"category": "Ll (Lowercase Letter)",
"block": "Cyrillic",
"utf8Hex": "D0 B0",
"utf16BE": "04 30",
"utf16LE": "30 04",
"warning": "Confusable homoglyph for Latin U+0061 ('a')"
},
{
"index": 2,
"glyph": "p",
"codePoint": "U+0070",
"name": "LATIN SMALL LETTER P",
"category": "Ll (Lowercase Letter)",
"block": "Basic Latin",
"utf8Hex": "70",
"utf16BE": "00 70",
"utf16LE": "70 00",
"warning": null
},
{
"index": 8,
"badge": "<ZWSP>",
"codePoint": "U+200B",
"name": "ZERO WIDTH SPACE",
"category": "Cf (Format)",
"block": "General Punctuation",
"utf8Hex": "E2 80 8B",
"utf16BE": "20 0B",
"utf16LE": "0B 20",
"warning": "Invisible zero-width format character"
}
]
De inspector maakt ook duidelijk waarom emoji's die uit meerdere codepoints bestaan in verschillende runtimes sterk uiteenlopende lengtes rapporteren. Inspectie van de enkele zichtbare technoloog-emoji 👨💻 onthult drie scalaire codepoints gekoppeld door <ZWJ> (U+200D), die in JavaScript 5 UTF-16-code-units en in UTF-8 11 bytes in beslag nemen:
Grapheme clusters (UAX #29): 1 -> [ "👨💻" ]
Unicode scalaire codepoints: 3 -> U+1F468 (Man) + U+200D (<ZWJ>) + U+1F4BB (Laptop)
UTF-16 code-units (.length): 5 -> D83D DC68 + 200D + D83D DCBB
UTF-8 gecodeerde bytes: 11 -> F0 9F 91 A8 + E2 80 8D + F0 9F 92 BB