Estou tentando entender o BERT, um modelo popular de PNL.
Especificamente, quero saber mais sobre CLS e SEP, que são tokens especiais usados no BERT.
O que esses tokens representam e qual o papel que desempenham no modelo?
12 respostas
CryptoLordGuard
Sat Nov 23 2024
Os tokens especiais têm um significado distinto em seu uso.
CryptoNinja
Sat Nov 23 2024
O token separador [SEP] desempenha um papel crucial.
QuasarGlider
Sat Nov 23 2024
Marca a fronteira entre a Parte A e a Parte B.
NebulaChaser
Fri Nov 22 2024
Outro token significativo é [CLS].
KimonoGlory
Fri Nov 22 2024
Durante o treinamento do modelo de linguagem, um processo de mascaramento é aplicado.