Estoy tratando de entender BERT, un modelo popular de PNL.
Específicamente, quiero saber más sobre CLS y SEP, que son tokens especiales utilizados en BERT.
¿Qué representan estos tokens y qué papel juegan en el modelo?
12 respuestas
CryptoLordGuard
Sat Nov 23 2024
Las fichas especiales tienen un significado distinto en su uso.
CryptoNinja
Sat Nov 23 2024
El token separador [SEP] desempeña un papel crucial.
QuasarGlider
Sat Nov 23 2024
Marca el límite entre la Parte A y la Parte B.
NebulaChaser
Fri Nov 22 2024
Otro token importante es [CLS].
KimonoGlory
Fri Nov 22 2024
Durante el entrenamiento del modelo de lenguaje, se aplica un proceso de enmascaramiento.