Chat template muda a “voz” de autodescrição em LLMs, diz estudo

Pesquisadores analisaram como modelos de linguagem grandes (LLMs) produzem respostas com autodescrições, como quando incluem disclaimers do tipo “sou apenas uma IA”. O trabalho mostra que a presença do chat template funciona como um “interruptor” que aumenta esse tom de disclaimer e reduz a voz mais experiencial, como expressões do tipo “eu sinto”. O efeito foi observado em 8 modelos instruct de código aberto, com até 9B parâmetros.

Dentro das ativações de três modelos, os autores identificaram uma direção que controla esse comportamento: ao remover essa direção, o disclaimer diminui; ao adicioná-la, ele aumenta. O estudo também indica que a autodescrição gerada não deve ser tratada como literal, já que parte do que o modelo “diz sobre si” é influenciada pelo chat template e não vem apenas dos pesos do modelo.