Resolução de instrumento é a menor variação da grandeza medida que provoca uma variação perceptível na indicação (VIM 2012, item 4.14). O VIM também define a resolução de um dispositivo mostrador (item 4.15): a menor diferença entre indicações que pode ser percebida de forma significativa. Num termômetro digital que mostra 23,4 °C, a resolução do mostrador é 0,1 °C.
Como a resolução funciona na prática
- Indicador digital: a resolução é o incremento do último dígito. Nem sempre é 1: balanças trabalham com divisões de 1, 2 ou 5 unidades (uma balança de 30 kg pode indicar de 5 em 5 g).
- Indicador analógico: depende do valor de uma divisão, da largura do ponteiro e de quanto o operador consegue estimar entre traços. Muitos procedimentos adotam metade ou um quinto da divisão, conforme a escala.
- Sistema completo: o sensor também limita. Um sinal com ruído pode fazer o último dígito “dançar”, e a resolução útil fica pior do que a do display.
Como a resolução entra na incerteza
Num indicador digital, uma leitura de 23,4 °C significa qualquer valor entre 23,35 e 23,45 °C, com a mesma chance. Isso é uma distribuição retangular de semilargura r/2, e a incerteza-padrão fica:
ures = (r/2)/√3 = r/(2√3) ≈ 0,29·r
Exemplo: na calibração de um termômetro digital de câmara fria com resolução de 0,1 °C, ures = 0,1/3,464 ≈ 0,029 °C. Se o padrão também é lido num indicador, a resolução dele entra como uma segunda componente. Para escolher o divisor certo em cada caso, veja distribuição retangular e triangular e o verbete avaliação de incerteza do Tipo B.
Resolução não é exatidão
É o engano mais caro. Um termômetro com resolução de 0,01 °C pode ter erro de 0,4 °C no certificado; o display só mostra o erro com mais casas. A exatidão vem da calibração, não do número de dígitos.
O contrário também acontece: resolução grossa demais esconde a variação real. Uma regra prática muito usada em MSA é que a resolução não passe de um décimo da tolerância. Para uma cota de ±0,05 mm, a faixa de tolerância é 0,10 mm e a resolução deveria ser de 0,01 mm ou melhor. Um paquímetro de 0,01 mm atende no limite; um micrômetro de 0,001 mm atende com folga.
Erros comuns no cálculo
- Usar r/√3, tratando a resolução inteira como semilargura. Superestima a componente em duas vezes.
- Usar r/2 sem dividir por √3, como se fosse incerteza-padrão.
- Tirar a componente de resolução porque todas as leituras repetidas deram o mesmo valor. Desvio-padrão zero só quer dizer que a dispersão ficou abaixo da resolução; é exatamente nesse caso que a componente de resolução faz falta.
Resolução também não é o mesmo que limiar de discriminação, que trata da maior variação que o instrumento deixa passar sem reagir, nem que sensibilidade, que é a razão entre a variação da indicação e a variação da grandeza.
No Sismetro, a resolução do instrumento é uma das componentes do orçamento de incerteza calculado ponto a ponto no certificado emitido, ao lado da repetitividade e da incerteza herdada do padrão.
Termos relacionados