ISO 6789:2003 の偏差計算例では、100 と 104 のどちらを使うべきですか？

自分で確認する：工具の値と参照値を分ける

まず、計算例の工具の値 x_a = 100 N·m を確認し、次に最初の参照値 x_r1 = 100 N·m を探します。そのうえで、後に示された最初の偏差計算と照合してください。問題は、その式が列挙された参照値ではなく、分子と分母の両方に 104 を用いていることです。工具の値は変わっていないため、両方の量をまとめて置き換えないようにします。

原文の結果は −3,85 % と表記され、コンマが小数の区切りを示しています。本記事の説明では小数点を用います。この表記の違いでは、参照値の不一致を説明できません。「数値の表し方」と「どの量を代入したか」を分けて確認し、小数点や記号の転記の問題と混同しないことが大切です。

一方の値だけが結果と一致する理由

6.4 の偏差の式では、工具の値から参照値を引き、参照値を分母にします。工具の値は変えず、最初に示された参照値と後の式の参照値をそれぞれ代入すれば、両方の計算を確かめられます。以下は原例の最初の読み値について当サイトが再計算した整理であり、規格の表の転載ではありません。

前者は工具の値と参照値が等しいため、偏差はゼロです。後者は原文の式への代入値と、示された百分率の両方に一致します。単に数値が違うだけでなく、結果を再現できる計算上の根拠があるため、当サイトでは最初の参照値の誤記がより可能性の高い説明だと考えています。

ただし、再計算で分かるのは、どの数値の組合せが示された結果と一致するかまでです。当時の実測値を証明するものではなく、最初の参照値を後の式の値へ置き換えることが公式の訂正になるわけでもありません。

実務で引用し、計算する際の記録

この計算例を引用する場合は、「規格の年版、箇条、原文の表記、採用した解釈」を併記し、両方の再計算も残すことを勧めます。原文に示された百分率を再現する目的なら、後の式の参照値を採用することを明記します。最初に列挙された値で計算する場合はゼロ偏差を残し、両方の計算を混在させないようにします。

実際の工具のデータは、経緯を追える元の読み値に基づいて扱い、計算例の答えに合わせて数値を選びません。報告書の符号と分母も本年版の定義を維持し、別の文書に結果を近づけるために式を変更しないようにします。この疑問点は計算例の数値の整合性に関するもので、偏差の式の減算順序自体の問題ではありません。

以上は当サイトの解釈であり、ISO の公式正誤票ではありません。ISO 6789:2003 のこの計算例を引用する際は、原文の数値が前後で一致していないことと、再計算に用いた参照値を明記してください。