فهرست منبع

Relax hcos tolerance range (#1114)

Young Kim 7 سال پیش
والد
کامیت
a71140cdaa
2فایلهای تغییر یافته به همراه5 افزوده شده و 5 حذف شده
  1. 4 4
      tools/clang/unittests/HLSL/ShaderOpArithTable.xml
  2. 1 1
      utils/hct/hctdb_test.py

+ 4 - 4
tools/clang/unittests/HLSL/ShaderOpArithTable.xml

@@ -526,8 +526,8 @@
             </Parameter>
         </Row>
         <Row Name="Hcos">
-            <Parameter Name="Validation.Type">Epsilon</Parameter>
-            <Parameter Name="Validation.Tolerance">0.0008</Parameter>
+            <Parameter Name="Validation.Type">ulp</Parameter>
+            <Parameter Name="Validation.Tolerance">2</Parameter>
             <Parameter Name="ShaderOp.Text"> struct SUnaryFPOp {
                 float input;
                 float output;
@@ -1760,8 +1760,8 @@
             <Parameter Name="ShaderOp.Arguments">-enable-16bit-types</Parameter>
         </Row>
         <Row Name="HcosHalf">
-            <Parameter Name="Validation.Type">Epsilon</Parameter>
-            <Parameter Name="Validation.Tolerance">0.0008</Parameter>
+            <Parameter Name="Validation.Type">ulp</Parameter>
+            <Parameter Name="Validation.Tolerance">2</Parameter>
             <Parameter Name="ShaderOp.Text"> struct SUnaryFPOp {
                 float16_t input;
                 float16_t output;

+ 1 - 1
utils/hct/hctdb_test.py

@@ -597,7 +597,7 @@ def add_test_cases():
         'NaN', 'NaN', '-0', '-0', '0', '0', 'NaN', '0.1606257',
         '-0.1606257'
     ]])
-    add_test_case_float_half('Hcos', ['Hcos'], 'Epsilon', 0.0008,
+    add_test_case_float_half('Hcos', ['Hcos'], 'ulp', 2,
         [['NaN', '-Inf', '-denorm', '-0', '0', 'denorm', 'Inf', '1', '-1']], [[
             'NaN', 'Inf', '1.0', '1.0', '1.0', '1.0', 'Inf', '1.543081',
             '1.543081'