判断点是否在三角形内的算法精度问题

我看了一下源代码，把这个函数提出来，改写了一点点，方便独立测试。

#include <stdio.h>

// #define float double

static float
dtVdot2D(float v0[2], float v1[2]) {
    return v0[0] * v1[0] + v0[1] * v1[1];
}

static float *
dtVsub(float p[2], float v0[2], float v1[2]) {
    p[0] = v0[0] - v1[0];
    p[1] = v0[1] - v1[1];
    return p;
}

static int
dtClosestHeightPointTriangle(float p[2], float a[2], float b[2],float c[2], float *h) {
    float v0[2], v1[2], v2[2];

    dtVsub(v0, c,a);
    dtVsub(v1, b,a);
    dtVsub(v2, p,a);

    float dot00 = dtVdot2D(v0, v0);
    float dot01 = dtVdot2D(v0, v1);
    float dot02 = dtVdot2D(v0, v2);
    float dot11 = dtVdot2D(v1, v1);
    float dot12 = dtVdot2D(v1, v2);

    // Compute barycentric coordinates
    float InvDenom = 1.0f / (dot00 * dot11 - dot01 * dot01);
    float u = (dot11 * dot02 - dot01 * dot12) * InvDenom;
    float v = (dot00 * dot12 - dot01 * dot02) * InvDenom;

    // The (sloppy) epsilon is needed to allow to get height of points which
    // are interpolated along the edges of the triangles.
    float EPS = 1e-4f;

    // If point lies inside the triangle, return interpolated ycoord.
    if (u >= -EPS && v >= -EPS && (u+v) <= 1+EPS) {
        *h = a[1] + (v0[1]*u + v1[1]*v);
        return 1;
    }
    return 0;
}

int
main() {
    float a[2] = {261.137939, 8.13000488};
    float b[2] = {73.6379318, 8.13000488};
    float c[2] = {76.9379349, 10.2300053};
    float p[2] = {74.4069519 , 8.6193819 };
    float h;

    int r = dtClosestHeightPointTriangle(p, a, b, c, &h);

    printf("%d %f\n", r, h);

    return 0;
}

如果你在前面加上 #define float double ，把所有 float 换成双精度，那么测试是可以通过的。

我认为问题出在 dot00 * dot11 - dot01 * dot01 这样的运算上。dot00 点乘已经是单个量的平方，在测试数据中，大约这个量会是 261 - 73 = 188 ，小数点前大约是 8bit 的信息含量，如果我们计算 dot00 * dot11 ，差不多会得到一个这个量的 4 次方的结果，也就是 28bit ~ 32bit 之间。

但是 float 本身的有效精度才 23bit ，对一个 2^32 的数字做加减法，本身的误差就可能在 2 ~ 2^9 左右，这个误差是相当巨大的。

这段程序一个明显可以改进的地方是把乘 InvDenom 从 u v 中去掉。那么代码应该写成：

float Denom = (dot00 * dot11 - dot01 * dot01);
    float u = (dot11 * dot02 - dot01 * dot12);
    float v = (dot00 * dot12 - dot01 * dot02);

    float EPS = 1e-4f * Denom ;

    // If point lies inside the triangle, return interpolated ycoord.
    if (u >= -EPS && v >= -EPS && (u+v) <= Denom+EPS) {
        *h = a[1] + (v0[1]*u + v1[1]*v) / Denom;
        return 1;
    }

光这样写还是不够，其实我们应该进一步把 dot00 * dot11 - dot01 * dot01 展开为 (v0[0] * v1[1] - v0[1] * v1[0]) * (v0[0] * v1[1] - v1[0] * v0[1]) 。这样，就不会在四次方的基础上再做加减法，而是在二次方的基础上先做加减，再做乘法。这样就最大化的保持了精度。

我优化过的函数是这样的：

static int
dtClosestHeightPointTriangle(float p[2], float a[2], float b[2],float c[2], float *h) {
    float v0[2], v1[2], v2[2];

    dtVsub(v0, c,a);
    dtVsub(v1, b,a);
    dtVsub(v2, p,a);

    float Denom = (v0[0] * v1[1] - v0[1] * v1[0]) * (v0[0] * v1[1] - v1[0] * v0[1]);
    float EPS = - 1e-4f * Denom;

    float u = (v1[0] * v2[1] - v1[1] * v2[0]) * (v1[0] * v0[1] - v0[0] * v1[1]);
    if (u < EPS)
        return 0;

    float v = (v0[0] * v2[1] - v0[1] * v2[0]) * (v0[0] * v1[1] - v1[0] * v0[1]);

    if (v >= EPS && (u+v) <= Denom - EPS) {
        *h = a[1] + (v0[1]*u + v1[1]*v) / Denom;
        return 1;
    }
    return 0;
}

最后这个优化版本可以通过测试。