判断一个点是否在在三角形内，最常用的两种方法：面积法、向量同向法。算法虽然很简单，但要做到高效却不容易，要考虑到二维、三维的区别，还要考虑到坐标是用浮点数还是用整数来表示。
在二维平面上，问题相对简单，一般只需6次乘法计算。但在三维平面时问题要复杂很多，在网上看到的算法，一般都需要30次乘法计算（如果已知点P在平面ABC上，则需21次）。实际上，在三维坐标系下，可以做到增加1次比较，将乘法计算降到13次（如果点P在平面ABC上，则最多只要8次乘法计算）。
最常用的两种方法：面积法和向量同向法本质上是等价的。
向量同向法：若点P在三角形内，则三个向量：ab × ap、ap × ac、pb × pc平行同向（它们也与向量ab × ac平行同向），由于这三个向量均有可能为0，直接判断它们平行同向相当麻烦，但考虑到ab × ac不可能为0，直接判断“向量：ab × ap、ap × ac、pb × pc均与ab × ac平行同向”反而更简单。
面积法：当点p在三角形abc内时，4个三角形的面积满足： abc = abp + apc + pbc
对面积的计算，可以通过向量的向量积计算得到： 面积 abc = |ab × ac| / 2
表面上，要计算4个三角形的面积，但根据下面的公式：
ap × ap = 0, pb × pc = (ab - ap) × (ac - ap) = ab × ac - ab × ap - ap × ac
可以少算一次矢量积。
公式： |ab × ac| = |ab × ap| + |ap × ac| + |(ab × ac - ab × ap - ap × ac)|
对任意向量a、b、c： |a + b + c| = |a| + |b| + |c| <==> 向量a、b、c 平行同向
因而，面积法和向量同向法本质上是等价的。
下面先讨论二维坐标系（每个点X，都看作是原点O到该点X的二维向量OX）。
先定义一个二维向量模板：
template<typename T> class Vec2 {
T x, y;
public:
typedef T value_type;
Vec2(T xx = 0, T yy = 0) : x(xx), y(yy) {};
T cross(const Vec2& v) const { return x * v.y - y * v.x;} // 矢量积
Vec2 operator-(const Vec2& v) const { return Vec2(x - v.x, y - v.y); }
};
如果坐标采用浮点数，考虑到浮点数取绝对值方便（有专门的浮点指令），但彼此间比较大小存在误差，采用面积法比较方便：
typedef Vec2<double> Vd2;
bool is_in_triangle(const Vd2& a, const Vd2& b, const Vd2& c, const Vd2& p)
{
Vd2 ab(b -a), ac(c - a), ap(p - a);
//用矢量积计算面积，下面4个值的绝对值，是对应的三角形的面积的两倍，
double abc = ab.cross(ac);
double abp = ab.cross(ap);
double apc = ap.cross(ac);
double pbc = abc - abp - apc; //等于pb.cross(pc)
//面积法：4个三角形的面积差 等于 0
double delta = fabs(abc) - fabs(abp) - fabs(apc) - fabs(pbc);
return fabs(delta) < DBL_EPSILON;
}
如果坐标采用整数表示，代码相对麻烦点：
typedef Vec2<int> Vi2;
bool is_in_triangle(const Vi2& a, const Vi2& b, const Vi2& c, const Vi2& p)
{
Vi2 ab(b -a), ac(c - a), ap(p - a);
//用矢量积计算面积，下面4个值的绝对值，是对应的三角形的面积的两倍，
int abc = ab.cross(ac);
int abp = ab.cross(ap);
int apc = ap.cross(ac);
int pbc = abc - abp - apc; //等于pb.cross(pc)
//方法1： 面积法：4个三角形的面积差 等于 0
return abs(abc) == abs(abp) + abs(apc) + abs(pbc)
//方法2： 矢量同向法： abp apc pbc 均与 abc 同向：
if (abc < 0) { abp = -abp; apc = -apc; pbc = -pbc; }
return (abp >= 0) & (apc >= 0) & (pbc >= 0);
}
方法1：要计算4次绝对值，看似需要4次条件跳转，但主流的编译器，都能采用位运算直接计算绝对值（注意：GCC需要加额外的参数），不需要任何条件跳转。
方法2：比方法1指令少，但多1次条件跳转。
哪种方法效率较高，与编译器生成的具体代码有关。
上面代码中，可采用的两种优化方法：
① 对整数x取绝对值，可以利用位运算：
设 y = 0 （当x >= 0）
= -1 （当x < 0）
（编译器可以利用cdq或sar等指令直接由x计算出y值）
则 abs(x) = (x xor y) – y
或： = (x + y) xor y
或： = x – (2 * x & y)
② 对整数a、b、c， a >= 0 && b >= 0 && c >= 0 等价于
(a >= 0) & (b >= 0) & (c >= 0) 等价于：
(a | b | c) >= 0
为避免编译器没有进行相关优化，直接手动优化，可得：
inline int chg_sign(int x, int sign) //sign只能取0或-1，函数分别返回x、-x
{
return (x + sign) ^ sign;
//return (x ^ sign) - sign;
}
bool is_in_triangle(const Vi2& a, const Vi2& b, const Vi2& c, const Vi2& p)
{
Vi2 ab(b -a), ac(c - a), ap(p - a);
//用矢量积计算面积，下面4个值的绝对值，是对应的三角形的面积的两倍，
int abc = ab.cross(ac);
int abp = ab.cross(ap);
int apc = ap.cross(ac);
int pbc = abc - abp - apc; //等于pb.cross(pc)
//方法3： 矢量同向法（优化版）
const int sign = (abc >= 0) - 1;
//const int sign = abc >> (sizeof(abc) * CHAR_BIT - 1);
return (chg_sign(abp, sign) | chg_sign(apc, sign) | chg_sign(pbc, sign)) >= 0;
}