Хех... Нашел красивое решение, но его описывать будет на порядок дольше, чем применить. 8))) А доказывать - так вообще проще сразу застрелиться (плавали, знаем :))). Если совсем коротко:
Центр описанной - середина гипотенузы - (6;8).
Центр вписанной - вершина квадратика у прямого угла со стороной r.
r+b=12, r+c=16, b+c=20 - откуда 2*r=12+16-20, r=4.
Дальше дело техники: искомое расстояние равно sqrt(20) или 2*sqrt(5)