(x-x0)^2+(y-y0)^2=r^2
Точка x_0, y_0 — центр окружности, r — её радиус.
допустим, известны координаты трех точек x1, y1; x2, y2; x3 y3 которые лежат на окружности.
Тогда можно сделать систему уравнений:
(x1-x0)^2+(y1-y0)^2=r^2
(x2-x0)^2+(y2-y0)^2=r^2
(x3-x0)^2+(y3-y0)^2=r^2
и найти x0, y0