Обозначим середину отрезка AB точкой O. Введем систему координат так, чтобы точка O была началом координат, а отрезок AB лежал на оси абсцисс. Тогда координаты точек A и B будут равны $$A(-\frac{5}{2}; 0)$$ и $$B(\frac{5}{2}; 0)$$.
Пусть координаты точки M равны $$(x; y)$$. Тогда:
$$AM^2 = (x + \frac{5}{2})^2 + y^2$$
$$BM^2 = (x - \frac{5}{2})^2 + y^2$$
По условию, $$AM^2 + BM^2 = 35$$, следовательно:
$$(x + \frac{5}{2})^2 + y^2 + (x - \frac{5}{2})^2 + y^2 = 35$$
$$x^2 + 5x + \frac{25}{4} + y^2 + x^2 - 5x + \frac{25}{4} + y^2 = 35$$
$$2x^2 + 2y^2 + \frac{50}{4} = 35$$
$$2x^2 + 2y^2 = 35 - \frac{25}{2}$$
$$2x^2 + 2y^2 = \frac{70 - 25}{2}$$
$$2x^2 + 2y^2 = \frac{45}{2}$$
$$x^2 + y^2 = \frac{45}{4}$$
Получили уравнение окружности с центром в точке O(0; 0) и радиусом R, равным:
$$R = \sqrt{\frac{45}{4}} = \frac{\sqrt{45}}{2} = \frac{\sqrt{9 \cdot 5}}{2} = \frac{3\sqrt{5}}{2}$$
Ответ: Радиус окружности равен $$\frac{3\sqrt{5}}{2}$$.