Воспользуемся формулой тангенса суммы двух углов:

tg(α + β)	=	tgα + tgβ
		1 - tgα tgβ

Если tg(х + у) = 5, то:

(tgx + tgy) / (1 - tgx tgy) = 5.

Подставим значения из условия:

(tgx + 1/8) / (1 - tgx · 1/8) = 5.

Так как по свойству пропорции произведение крайних членов пропорции равно произведению средних ее членов, то получаем следующее уравнение:

(tgx + 1/8) · 1 = (1 - tgx · 1/8) · 5.

tgx + 1/8 = 5 - 5/8·tgx.

Переносим tgx в левую часть, остальное в правую:

tgx + 5/8·tgx = 5 - 1/8.

13/8·tgx = 40/8 - 1/8.

13/8·tgx = 39/8.

tgx = 39/8 : 13/8 = 39/8 · 8/13 = 3.