Question

Вычислительная математика (Численные методы)
Тема: Элементы теории погрешностей.
Определить какое равенство точнее.
На первом рисунке похожее задание
А на втором мой вариант исправить мой вариант. Если неправильно покажите как это решить.

Answer 1

Равенство √7 = 2,646 определено точнее

Пошаговое объяснение:

8/13 = 0,615; √7 = 2,646

обозначим a = 8/13 = 0,61538; a~ = 0,615

b = √7 = 2,64575; b~ = 2,646

тогда Δa~ = |a - a~| ≤ 0,00038 = $\Delta_{\widetilde a}$

и Δb~ = |b - b~| ≤ 0,00025 = $\Delta_{\widetilde b}$

$\delta_{\widetilde{a}}=\dfrac{\Delta_{\widetilde{a}}}{\widetilde{a}}\leq 0,00062=0,062\%\\\\\delta_{\widetilde{b}}=\dfrac{\Delta_{\widetilde{b}}}{\widetilde{b}}\leq 0,00009=0,009\%$

так как $\delta_{\widetilde{a}}\delta_{\widetilde{b}}$, то равенство √7 = 2,646 определено точнее