Si $f(x)=e^{x}$
A partir de la definición de derivada
$$ f^{\prime}(x_0)=\lim_{x\to x_0}\frac{f(x)-f(x_0)}{x-x_0} $$podemos obtener tres aproximaciones o fórmulas en diferencias finitas
Si $x = x_0+h$ con $h \gt 0$ entonces $h = x-x_0$ y
Para $x_0=0$ y $h=1$ $$f^{\prime}(0)\approx\frac{f(0+1)-f(0)}{1}=\frac{2.72-1}{1}=1.72$$
Y para $x_0=0$ con $h=0.1$ $$f^{\prime}(0)\approx\frac{f(0+0.1)-f(0)}{h}=\frac{1.105-1}{0.1}=1.05$$
Para estas fórmulas, geométricamente
Por lo tanto, cuanto más parecidas sean estas dos rectas, más parecidos serán el valor exacto y la aproximación. En el dibujo, por ejemplo, son notablemente diferentes porque $h$ es muy grande. Si los cálculos no tuvieran error (con aritmética finita sí que lo tienen), cuanto menor sean $h$ menor es el error de la aproximación.
Si $x = x_0-h$ con $h \gt 0$ entonces $-h = x-x_0$ y
Para $x_0=0$ y $h = 1$ $$f^{\prime}(0)\approx\frac{f(0)-f(0-1)}{1}=\frac{1-0.37}{1}=0.63$$
Para $x_0=0$ y $h = 0.1$ $$f^{\prime}(0)\approx\frac{f(0)-f(0-0.1)}{0.1}=\frac{1-0.905}{0.1}=0.95$$
Si hacemos un promedio de la fórmula progresiva y regresiva
Para $x_0=0$ y $h = 1$ $$f^{\prime}(0)\approx \frac{f(0+1)-f(0-1)}{2(1)}=\frac{2.72-0.37}{2(1)}=1.18$$
Para $x_0=0$ y $h = 0.1$ $$f^{\prime}(0)\approx \frac{f(0+0.1)-f(0-0.1)}{2(0.1)}=\frac{1.1052- 0.9048}{2(0.1)}=1.002$$
En este caso la pendiente de la recta tangente y la recta secante, a pesar de ser $h$ grande, es bastante parecida, por lo que cabe esperar que el valor exacto y el aproximado se parezcan más que en los casos anteriorer. Esto se debe a que esta es una fórmula de orden dos, mientras que las dos fórmulas anteriores son de orden uno.
Si $y$ es el valor real y $y^*$ el aproximado:
El error relativo está dado en tanto por uno. Si lo multiplicamos por cien vendrá dado en porcentaje.
Vemos que para un mismo $h$ la fórmula centrada da un error menor. Y también que cuanto más pequeño el $h$ menor el error (hasta un cierto punto, porque si $h$ es demasiado pequeño dominan los errores de redondeo y el error vuelve a aumentar).
Decimos que una fórmula de derivación numérica es de orden $n$ si el error absoluto
$$E_h = K\,h^n$$Como $h$ es un valor pequeño, cuanto mayor sea $n$ más pequeño será el error de la fórmula (si $h = 0.1$ entondes $h^2=0.01$ y $h^3= 0.001$)
La fórmula progresiva es
$$ f'(a)\approx \frac{f(a+h)-f(a)}{h} $$La fórmula de Taylor se puede escribir
$$f(x)=f(x_0)+f'(x_0)\frac{x-x_0}{1!}+f''(c)\frac{(x-x_0)^2}{2!} \quad c \in(x,x_0)\;\mathrm{o}\; c\in (x_0,x)$$Si $x_0=a$ y $x=a+h$ entonces $h = x-x_0$ y podemos reescribir la fórmula como
$$f(a+h)=f(a)+f'(a)\frac{h}{1!}+f''(c)\frac{h^2}{2!} \quad c \in(a+h,a) \;\mathrm{o}\; c\in (a,a+h)$$Si tenemos en cuenta la fórmula progresiva, restando $f(a)$ a los dos miembros
$$f(a+h)-f(a)=f'(a)\frac{h}{1!}+f''(c)\frac{h^2}{2!}$$y dividiendo por $h$
$$\frac{f(a+h)-f(a)}{h}=f'(a)+f''(c)\frac{h}{2}$$o también
$$-f''(c)\frac{h}{2}=f'(a)-\frac{f(a+h)-f(a)}{h}$$Y como el error es el valor exacto menos el aproximado
$$E_h =f'(a)-\frac{f(a+h)-f(a)}{h}$$el error de la fórmula es de la forma
$$E_h =-f''(c)\frac{h}{2}= K\,h$$y como el exponente de la $h$ nos da el orden de la fórmula, esta es una fórmula de orden 1.
La fórmula de Taylor se puede escribir
$$f(x)=f(x_0)+f'(x_0)\frac{x-x_0}{1!}+f''(c)\frac{(x-x_0)^2}{2!} \quad c \in(x,x_0)\;\mathrm{o}\; c\in (x_0,x)$$Si $x_0=a$ y $x=a-h$ entonces $-h = x-x_0$ y podemos reescribir la fórmula como
$$f(a-h)=f(a)+f'(a)\frac{-h}{1!}+f''(c)\frac{(-h)^2}{2!} \quad c \in(a+h,a) \;\mathrm{o}\; c\in (a,a+h)$$Si tenemos en cuenta la fórmula progresiva, restando $f(a)$ a los dos miembros
$$f(a-h)-f(a)=-f'(a)\frac{h}{1!}+f''(c)\frac{h^2}{2!}$$y dividiendo por $-h$
$$\frac{f(a-h)-f(a)}{-h}=f'(a)-f''(c)\frac{h}{2}$$que es
$$\frac{f(a)-f(a-h)}{h}=f'(a)-f''(c)\frac{h}{2}$$o también
$$f''(c)\frac{h}{2}=f'(a)-\frac{f(a)-f(a-h)}{h}$$y como el error es el valor exacto menos el aproximado
$$E_h =f'(a)-\frac{f(a)-f(a-h)}{h}$$el error de la fórmula es de la forma
$$E_h =f''(c)\frac{h}{2}= K\,h$$y como el exponente de la $h$ nos da el orden de la fórmula, esta es una fórmula de orden 1.
La fórmula de Taylor se puede escribir
$$f(x)=f(x_0)+f'(x_0)\frac{x-x_0}{1!}+f''(x_0)\frac{(x-x_0)^2}{2!} +f'''(c)\frac{(x-x_0)^3}{3!}$$con
$$ c \in(x,x_0)\;\mathrm{o}\; c\in (x_0,x) $$Si $x_0=a$ y $x=a+h$ entonces $h = x-x_0$ y podemos reescribir la fórmula como
$$f(a+h)=f(a)+f'(a)\frac{h}{1!}+f''(a)\frac{h^2}{2!} +f'''(c_1)\frac{h^3}{3!}$$Si $x_0=a$ y $x=a-h$ entonces $-h = x-x_0$ y podemos reescribir la fórmula como
$$f(a-h)=f(a)+f'(a)\frac{-h}{1!}+f''(a)\frac{(-h)^2}{2!} +f'''(c_2)\frac{(-h)^3}{3!} $$Y $-f(a-h)$ es
$$-f(a-h)=-f(a)+f'(a)\frac{h}{1!}-f''(a)\frac{h^2}{2!} +f'''(c_2)\frac{h^3}{3!} $$Si tenemos en cuenta la fórmula centrada, sumando $f(a+h)+(-f(a-h))$ a los dos miembros y teniendo en cuenta, que si $f'''$ es continua, por el teorema del valor intermedio, podemos encontrar un valor $c_3$ en $(c_1,c_2)$ tal que $$f'''(c_3)=\frac{f'''(c_1)+f'''(c_2)}{2}$$ se tiene
$$f(a+h)-f(a-h)=2f'(a)h+2f'''(c_3)\frac{h^3}{6}$$y dividiendo por $2h$
$$\frac{f(a+h)-f(a-h)}{2h}=f'(a)+f'''(c_3)\frac{h^2}{6}$$o también
$$-f'''(c_3)\frac{h^2}{6}=f'(a)-\frac{f(a+h)-f(a-h)}{2h}$$Y como el error es el valor exacto menos el aproximado
$$E_h =f'(a)-\frac{f(a+h)-f(a-h)}{2h}$$y el error de la fórmula es de la forma
$$E_h =-f'''(c)\frac{h^2}{6}= K\,h^2$$y como el exponente de la $h$ nos da el orden de la fórmula, esta es una fórmula de orden 2.