Mi modo de ver...

Un favicon es el ícono de tu página, su nombre es una abreviatura de "Favorite icon".
Es una imagen que podes agregar a tu sitio y que luego aparecera en la barra de direcciones y favoritos al lado de la URL de tu página web.
No tiene ninguna utilidad más que formar parte del diseño de tu web.

Ven, el favicon de mi página es una florcita pequeña.

Creación:

Su creación no es muy complicada, el mio fue creado en paint sin muchas producciones pero también puede ser una imagen o lo que se nos ocurra.
Luego de que hemos creado la imagen de nuestro favicon debemos convertir el formato de nuestra imagen a .ico, este formato es el que te permite utilizar tu imagen como favicon.
En esta página vas a tener la posibilidad de crear tu archivo .ico:
http://www.genfavicon.com/es/
Subimos nuestra imagen a la página, seleccionamos la parte de la imagen que queremos usar, el tamaño y le damos click a "captura y previsualizacion".
Luego seleccionamos descargar favicon y lo guardamos en nuestra computadora.
Ya tenemos nuestra imagen en formato .ico, ahora debemos hospedarlo en una página que nos permita guardar imagenes .ico.
En la creación de mi favicon esto lo fue lo que me tomo más trabajo de conseguir, son muy pocas las páginas que permiten hospedar archivos .ico.
La hospedamos en:
http://www.pixali.com/
Luego que tenemos nuestra imagen hospedada, debemos agregarla a nuestro blog y para esto debemos editar nuestro código HTML. Vamos a Diseño y luego a Edición de HTML.
Justo debajo del código debemos agregar este código HTML:



Colocamos la URL de donde hospedamos nuestro favicon alli en ese espacio que marque y le damos a guardar plantilla, y listo, asi nos debe quedar nuestro favicon pronto.
Dejo una imagen de ejemplo por si se les complica mucho el agregar el código HTML a la suya.

Click en la imagen para ver mas grande