El formato de la imagen tiene que ser .ico
Puedes crear tu propio icono a partir de una imagen de formato diferente utilizando varios servicios online como:

www.favicon.co.uk
www.favicon.cc


Una vez creada la imagen y guardada en tu pc, tienes que instalarla en tu sitio. Aquí tienes las instrucciones:

1- Ir a la Administración > Opciones gráficas > Iconos del sitio
2- Elegir en el menú desplegable "Enviando uno personalizado"
3- Pulsar en "Carga tu icono"
4- Elegir desde tu pc y Enviar